Está pronto para garantias de IA? A solução da Armilla AI para falhas relacionadas à IA.
Armilla, uma startup apoiada pela Y Combinator, tem como objetivo fornecer às empresas uma garantia para a inteligência artificial que elas desenvolvem e implementam.
Armilla quer fornecer às empresas uma garantia de IA por meio da ENBLE.
Não há como negar que a IA tem um enorme potencial, mas também há muitas coisas que podem dar errado. Desde algoritmos tendenciosos e tóxicos até violações de direitos autorais, as falhas relacionadas à IA têm sido motivo de preocupação. Na verdade, de acordo com uma pesquisa recente da MIT Sloan Management Review e do Boston Consulting Group, mais de 55% das falhas relacionadas à IA nas organizações podem ser atribuídas a ferramentas de IA de terceiros. Não é de surpreender que algumas empresas hesitem em adotar totalmente essa tecnologia.
Mas e se eu lhe dissesse que agora existe uma garantia de IA? Sim, você ouviu direito. Karthik Ramakrishnan, um empresário e engenheiro eletricista, teve a ideia enquanto trabalhava na Deloitte. Ele percebeu que a confiança e a capacidade de quantificar o risco estavam impedindo a adoção da IA. Foi quando ele se uniu a Dan Adamson, um especialista em algoritmos de busca e fundador de startups, para fundar a Armilla AI.
🔍 Avaliando Modelos de IA
A Armilla AI oferece garantias para modelos de IA a clientes corporativos, garantindo que eles possam adotar a tecnologia de IA com confiança. Mas como eles podem fazer isso quando a maioria dos modelos é uma caixa preta ou está por trás de licenças, assinaturas e APIs? Através da avaliação, é claro.
A Armilla pega um modelo de IA, seja ele de código aberto ou proprietário, e realiza avaliações para verificar sua qualidade. Eles testam coisas como alucinações, viés racial e de gênero, imparcialidade, robustez e segurança em diferentes aplicações e casos de uso. Eles desenvolveram uma tecnologia interna de avaliação para garantir que o modelo de IA atenda aos padrões exigidos.
- Lucid Motors Reduz Preços para Impulsionar Demanda
- O Lander lunar da ‘Intuitive Machines’ está a caminho d...
- Clarity arrecada $16M para combater deepfakes com detecção | ENBLE
Se o modelo passar na avaliação, a Armilla o respaldará com uma garantia. Isso significa que se o comprador do modelo enfrentar algum problema ou incorrer em qualquer despesa, a Armilla o reembolsará. É como ter um seguro para seus modelos de IA!
🕵️ Padrões Éticos e Conformidade
A abordagem da Armilla AI também leva em consideração considerações éticas e conformidade. Eles não testarão modelos que sejam proibidos por regulamentos ou se envolverão em atividades que vão contra seus altos padrões éticos. Por exemplo, eles não avaliariam um algoritmo de reconhecimento facial de um fornecedor conhecido por fazer negócios com atores questionáveis. Eles priorizam a prestação de avaliações e relatórios precisos que não oferecem falsa confiança em modelos problemáticos de IA.
🔒 Abordagem Única com Avaliações Abrangentes
Embora o conceito de garantias e cobertura de políticas para IA não seja novo, a abordagem da Armilla AI é única. Eles realizam avaliações abrangentes que abrangem diversas áreas, incluindo indicadores-chave de desempenho (KPIs), processos, desempenho, qualidade dos dados e critérios qualitativos e quantitativos. Eles garantem conformidade com a legislação e regulamentos como o Ato de IA da UE e a Lei Local 144 da cidade de Nova York. Além disso, eles estão prontos para realizar avaliações exigidas por regulamentos emergentes, como o Ato de IA e Dados do Canadá.
💪 Adoção Crescente e Desenvolvimentos Futuros
Desde o seu lançamento no final de 2023, a Armilla AI ganhou rapidamente destaque. Apoiada pelas seguradoras Swiss Re, Greenlight Re e Chaucer, eles já adquiriram cerca de dez clientes. Esses clientes incluem uma empresa de saúde que usa IA para processar prontuários médicos.
A Armilla AI atende tanto às empresas quanto aos fornecedores de IA de terceiros. Para as empresas, a garantia oferece proteção ao adquirir modelos de IA de fornecedores de terceiros. Para os fornecedores, a garantia serve como um selo de aprovação, encurtando seus ciclos de vendas. À medida que a adoção da IA continua a crescer, garantias como a fornecida pela Armilla AI desempenharão um papel significativo no enfrentamento dos riscos da IA e garantindo a implantação segura de soluções de IA.
✨ O Futuro das Garantias de IA
Mas e quanto ao cenário de políticas de IA em rápida evolução? A Armilla AI pode correr o risco de pagar quantias substanciais se suas avaliações e contratos não forem à prova de balas? Segundo Ramakrishnan, eles estão bem preparados. Eles acompanham de perto o desenvolvimento de regulamentos em todo o mundo e adaptam suas avaliações de acordo. Isso garante que eles permaneçam atualizados e capazes de fornecer avaliações precisas com base em requisitos legais específicos.
A Armilla AI, sediada em Toronto com 13 funcionários, levantou recentemente US$ 4,5 milhões em uma rodada semente liderada pela Mistral. O financiamento será usado para expandir sua oferta de garantia existente e introduzir novos produtos. Ramakrishnan acredita que o seguro será a chave para enfrentar os riscos da IA, e a Armilla AI está na vanguarda do desenvolvimento de produtos de seguro que permitirão às empresas implantar soluções de IA com segurança.
📚 Referências:
- IA: A crescente importância no desenvolvimento, teste e assistente pessoal
- O Ato da UE sobre IA garante o respaldo dos comitês antes da votação do Parlamento
- 30 empresas de robótica contratando
- Aplicativo Astrológico Nebula, de uma startup ucraniana, prospera apesar da guerra
- Glass potencializa câmeras de smartphones com IA, sem alucinações
P&R:
P: Qual é o principal objetivo da garantia da Armilla AI para modelos de IA? R: A garantia da Armilla AI proporciona confiança e proteção aos compradores de modelos de IA, reembolsando-os por quaisquer taxas incorridas. O objetivo é abordar os riscos associados ao uso de fornecedores de IA terceirizados e garantir a qualidade e confiabilidade dos modelos de IA.
P: Como a Armilla AI realiza avaliações nos modelos de IA? R: A Armilla AI realiza avaliações nos modelos de IA usando benchmarking e tecnologia de avaliação interna. Eles testam problemas como alucinações, viés, equidade, robustez e segurança, garantindo que os modelos atendam aos padrões requeridos.
P: A Armilla AI avalia modelos que apresentam preocupações éticas? R: Não. A Armilla AI prioriza considerações éticas e conformidade. Eles não avaliarão modelos que sejam proibidos por regulamentos ou se envolvam em atividades que vão contra seus fortes padrões éticos. Eles se comprometem a fornecer avaliações e relatórios precisos que não gerem confiança falsa em modelos de IA problemáticos.
P: Como a Armilla AI se diferencia de outros provedores de garantia de IA? R: A abordagem da Armilla AI se destaca devido às suas amplas avaliações, que levam em consideração diversos fatores, como KPIs, processos, desempenho e qualidade dos dados. Eles garantem conformidade com legislação e regulamentação, como o Ato da UE sobre IA e a Lei Local 144 de Nova York. Suas avaliações também são realizadas a uma fração do custo e do tempo em comparação com outros provedores.
P: Qual é a perspectiva futura das garantias de IA? R: As garantias de IA, como a fornecida pela Armilla AI, desempenharão um papel significativo na abordagem dos riscos de IA e na garantia da implantação segura de soluções de IA. À medida que a adoção de IA continua a crescer, haverá uma necessidade cada vez maior de garantias e produtos de seguros que protejam as empresas contra possíveis falhas relacionadas à IA.
Agora que você conhece a inovadora garantia da Armilla AI para modelos de IA, o que você acha? Você acha que garantias são necessárias para a adoção generalizada de IA? Compartilhe suas opiniões nos comentários abaixo e não se esqueça de compartilhar este artigo com seus amigos nas redes sociais!
👉 Leia mais: Armilla AI
