Heidy Khlaaf, diretora de engenharia de segurança na Trail of Bits, discute inteligência artificial. #ENBLE
Heidy Khlaaf, apresentada na série da TechCrunch sobre mulheres em IA, é diretora de engenharia na empresa de segurança cibernética Trail of Bits.
Mulheres na IA: Uma Entrevista com Heidy Khlaaf
Bem-vindos a mais uma edição da nossa série de entrevistas Mulheres na IA! Hoje, temos o prazer de conversar com Heidy Khlaaf, diretora de engenharia da Trail of Bits, uma empresa de cibersegurança. A expertise de Heidy está em avaliar software e implementações de IA em sistemas “críticos de segurança” como usinas nucleares e veículos autônomos.
🤖 Como a Jornada de Heidy Khlaaf na IA Começou
A paixão de Heidy por robótica foi acendida desde jovem e aos 15 anos ela começou a programar. Ela via a robótica e a IA como inseparáveis, com o potencial de automatizar tarefas na manufatura e auxiliar os idosos, ao mesmo tempo em que eliminava trabalhos manuais perigosos. Curiosamente, o Ph.D. de Heidy é em uma subárea diferente da ciência da computação. Ela acredita que ter uma base teórica forte em ciência da computação possibilita decisões educadas e informadas sobre a adequação da IA e seus possíveis problemas.
🏆 Do Que Heidy Khlaaf Mais se Orgulha
Como especialista em engenharia de segurança, Heidy se orgulha em usar seu conhecimento para fornecer contexto e críticas no campo emergente da segurança da IA. Enquanto a segurança da IA tenta se adaptar e citar técnicas de segurança e proteção bem estabelecidas, a falta de definições consistentes ou intencionais compromete a integridade dessas técnicas. Os artigos de pesquisa de Heidy, como “Rumo a Avaliações Abrangentes de Risco e Garantia de Sistemas Baseados em IA” e “Um Framework de Análise de Risco para a Síntese de Código de Modelos de Linguagem de Grande Escala,” desmistificam narrativas falsas sobre segurança e avaliações de IA. Ela também oferece passos concretos para preencher a lacuna de segurança na IA.
💪 Navegando na Indústria de Tecnologia Dominada por Homens
Heidy está bastante familiarizada com os desafios de ser mulher em uma indústria de tecnologia dominada por homens, incluindo a IA. Apesar de avanços e contribuições notáveis feitas por mulheres na área de IA, elas frequentemente se veem marginalizadas nas conversas que elas definem legitimamente. As taxas de retenção e a proporção de mulheres em posições de liderança permaneceram em grande parte estagnadas. Heidy acredita que reconhecer essa falta de progresso é crucial para entender as mudanças necessárias. Em vez de depender exclusivamente de iniciativas de diversidade, equidade e inclusão (DEI), ela acha que construir uma comunidade pessoal forte oferece um suporte valioso em uma sociedade onde preconceitos e ceticismo em relação a mulheres técnicas ainda persistem.
🌟 Conselhos para Mulheres Entrando na Área de IA
O conselho de Heidy para mulheres que desejam ingressar na área de IA é simples, mas poderoso. Ela as incentiva a não apelar para a autoridade e, em vez disso, encontrar um trabalho no qual realmente acreditam, mesmo que isso contradiga narrativas populares. Como os laboratórios de IA atualmente detêm considerável poder político e econômico, há uma tendência de aceitar tudo o que os “líderes de pensamento” em IA afirmam como verdade. No entanto, muitas dessas afirmações frequentemente envolvem jargão de marketing que exagera as habilidades da IA para benefícios de lucratividade. Heidy enfatiza a importância de questionar reivindicações exageradas que carecem de fundamentação científica, especialmente para mulheres novas que podem sentir o síndrome do impostor e duvidar de sua própria integridade científica.
- 🌀 Como se Preparar para um Furacão Tecnologia Essencial e Dicas 🌪️
- Bitcoin e Ouro Batem Máximas Recordes Uma Reviravolta Moderna nos M...
- A Coinbase caiu quando o Bitcoin atingiu uma alta recorde.
🔍 Questões Urgentes Enfrentadas pela IA Hoje
À medida que a IA continua a evoluir, Heidy acredita que é crucial entender que a IA por si só nunca pode ser a solução singular para nossos problemas, sejam eles tecnológicos ou sociais. Encaixar a IA em vários sistemas sem considerar sua eficácia em diferentes domínios apresenta riscos sérios. Em vez disso, a IA deve complementar as capacidades humanas em vez de substituí-las. Infelizmente, há uma falta de consideração pelos pontos fracos e modos de falha da IA, o que pode resultar em danos tangíveis. Recentemente, um sistema de IA chamado ShotSpotter levou erroneamente um policial a disparar contra uma criança, destacando os perigos potenciais se a IA não for usada de forma responsável.
🚨 Usuários de IA: Cuidado com Sua Falibilidade
É essencial que os usuários de IA estejam cientes da falibilidade dos algoritmos de IA. Os algoritmos de IA frequentemente apresentam altas taxas de erro em aplicações que exigem precisão, exatidão e crítica de segurança. Esses algoritmos também perpetuam preconceitos e discriminação humanos, pois seus resultados são baseados em dados históricos e inferências estatísticas em vez de raciocínio, evidência factual ou causalidade. Reconhecer essas limitações é vital para usar a IA de forma responsável e ética.
🛠️ Construindo IA de Forma Responsável
Para garantir o desenvolvimento responsável da IA, Heidy sugere a construção de reivindicações verificáveis que protejam os direitos e a segurança das pessoas. Essas reivindicações devem ser específicas para aplicações regulatórias, de segurança, éticas ou técnicas e não devem ser falsificáveis. Estabelecer reguladores independentes para avaliar sistemas de IA em relação a essas reivindicações é crucial para a proteção do público e dos consumidores. Sistemas de IA não devem estar isentos de processos de auditoria padrão que são bem estabelecidos para garantir a integridade de outros produtos e sistemas.
“`html
💼 Investidores e IA Responsável
Os investidores desempenham um papel importante ao impulsionar o desenvolvimento responsável e o uso da IA. Em vez de apenas financiar laboratórios de IA, os investidores devem se envolver e financiar organizações que estão estabelecendo e avançando práticas de auditoria para a IA. Enquanto os laboratórios de IA podem ter suas próprias equipes de segurança, auditores independentes e reguladores são essenciais para construir a confiança pública. A avaliação independente garante precisão, integridade e avaliação imparcial dos sistemas de IA, beneficiando, em última análise, a sociedade como um todo.
🌐 Referências:
- Série Women in AI da ENBLE
- Para Avaliações de Riscos Abrangentes e Garantia de Sistemas Baseados em IA – Artigo de Pesquisa
- Um Framework de Análise de Riscos para a Síntese de Código de Modelos de Linguagem Grandes – Artigo de Pesquisa
- ShotSpotter: O Sistema de IA que Levou um Policial a Disparar Contra uma Criança
- A Confiabilidade da IA: Algoritmos Defeituosos e Viés
- Assegurando a IA Responsável: Reivindicações Verificáveis e Avaliação Independente
Obrigado por nos acompanhar nesta entrevista com Heidy Khlaaf! Se você gostou deste artigo, compartilhe-o com seus amigos nas redes sociais e continue a discussão sobre mulheres na IA. Fique ligado para mais entrevistas emocionantes em nossa série Women in AI! 🎉💻🙌
“`
