Mulheres na IA Uma Entrevista com Amba Kak
Como parte de uma série multifacetada, o TechCrunch está apresentando inovadoras mulheres - desde acadêmicas até formuladoras de políticas - no campo da inteligência artificial.
“`html
Amba Kak desenvolve propostas de políticas para lidar com preocupações de IA | ENBLE
📷
Para dar às acadêmicas e outras mulheres focadas em IA o merecido — e atrasado — destaque, a ENBLE está lançando uma série de entrevistas focadas em mulheres notáveis que contribuíram para a revolução da IA. Vamos publicar várias peças ao longo do ano à medida que o boom da IA continua, destacando trabalhos-chave que frequentemente passam despercebidos. Leia mais perfis aqui.
Amba Kak é a diretora executiva do Instituto AI Now, onde ajuda a criar recomendações de políticas para abordar preocupações com a IA. Ela também foi conselheira sênior de IA na Comissão Federal de Comércio e anteriormente trabalhou como conselheira de política global na Mozilla e como conselheira jurídica do regulador de telecomunicações da Índia sobre neutralidade na rede.
Como Comecei na IA: Uma Jornada de Questões Normativas
Não é uma pergunta simples porque “IA” é um termo da moda usado para descrever práticas e sistemas que vêm evoluindo há muito tempo; venho trabalhando em política tecnológica há mais de uma década em várias partes do mundo e testemunhei quando tudo era sobre “big data” e depois tudo se tornou sobre “IA”. Mas as questões fundamentais com as quais estávamos preocupados — como as tecnologias e economias baseadas em dados impactam a sociedade — continuam as mesmas.
- Aquaman e o Reino Perdido Uma Sequência Empolgante para Aguardar! 💦🎥
- Qual é o Melhor Serviço de Streaming para Documentários? 🎥😮
- 😵 Phantom Auto Encerra Atividades em Meio a Dificuldades de Financi...
Fui atraída por essas questões desde c cedo, na faculdade de direito na Índia, onde, em meio a décadas de precedentes, às vezes centenários, achei motivador trabalhar em uma área onde as questões pré-políticas, as questões normativas sobre qual é o mundo que queremos? Qual papel a tecnologia deve desempenhar nele? Permanecem em aberto e contestáveis.
Globalmente, na época, o grande debate era se a internet poderia ser regulamentada em nível nacional (o que agora parece muito óbvio, sim!), e na Índia, havia acalorados debates sobre se uma base de dados biométricos de toda a população estava criando um vetor perigoso de controle social. Diante de narrativas de inevitabilidade em torno da IA e da tecnologia, acredito que a regulamentação e a defesa podem ser ferramentas poderosas para moldar as trajetórias tecnológicas para servir aos interesses públicos, em vez dos lucros das empresas ou apenas dos interesses daqueles que detêm poder na sociedade. Claro, ao longo dos anos, também aprendi que muitas vezes a regulamentação é totalmente cooptada por esses interesses e pode frequentemente funcionar para manter o status quo em vez de desafiá-lo. Portanto, esse é o trabalho!
O Trabalho do Qual Tenho Mais Orgulho: Rompendo Com o Hype
Nosso relatório de 2023 sobre o panorama da IA foi lançado em abril no meio de um crescente zumbido de AI impulsionado por chatGPT — foi parte de um diagnóstico do que deveria nos preocupar sobre a economia de IA, parte manifesto orientado para a ação destinado à comunidade mais ampla da sociedade civil. Ele capturou o momento — um momento em que tanto o diagnóstico quanto o que fazer a respeito estavam faltando bastante, e em seu lugar estavam narrativas sobre a onisciência e inevitabilidade da AI.
Enfatizamos que o boom da IA estava ainda mais consolidando a concentração de poder dentro de uma seção muito estreita da indústria de tecnologia, e acredito que conseguimos romper o hype para recentrar a atenção nos impactos da IA na sociedade e na economia… e não assumir que nada disso era inevitável.
Mais tarde no ano, conseguimos levar esse argumento a uma sala cheia de líderes governamentais e principais executivos de IA na Cúpula de Segurança da IA do Reino Unido, onde fui uma das únicas três vozes da sociedade civil representando o interesse público. Tem sido uma lição em perceber o poder de uma contranarrativa convincente que recentra a atenção quando é fácil se envolver em narrativas selecionadas e muitas vezes autosservidoras da indústria de tecnologia.
Também tenho muito orgulho do trabalho que fiz durante meu mandato como Assessora Sênior da Comissão Federal de Comércio sobre IA, trabalhando em questões de tecnologia emergente e em algumas das principais ações de aplicação da lei nesse domínio. Foi uma equipe incrível da qual fazer parte, e também aprendi a lição crucial de que até uma pessoa na sala certa no momento certo realmente pode fazer a diferença influenciando a formulação de políticas.
Navegando na Indústria de Tecnologia Dominada por Homens: Expondo as Dinâmicas do Poder
A indústria de tecnologia, e a IA em particular, continua sendo esmagadoramente branca e masculina e geograficamente concentrada em bolhas urbanas muito ricas. Mas prefiro reformular o problema dos caras brancos da IA não apenas porque agora é bem conhecido, mas também porque às vezes pode criar a ilusão de soluções rápidas ou teatro de diversidade que por si só não resolverão as desigualdades estruturais e os desequilíbrios de poder incorporados em como a indústria de tecnologia opera atualmente. Não resolve o “solucionismo” enraizado que é responsável por muitos usos prejudiciais ou exploratórios da tecnologia.
“““html
A questão real com a qual precisamos lidar é a criação de um pequeno grupo de empresas e, dentro delas – um punhado de indivíduos que acumularam acesso sem precedentes ao capital, redes e poder, colhendo as recompensas do modelo de negócios de vigilância que impulsionou a última década da internet. E essa concentração de poder está prestes a ficar muito, muito pior com a IA. Esses indivíduos agem com impunidade, mesmo quando as plataformas e infraestruturas que controlam têm enormes impactos sociais e econômicos.
Como navegamos nisso? Expondo as dinâmicas de poder que a indústria de tecnologia tenta muito para ocultar. Falamos sobre os incentivos, infraestruturas, mercados de trabalho e o ambiente que impulsionam essas ondas de tecnologia e moldam a direção que ela tomará. É isso que temos feito na AI Now há quase uma década e, quando fazemos isso bem, é difícil para os formuladores de políticas e o público desviarem o olhar – criando contra-narrativas e imaginações alternativas para o papel apropriado da tecnologia na sociedade.
Conselhos para Mulheres que Entram no Campo da IA: Mantenha sua Posição
Para as mulheres, mas também para outras identidades marginalizadas ou perspectivas que buscam fazer críticas de fora da indústria de IA, o melhor conselho que eu poderia dar é manter sua posição. Este é um campo que rotineira e sistematicamente tentará desacreditar a crítica, especialmente quando esta vem de origens STEM não tradicionais – e é fácil de fazer dado que a IA é uma indústria tão opaca que pode fazer você sentir que está sempre tentando resistir de fora. Mesmo quando você está no campo há décadas como eu estou, vozes poderosas na indústria tentarão minar você e sua crítica válida simplesmente porque desafia o status quo.
Você e eu temos tanto a dizer sobre o futuro da IA quanto Sam Altman, pois as tecnologias nos impactarão a todos e potencialmente impactarão de forma desproporcional pessoas de identidades marginalizadas de maneiras prejudiciais. Atualmente, estamos em uma luta para ver quem tem o direito de reivindicar expertise e autoridade em questões de tecnologia dentro da sociedade… então realmente precisamos reivindicar esse espaço e manter nossa posição.
Q&A
P: Como a IA está moldando o futuro da tecnologia? R: A IA está desempenhando um papel significativo na formação do futuro da tecnologia, revolucionando várias indústrias e possibilitando avanços em áreas como saúde, transporte e finanças. Ela tem o potencial de automatizar tarefas, otimizar processos e tornar os sistemas mais eficientes. No entanto, também há preocupações quanto às implicações éticas da IA e seu impacto sobre privacidade, cibersegurança e deslocamento de empregos.
P: Quais são os riscos potenciais associados à concentração de poder na indústria de tecnologia? R: A concentração de poder na indústria de tecnologia pode levar à falta de diversidade, competição limitada e potenciais abusos de poder. Quando um pequeno grupo de empresas e indivíduos controla a maioria do capital, redes e recursos, pode sufocar a inovação, limitar a escolha do consumidor e impactar os processos democráticos. É importante abordar essas dinâmicas de poder e advogar por ecossistemas tecnológicos mais equitativos e inclusivos.
P: Como a regulamentação e a defesa podem moldar a trajetória da IA para servir aos interesses públicos? R: A regulamentação e a defesa desempenham um papel crucial na moldagem da trajetória da IA para servir aos interesses públicos. Ao estabelecer diretrizes éticas, proteções de privacidade e medidas de responsabilização, os reguladores podem garantir que as tecnologias de IA sejam desenvolvidas e implantadas de forma responsável. Além disso, os esforços de defesa podem conscientizar sobre os potenciais impactos sociais e econômicos da IA, advogando por transparência, justiça e inclusividade em seu desenvolvimento e uso.
Em conclusão, o trabalho de Amba Kak em políticas e defesa de IA tem sido vital para abordar os impactos sociais das tecnologias emergentes. Ao participar de diálogos críticos, promover a regulamentação e desafiar a concentração de poder na indústria de tecnologia, ela ajudou a moldar um cenário de IA mais responsável e inclusivo. As mulheres que ingressam no campo da IA devem levar seus conselhos a sério e manter sua posição, sabendo que têm um papel importante a desempenhar na formação do futuro da tecnologia.
🔗 Links de Referência: – Série de Entrevistas ENBLE – Perfil do LinkedIn de Amba Kak
“`
