O Crescimento da IA Generativa Pode Alimentar uma Nova Corrida Armamentista Internacional
Crescimento da IA Generativa pode alimentar corrida armamentista internacional
Os governos ao redor do mundo estão correndo para adotar os algoritmos que deram algum tipo de inteligência ao ChatGPT, aparentemente fascinados pelos enormes benefícios econômicos esperados dessa tecnologia.
Dois novos relatórios divulgados esta semana mostram que os estados-nação também estão provavelmente correndo para adaptar a mesma tecnologia em armas de desinformação, o que poderia se tornar uma preocupante corrida armamentista de IA entre grandes potências.
Pesquisadores da RAND, um think tank sem fins lucrativos que aconselha o governo dos Estados Unidos, apontam evidências de um pesquisador militar chinês que tem experiência em campanhas de informação discutindo publicamente como a IA generativa poderia ajudar nesse trabalho. Um artigo de pesquisa, de janeiro de 2023, sugere o uso de modelos de linguagem grandes, como uma versão ajustada do BERT do Google, um precursor dos modelos de linguagem mais poderosos e capazes que impulsionam chatbots como o ChatGPT.
“Não há evidências de que isso esteja sendo feito agora”, diz William Marcellino, um especialista em IA e cientista comportamental e social sênior da RAND, que contribuiu para o relatório. “Mas alguém está dizendo: ‘Aqui está um caminho a seguir'”. Ele e outros da RAND estão alarmados com a perspectiva de campanhas de influência ganharem nova escala e poder graças à IA generativa. “Criar um sistema para criar milhões de contas falsas que se passam por taiwaneses, americanos ou alemães, que estão promovendo uma narrativa estatal – acho que isso é qualitativamente e quantitativamente diferente”, diz Marcellino.
- O governo do Reino Unido nega mudança de rumo no plano de escanear ...
- A Ford está construindo uma versão de rally do Mach-E
- A GoPro revela sua mais recente câmera de ação, a Hero12 Black | ENBLE
Campanhas de informação online, como aquela que a Agência de Pesquisa da Internet da Rússia travou para minar as eleições dos Estados Unidos em 2016, existem há anos. Elas têm dependido principalmente do trabalho manual – trabalhadores humanos trabalhando em teclados. Mas algoritmos de IA desenvolvidos nos últimos anos podem potencialmente produzir em massa textos, imagens e vídeos projetados para enganar ou persuadir, ou até mesmo realizar interações convincentes com pessoas em plataformas de mídia social. Um projeto recente sugere que lançar uma campanha desse tipo pode custar apenas algumas centenas de dólares.
Marcellino e seus coautores observam que muitos países, incluindo os EUA, quase certamente estão explorando o uso de IA generativa para suas próprias campanhas de informação. E a ampla acessibilidade das ferramentas de IA generativa, incluindo vários modelos de linguagem de código aberto que qualquer pessoa pode obter e modificar, reduz a barreira para qualquer pessoa que queira lançar uma campanha de informação. “Vários atores podem usar IA generativa para manipulação de mídia social, incluindo atores não estatais tecnicamente sofisticados”, eles escrevem.
Um segundo relatório divulgado esta semana, por outro think tank focado em tecnologia, o Projeto de Estudos Especiais de Competitividade, também adverte que a IA generativa poderia em breve se tornar uma forma de nações se destacarem umas das outras. Ele insta o governo dos EUA a investir pesadamente em IA generativa, porque a tecnologia promete impulsionar muitas indústrias diferentes e fornecer “novas capacidades militares, prosperidade econômica e influência cultural” para a nação que a dominar primeiro.
Assim como o relatório da RAND, a análise do SCSP também chega a algumas conclusões sombrias. Ele adverte que o potencial da IA generativa provavelmente desencadeará uma corrida armamentista para adaptar a tecnologia para uso em militares ou em ciberataques. Se ambos estiverem certos, estamos caminhando para uma corrida armamentista no espaço da informação que pode se mostrar particularmente difícil de conter.
Como evitar o cenário de pesadelo de a internet ser invadida por bots de IA programados para guerra de informações? Isso requer que os humanos conversem entre si.
O relatório do SCSP recomenda que os EUA “devem liderar o envolvimento global para promover transparência, fomentar confiança e encorajar a colaboração”. Os pesquisadores da RAND recomendam que diplomatas dos EUA e da China discutam a IA generativa e os riscos associados à tecnologia. “Pode estar em nosso interesse não ter uma internet totalmente poluída e inacreditável”, diz Marcellino. Acredito que isso é algo com o qual todos podemos concordar.
