Não estamos preparados para o impacto da IA generativa nas eleições.
Não estamos preparados para o impacto da IA nas eleições.
Tudo isso te faz querer chorar? Bem, George Washington também chorou aqui.
Você já ouviu a história de que George Washington não apoiava a Guerra Revolucionária?
Enquanto servia como general liderando as forças rebeldes, George Washington estava convencido de que a Guerra de Independência Americana foi um erro. Ele estava “longe de ter certeza de que merecemos ter sucesso.”
Também: Como enganei o ChatGPT para me contar mentiras
Em 1777, um soldado servindo sob o general britânico Oliver De Lancey encontrou um baú pertencente ao general Washington. O baú continha uma série de cartas escritas pela própria mão de Washington que falavam de seu desejo de reconciliação com a Inglaterra e até mesmo, “Eu amo meu rei.”
- Ofertas Amazon oferece até $170 de desconto no iPad Mini 6, a parti...
- Inscreva-se para uma associação ao Costco e ganhe um cartão-present...
- O GoodNotes 6 traz recursos de verificação ortográfica e autocomple...
O baú foi encontrado nas mãos do valete de Washington (e pessoa escravizada) William Lee, quando Lee foi capturado pelos britânicos.
Aqui estava uma prova tangível de que até mesmo Washington não apoiava a guerra.
Anos depois, em 1795, quando Washington estava pedindo ao Senado para ratificar o Tratado de Jay com a França, as cartas foram citadas como evidência de que a lealdade de Washington não podia ser confiável e que ele não se importava realmente com a democracia. Isso tornou a aprovação do Tratado de Jay muito difícil.
Exceto… William Lee nunca foi capturado pelos britânicos. Na verdade, William Lee nunca saiu do lado de Washington durante a Guerra Revolucionária. As cartas eram falsificações cuidadosamente elaboradas, o equivalente do século XVIII aos deepfakes.
Também: Quão grande é essa nova IA generativa? Pense em uma interrupção em nível de internet
Eles assombraram Washington tanto que ele escreveu – como um de seus últimos atos no cargo – uma refutação das falsificações em uma carta ao Secretário de Estado dos EUA, Timothy Pickering.
De George Washington para Washington, DC
Avançando para 2018. Estou prestes a abordar temas politicamente carregados. Por um momento, por favor, ignore a política e concentre-se nesses exemplos como exemplos da existência de desinformação. Esse é o tema deste artigo. A desinformação prejudica todas as partes. Mas, para mostrar o que tem acontecido, preciso citar exemplos reais. E isso significa que tenho que mencionar políticos.
Então, aqui vamos nós…
Exemplo 1: Campanha de desinformação apoiada pelo Kremlin
O Comitê de Inteligência da Câmara, investigando a eleição presidencial de 2016, divulgou uma biblioteca com mais de 3.500 anúncios contendo alegações falsas projetadas para perturbar o sistema político americano.
Os anúncios foram produzidos e comprados por uma fazenda de trolls apoiada pelo Kremlin entre 2015 e 2017. Além dos anúncios comprados, o Comitê de Inteligência da Câmara afirmou que havia pelo menos “80.000 peças de conteúdo orgânico” produzidas por interesses russos nas redes sociais.
Exemplo 2: Vídeo modificado falsificando comportamento bêbado
A seguir, vamos voltar a 2019 para analisar um vídeo que mostrava a então Presidente da Câmara, Nancy Pelosi, falando arrastado e parecendo bêbada. Isso foi de um vídeo de Pelosi fazendo um discurso em um evento do Center for American Progress (um “think tank” de tendência liberal).
O vídeo, compartilhado no Facebook mais de 45.000 vezes e com mais de 23.000 comentários, era falso. O vídeo original havia sido editado para “fazer sua voz parecer distorcida e distorcida” e fazê-la parecer embriagada.
A utilização de IA generativa em campanhas políticas
Fotos, vídeos, áudio e até cartas escritas à mão foram falsificados ao longo dos anos em prol de truques sujos políticos. Embora variem em qualidade com base nas habilidades dos falsificadores, a prática não é nova.
Também: Como o ChatGPT realmente funciona?
Mantenha isso em mente enquanto avançamos para uma discussão sobre deepfakes na era da IA generativa. Peggy Noonan, que em uma vida anterior foi a principal redatora de discursos do presidente Ronald Reagan, escreveu isso em sua coluna no Wall Street Journal:
Em quase todos os encontros, a inteligência artificial surgiu. Eu diria que as pessoas estão abordando a IA com um medo flutuante, temperado por um compromisso pragmático de fazer o melhor dela, ver o que ela pode fazer para melhorar a vida. Não pode ser parada, assim como você não pode parar a maré. Há uma sensação de “Ela pode quebrar os códigos mais profundos do câncer”, combinada com “Ela pode se voltar contra nós e nos destruir com bombas nucleares”.
Isso resume bastante. Conforme Noonan viaja em círculos políticos rarificados, essa declaração é uma evidência de que até a elite política considera a IA generativa com um senso de preocupação.
Isso, é claro, não os impede de usar a tecnologia em seu benefício.
No mês passado, apoiadores de Ron DeSantis, governador da Flórida e candidato presidencial republicano atualmente classificado na posição #2 com base em dados de pesquisas, usaram uma voz gerada por IA para imitar o presidente Trump em um anúncio que fazia parecer que o ex-presidente republicano estava atacando os republicanos.
Além disso: Como fazer o ChatGPT fornecer fontes e citações
Para deixar claro, as palavras faladas pela IA foram baseadas em uma postagem real de Trump na rede social Truth Social. O anúncio foi financiado pelo PAC Never Back Down, que não está tecnicamente afiliado ao governador DeSantis. No entanto, o PAC apoia fortemente DeSantis. Presumivelmente, o PAC sentiu que o uso da voz do ex-presidente com suas próprias palavras seria mais eficaz ou realista do que um locutor falando em voz off.
Em outro anúncio atribuído a DeSantis, o presidente Trump é mostrado abraçando o Dr. Anthony Fauci. Essa foi uma imagem gerada por IA. Fauci é um ex-membro do Grupo de Trabalho sobre Coronavírus de Trump, ex-Consultor Médico-Chefe do Presidente e, por quase 40 anos, Diretor do Instituto Nacional de Alergia e Doenças Infecciosas. Fauci, como a maioria sabe, se tornou uma figura divisiva nos primeiros dias da pandemia. A campanha de DeSantis aparentemente estava tentando associar Trump a Fauci por ganho político.
O objetivo deste artigo não é debater o conteúdo dos anúncios políticos. Em vez disso, é focar no uso da IA e no que isso significa para o futuro. As imagens de Trump abraçando Fauci foram notáveis porque foram geradas por IA.
Em março, o New York Times descreveu como o Partido Democrata estava testando o uso de IA para redigir mensagens de arrecadação de fundos, com “apelos que muitas vezes têm um desempenho melhor do que aqueles escritos inteiramente por seres humanos”.
Também: Como os pesquisadores quebraram o ChatGPT e o que isso pode significar para o desenvolvimento futuro da IA
O Times também relatou imagens falsas transmitidas nas redes sociais que mostravam o presidente Trump sendo preso na cidade de Nova York.
Embora a IA possa definitivamente se mostrar um multiplicador de força para eleições nacionais, espero que ela seja usada intensamente em campanhas onde orçamentos mais baixos exigem um uso mais criativo dos recursos. Uma dessas campanhas, conforme relatado no Insider, foi para prefeito de Toronto. O Insider compartilhou uma imagem de um folheto de campanha produzido em nome do candidato Anthony Furey, que mostrava uma mulher com três braços.
Quando procurei online o panfleto citado pelo Insider, ele não tinha a imagem mostrada no artigo. Acredito que esse erro tenha sido corrigido por Furey ou sua equipe de campanha. Independentemente disso, Furey perdeu, ficando em quarto lugar, com pouco mais de 10% dos votos recebidos pelo vencedor.
Portanto, embora a IA possa ajudar a criar imagens falsas ou reduzir custos, ela não garante uma vitória. Nada garante.
O que tudo isso significa?
Só porque uma campanha está usando IA generativa não significa que ela esteja a utilizando como arma. Existem quatro categorias principais de uso de ferramentas de IA generativa em campanhas, e apenas uma é exclusivamente negativa por natureza.
Deepfakes e falsificações: Essa é a mais potencialmente destrutiva. Sempre que uma campanha falsifica informações, isso é destrutivo e se enquadra na categoria de truques sujos. O que torna isso mais preocupante agora é que as IAs tornam possível a geração de imagens falsas para muito mais pessoas, então provavelmente veremos isso com mais frequência – e não apenas em campanhas.
Também: 6 coisas que o ChatGPT não pode fazer (e outras 20 que ele se recusa a fazer)
Ajuda na composição de anúncios e cartas: Espere ver a IA ajudando a equipe de campanha a compor anúncios e cartas. Embora o conteúdo possa conter falsidades ou distorções, isso não é novidade. Os trabalhadores de campanha já distorciam a verdade em documentos escritos muito antes do surgimento da IA generativa.
Aumentando a velocidade e personalização do conteúdo para alcance em massa: As campanhas mais eficazes geralmente possuem bases de dados extensas sobre eleitores em potencial, especialmente doadores em potencial. Eles compram listas, agregam dados de campanhas anteriores e outros candidatos, e tentam construir perfis que ajudem a direcionar precisamente os prospects. Espere que a IA generativa seja usada para calibrar individualmente os esforços de divulgação para cada prospecto, e fazer isso em massa.
Realizando análise de tendências e sentimentos em busca de insights: Em um artigo anterior, mostrei o quão poderosa a IA pode ser na mineração de dados em busca de insights. As campanhas frequentemente utilizam software de mineração de dados em nível empresarial, mas espere que o poder, facilidade de uso e preço comparativamente baixo de ferramentas como o ChatGPT Plus com Code Interpreter tornem essas capacidades disponíveis em todos os níveis das campanhas.
Também: Perguntei ao ChatGPT, Bing e Bard o que os preocupa. A IA do Google ficou tipo O Exterminador do Futuro comigo
Lawrence Pingree, vice-presidente de tecnologias emergentes e tendências de segurança da Gartner, acrescentou algumas informações sobre esse tópico. Ele disse ao ENBLE:
Acredito que o maior perigo atual seja que os grandes modelos de linguagem da IA generativa agora possam ser instrumentados com automação. Essa automação (exemplos – AutoGPT, BabyAGI) pode ser usada para realizar campanhas de desinformação com objetivos específicos.
Isso torna muito mais fácil para os partidos políticos ou estados-nação realizar operações de influência.
Esses modelos de linguagem também podem ser combinados com tecnologias deepfake para realizar campanhas que até mesmo podem envolver áudio e vídeo. Levados para as mídias sociais, esses tipos de ferramentas podem criar um ambiente digital muito difícil para os eleitores que desejam saber a verdade.
Ao analisar a IA generativa nas campanhas, o impacto real estará fora das campanhas presidenciais. Afinal, as campanhas presidenciais têm muito dinheiro.
De acordo com a Comissão Eleitoral Federal, “os candidatos presidenciais arrecadaram e gastaram US$ 4,1 bilhões nos 24 meses do ciclo eleitoral de 2019-2020”. De acordo com o Open Secrets, que acompanha os gastos eleitorais, o candidato médio ao Senado dos EUA vencedor gastou US$ 15,7 milhões, enquanto o candidato médio à Câmara gastou US$ 2 milhões nas eleições de 2018.
Algumas campanhas locais têm orçamentos de campanha relativamente grandes. Por exemplo, olhando para as eleições de 2024 para o Conselho Municipal de Los Angeles e o Distrito Escolar Unificado de Los Angeles, o candidato ao Conselho Municipal do Distrito 2, Adrin Nazarian, já arrecadou US$ 432.000, enquanto a candidata ao LAUSD Distrito 3, Janie Dam, já arrecadou US$ 38.000.
Agora, tenha em mente que o Distrito 2 de Los Angeles tinha uma população de 793.342 pessoas em 2020. No geral, o próprio Condado de Los Angeles tem uma população de 9,7 milhões de pessoas. Em contraste, a pequena cidade rural histórica onde moro aqui em Oregon tem uma população de menos de 10.000 pessoas.
Também: Detecção de deepfakes em tempo real: como a Intel Labs usa IA para combater a desinformação
Campanhas menores, especialmente aquelas em cidades do tamanho da minha, têm cofres de guerra muito menores do que as campanhas nacionais. Ferramentas de IA generativa podem fornecer às campanhas menores ferramentas analíticas anteriormente disponíveis apenas para campanhas com orçamentos de seis e sete dígitos.
Portanto, enquanto certamente podemos esperar que as campanhas presidenciais usem a IA para colocar candidatos oponentes em posições comprometedoras (ou, pelo menos, retratá-los de maneira que os apoiadores fervorosos escolheriam compartilhar nas mídias sociais), espere ver o maior impacto da IA generativa em níveis mais baixos.
Fique ligado, porque enquanto as trapaças políticas de campanha existem há muito tempo, certamente veremos mais delas agora que todos têm acesso às ferramentas que tornam absurdamente fácil perpetrá-las
Tudo isso te faz querer chorar? Bem, lembre-se: George Washington chorou aqui.
Você pode acompanhar as atualizações diárias do meu projeto nas mídias sociais. Não deixe de se inscrever na minha newsletter semanal de atualizações no Substack e me seguir no Twitter em @DavidGewirtz, no Facebook em Facebook.com/DavidGewirtz, no Instagram em Instagram.com/DavidGewirtz e no YouTube em YouTube.com/DavidGewirtzTV.
