Como a IA enganará os eleitores em 2024 se não fizermos algo agora
Como a Inteligência Artificial irá manipular os eleitores em 2024 se não agirmos agora
No passado mês de setembro, investiguei o que a Inteligência Artificial gerativa faria às nossas eleições. Uma das maiores surpresas foi o quão impacto a IA gerativa poderá ter nas eleições locais.
Também: Como a Microsoft planeja proteger eleições contra deepfakes
Depois de ler o artigo, o Professor Robert Crossler entrou em contato para discutir as questões relacionadas às eleições na nossa sociedade centrada no digital. Crossler, professor associado de sistemas de informação na Washington State University, é extremamente qualificado para discutir essa área. Seu recente artigo na Government Information Quarterly analisa como medir o efeito da alinhamento político, plataformas e consumo de notícias falsas na preocupação do eleitor pelos processos eleitorais.
O trabalho de Crossler foi financiado pela National Science Foundation e pelo Department of Defense. Ele atuou como presidente do AIS Special Interest Group em Segurança da Informação e Privacidade de 2019 a 2020. Também recebeu o Prêmio Design Science da Information Systems Society de 2013 por seu trabalho em privacidade da informação.
Crossler e eu tivemos uma discussão fascinante por e-mail. A seguir estão os conteúdos da nossa discussão. Minhas perguntas estão em negrito. A única edição foi para pontuação.
- O que esperar do novo CarPlay, ainda listado como chegando ‘n...
- Economize $400 no Roborock S8 Pro Ultra graças a uma oferta duradou...
- Adquira agora uma adesão ao Costco por apenas $20 com esta oferta d...
ENBLE: De que maneiras a IA gerativa pode ser utilizada para influenciar eleitores ou resultados eleitorais, e quais são os riscos potenciais associados ao seu uso nesse contexto?
Robert Crossler: A IA gerativa pode ser utilizada para polarizar ainda mais os eleitores. Se houver uma questão na qual um partido queira convencer outra pessoa, então a IA gerativa pode ser usada para criar uma narrativa que apoie esse argumento. O risco potencial é que os eleitores acreditem em algo que não é verdade, mas sintam fortemente que seja verdadeiro porque viram materiais muito realistas que apoiam o ponto de vista que eles foram levados a acreditar.
A IA gerativa tem potencial para direcionar comunicações especificamente para pessoas com base em conhecimentos facilmente obtidos que as pessoas colocam no domínio público. Essa é uma técnica que já estamos vendo sendo utilizada em ataques de engenharia social do ponto de vista da cibersegurança.
Com a IA gerativa, as ferramentas podem ser usadas para personalizar mensagens políticas com base no que a IA gerativa pode determinar facilmente como interesses e fatores motivadores dos eleitores. Ser capaz de fazer isso em escala tem potencial para transformar os alvos baseados em demografia em alvos baseados em um entendimento muito mais granular do usuário.
Também: Como usar o Bing Chat (e como ele é diferente do ChatGPT)
ENBLE: Quais são as considerações éticas em relação ao uso da IA gerativa no processo eleitoral, e como os formuladores de políticas e o público devem abordar essas preocupações?
RC: Gostaria de saber a resposta para essa pergunta. Mas essa é exatamente a pergunta que deve ser feita e respondida. Eticamente, acredito que a tecnologia não deveria ser usada para distorcer a verdade, ou melhor ainda, inventar verdades alternativas. No entanto, utilizar políticas para estabelecer e, em seguida, fazer cumprir considerações éticas em uma tecnologia em constante mudança é uma questão difícil de acertar.
Embora seja possível fazer com que os políticos concordem com um padrão ético quando se trata do uso da IA gerativa, não tenho certeza de como isso se aplica quanto mais distante você está dos políticos. Por exemplo, grupos de ação política, como isso se aplicaria a eles?
Como limitar o uso dessa tecnologia afetaria os direitos de liberdade de expressão previstos na Primeira Emenda? Não sou um estudioso do direito, mas sempre que o governo tenta dizer às pessoas o que elas podem ou não podem dizer, começo a ficar preocupado.
Além disso: Google exigirá que os anúncios políticos revelem se são gerados por IA
ENBLE: Você pode compartilhar descobertas ou insights de sua pesquisa que tenham implicações para a compreensão mais ampla do papel da tecnologia no processo democrático?
RC: Uma das coisas que encontrei em minha pesquisa é o papel das redes sociais, especialmente o Facebook, na disseminação de notícias falsas. Como resultado, eu não uso o Facebook e dou pouco crédito ao que leio em outros contextos de mídia social. Encorajaria os outros a não se deixarem influenciar por um determinado modo de pensar baseado no que veem nas redes sociais.
Isso é especialmente importante devido aos algoritmos que as redes sociais utilizam para envolver os usuários. Esses algoritmos são programados para mostrar mais do que você interage e menos do que você não interage. O resultado é uma espécie de câmara de ressonância, em que as mesmas informações são confirmadas, mas informações contrárias não são necessariamente compartilhadas.
Além disso: Facebook proíbe campanhas políticas de usar suas novas ferramentas de anúncios com IA
ENBLE: Qual é o papel dos atores estrangeiros na disseminação de notícias falsas e na IA generativa?
RC: A Microsoft divulgou informações que apoiaram o argumento de que a China está usando IA nas redes sociais para influenciar os eleitores dos EUA. A China e a Rússia estão usando deepfakes gerados por IA para controlar a narrativa em relação à guerra na Ucrânia. Estamos vendo a IA sendo usada para tentar controlar narrativas em torno do conflito entre Hamas e Israel.
Dados os relatórios da Microsoft e como a IA generativa está sendo usada por atores estrangeiros em relação à narrativa da guerra, parece razoável concluir que isso se ampliará à medida que nos aproximarmos das eleições de 2024.
ENBLE: Quão grande é a ameaça dos atores estrangeiros ao nosso processo eleitoral? Eles estão especificamente usando IA generativa para aumentar sua influência ou eficácia?
RC: Acredito que os atores estrangeiros representam uma grande ameaça ao nosso processo eleitoral. Esses atores sempre desejaram que certas pessoas estivessem no poder e alinhadas com sua agenda. A propaganda sempre fez parte desse processo. A IA generativa oferece uma ferramenta que permite uma mensagem mais direcionada e específica, que provavelmente terá uma influência ainda maior do que os métodos tradicionais de propaganda.
Um problema relacionado que acho importante considerar ao analisar o processo eleitoral e o poder potencial dos atores estrangeiros (mas também domésticos) é a falta de vontade dos políticos de participar de debates. Se os políticos não se apresentarem para debater publicamente, as pessoas buscarão informações em outros lugares. Quanto mais as pessoas se afastarem da fonte primária de informação, maior a probabilidade de que as informações fornecidas estejam sendo manipuladas por ferramentas de IA generativa.
Além disso: Boom da IA ampliará problemas sociais se não agirmos agora, diz especialista em ética da IA
ENBLE: Como você pessoalmente diferencia a comunicação política legítima do conteúdo potencialmente manipulador gerado por sistemas de IA durante as campanhas eleitorais?
RC: Comecei a fazer duas coisas devido à última eleição e à desinformação durante aquele ciclo eleitoral. A primeira coisa que faço é triangular as informações que estou recebendo. Isso significa que tento consumir informações de várias fontes que talvez tenham diferentes viéses em suas reportagens. Quanto melhor eu conseguir triangular as informações, mais confiante me sinto na veracidade delas.
A segunda coisa que gosto de fazer, o que me permite realizar a primeira, é não permitir que eu forme uma opinião quando conheço um novo assunto. Isso é especialmente importante quando parece que as informações são diferentes do que eu já sabia, ou potencialmente importantes politicamente. Esperar para formar uma opinião me permite ter tempo suficiente para triangular com informações adicionais que podem confirmar (ou não) as informações originais.
ENBLE: Existem tipos específicos de tecnologia de IA generativa que são mais prevalentes ou influentes no contexto eleitoral?
RC: Vejo isso através de uma lente de riqueza de mídia, sendo que um contexto mais rico tem maior influência. Por exemplo, um vídeo é mais rico do que algo que é apenas texto. O que torna o mundo da IA generativa muito mais eficiente é a capacidade de utilizar diferentes tipos de conteúdo generativo juntos.
Embora um vídeo possa ser um meio bastante rico para se comunicar com as pessoas e ser muito convincente, quando há um texto criado para acompanhar o vídeo, ajuda a triangulação das informações que se está tentando transmitir para alguém.
Também: Detecção de deepfakes em tempo real: Como a Intel Labs usa a IA para combater a desinformação
ENBLE: Como o público pode ser melhor informado sobre o uso de IA generativa em eleições, e qual é o papel dos meios de comunicação e das instituições educacionais na promoção da consciência?
RC: O uso de IA generativa foi imposto a nós aproximadamente um ano atrás, em novembro de 2022, e ainda está mudando radicalmente. Eu encorajaria o público a ser paranóico e buscar interações com as pessoas pessoalmente em vez de acreditar no que estão vendo online.
Acredito que este seja um momento em que a mídia possa se destacar e ser cética em relação a tudo, usando suas ferramentas investigativas para revelar a verdade. A importância de contar a história corretamente deve ser mais importante do que ser o primeiro a contar a história. À medida que os meios de comunicação construírem uma reputação de iluminar a verdade, independentemente de qualquer viés que possam ter, isso fornecerá um meio confiável para os eleitores. Gostaria de ver um veículo de mídia adotar essa abordagem na cobertura de notícias. Ser o primeiro pode levar a estar errado e perder credibilidade.
As instituições educacionais devem incentivar os alunos a pensar criticamente sobre essa área. A avaliação crítica das notícias à medida que entramos em um novo ciclo de eleições presidenciais ajudará a criar eleitores mais informados. Também gostaria de ver emergir conversas civis que permitam que pessoas com opiniões diferentes discutam o que estão vendo com os outros, e que isso aconteça em um espaço público. A chave para isso é a conversa civilizada, e se pudermos criar esse ambiente, só ajudará a esclarecer as verdades nesse processo eleitoral.
Também: A maioria dos americanos acredita que a IA ameaça a humanidade, de acordo com uma pesquisa
ENBLE: Como você vê a interseção entre tecnologia, democracia e eleições evoluindo nos próximos anos, e quais desafios ou oportunidades potenciais você antecipa?
RC: Vejo apenas nossa capacidade de discernir a verdade se tornando mais difícil à medida que a tecnologia avança. Isso inclui democracia e eleições. Parte de mim se pergunta se devemos começar a nos afastar da tecnologia para discernir a verdade. Isso permitiria que menos informações influenciassem nossa avaliação do que está acontecendo.
No entanto, a tecnologia permitiu que aqueles sem voz revelassem verdades sobre o que está acontecendo em seu mundo. Temos visto isso em todo o mundo, especialmente com as redes sociais, onde as pessoas conseguem compartilhar coisas que outros podem querer suprimir. Como resultado, mudanças têm ocorrido.
O maior desafio que precisa ser abordado, e talvez seja abordado por aqueles que possuem a tecnologia de IA generativa, é informar de alguma forma o mundo quando algo é criado com essa tecnologia. Sem saber o que é criado com essa tecnologia, será cada vez mais difícil para os seres humanos distinguirem fatos de ficção.
ENBLE: Como a IA generativa continuará a influenciar o processo eleitoral além das eleições de 2024?
RC: Acredito que veremos alguns dos usos mais criativos de IA generativa durante o ciclo eleitoral de 2024. Depois que estiver concluído, essas técnicas provavelmente serão aprimoradas e aperfeiçoadas. Gostaria de saber qual é o caminho para impedir isso ou como isso será.
Espero que essa seja uma conversa na qual nossos políticos se envolvam, pois acredito que essa é uma área onde os partidos podem se unir. O poder manipulador da IA generativa tem o potencial de afetar igualmente a todos. Portanto, reunindo as mentes mais brilhantes, tenho esperança de que seja possível aproveitar o que há de bom nessas tecnologias e limitar a influência do que é prejudicial.
Também: Não seja enganado por aplicativos falsos do ChatGPT: Aqui está o que observar
ENBLE: Qual é o seu maior medo em relação à IA generativa e eleições? Explique por que isso é sua maior preocupação.
RC: Meu maior medo em relação à IA generativa é que as escolhas de quem representa a América sejam lamentadas posteriormente. Não conheço um mecanismo que permita aos americanos desfazer facilmente as escolhas feitas no dia das eleições. Se uma voz conseguir encontrar uma maneira de manipular e controlar o resultado de uma eleição, e então, através do governo, ficar evidente o que aconteceu, como as pessoas vão reagir?
Por que esse é meu medo? A influência observada e a capacidade de direcionar as pessoas no processo de votação através das mídias sociais têm sido altamente eficazes. A IA generativa tem o potencial de amplificar essa influência de maneiras incríveis. Existe um ponto em que esse nível de influência faz com que as pessoas respondam de maneiras imprevistas, resultando em protestos?
Temos visto isso ocorrer nos últimos quatro anos e está acontecendo na Europa. As tensões estão aumentando a ponto de as coisas explodirem ainda mais? Às vezes, parece que sim.
ENBLE: Existem usos positivos para a IA generativa nas eleições americanas?
RC: A IA generativa tem grande potencial para aumentar a eficiência no processo eleitoral. Do ponto de vista administrativo, pode tornar o processamento das comunicações muito mais eficiente. Eu imagino que a IA generativa possa ser usada para ajudar um candidato a se preparar para entrevistas, tendo um agente inteligente fazendo perguntas para ele em preparação para um debate. Há muitas maneiras de usar isso para melhorar as coisas.
Recentemente, aprendi uma técnica de usar a IA generativa para transformar uma notícia sensacionalista em uma notícia entediante. Espero usar isso durante a temporada eleitoral para eliminar o sensacionalismo que muitas vezes acompanha as notícias políticas.
O que você acha?
“Eliminar o sensacionalismo.” Parece um bom lugar para terminar. Gostaria de agradecer ao Robert por dedicar seu tempo e participar de uma conversa fascinante. Se você tiver alguma pergunta, comentário ou opinião sobre o que discutimos, deixe-os nos comentários abaixo.
Você pode acompanhar as atualizações diárias do meu projeto nas redes sociais. Certifique-se de se inscrever na minha newsletter semanal de atualizações no Substack, e me siga no Twitter em @DavidGewirtz, no Facebook em Facebook.com/DavidGewirtz, no Instagram em Instagram.com/DavidGewirtz, e no YouTube em YouTube.com/DavidGewirtzTV.
