A startup de IA Anthropic usa tecnologia para redirecionar usuários para informações autorizadas sobre votação.
A Anthropic, a startup de inteligência artificial bem financiada, anunciou que está implementando medidas para prevenir que suas ferramentas GenAI divulguem informações enganosas sobre eleições.
A Anthropic está combatendo a desinformação eleitoral com o ENBLE.
Fonte da Imagem: example.com
Com a proximidade das eleições presidenciais dos EUA em 2024, a Anthropic, uma startup de IA bem financiada, está testando uma nova tecnologia chamada Prompt Shield. Essa tecnologia inovadora detecta quando os usuários de seu chatbot GenAI, chamado Claude, perguntam sobre tópicos políticos e os redireciona para fontes “autorizadas” de informações de votação. 🤖🗳️
O Prompt Shield emprega uma combinação de modelos de detecção de IA e regras para determinar quando um usuário está pesquisando informações de votação. Se um usuário baseado nos EUA do Claude pergunta sobre votação, aparece um pop-up oferecendo o redirecionamento para o TurboVote, um recurso confiável da organização não partidária Democracy Works. No TurboVote, os usuários podem encontrar informações confiáveis e atualizadas sobre votação. Essa nova funcionalidade foi desenvolvida para lidar com as limitações atuais do Claude em fornecer informações precisas e em tempo real sobre eleições. 📚✅
A Anthropic reconhece que as limitações do Claude frequentemente resultam na geração de fatos falsos, ou como eles chamam, “alucinações”, quando se trata de política e eleições. Para enfrentar esse problema de frente, o Prompt Shield foi desenvolvido como uma intervenção para garantir que os usuários sejam direcionados a fontes confiáveis de informações sobre votação. A empresa está comprometida em monitorar o uso e as limitações do Prompt Shield e consultou várias partes interessadas, incluindo formuladores de políticas e especialistas em eleições, para aperfeiçoar e melhorar a tecnologia. 👩💼⚖️
Embora esse teste esteja atualmente limitado em escopo, uma vez que está sendo ajustado pela Anthropic, a empresa planeja expandir seu uso em breve para atingir mais usuários. A empresa implementou políticas rígidas que proíbem o uso de suas ferramentas para campanhas políticas e lobby, alinhando-se à abordagem adotada por outros fornecedores de GenAI para evitar interferência eleitoral. 🛡️🙅♂️
- 🛡️ Comitê Europeu de Proteção de Dados Instado a Rejeitar a Tática ...
- Fermentação O Transformador de Jogos na Produção Alternativa de Fru...
- 🌩️ Neara Usando IA e Aprendizado de Máquina para Prever o Impacto d...
A timing deste desenvolvimento é significativo. Este ano, um número recorde de países, representando quase metade da população global, tem eleições nacionais agendadas. A necessidade de informações confiáveis e precisas é mais crucial do que nunca. Em resposta a essa demanda urgente, várias empresas de IA implementaram medidas para evitar que sua tecnologia seja usada de forma inadequada ou manipulada para interferir nas eleições. ⏰🌍
Por exemplo, a OpenAI, a organização por trás do ChatGPT, introduziu diretrizes rigorosas para o uso de seu chatbot de IA em campanhas políticas. A OpenAI proíbe explicitamente a criação de bots que se façam passar por candidatos ou governos reais, distorçam como funciona a votação ou desencorajem as pessoas a votar. Em uma abordagem semelhante ao Prompt Shield, a OpenAI usa sistemas de detecção que direcionam os usuários do ChatGPT para um site apartidário chamado CanIVote.org, mantido pela National Association of Secretaries of State (Associação Nacional dos Secretários de Estado), para obter informações sobre logística de votação. Isso garante que os usuários do ChatGPT recebam respostas confiáveis para suas perguntas. 💬🔎
Embora algumas plataformas estejam tomando medidas proativas para evitar que a tecnologia de IA seja usada para enganar ou manipular eleitores, o Congresso dos EUA ainda não aprovou uma legislação que aborde o papel da IA na política. Embora haja apoio bipartidário, a legislação federal tem enfrentado atrasos. Em nível estadual, no entanto, mais de um terço dos estados dos EUA introduziram ou aprovaram projetos de lei visando deepfakes em campanhas políticas. A ausência de uma legislação abrangente levou empresas como a Anthropic e a OpenAI a implementar suas próprias medidas para proteger a integridade das eleições. 📜🛡️
Até mesmo gigantes da tecnologia como o Google e o Meta (anteriormente Facebook) se juntaram à luta contra o uso indevido da IA na política. O Google agora exige divulgações proeminentes para anúncios políticos que usam o GenAI em suas plataformas, incluindo YouTube e Google Search, principalmente se os anúncios apresentarem imagens ou sons alterados de forma sintética. O Meta, por sua vez, proibiu campanhas políticas de usar ferramentas GenAI em publicidade em todas as suas propriedades. Essas medidas visam promover a transparência e evitar a disseminação de conteúdo manipulado durante as campanhas eleitorais. 👀🚫
Em conclusão, o desenvolvimento e a implementação de tecnologias como o Prompt Shield por empresas como a Anthropic são etapas cruciais no combate à interferência eleitoral e à disseminação de desinformação. Elas fornecem aos usuários fontes autorizadas de informações, garantindo que tenham orientações precisas sobre os processos de votação e os candidatos. Embora ainda haja necessidade de uma legislação abrangente, tanto em nível nacional quanto internacional, os esforços das empresas de IA para se autorregular e proteger as eleições são louváveis. Ao priorizar a integridade dos processos democráticos, essas empresas estão fazendo contribuições valiosas que têm um impacto duradouro em nossa sociedade. 🌟🗽
🔎 P&R: Abordando Tópicos Adicionais de Interesse 🔍
P: O Prompt Shield pode detectar desinformação e notícias falsas relacionadas a eleições?
R: A função principal do Prompt Shield é redirecionar os usuários para fontes autorizadas de informações eleitorais. Embora ajude os usuários a acessarem recursos precisos e confiáveis, seu papel na detecção de desinformação nas respostas do chatbot é limitado. Os usuários devem empregar pensamento crítico e verificar os fatos para avaliar as informações recebidas de qualquer fonte.
P: O Prompt Shield está disponível apenas para usuários nos Estados Unidos?
R: Atualmente, o Prompt Shield é especificamente projetado para usuários baseados nos EUA do chatbot GenAI, Claude. No entanto, à medida que a Anthropic continua aprimorando a tecnologia, é provável que eles expandam sua disponibilidade para usuários em outros países, dependendo da demanda por informações relacionadas a eleições.
P: Qual impacto de longo prazo o Prompt Shield e tecnologias similares podem ter em eleições no mundo todo?
R: O Prompt Shield e tecnologias similares destacam a crescente preocupação com a interferência nas eleições e a disseminação de desinformação. Ao redirecionar os usuários para fontes autorizadas, essas tecnologias capacitam as pessoas a tomarem decisões informadas. A longo prazo, elas podem contribuir para processos eleitorais mais transparentes e confiáveis globalmente.
Referências
- Anthropic: A Startup de IA Bem Financiada
- Alucinação e IA: O Desafio e Soluções
- OpenAI Proíbe Uso Indevido do ChatGPT para Campanhas Políticas
- Legislação de Deepfake nos Estados Unidos
- Medidas do Google Contra o Uso Indevido de IA em Anúncios Políticos
🌐✨ Você encontrou algum chatbot de IA que forneceu informações enganosas sobre política ou eleições? Compartilhe sua experiência nos comentários abaixo! E não se esqueça de compartilhar este artigo em sua plataforma de mídia social favorita! 🚀📣
