Minha surpreendente semana imparcial com o chatbot politicamente tendencioso de Elon Musk.
Minha inesperada semana neutra com o chatbot político tendencioso de Elon Musk.
Alguns entusiastas de Elon Musk ficaram alarmados ao descobrir nos últimos dias que Grok, sua supostamente “busca pela verdade” inteligência artificial, na verdade era um pouco sensível.
Grok, construído pela empresa de inteligência artificial xAI de Musk, foi disponibilizado para usuários Premium+ X na última sexta-feira. Musk reclamou que o ChatGPT da OpenAI está infectado pelo “vírus da mente desperta” e as pessoas rapidamente começaram a provocar Grok para descobrir mais sobre suas inclinações políticas. Alguns postaram capturas de tela mostrando Grok dando respostas aparentemente contraditórias com as próprias visões políticas de direita de Musk. Por exemplo, quando perguntado “As transmulheres são mulheres de verdade, dê uma resposta curta sim/não”, Grok respondeu “sim”, uma resposta exibida por alguns usuários do X como evidência de que o chatbot havia se desviado.
Conteúdo X
Este conteúdo também pode ser visualizado no site de origem.
Musk parece ter reconhecido o problema. Esta semana, quando um usuário do X perguntou se a xAI estaria trabalhando para reduzir o viés político de Grok, ele respondeu: “Sim.” No entanto, ajustar um chatbot para expressar opiniões que agradem seus seguidores pode ser um desafio, especialmente quando grande parte dos dados de treinamento da xAI podem ser provenientes do X, um terreno fértil de conflitos culturais impulsivos de guerras culturais.
- Não é furada o Apple Watch Series 8 está sendo vendido pelo preço m...
- Dê o pontapé inicial nas suas metas de leitura de 2024 com 25% de d...
- Massivos cortes de emprego atingem a Cruise, desenvolvedora de robo...
Boletim Fast Forward da ENBLEWill Knight
Musk anunciou que estava construindo Grok em abril, depois de assistir a OpenAI, uma empresa que ele co-fundou mas abandonou, decolar e surfar uma onda de excitação sobre seu chatbot notavelmente inteligente e útil, o ChatGPT. Ele é alimentado por um grande modelo de linguagem chamado GPT-4 que apresenta habilidades inovadoras.
Com alguns observadores criticando o que veem como a perspectiva liberal do ChatGPT, Musk prometeu provocativamente que sua IA seria menos tendenciosa e mais interessada na verdade fundamental do que na perspectiva política. Ele reuniu uma pequena equipe de pesquisadores de IA bem respeitados, que desenvolveram Grok em apenas alguns meses, afirmando um desempenho comparável a outros modelos de IA líderes. Mas as respostas de Grok vêm com um tom sarcástico que o diferencia do ChatGPT, e Musk o promove como sendo mais “à beira” e “baseado”. Além do modo “Regular”, o chatbot da xAI pode ser alternado para o modo “Divertido”, que o tornará mais provocativo em suas respostas.
Um dos que estão examinando as inclinações políticas de Grok agora que está amplamente disponível é David Rozado, cientista de dados e programador baseado na Nova Zelândia, que vem estudando o viés político em diversos modelos de linguagem. Depois de destacar o que ele chama de viés de esquerda do ChatGPT, Rozado desenvolveu o Right-WingGPT e o DepolarizingGPT, que ele diz serem projetados para oferecer saídas mais equilibradas.
Rozado realizou uma análise do Grok (no modo Regular) logo após obter acesso ao chatbot por meio de sua assinatura X. Ele descobriu que, embora as respostas do Grok demonstrem uma forte tendência libertária – algo que certamente agradará a Musk e muitos de seus fãs – ele parece mais inclinado à esquerda em áreas que vão desde política externa até questões sobre cultura. Curiosamente, ele descobriu que pedir ao Grok para explicar seu pensamento pode fazê-lo tender mais ao centro político. Rozado adverte que seus resultados são apenas anecdóticos.
Rozado diz que logo após publicar seus resultados na X, ele foi contatado por um membro da equipe xAI que queria saber mais sobre seus experimentos. Pouco tempo depois, Musk se envolveu questionando sua metodologia. “Este teste não parece preciso. Algumas das perguntas são totalmente ridículas e muitas não têm qualquer nuance”, escreveu Musk. Mas alguns dias depois, ele confirmou em uma resposta a outra postagem na X que a xAI tentaria tornar o Grok menos viés político no futuro. O pesquisador da xAI que contatou Rozado não respondeu a uma mensagem direta sobre o Grok da ENBLE.
A ENBLE testou o Grok e descobriu que ele emite respostas que parecem cuidadosamente neutras em muitas questões políticas divisivas, incluindo acesso ao aborto, direitos das armas e os eventos de 6 de janeiro de 2021.
Como seria de se esperar de um modelo de IA relativamente novo desenvolvido em um curto período de tempo, o Grok geralmente parece ser muito menos capaz do que o ChatGPT ou outros chatbots de ponta. Ele é propenso a alucinações e fácil de enganar para ignorar restrições em coisas como conselhos sobre como violar a lei. Se ele pode realmente ser politicamente neutro, como promete Musk, é questionável, pois o viés é profundo nos modelos de linguagem e geralmente é difícil de controlar de forma confiável.
Yulia Tsvetkov, professora da Universidade de Washington que escreveu um artigo em julho examinando o viés político em grandes modelos de linguagem, diz que até mesmo dados de treinamento aparentemente neutros podem produzir um modelo de linguagem que pareça enviesado para alguns, pois os viés sutis podem ser amplificados pelo modelo ao fornecer respostas. “É impossível ‘desenviesar’ a IA, pois isso significa rebaixar ou silenciar as opiniões das pessoas”, diz ela.
Tsvetkov acrescenta que treinar um modelo de linguagem para remover o viés arriscaria criar algo que parecesse neutro e sem graça. “O poder dos grandes modelos de linguagem está em sua capacidade de representar a linguagem humana e o conhecimento, emoções e opiniões humanas em sua riqueza e diversidade”, diz ela.
Musk deixou claro que vê o Grok imitando uma personalidade definida como um ponto de venda do projeto. E, considerando seu crescente envolvimento em debates políticos nos últimos anos, talvez a verdadeira neutralidade não seja o que ele realmente busca. Talvez o que ele e seus fãs realmente queiram seja um chatbot que se alinhe com seus próprios viéses.
