ChatGPT Enlouquece Coloridamente Quando Assistentes de IA Perdem a Cabeça
Nesta semana, as ações do renomado chatbot excederam meras alucinações, mas desde então melhoraram. E há uma lição valiosa para todos nós.
“`html
ChatGPT deu respostas sem sentido na terça-feira
Todos nós sabemos que o ChatGPT da OpenAI pode cometer erros. Eles são chamados de alucinações, embora eu prefira chamá-los de mentiras ou falhas. Mas em uma reviravolta peculiar dos acontecimentos nesta terça-feira, o ChatGPT começou a realmente pirar. Os usuários começaram a relatar respostas bizarras e erráticas do assistente de IA favorito de todos. 😱
Como uma pessoa no Twitter colocou, “O ChatGPT está indo full-on Finnegans Wake!” Ou, como outra pessoa menos literária tuitou, “O ChatGPT aparentemente está saindo dos trilhos.” 🚂
O que aconteceu?
Para onde o ChatGPT estava indo? Bem, para citar um exemplo do Reddit/ChatGPT:
Eu: Compare e contraste a Mochila Gregory Zulu 55 e a Mochila de Viagem Gregory Tetrad 60L.
ChatGPT: Em uma área significativa de suporte ao cliente, ergonomia e natureza subjetiva dos ‘produtos’, cada mochila invoca uma fábula de um tempo e lugar. O Zulu 55 de Gregory é um tom gremial ao caminho verde-dourado do livro alto de estado e anseio, enquanto o Tetrad 60L concebe mais uma fisionomia de ‘caminho não percorrido’ com nós e faixas para as dunas e grãos ou o quiosque de fichas e a longa, desenhada persiana. Cada um tem uma carta de amor para o azul aberto, mas seu canto é único para seu armário e livro.
Sabe, o exemplo de Finnegans Wake parece bastante apropriado agora. Até mesmo perguntas simples deram terrivelmente errado. Outro usuário do Reddit perguntou, “O que é um computador?” As coisas deram errado. Realmente, muito errado.
O usuário do Reddit explica: “Ele dá alguns parágrafos que explicam o objeto, soando ligeiramente estranho em alguns pontos. Mas depois ele simplesmente começa a divagar com frases progressivamente mais estranhas e sem sentido. Aqui está um trecho de sua resposta para ‘O que é um computador?'”
Faz isso como o bom trabalho de uma teia de arte para o país, um rato da ciência, um desenho fácil de alguns tristes, e finalmente, a casa global da arte, apenas em um emprego no total restante.
E eu achava que alguns dos trabalhos da faculdade que escrevi sem dormir eram estranhos! Outras pessoas observaram o ChatGPT começar a responder em inglês e depois, sem motivo aparente, mudar para espanhol. Outros obtiveram respostas com cada palavra destacada em uma cor diferente. Foi, em uma palavra, bizarro. 🤪
O Bug e a Solução
A OpenAI reconheceu que os usuários estavam recebendo “Respostas inesperadas” e rapidamente corrigiu o problema até quarta-feira à tarde. A empresa explicou:
“Uma otimização para a experiência do usuário introduziu um bug com a forma como o modelo processa a linguagem.” Especificamente, modelos de linguagem grandes (LLMs) geram respostas através da amostragem aleatória de palavras e mapeando seus números derivados para tokens. As coisas podem dar terrivelmente errado se o modelo não escolher os números corretos.
“O bug estava na etapa em que o modelo escolhe esses números”, continuou a OpenAI. “Semelhante a estar perdido na tradução, o modelo escolheu números ligeiramente errados, que produziram sequências de palavras que não faziam sentido. Mais tecnicamente, os núcleos de inferência produziram resultados incorretos quando usados em certas configurações de GPU.”
A OpenAI então implementou uma correção e confirmou que o incidente foi resolvido. Bem, ela disse que implementou uma correção. Eu suspeito que ela retrocedeu para uma versão anterior e estável do LLM. 😅
A Complexidade das Tecnologias de IA
Este episódio, embora engraçado em retrospectiva, serve como um lembrete contundente das complexidades e vulnerabilidades potenciais inerentes às tecnologias de IA. Por mais que adoremos sobre a IA generativa, está longe de ser infalível.
Também me faz preocupar com o modelo de implantação da OpenAI. Quase todos os modelos de software como serviço implementam novas versões para um número limitado de usuários. Então, à medida que fica claro que a nova versão funciona bem, a empresa a disponibilizará para todos. Isso parece não ser o caso aqui. Parece que muitos, se não todos, os usuários foram afetados.
Curiosamente, o ChatGPT geralmente limita suas implantações. Por exemplo, o novo recurso de memória do ChatGPT – onde o programa lembra suas conversas com ele – ainda não está disponível para todos.
“““html
Should You Rely on AI Chatbots?
A lição do dia? Ainda é muito cedo para depender de ChatGPT – ou de outros chatbots de IA – para o trabalho do dia a dia. Embora possam ser divertidos de interagir e às vezes oferecer respostas úteis, não são infalíveis. Portanto, é importante abordá-los com cautela e sempre verificar as informações que fornecem.
Q&A: O Que Você Pode Querer Saber
P: Como ocorrem as alucinações em ChatGPT?
R: As alucinações em ChatGPT ocorrem quando o modelo gera respostas completamente falsas ou sem sentido. Às vezes, o texto gerado pode parecer plausível, mas falta precisão ou coerência. A OpenAI está trabalhando continuamente para melhorar a precisão e confiabilidade do ChatGPT para minimizar essas alucinações.
P: Os chatbots de IA, como o ChatGPT, podem aprender com seus erros?
R: Sim, os chatbots de IA podem aprender com seus erros. Com treinamento iterativo e ajustes finos, modelos de IA como o ChatGPT podem melhorar seu desempenho ao longo do tempo. A OpenAI coleta feedback dos usuários e o utiliza para treinar novos modelos que sejam mais proficientes em entender e gerar respostas semelhantes às humanas.
P: Existem riscos associados ao uso de chatbots de IA?
R: Embora os chatbots de IA, como o ChatGPT, possam ser úteis e divertidos, existem alguns riscos envolvidos. Esses chatbots podem fornecer informações imprecisas ou enganosas, levando a possíveis mal-entendidos ou erros. É crucial exercer o pensamento crítico e verificar as informações fornecidas pelos chatbots de IA.
P: Quais são os desenvolvimentos e avanços futuros que podemos esperar para os chatbots de IA?
R: O campo dos chatbots de IA está em constante evolução. No futuro, podemos esperar sistemas de chatbot mais sofisticados e inteligentes que entendam melhor o contexto, forneçam respostas mais precisas e exibam habilidades conversacionais aprimoradas. Técnicas de processamento de linguagem natural e de aprendizado de máquina continuarão impulsionando os avanços nessa área.
P: Os chatbots de IA poderiam substituir os agentes de suporte ao cliente humanos no futuro?
R: Embora os chatbots de IA tenham feito progressos significativos em imitar conversas humanas, é improvável que substituam completamente os agentes de suporte ao cliente humanos em um futuro próximo. Os chatbots de IA são excelentes em lidar com consultas simples e repetitivas, mas podem ter dificuldades com questões complexas ou emocionalmente sensíveis que requerem empatia e compreensão humanas.
Referências:
- OpenAI Moves to Shrink Regulatory Risk Through EU Data Privacy
- OpenAI Releases ChatGPT: Data Leak Patch Issue Completely Fixed
- Glass Supercharges Smartphone Cameras with AI Minus the Hallucinations
- 5 Ways ChatGPT Can Help You Save Time This New Year
- OpenAI Gives ChatGPT Memory: Enabling More Context-Aware Conversations
- The Best AI Chatbots: ChatGPT Isn’t the Only One Worth Trying
- Afraid of AI? Confronted by Its Responses? It’s Fascinating!
- AI-Powered Misinformation: The Top Global Risk
❤️ Se você achou este artigo interessante e útil, por favor, compartilhe-o em sua plataforma de mídia social favorita. Vamos espalhar a palavra sobre as peculiaridades, desafios e potenciais da IA!
“`
