Elon Musk Anuncia Grok, um IA ‘Rebelde’ Com Poucas Restrições
Elon Musk revela Grok, uma IA 'Rebelde' com poucas restrições
Na semana passada, Elon Musk voou para o Reino Unido para destacar o risco existencial representado pela inteligência artificial. Poucos dias depois, ele anunciou que sua última empresa, xAI, desenvolveu uma IA poderosa – uma com menos limitações do que a concorrência.
O modelo de IA, chamado Grok (um nome que significa “entender” em círculos tecnológicos), “foi projetado para responder perguntas com um pouco de humor e tem um traço rebelde, então por favor não use se você odeia humor!” diz um anúncio no site da empresa. “Ele também responderá a perguntas picantes que são rejeitadas pela maioria dos outros sistemas de IA.”
O anúncio não explica o que significa “picante” ou “rebelde”, mas a maioria dos modelos de IA comerciais se recusará a gerar conteúdo sexualmente explícito, violento ou ilegal, e são projetados para evitar expressar preconceitos adquiridos a partir de seus dados de treinamento. Sem tais limitações, a preocupação é que um modelo de IA possa ajudar terroristas a desenvolver uma bomba ou resultar em produtos que discriminem os usuários com base em características como raça, gênero ou idade.
A xAI não lista nenhuma informação de contato em seu site, e e-mails enviados para endereços comuns foram devolvidos. Um e-mail enviado para o endereço de imprensa da X recebeu uma resposta automática que dizia “Ocupado agora, por favor volte mais tarde.”
O anúncio da xAI diz que o Grok é construído em cima de um modelo de linguagem chamado Grok-1 que possui 33 bilhões de parâmetros. A empresa afirma ter desenvolvido o Grok em dois meses, um período relativamente curto segundo os padrões da indústria, e também afirma que uma vantagem fundamental é seu “conhecimento em tempo real do mundo via plataforma X,” ou a plataforma anteriormente conhecida como Twitter, que Musk adquiriu por $44 bilhões em 2022.
- A intensificação da vigilância israelense colocou a Cisjordânia em ...
- A Grande Tecnologia Abandonou a Confiança e a Segurança. Agora as S...
- WeWork Acaba de Pedir Falência
Stella Biderman, uma pesquisadora de IA com EleutherAI, um empreendimento de IA de código aberto, diz que as afirmações feitas no anúncio da xAI parecem plausíveis. Biderman sugere que o Grok usará o que é conhecido como “geração aumentada por recuperação” para adicionar informações atualizadas do X em sua saída. Outros modelos de linguagem de ponta fazem isso usando resultados de mecanismos de busca e outras informações.
De acordo com o que foi destacado mais famosamente pelo chatbot inovador da OpenAI, ChatGPT, esses modelos têm se mostrado surpreendentemente capazes nos últimos anos.
Esses modelos se alimentam de enormes quantidades de texto retirados de livros e da web, e então geram texto em resposta a um estímulo. Geralmente, também recebem treinamento adicional de humanos para torná-los menos propensos a produzir saídas ofensivas, rudes ou perigosas, e para fazê-los mais propensos a responder perguntas de maneira coerente e plausivelmente correta, embora ainda sejam propensos a erros e preconceitos.
Os modelos de linguagem desenvolvidos pela OpenAI, Google e startups como Anthropic, Cohere e Inflection AI geralmente se recusam, por exemplo, a dar conselhos sobre como cometer crimes e se esquivam quando solicitados a fornecer material picante.
Não está claro no anúncio da xAI se o Grok foi treinado para ser mais aberto a solicitações consideradas inapropriadas por outros modelos, ou se simplesmente não recebeu o mesmo tipo de treinamento secundário.
A xAI publicou os resultados de vários testes de referência projetados para medir as capacidades de grandes modelos de linguagem. Andrei Barbu, um cientista pesquisador do MIT, diz que os resultados parecem semelhantes a outros modelos populares.
A xAI diz que o Grok foi testado até agora por um pequeno número de usuários, mas agora estará disponível para um grupo maior de pessoas que se inscreverem para ter acesso. Musk disse em um post no X que o modelo estaria disponível para todos os assinantes X Premium+. A xAI não disse que lançará modelos publicamente.
O anúncio para xAI diz que a empresa está trabalhando em vários desafios-chave envolvidos no avanço da inteligência artificial, incluindo a construção de modelos capazes de avaliar a confiabilidade de sua própria saída e solicitar ajuda quando necessário, e criar modelos mais robustos a “ataques adversários” projetados para fazê-los se comportar mal. Ele afirma: “trabalharemos no desenvolvimento de salvaguardas confiáveis contra formas catastróficas de uso malicioso.”
Musk foi um investidor inicial em IA generativa. O bilionário ajudou a OpenAI a começar investindo entre $50 e $100 milhões na empresa em 2015. Ele retirou seu apoio à empresa (que na época era uma organização sem fins lucrativos) em 2018 depois de não conseguir assumir o controle.
Depois que a OpenAI mudou de uma organização sem fins lucrativos para uma empresa com fins lucrativos e aceitou investimentos da Microsoft – e após o sucesso estrondoso do ChatGPT – o homem mais rico do mundo criticou abertamente a OpenAI e acusou seus modelos de linguagem de serem excessivamente “conscientes socialmente”.
Musk então anunciou em julho de 2023 que ele havia formado uma pequena, mas respeitada equipe de pesquisadores de IA para desenvolver formas de IA “menos enviesadas”.
Alguns pesquisadores de IA já tentaram construir modelos de linguagem com uma gama mais diversificada de opiniões políticas. A OpenAI também afirmou que trabalhará para remover os vieses políticos de seus modelos.
No ano desde que Musk assumiu o controle da X, a plataforma reinstalou vários usuários controversos, incluindo os da extrema direita, em consonância com a oposição declarada de seu novo proprietário à moderação de conteúdo nas mídias sociais. Vários estudos constataram o aumento de desinformação na plataforma desde que Musk assumiu o controle.
O anúncio da Grok afirma: “Estamos construindo ferramentas de IA que beneficiem ao máximo toda a humanidade. Acreditamos que é importante projetar ferramentas de IA que sejam úteis para pessoas de todas as origens e visões políticas. Também queremos capacitar nossos usuários com nossas ferramentas de IA, de acordo com a lei. Nosso objetivo com a Grok é explorar e demonstrar essa abordagem em público.”
Outro pesquisador de IA que conhece os planos do xAI, mas não quis ser identificado porque as discussões sobre a empresa são privadas, afirmou que a xAI também está trabalhando em uma ferramenta de codificação que usará o modelo. A Microsoft oferece um plug-in para seu programa de codificação, o Visual Studio Code, que é alimentado por um modelo de linguagem específico para codificação desenvolvido pela OpenAI. Treinar um modelo em código de computador pode melhorar seu desempenho em outras tarefas.
A ENBLE entrou em contato com vários pesquisadores de IA proeminentes, mas não conseguiu encontrar nenhum que tenha acesso à Grok até o momento.
Barbu do MIT diz que, agora que existem tantos bons modelos de linguagem por aí, a pergunta é o que Musk planeja fazer com a Grok e como ele espera ganhar dinheiro com isso. “Eles reuniram pessoas talentosas e parece que agora estão prontos para fazer algo”, ele diz. “Só não está claro o quê.”
