O que é o Projeto Q*? A misteriosa descoberta de IA, explicada | ENBLE
O que é o Projeto Q*? A fascinante revelação da Inteligência Artificial, desvendada | ENBLE
Entre a agitação de especulações em torno da demissão e reintegração repentina do CEO da OpenAI, Sam Altman, houve uma pergunta central no coração da controvérsia. Por que Altman foi demitido pelo conselho em primeiro lugar?
Talvez finalmente tenhamos parte da resposta, e isso tem a ver com o manejo de um misterioso projeto da OpenAI com o codinome interno “Q*” – ou Q Star. As informações são limitadas, mas aqui está tudo o que sabemos até agora sobre os desenvolvimentos potencialmente revolucionários.
O que é o Projeto Q*?
Antes de seguir em frente, deve-se notar que todos os detalhes sobre o Projeto Q* – incluindo sua existência – vêm de um único relatório. Repórteres da Reuters disseram em 22 de novembro que receberam as informações de “duas pessoas familiarizadas com o assunto”. De acordo com o artigo, o Projeto Q* era um novo modelo que se destacava em realizar matemática, algo com que os atuais modelos de linguagem grandes como o ChatGPT lutavam. Ainda estava relatadamente apenas no nível de resolver matemática de escola primária, mas como ponto de partida, parecia promissor.
Parece inofensivo o suficiente, certo? Bem, nem tão rápido. A existência do Q* aparentemente foi assustadora o suficiente para fazer com que vários pesquisadores da equipe escrevessem uma carta ao conselho para alertar sobre o projeto, alegando que poderia “ameaçar a humanidade”.
Além disso, pouco mais se sabe sobre o quão grande é o projeto do Q*, quais são seus objetivos ou quanto tempo está em desenvolvimento.
- Agora é um momento fantástico para aproveitar uma oferta de cortado...
- Compre um iPad de 9ª geração pelo preço mais baixo de todos os temp...
- 3 maneiras fáceis de melhorar rapidamente o desempenho do Fortnite ...
O Q* realmente foi o motivo pelo qual Sam Altman foi demitido?
Desde o início da especulação em torno da demissão de Sam Altman, um dos principais suspeitos foi sua abordagem em relação à segurança. Altman foi quem pressionou a OpenAI a se afastar de suas origens como organização sem fins lucrativos e se movimentar em direção à comercialização. Isso começou com o lançamento público do ChatGPT e o eventual lançamento do ChatGPT Plus, ambos impulsionando essa nova era de IA generativa, levando empresas como o Google a tornarem pública sua própria tecnologia também.
As preocupações éticas e de segurança em torno desse acesso público à tecnologia sempre estiveram presentes, apesar de toda a empolgação com relação a como ela já mudou o mundo. Preocupações maiores sobre quão rápido a tecnologia estava se desenvolvendo também foram bem documentadas, especialmente com o salto do GPT-3.5 para o GPT-4. Alguns acham que a tecnologia está avançando rápido demais sem regulamentação ou supervisão suficiente, e, de acordo com o relatório da Reuters, “comercializar avanços antes de entender as consequências” foi listado como um dos motivos para a demissão inicial de Altman.
Embora não saibamos se Altman foi mencionado especificamente na carta sobre o Q* mencionada acima, também está sendo citado como um dos motivos para a decisão do conselho de demitir Altman – que desde então foi revertida.
Vale mencionar que apenas alguns dias antes de ser demitido, Altman mencionou em uma cúpula de IA que estava “na sala” algumas semanas antes, quando um importante “fronteira da descoberta” avançou. O timing indica que isso poderia ter sido em referência a uma descoberta no Q*, e, se for o caso, confirmaria o envolvimento íntimo de Altman no projeto.
Juntando as peças, parece que as preocupações com a comercialização têm estado presentes desde o início, e seu tratamento do Q* foi apenas a gota d’água. O fato de o conselho estar tão preocupado com o rápido desenvolvimento (e talvez com a atitude de Altman em relação a isso) a ponto de demitir seu CEO estrela é chocante.
O fato de Altman estar de volta ao comando deixa o estado atual do Q* e seu futuro em questão.
Estamos realmente no início da IAG?
A IAG, que significa inteligência artificial geral, é o objetivo da OpenAI desde o início. Embora o termo signifique coisas diferentes para pessoas diferentes, a OpenAI sempre definiu a IAG como “sistemas autônomos que superam os humanos na maioria das tarefas economicamente valiosas”, como diz o relatório da Reuters. Nada nessa definição faz referência a “sistemas autoconscientes”, que geralmente é o que se presume que a IAG signifique.
No entanto, à primeira vista, os avanços na matemática da IA podem não parecer um grande passo nessa direção. Afinal, temos computadores nos ajudando com matemática há muitas décadas. Mas os poderes dados ao Q* não se resumem a uma calculadora. Ser alfabetizado em matemática requer lógica e raciocínio semelhantes aos humanos, e os pesquisadores parecem acreditar que isso é importante. Com a escrita e a linguagem, um LLM pode ser mais fluido em suas respostas e respostas, oferecendo frequentemente uma ampla gama de respostas a perguntas e sugestões. Mas a matemática é exatamente o oposto, onde muitas vezes há apenas uma única resposta correta para um problema. O relatório da Reuters sugere que os pesquisadores de IA acreditam que a matemática até mesmo poderia ser “aplicada à pesquisa científica inovadora”.
Obviamente, o Q* parece ainda estar nos estágios iniciais de desenvolvimento, mas parece ser o maior avanço que vimos desde o GPT-4. Se o hype for verdadeiro, certamente deve ser considerado um passo importante no caminho em direção à IAG, conforme definido pela OpenAI. Dependendo da sua perspectiva, isso pode ser motivo de empolgação otimista ou medo existencial.
