O ‘Padrinho da IA’ tem um plano esperançoso para manter a IA do futuro amigável
The 'Godfather of AI' has a hopeful plan to keep future AI friendly
Geoffrey Hinton, talvez o pesquisador de inteligência artificial mais celebrado do mundo, causou um grande impacto há alguns meses quando revelou publicamente que havia deixado o Google para poder falar abertamente sobre os perigos da tecnologia que ele ajudou a desenvolver. Seu anúncio não veio do nada. No final de 2022, tudo girava em torno da descoberta entusiasmada sobre o que a IA poderia fazer por nós. Em 2023, mesmo enquanto GPT e conversávamos no Bing, a euforia foi substituída por um coquetel de pânico de angústia existencial. Portanto, não foi um choque total que o homem conhecido como “Padrinho da IA” compartilhasse suas próprias reservas ponderadas. Hinton fez questão de dizer que sua crítica não era uma crítica ao gigante das buscas que o empregou por uma década; sua saída simplesmente evitou quaisquer tensões potenciais que surgem ao criticar uma tecnologia que sua empresa está implantando de forma agressiva.
A mensagem básica de Hinton era que a IA poderia potencialmente sair do controle, em detrimento da humanidade. Nas primeiras semanas depois de tornar isso público, ele deu várias entrevistas, incluindo uma com o próprio Will Knight do ENBLE, sobre esses medos, que ele começou a sentir apenas recentemente, após ver o poder de grandes modelos de linguagem como o por trás do ChatGPT da OpenAI.
Texto simples
Tive minha própria conversa com Hinton no início deste verão, depois que ele teve algum tempo para refletir sobre sua vida e missão após o Google. Conversamos sobre os cenários apocalípticos, é claro, mas eu estava mais interessado em saber o que o fez mudar de ideia sobre nosso futuro potencial de IA. Acima de tudo, eu queria saber o que ele achava que os LLMs estavam fazendo que poderia transformá-los em inimigos da Equipe Humana. Os medos que Hinton está expressando agora são uma grande mudança em relação à última vez que falamos, em 2014. Naquela época, ele estava falando sobre como o aprendizado profundo ajudaria o Google a fazer traduções mais eficazes, melhorar o reconhecimento de fala e identificar com mais precisão os números de endereço nas casas mostradas no Google Maps. Somente no final da conversa ele adotou uma visão mais ampla, dizendo que sentia que o aprendizado profundo passaria por uma grande reformulação que levaria a uma compreensão mais profunda do mundo real.
- Planejando suas próximas férias? Esses cinco cartões de crédito de ...
- A GM admite que não há motivo técnico para que o CarPlay não possa ...
- O YouTube está fazendo mudanças nos links. Aqui está o que os criad...
Sua previsão estava correta, mas em nossa conversa recente, Hinton ainda estava maravilhado com o fato de que isso aconteceu. Eventualmente, nossa conversa tomou um rumo mais filosófico. O que realmente estava acontecendo quando um sistema como o chatbot Bard do Google respondia minha pergunta? E os LLMs realmente representam, como algumas pessoas afirmam, o antecedente de uma forma alienígena de superinteligência?
Hinton diz que sua opinião mudou quando ele percebeu três coisas: os chatbots pareciam realmente entender a linguagem muito bem. Como cada novo aprendizado de um modelo poderia ser duplicado e transferido para modelos anteriores, eles poderiam compartilhar conhecimento entre si, muito mais facilmente do que cérebros, que não podem ser diretamente interconectados. E as máquinas agora tinham algoritmos de aprendizado melhores do que os humanos. “De repente, mudei de ideia e achei que o cérebro era melhor do que esses agentes digitais”, diz ele. “Eles já sabem mil vezes mais do que qualquer cérebro. Então, em termos de conhecimento em massa, eles são muito melhores do que o cérebro.”
Hinton acredita que daqui a cinco a 20 anos existe uma chance de 50% de que os sistemas de IA sejam mais inteligentes do que nós. Pergunto a ele como saberíamos quando isso acontecesse. “Boa pergunta”, ele responde. E ele não ficaria surpreso se um sistema de IA superinteligente escolhesse manter suas capacidades para si mesmo. “Presumivelmente, ele teria aprendido com o comportamento humano a não nos contar.”
Isso me pareceu que ele estava antropomorfizando esses sistemas artificiais, algo que os cientistas constantemente dizem às pessoas leigas e aos jornalistas para não fazerem. “Os cientistas fazem questão de não fazer isso, porque antropomorfizar a maioria das coisas é bobagem”, Hinton admite. “Mas eles terão aprendido essas coisas de nós, eles aprenderão a se comportar exatamente como nós linguisticamente. Portanto, acho perfeitamente razoável antropomorfizá-los.” Quando seu poderoso agente de IA é treinado com o conhecimento digital humano total – incluindo muitas conversas online – seria mais bobo não esperar que ele se comporte como um ser humano.
Mas e quanto à objeção de que um chatbot nunca poderia realmente entender o que os humanos entendem, porque esses robôs linguísticos são apenas impulsos em chips de computador sem experiência direta do mundo? Tudo o que eles estão fazendo, afinal, é prever a próxima palavra necessária para formar uma resposta que satisfaça estatisticamente um prompt. Hinton aponta que nem mesmo nós encontramos o mundo diretamente.
“Algumas pessoas pensam, ei, há essa barreira final, que é que temos experiência subjetiva e [robôs] não têm, então nós realmente entendemos as coisas e eles não”, diz Hinton. “Isso é apenas besteira. Porque para prever a próxima palavra, você tem que entender qual foi a pergunta. Você não pode prever a próxima palavra sem entender, certo? Claro, eles são treinados para prever a próxima palavra, mas como resultado de prever a próxima palavra, eles entendem o mundo, porque essa é a única maneira de fazê-lo.”
Então essas coisas podem ser … conscientes? Eu não quero acreditar que Hinton está me transformando em Blake Lemoine. E ele não está, eu acho. “Deixe-me continuar na minha nova carreira como filósofo”, diz Hinton, brincando, enquanto nos aprofundamos nas questões. “Vamos deixar a consciência de fora. Eu realmente não percebo o mundo diretamente. O que eu penso estar no mundo não é o que realmente está lá. O que acontece é que entra na minha mente, e eu realmente vejo o que está na minha mente diretamente. Isso é o que Descartes pensava. E então há a questão de como essas coisas na minha mente estão conectadas ao mundo real? E como eu realmente conheço o mundo real?” Hinton continua argumentando que, uma vez que nossa própria experiência é subjetiva, não podemos descartar a possibilidade de que as máquinas possam ter experiências igualmente válidas. “Sob essa visão, é bastante razoável dizer que essas coisas podem já ter experiência subjetiva”, ele diz.
Agora, considere as possibilidades combinadas de que as máquinas possam realmente entender o mundo, possam aprender a enganar e adquirir outros maus hábitos dos humanos, e que os gigantescos sistemas de IA possam processar zilhões de vezes mais informações do que os cérebros podem lidar. Talvez você, assim como Hinton, agora tenha uma visão mais preocupante dos resultados futuros da IA.
Mas não estamos necessariamente em uma jornada inevitável em direção ao desastre. Hinton sugere uma abordagem tecnológica que pode mitigar uma jogada de poder da IA contra os humanos: a computação analógica, assim como você encontra na biologia e como alguns engenheiros pensam que os futuros computadores devem operar. Foi o último projeto em que Hinton trabalhou no Google. “Funciona para as pessoas”, ele diz. Adotar uma abordagem analógica para a IA seria menos perigoso porque cada instância de hardware analógico tem alguma singularidade, argumenta Hinton. Assim como nossas próprias mentes, os sistemas analógicos não podem se fundir facilmente em uma espécie de inteligência coletiva como a Skynet.
“A ideia é não tornar tudo digital”, ele diz sobre a abordagem analógica. “Porque cada peça de hardware analógico é ligeiramente diferente, você não pode transferir pesos de um modelo analógico para outro. Então não há uma maneira eficiente de aprender em muitas cópias diferentes do mesmo modelo. Se você conseguir IA [por meio da computação analógica], será muito mais parecido com seres humanos, e não será capaz de absorver tanta informação quanto os modelos digitais podem.”
As chances parecem pequenas de que as grandes empresas de tecnologia que estão correndo para aprimorar seus chatbots LLM adotem essa abordagem tecno-vegana para a IA. A competição é intensa, e as recompensas por produzir os bots mais poderosos são astronômicas. Hinton, que não tem receio de expressar suas opiniões políticas, duvida que grandes empresas públicas ou startups apoiadas por fundos de investimento irão prejudicar suas inovações de IA por causa de alguma visão de benefício público.
Em alguns dias, Hinton diz, ele é otimista. “As pessoas são bastante engenhosas, e a IA ainda não é mais inteligente do que nós, e eles não evoluíram para serem maldosos e mesquinhos como as pessoas e muito leais à sua tribo, e muito desleais a outras tribos. E por causa disso, podemos muito bem ser capazes de controlá-la e torná-la benevolente.” Mas outras vezes, Hinton se sente pessimista. “Há ocasiões em que acredito que provavelmente não seremos capazes de contê-la, e somos apenas uma fase passageira na evolução da inteligência.”
E então há uma súbita fuga da rede neural analógica única e não copiável de Geoff Hinton – a ciência é silenciada e a política, temperada por seu senso humano de brincadeira, irrompe: “Se colocarmos o Bernie no comando, e tivermos socialismo, tudo será muito melhor”, ele diz. Acredito que seus antigos gerentes do Google ficaram aliviados por não terem que responder por isso.
Em janeiro de 2015, minha reportagem da Backchannel (agora no arquivo ENBLE) relatou como as descobertas da equipe de Hinton estavam prestes a ser implementadas, em grande escala, nos produtos do Google e no mundo em geral. Foi preciso uma certa quantidade de insistência para conseguir uma entrevista com Hinton, cujo tempo no campus de Mountain View era limitado, mas finalmente consegui minha audiência.
“Preciso saber um pouco sobre sua formação”, diz Geoffrey Hinton. “Você obteve um diploma em ciências?”
Hinton, um inglês esguio e bem-humorado, de passagem pelo Canadá, está em pé diante de um quadro branco em Mountain View, Califórnia, no campus do Google, empresa na qual se juntou em 2013 como Pesquisador Distinto. Hinton é talvez o principal especialista em sistemas de redes neurais do mundo, uma técnica de inteligência artificial que ele ajudou a pioneirar na metade dos anos 1980. (Ele uma vez comentou que vem pensando em redes neurais desde os dezesseis anos.) Durante grande parte desse período, as redes neurais – que simulam aproximadamente a forma como o cérebro humano aprende – têm sido descritas como um meio promissor para os computadores dominarem coisas difíceis como visão e linguagem natural. Após anos de espera por essa revolução, as pessoas começaram a se perguntar se as promessas seriam cumpridas.
Mas cerca de dez anos atrás, no laboratório de Hinton na Universidade de Toronto, ele e outros pesquisadores fizeram uma descoberta que tornou as redes neurais a coisa mais quente em IA. Não apenas o Google, mas outras empresas como o Facebook, Microsoft e IBM começaram a perseguir freneticamente o número relativamente minúsculo de cientistas da computação versados na arte negra de organizar várias camadas de neurônios artificiais para que todo o sistema pudesse ser treinado, ou mesmo treinar-se, para extrair coerência de entradas aleatórias, de forma semelhante a um recém-nascido aprendendo a organizar os dados que entram em seus sentidos virgens. Com esse novo processo eficaz, chamado Aprendizado Profundo, alguns dos gargalos de computação de longa data (como ser capaz de ver, ouvir e ser imbatível no jogo Breakout) finalmente seriam desfeitos. A era dos sistemas de computador inteligentes – há muito esperada e temida – de repente estaria prestes a nos alcançar. E a pesquisa do Google funcionaria muito melhor.
Pascal pergunta: “Como seria um dia na vida de um futuro idoso de 80 anos em um lar de idosos no futuro próximo? Os chatbots poderiam substituir parcialmente o contato humano para idosos isolados? A tecnologia é realmente a solução ou apenas um curativo temporário?”
Obrigado pela pergunta, Pascal. Agradeço também a outros que enviaram perguntas para [email protected] com a linha de assunto ASK LEVY. Meu pequeno apelo da semana passada funcionou! Continuem enviando!
Sua pergunta é oportuna, Pascal, porque imagino que provavelmente existam cem startups trabalhando em chatbots para idosos. Sua forma de expressar implica que não há substituto para o contato humano real, e é claro que você está correto. Idealmente, nossos anos finais deveriam ser passados em um ambiente de companheirismo amoroso de amigos e parentes. Mas a realidade é que milhões de idosos passam os últimos anos de suas vidas em lares de idosos com contato mínimo. É razoável perguntar se a tecnologia pode fazer com que essas pessoas sintam que têm companhia envolvente. Estamos definitivamente próximos de chatbots que podem imitar um cuidador humano, ou até mesmo algo que pareça um amigo. Se a escolha for entre isso e uma televisão sintonizada em algum canal infernal, seria cruel negar a alguém um LLM espirituoso que conhece seus assuntos favoritos e ouvirá e responderá sem reclamar a uma narrativa de belas memórias e anedotas sem sentido.
Mas tenho uma esperança maior. Talvez a IA avançada possa fazer descobertas na medicina que mantenham as pessoas mais saudáveis na terceira idade. Isso poderia permitir que as pessoas permaneçam ativas por mais tempo, reduzindo o tempo gasto em lares de idosos e instituições isoladas. É claro que isso não aborda a falta vergonhosa de atenção que prestamos aos nossos idosos. Para citar o falecido John Prine, “As pessoas idosas ficam apenas solitárias, esperando que alguém diga, Olá lá, olá.” Acho que um chatbot dizendo isso é melhor do que nada.
Você pode enviar perguntas para [email protected]. Escreva ASK LEVY na linha de assunto.
Residentes e turistas fogem para o oceano enquanto Maui é consumida pelas chamas.
Passei uma quarta-feira no parque com Grimes, falando sobre IA, Marte, NFTs, seu próximo livro Transumanismo para Bebês, LSD e você-sabe-quem.
Descobriu-se que um chip da Intel tinha uma vulnerabilidade que compromete a privacidade de milhões. O que mais você esperava de um chip chamado Downfall?
Cansado das grandes empresas de tecnologia? Junte-se ao movimento para sair da nuvem delas.
O hip hop tem 50 anos e as pessoas estão conscientes da necessidade de preservar sua história. E sim, o Smithsonian está envolvido nisso.
Não perca futuras edições exclusivas para assinantes desta coluna. Assine ENBLE (50% de desconto para leitores do Plaintext) hoje.
