Joe Biden tem uma arma secreta contra a IA assassina. São os burocratas
Joe Biden possui uma arma secreta contra a IA assassina os burocratas
À medida que o primeiro aniversário do ChatGPT se aproxima, os presentes estão chegando para o grande modelo de linguagem que abalou o mundo. Do presidente Joe Biden vem uma “Ordem Executiva sobre o Desenvolvimento e Uso Seguro, Seguro e Confiável da Inteligência Artificial” em tamanho extragrande. E o primeiro-ministro do Reino Unido, Rishi Sunak, organizou uma festa com o tema do extermínio da raça humana, embalada com um acordo de 28 países (contando com a UE como um único país) que promete cooperação internacional para desenvolver a IA de forma responsável. Feliz aniversário!
INSCREVA-SE para receber o Texto simples
Antes que alguém fique muito animado, vamos lembrar que passaram mais de meio século desde que estudos credíveis previram mudanças climáticas desastrosas. Agora que a água está literalmente invadindo nossos pés e o calor está tornando grandes partes da civilização inabitáveis, a ordem internacional mal fez cócegas nos gigatons de dióxido de carbono provenientes de combustíveis fósseis que são lançados na atmosfera. Os Estados Unidos acabam de nomear um negador do clima como o segundo na linha de sucessão presidencial. Será que a regulamentação da IA vai progredir melhor?
- Eleve sua próxima maratona de séries com a Bose Smart Soundbar 600,...
- Elon Musk, conheça a resistência do Twitter
- Adquira um par de Apple AirPods Pro por $189,99 na Amazon e no Walmart
Existe alguma razão para acreditar nisso. Ao contrário da questão do clima, onde uma indústria de trilhões de dólares lançou uma campanha total para desacreditar as ameaças e obstaculizar medidas necessárias para reduzir o carbono, as grandes potências da IA parecem estar pedindo regulamentação. Certamente, eles têm seus próprios interesses em mente, mas pelo menos há uma aceitação de que são necessárias regras. Além disso, ao contrário do caso do clima, os governos estão levando a sério as ameaças à IA relativamente cedo no desenvolvimento da tecnologia. Tanto o plano de Biden quanto o acordo internacional representam esforços sérios e dignos de elogio para lidar com a IA antes que ela nos domine.
Dado isso, quase parece mesquinho criticar o conteúdo real. Mas mesmo assim vou fazer isso. Vamos começar com a ordem executiva de Biden. Li todas as 19.811 palavras do “discurso do governo”, para que você não precise fazer isso. No final, eu estava querendo um Dramamine. Como o presidente pretende incentivar os benefícios da IA enquanto controla seu lado obscuro? Liberando uma onda humana de burocracia. O documento pede sem cerimônia a criação de novos comitês, grupos de trabalho, juntas e forças-tarefa. Também há um chamado consistente para acrescentar supervisão de IA às tarefas dos atuais funcionários civis e indicados políticos.
Entre as coisas que o documento não possui está uma base legal firme para todas as regulamentações e mandatos que podem resultar do plano: ordens executivas geralmente são anuladas pelos tribunais ou substituídas pelo Congresso, que está considerando sua própria regulamentação de IA. (Embora não fique esperando muito, pois um fechamento do governo está se aproximando.) E muitas das soluções de Biden dependem da autorregulação pela indústria que está sendo examinada, cujas grandes potências tiveram uma grande contribuição para a iniciativa.
Não se pode criticar a ordem de Biden por falta de abrangência. Praticamente todos os pontos sensíveis da IA são tratados de alguma forma, mesmo que seja apenas para prometer buscar soluções mais tarde. (Assim é como lida com a delicada questão da IA geradora e direitos autorais.) No geral, é um compromisso impressionante de mobilizar a burocracia governamental para lidar com todos os aspectos preocupantes de uma nova classe de tecnologia, incluindo aqueles que a maioria de nós nunca pensou. Parágrafo após parágrafo, a Casa Branca requer estudos complicados envolvendo várias agências, cada um deles envolvendo intensa interação com a indústria e consulta a especialistas. A ordem de Biden designa burocratas para produzir relatórios complicados como se estivessem fazendo pedidos de refeições no DoorDash.
O Departamento de Segurança Interna criará um Conselho de Segurança e Segurança da Inteligência Artificial; o Departamento de Saúde e Serviços Humanos organizará um Grupo de Trabalho de IA; o diretor do Escritório de Administração e Orçamento convocará um conselho interagências para coordenar o uso da IA. E assim por diante. Vai ser uma fera garantir que os grupos, incluindo pessoas externas, não sejam atormentados por conflitos de interesse. (As pessoas que atuam em conselhos e comitês compostos apenas por pessoas do governo terão que esperar para assumir cargos nos escritórios de IA em DC.) A mãe de todos os grupos de trabalho de IA será o Conselho de IA da Casa Branca, que incluirá mais de 30 figurões burocráticos, desde o Presidente do Estado-Maior Conjunto até o Diretor do Conselho de Política de Gênero. Isso vai ser uma bonança para o Zoom!
Lendo a ordem, pode-se pensar que no próximo ano, metade do poder executivo estará enterrada nas tarefas de IA. Antes do fim deste ano, desde o Procurador Geral até o Secretário de Agricultura, todos precisarão ter o Sam Altman no discador rápido para preencher algumas lacunas. Eu contei os prazos para os diversos relatórios e tarefas que Biden mandou fazer. Dois devem ser concluídos em 30 dias, seis devem ser entregues em 60 dias, cinco em 45 dias, 11 em 90 dias, sete em 120 dias, três em 150 dias, 38 em 180 dias, 11 em 270 dias e mais 11 em 365 dias. Para poupar você da matemática, somei todas essas grandes solicitações: 94. E há um monte de outros relatórios e tarefas exigidos sem prazos. Um exemplo típico: o presidente do Conselho de Assessores Econômicos deve preparar e apresentar o que, presumivelmente, deve ser um relatório de nível de tese sobre os “efeitos do mercado de trabalho da IA”. Parece um trabalho para o GPT-4! Algumas das solicitações são vagas, como “incentivar” a Comissão Federal de Comunicações e a Comissão Federal de Comércio a considerarem uma lista de ações. Mas todas elas exigirão uma execução tediosa, incluindo reuniões, rascunhos, entrevistas, consultas com líderes da indústria e acadêmicos, e cobertura de última hora para se proteger.
Não está claro se as pessoas atualmente em folha de pagamento do governo estão aptas para essas tarefas. O Vale do Silício está desesperado por talento em IA e compete ferozmente para recrutá-lo. Para realizar algumas das tarefas altamente técnicas solicitadas, como avaliar LLMs “avançados” ainda mais poderosos do que os atuais chatbots impressionantes, serão necessários programadores de nível A familiarizados com testes vermelhos, eliminação de viés de conjuntos de dados e, como diz a ordem, as mecânicas de “máquinas localizadas fisicamente em um único centro de dados, conectando transitivamente por meio de rede de centro de dados com mais de 100 Gbit/s e com capacidade máxima teórica de 1020 operações inteiras ou de ponto flutuante por segundo para treinar IA”. Isso é um grande desafio para o governo. A ordem de Biden também instrui cada grande agência a designar um oficial-chefe de Inteligência Artificial dentro de 60 dias – um requisito imputado por uma Casa Branca que, por três anos, não conseguiu preencher sua vaga para um Diretor de Tecnologia.
A ordem determina que o site oficial AI.gov deve dedicar algumas páginas ao recrutamento. A página inicial incentiva os visitantes a “juntarem-se ao surto nacional de talentos em IA”. Mas até mesmo os memes mais atraentes podem ter dificuldade em atrair recém-graduados em IA que estão considerando ofertas de salários altos em seis dígitos do Google ou da OpenAI. Uma excelente ideia no EO sugere mudar a política de imigração para remover as barreiras atuais para o talento em IA que busca trabalhar nos Estados Unidos. Mas suspeito que aqueles contrários a quaisquer exceções que aumentem a imigração – ou seja, todos os Republicanos – possam se opor a isso. Talvez, como outras ordens presidenciais sobre imigração, isso seja contestado nos tribunais. Jennifer Pahlka, que ajudou a criar o Serviço Digital dos EUA, escreveu que, para suprir a necessidade repentina de especialistas em IA, o governo deve simplesmente reformular suas práticas arcaicas de contratação. “A IA está prestes a nos atingir como um caminhão”, ela escreve, “Precisamos de um serviço civil que funcione, e precisamos disso agora”. É improvável que a reformulação sugerida por ela ocorra a tempo de cumprir todos esses prazos de 60, 90 ou até mesmo de 270 dias.
Em contraste com a lista de tarefas densa e detalhada que é a ordem executiva de Biden, a Declaração Bletchley de Rishi Sunak soa como uma expressão de boas intenções. A conquista não consiste em especificar qualquer ação a ser tomada, mas em fazer com que todos esses países coloquem sua assinatura em uma única declaração antes de irem para casa. Muitos dos signatários individuais, especialmente a União Europeia e a China, já estão avançados em sua jornada para regular a IA, mas como entidade unida, a comunidade internacional ainda está na linha de partida. Com menos de 1.200 palavras – menos do que este ensaio -, a declaração reconhece a promessa e o risco da IA e alerta as pessoas que a estão construindo para que o façam com responsabilidade. Claro, o Google, a Microsoft e os outros dirão que já estão fazendo isso. E a falta de especificidades parece contradizer a premissa da declaração de que a situação é urgente. “Há o potencial de danos graves, até mesmo catastróficos” causados por modelos de IA, diz ela, aparentemente referindo-se à extinção humana. Mas questões como transparência de viés, privacidade e dados também são reconhecidas, e os signatários “afirmam a necessidade e urgência de abordá-las”. No entanto, o único prazo estabelecido no documento é a promessa de se reunir novamente em 2024. Até lá, a administração Biden estará afogada em relatórios, comitês interagências e esforços de recrutamento. Enquanto isso, nada em nenhum dos documentos parece capaz de impedir que a IA se torne mais poderosa, útil ou potencialmente perigosa.
A luta para conter a inteligência artificial enquanto se colhem seus benefícios ocorre há décadas. Refleti sobre essa dialética ao escrever minha introdução para a famosa partida entre o campeão de xadrez Garry Kasparov e o computador Deep Blue da IBM em maio de 1997. A manchete da capa da Newsweek dizia: “A Última Resistência do Cérebro”.
Há uma profunda ironia nesse embate épico entre célula e circuito. Deep Blue é uma máquina, mas seu treinamento consiste em programação e lições de xadrez de seres humanos apaixonados. Kasparov é o porta-estandarte da humanidade, mas ele está lutando contra um computador executando um programa sofisticado. Os preparativos de ambos os lados refletem o relacionamento que todos nós desenvolvemos com os infiltrados de silício em domínios que costumávamos controlar. Não estamos competindo, mas colaborando. Se os computadores fossem retirados de nossa presença, os aviões ficariam no chão, os carros parariam, os telefones ficariam mudos, os caixas registradores ficariam em silêncio, as impressoras parariam e o mercado financeiro seria congelado. O silício é nossa prótese final; o mundo industrializado é uma cultura ciborgue, e grande parte do trabalho inteligente da humanidade é realizado, porém sem jeito, com a ajuda de nossos companheiros digitais. Computadores e pessoas estão nisso juntos. Pelo menos por enquanto.
Por isso, abordamos o confronto histórico desta semana com mais do que um pouco de apreensão. Os termos da parceria podem mudar. Nós, humanos, podemos ser mais astutos, mas eles estão ficando mais inteligentes em passos e saltos quânticos. E há uma palavra que tememos ouvir de nossos colegas de silício: xeque-mate.
Gabor pergunta: “Qual será a parcela de notícias e boletins escritos por LLMs em um ano a partir de agora e como isso mudará a indústria de notícias?”
Obrigado, Gabor. Fico feliz por ter pegado essa pergunta sua antes de T2/Pebble fechar tristemente.
Agora, sua resposta: Eu não sei se a inteligência artificial vai mudar drasticamente a paisagem jornalística em um ano. Não tenho dúvidas de que, em termos percentuais, muitos artigos gerados por IA serão publicados, mas a maioria do que as pessoas realmente leem ainda será produzida por humanos. Isso acontece porque, no momento, a produção do ChatGPT e outros não se aproxima do que um jornalista médio pode produzir. Quando as publicações tentam usar conteúdo de IA, geralmente é de qualidade inferior. E usar conteúdo de IA vai deixar os verdadeiros jornalistas que trabalham para uma publicação bastante irritados.
No médio prazo, talvez daqui a três a cinco anos, acredito que uma combinação de LLMs melhores e abordagens mais inteligentes para usá-los provavelmente mudará um pouco essa equação, especialmente nos artigos sensacionalistas com manchetes tentadoras. Não ficaria surpreso se a IA generativa se tornasse mais eficaz em atrair as pessoas para clicar nesses artigos de qualidade inferior do que mesmo os redatores mais cínicos e criadores de manchetes. Mas isso não afetará os veículos de maior qualidade. No momento, os vencedores na indústria de notícias parecem ser as publicações em que a reportagem e a escrita de alta qualidade conquistam assinantes, em vez daquelas que simplesmente buscam tráfego.
No longo prazo, a resposta é mais incerta. Simplesmente não sei o quão bons esses sistemas se tornarão na produção de jornalismo. Daqui a dez ou vinte anos, o Plaintext poderá ser escrito por um desses escribas de IA avançados. As pessoas notariam? Meu Deus, espero que sim.
Você pode enviar perguntas para [email protected]. Escreva ASK LEVY na linha de assunto.
Conheça a kilonova – uma colisão entre duas estrelas de nêutrons. Se algo assim acontecer a até 36 anos-luz da Terra, toda a vida será erradicada por milhares de anos. Pelo menos não precisaríamos nos preocupar com a IA.
Aqui está mais uma visão geral do decreto executivo de Biden.
A reportagem do ENBLE de Londres sobre a Cúpula de Segurança da IA no Reino Unido.
O diretor de Deadpool e Uma Noite no Museu opina sobre streaming e Taylor Swift.
É melhor nas Bahamas – agora que Sam Bankman-Fried se foi.
