A Grande Cúpula de IA da Grã-Bretanha é uma bagunça obcecada pelo caos
A Grande Cúpula de Inteligência Artificial da Grã-Bretanha é um caos obcecado pelo caos
O governo do Reino Unido, com suas reversões na política climática e compromisso com a perfuração de petróleo e poluição do ar, geralmente parece ser pró-apocalipse. Mas ultimamente, políticos britânicos de alto escalão têm feito uma turnê para salvar o mundo. O primeiro-ministro Rishi Sunak, seus ministros e diplomatas têm informado seus homólogos internacionais sobre os perigos existenciais da inteligência artificial superinteligente desenfreada, que, segundo eles, poderia criar armas biológicas, fortalecer autocratas, minar a democracia e ameaçar o sistema financeiro. “Não acredito que possamos deter a maré”, disse o vice-primeiro-ministro Oliver Dowden às Nações Unidas no final de setembro.
O pessimismo de Dowden tem como objetivo angariar apoio para a cúpula global de governança de IA do governo do Reino Unido, programada para os dias 1º e 2 de novembro. O evento está sendo anunciado como o momento em que a maré se volta contra o espectro da IA assassina, uma chance de começar a construir um consenso internacional para mitigar esse risco. A cúpula é um evento importante para Sunak, que tem louvado o desejo de transformar o Reino Unido não apenas em “o lar intelectual, mas também o lar geográfico da regulamentação global de segurança da IA”, juntamente com planos mais amplos de criar um “novo Vale do Silício” e uma “superpotência tecnológica”. Mas pouco mais de uma semana antes de começar, a cúpula parece estar ao mesmo tempo ameaçadora e decepcionante. Duas fontes com conhecimento direto do conteúdo proposto das discussões afirmam que sua iniciativa principal será um registro global voluntário de grandes modelos de IA, uma iniciativa essencialmente ineficaz. Sua capacidade de abranger toda a gama de principais projetos de IA globais dependeria da boa vontade de grandes empresas de tecnologia dos EUA e China, que geralmente não veem as coisas da mesma forma.
Como o restante da cúpula está se moldando? Fontes próximas às negociações dizem que o governo dos EUA está irritado porque o Reino Unido convidou autoridades chinesas (e alguns membros do Partido Conservador no poder no Reino Unido também estão). A lista de participantes ainda não foi divulgada, mas empresas e investidores líderes no setor de IA doméstico do Reino Unido estão irritados por não terem sido convidados, deixando-os fora das discussões sobre o futuro de sua indústria. E eles e outros especialistas em IA dizem que o foco do governo na preocupação periférica do cataclismo impulsionado pela IA significa que o evento ignorará os riscos mais imediatos e reais da tecnologia, assim como todas as suas possíveis vantagens.
“Não sei o que o Reino Unido está trazendo para a mesa nisso tudo”, diz Keegan McBride, professor de IA, governo e política no Instituto de Internet da Universidade de Oxford. “Eles são muito estreitos em seu foco.” Ele e outros do cenário de IA britânico argumentam que seria melhor para o governo analisar como pode ajudar as empresas de IA britânicas a competir em um momento de mudança rápida e grande investimento em IA.
A agenda da cúpula diz que ela abordará dois tipos de IA: aquela que possui capacidades estreitas, mas potencialmente perigosas, como modelos que poderiam ser usados para desenvolver armas biológicas; e a “IA de fronteira”, um conceito um tanto nebuloso que o Reino Unido está definindo como inteligência artificial de grande porte e multipropósito que iguala ou excede o poder de grandes modelos de linguagem, como o utilizado pelo ChatGPT da OpenAI. Isso automaticamente limita a lista de participantes. “Apenas algumas empresas estão fazendo isso”, diz McBride. “Quase todas são americanas ou chinesas, e a infraestrutura necessária para treinar esse tipo de modelo é basicamente de propriedade de empresas americanas como Amazon, Google ou Microsoft.”
- AutoStore, da Noruega, revela robô elétrico de última geração para ...
- Próximo Apple iPad Pro (2024) Tudo o que sabemos até agora!
- Apple vai sediar evento ‘secreto’ de treinamento Vision...
A ENBLE entrevistou mais de uma dúzia de especialistas e executivos britânicos em IA. Nenhum deles foi convidado para a cúpula. O único representante conhecido da indústria de IA do Reino Unido que participará é o Google DeepMind, que foi fundado em Londres, mas adquirido pela gigante das buscas em 2014. Isso está causando muita frustração.
“Muita IA moderna foi desenvolvida no Reino Unido”, diz Sachin Dev Duggal, da Builder AI, uma startup de desenvolvimento de aplicativos baseada em IA em Londres. “Por um lado, dizemos que somos o centro de IA do mundo, mas, por outro lado, dizemos que não queremos confiar em nossos próprios CEOs, empreendedores ou pesquisadores para terem uma voz mais preponderante. Isso não faz sentido.”
Grande parte da infraestrutura de computação em nuvem e mídia social do mundo é de propriedade de empresas dos EUA, o que já coloca as empresas do Reino Unido – e os reguladores britânicos – em desvantagem, diz Duggal. Se acordos que moldam a indústria forem feitos sem qualquer contribuição das empresas nacionais, a próxima geração de tecnologia também pode acabar concentrada nas mãos de algumas grandes empresas dos EUA. “Há um grupo de nós que está bastante preocupado”, diz ele.
A visão de Duggal foi compartilhada por outros da indústria de IA do Reino Unido, que reclamam que a obsessão por modelos avançados ignora “tudo o que está por trás dessa fronteira”, como um executivo de uma startup de IA unicórnio, que preferiu falar anonimamente pois ainda espera um convite para a cúpula, diz. Isso inclui todas as startups, todas as equipes acadêmicas desenvolvendo sua própria IA e todas as aplicações da tecnologia que são atualmente possíveis, diz o executivo. O foco na fronteira também exclui os modelos de linguagem de código aberto, dos quais os melhores são considerados um pouco inferiores aos melhores disponíveis, mas podem ser baixados e usados – ou mal utilizados – por qualquer pessoa.
O governo do Reino Unido prometeu investir mais de US$ 1 bilhão em iniciativas relacionadas à IA, incluindo financiamento para desenvolver a indústria local de semicondutores, um novo supercomputador em Bristol para apoiar a pesquisa em IA e várias forças-tarefa e órgãos de promoção. Quanto eles ajudarão ainda precisa ser visto – os críticos apontam que, em termos globais, não é muito dinheiro. Potencializar as indústrias de chip e IA, começando bem atrás dos líderes nos Estados Unidos e na Ásia com apenas um bilhão de dólares, será um desafio. E o financiamento não está necessariamente sendo direcionado para empresas britânicas. Em maio, o CEO da Graphcore, uma startup sediada em Bristol que fabrica chips especializados para IA, pediu ao governo para destinar parte dos fundos para fabricantes do Reino Unido. Isso não aconteceu e, neste mês, a Graphcore alertou que precisa de uma injeção de dinheiro para continuar no negócio.
“O mais estranho é o governo dizer que a IA pode fazer todas essas coisas, é tão poderosa que pode literalmente acabar com o mundo”, diz McBride, de Oxford. “Mas você esperaria que eles também investigassem a forma de aproveitar seu poder. O restante do mundo estará olhando para a América e para o Reino Unido para descobrir como podem usar essa coisa. E, no momento, o Reino Unido não tem muito para mostrar ao resto do mundo.”
O parlamento do Reino Unido ainda não começou a debater qualquer regulamentação doméstica de IA no nível do AI Act da União Europeia, embora o governo tenha lançado um livro branco que recomenda um conjunto de regras menos restritivo para promover o crescimento da indústria. Mas ainda falta muito para virar política ou lei, e a UE está ditando o ritmo.
“É bastante embaraçoso que o Reino Unido não esteja se regulamentando”, diz Mark Brakel, diretor de políticas do Instituto Futuro da Vida, um think tank dos EUA que se concentra em riscos existenciais. Nos EUA, há propostas concretas de regulação no senado. O AI Act da UE está prestes a se tornar lei. O Brasil está desenvolvendo suas próprias regulamentações, assim como a China, diz Brakel. “Mas não temos nada no Reino Unido. Se vocês são os anfitriões, acho que faria sentido que pudessem apresentar algo por conta própria.”
Brakel, cujo instituto esteve por trás de uma carta aberta de destaque em março que pediu uma pausa no desenvolvimento de IA, é muito favorável à ideia da cúpula. O instituto, que tem o apoio de figuras importantes no setor de tecnologia, incluindo o co-criador do Skype, Jaan Tallinn, tem sido muito ativo em pressionar governos a levar a sério os riscos existenciais. Mas até as esperanças de Brakel para o resultado do evento no Reino Unido são bastante limitadas. “Isso é, acredito, risco de IA 101”, diz Brakel. “Eu ficaria muito feliz se todos que saírem dessa cúpula concordarem sobre quais são os riscos mais importantes e no que precisam se concentrar.”
Isso pode não ser suficiente para Sunak, cujo governo investiu considerável capital político para reunir a cúpula. A vice-presidente dos EUA, Kamala Harris, deve comparecer. Mas o Reino Unido também convidou uma delegação chinesa, o que enfureceu os funcionários dos EUA, que enxergam Pequim como uma ameaça estratégica. Relatórios da imprensa britânica sugerem que os funcionários chineses agora só poderão participar da metade da cúpula. Autoridades europeias estarão presentes – embora a França sediará sua própria cúpula de IA, organizada pelo bilionário das telecomunicações Xavier Niel, duas semanas após o Reino Unido. Em 18 de outubro, a Administração Cibernética da China anunciou sua própria iniciativa de governança global de IA.
As reuniões organizadas por países individuais também enfrentam concorrência de fóruns internacionais, incluindo a ONU e o G7, que estão buscando abordagens multilaterais para regular a IA. Não está claro como a abordagem do Reino Unido será diferente – ou se qualquer acordo entre estados capaz de mudar significativamente o curso do desenvolvimento da IA é possível em estágios tão iniciais.
“Eu concordo completamente com a estratégia [de Sunak], que é buscar um consenso internacional. Mas acredito que um consenso internacional se formará apenas em torno dos princípios mais amplos”, diz Jeremy Wright, ex-ministro digital do Reino Unido pelo Partido Conservador de Sunak. “Provavelmente, se você for fazer qualquer coisa, terá que fazer nacionalmente antes de fazer internacionalmente.”
Duas fontes com conhecimento das discussões confirmaram a reportagem da Politico no início do mês de que Sunak apresentará um Instituto de Segurança de IA aos participantes. E, segundo eles, o governo britânico proporá um registro de modelos inovadores que permitirá aos governos verem o funcionamento da IA inovadora e anteciparem quaisquer perigos potenciais. A iniciativa envolverá solicitar aos desenvolvedores de modelo que forneçam acesso antecipado a seus modelos para que possam ser “testados” e seus riscos potenciais sejam avaliados.
A maioria das grandes empresas dos EUA já aderiu ao compromisso do governo americano com a segurança. Não está claro por que eles sentiriam a necessidade de aderir a um novo compromisso e se comprometer a entregar informações proprietárias valiosas a um órgão do Reino Unido.
Críticos da cúpula do fim do mundo do Reino Unido – incluindo membros do Partido Conservador no poder – temem que ela esteja condenada ao fracasso, na melhor das hipóteses, por ser medíocre. A verdadeira razão, dizem eles, pela qual a cúpula foi apressada é a política doméstica. É algo que Sunak pode mostrar, ou pelo menos fingir, ser líder mundial em um momento em que está perdendo nas pesquisas e é visto como alguém que certamente perderá o poder nas próximas eleições. A evidência disso, apontam vários insiders, é a escolha do local – uma mansão do século XIX associada a uma época em que o Reino Unido era verdadeiramente uma potência global em computação.
Bletchley Park foi onde os criptógrafos britânicos da Segunda Guerra Mundial quebraram o código “Enigma” dos Nazistas. O local está indissociavelmente ligado a uma das figuras mais importantes da computação britânica, Alan Turing. E, sem dúvida, é por isso que o governo britânico escolheu o local. Na prática, faz menos sentido. Bletchley Park fica a 80 km de Londres e é “um saco para chegar lá”, segundo um conselheiro do governo, falando em condição de anonimato porque ainda trabalha ocasionalmente para o Departamento de Ciência e Tecnologia. Mas essa distância também não o torna remotamente conveniente e seguro. Durante a Segunda Guerra Mundial, o campus ficava longe de olhares curiosos, mas agora está nos arredores de Milton Keynes, uma pequena cidade construída após a guerra, que há muito tempo é uma piada no Reino Unido, sinônimo de banalidade de concreto e famosa por sua profusão de rotatórias.
É um local que, assim como a própria cúpula, sugere a alguns que o simbolismo triunfou sobre a substância. Um executivo de tecnologia, falando em condição de anonimato porque ainda espera negociar com o governo, chama isso de “governo por foto-op”. Ele se consola com o fato de que o Partido Conservador de Sunak provavelmente perderá as próximas eleições, que devem ser realizadas antes de janeiro de 2025. “Eles estarão fora em 18 meses”, ele diz.
