O futuro da guerra totalmente autônomo, impulsionado pela IA, está aqui
O futuro da guerra autônoma, impulsionado pela IA, está aqui
Uma frota de navios robôs balança suavemente nas águas mornas do Golfo Pérsico, em algum lugar entre o Bahrein e o Catar, talvez a 100 milhas da costa do Irã. Estou no convés próximo de um barco de alta velocidade da Guarda Costeira dos Estados Unidos, olhando em direção ao que entendo ser o lado do porto. Nesta manhã de dezembro de 2022, o horizonte está pontilhado de petroleiros e navios de carga e pequenos barcos de pesca, todos cintilando no calor. Enquanto o barco de alta velocidade contorna a frota de robôs, anseio por um guarda-sol, ou até mesmo uma nuvem.
Os robôs não compartilham da minha patética necessidade humana por sombra, nem precisam de outros confortos biológicos. Isso é evidente em seu design. Alguns se assemelham a barcos de patrulha típicos, como o que estou, mas a maioria é menor, mais esbelta, mais próxima da água. Um parece um caiaque com energia solar. Outro parece uma prancha de surfe com uma vela de metal. Outro me lembra um carro do Google Street View sobre pontões.
Essas máquinas se reuniram aqui para um exercício conduzido pela Força-Tarefa 59, um grupo dentro da Quinta Frota da Marinha dos Estados Unidos. Seu foco é a robótica e a inteligência artificial, duas tecnologias em rápida evolução que moldam o futuro da guerra. A missão da Força-Tarefa 59 é integrá-las rapidamente às operações navais, o que faz adquirindo as mais recentes tecnologias disponíveis no mercado de empresas privadas e montando as peças em um todo coerente. O exercício no Golfo reuniu mais de uma dúzia de plataformas não tripuladas – embarcações de superfície, submersíveis, drones aéreos. Elas serão os olhos e ouvidos distribuídos da Força-Tarefa 59: elas observarão a superfície do oceano com câmeras e radares, ouvirão sob a água com hidrofones e executarão os dados coletados por algoritmos de correspondência de padrões que distinguem petroleiros de contrabandistas.
Um colega humano no barco de alta velocidade chama minha atenção para uma das embarcações estilo prancha de surfe. Ela dobra sua vela abruptamente, como uma faca, e desliza sob a ondulação. Chamada de Triton, ela pode ser programada para fazer isso quando seus sistemas detectam perigo. Parece-me que esse ato de desaparecer pode ser útil no mundo real: alguns meses antes deste exercício, um navio de guerra iraniano apreendeu duas embarcações autônomas, chamadas Saildrones, que não podem submergir. A Marinha teve que intervir para recuperá-las.
O Triton pode permanecer submerso por até cinco dias, ressurgindo quando a costa estiver limpa para recarregar suas baterias e se comunicar. Felizmente, meu barco de alta velocidade não ficará por lá tanto tempo. Ele liga o motor e retorna roncando para o hangar de atracação de um cortador da Guarda Costeira com 150 pés de comprimento. Vou direto para o convés superior, onde sei que há uma pilha de garrafas de água debaixo de uma cobertura. Observo as metralhadoras e morteiros pesados apontados para o mar enquanto passo.
- Apple enfrenta processo de 1 bilhão de dólares por quebra de antitr...
- Mykhailo Fedorov está conduzindo a guerra da Ucrânia como uma startup
- A Apple corrige o problema do disco rígido do Mac Pro 2023 no macOS...
O convés se refresca com o vento conforme o cortador retorna à base em Manama, Bahrein. Durante a viagem, começo uma conversa com a tripulação. Estou ansioso para conversar com eles sobre a guerra na Ucrânia e o uso intensivo de drones lá, desde quadricópteros de entusiastas equipados com granadas até sistemas militares completos. Quero perguntar a eles sobre um recente ataque à base naval russa ocupada em Sebastopol, que envolveu várias embarcações autônomas construídas na Ucrânia carregando explosivos – e uma campanha pública de financiamento coletivo para construir mais. Mas essas conversas não serão possíveis, diz minha acompanhante, uma reservista da empresa de mídia social Snap. Porque a Quinta Frota opera em uma região diferente, aqueles da Força-Tarefa 59 não têm muitas informações sobre o que está acontecendo na Ucrânia, diz ela. Em vez disso, falamos sobre geradores de imagens de IA e se eles vão tirar o emprego de artistas, sobre como a sociedade civil parece estar alcançando seu próprio ponto de inflexão com a inteligência artificial. Na verdade, ainda não sabemos nem metade disso. Apenas um dia se passou desde que a OpenAI lançou o ChatGPT 504, a interface de conversação que quebraria a internet.
Arte: Julien Gobled; Getty ImagesDe volta à base, vou para o Centro de Operações de Robótica, onde um grupo de humanos supervisiona os sensores distribuídos na água. O COR é uma sala sem janelas com várias fileiras de mesas e monitores de computador – bastante impessoal, exceto pelas paredes, que são adornadas com citações inspiradoras de figuras como Winston Churchill e Steve Jobs. Aqui encontro o Capitão Michael Brasseur, o chefe da Força-Tarefa 59, um homem bronzeado, com a cabeça raspada, um sorriso pronto e um olhar de marinheiro. (Brasseur já se aposentou da Marinha.) Ele caminha entre as mesas enquanto explica alegremente como o COR opera. “É aqui que todos os dados dos sistemas não tripulados são fundidos, e onde aproveitamos a IA e a aprendizagem de máquina para obter insights realmente empolgantes”, diz Brasseur, esfregando as mãos e sorrindo enquanto fala.
Os monitores tremulam com atividade. A IA da Força-Tarefa 59 destaca embarcações suspeitas na área. Já identificou hoje várias embarcações que não coincidiam com seu sinal de identificação, levando a frota a analisar mais de perto. Brasseur me mostra uma nova interface em desenvolvimento que permitirá que sua equipe execute muitas dessas tarefas em uma única tela, desde visualizar o feed de câmera de um navio não tripulado até direcioná-lo para mais perto da ação.
“Ele pode se envolver autonomamente, mas não recomendamos. Não queremos começar a Terceira Guerra Mundial.”
Brasseur e outros na base enfatizam que os sistemas autônomos que estão testando são apenas para detecção e sensoriamento, não para intervenção armada. “O foco atual da Força-Tarefa 59 é aprimorar a visibilidade”, diz Brasseur. “Tudo o que fazemos aqui apoia as embarcações tripuladas.” Mas alguns dos navios robôs envolvidos no exercício ilustram o quão curta pode ser a distância entre desarmado e armado – uma questão de trocar cargas úteis e ajustar o software. Um barco autônomo de alta velocidade, o Seagull, é projetado para caçar minas e submarinos arrastando uma série de sonares em seu rastro. Amir Alon, diretor sênior da Elbit Systems, empresa de defesa israelense que criou o Seagull, me diz que ele também pode ser equipado com uma metralhadora operada remotamente e torpedos lançados pelo convés. “Ele pode se envolver autonomamente, mas não recomendamos”, diz ele com um sorriso. “Não queremos começar a Terceira Guerra Mundial.”
Não, não queremos. Mas o comentário de Alon toca em uma verdade importante: sistemas autônomos com capacidade de matar já existem ao redor do mundo. Em qualquer conflito importante, mesmo que esteja longe da Terceira Guerra Mundial, cada lado em breve enfrentará a tentação não apenas de armar esses sistemas, mas, em algumas situações, de remover a supervisão humana, liberando as máquinas para lutar em velocidade de máquina. Nessa guerra de IA contra IA, apenas humanos morrerão. Portanto, é razoável perguntar: como essas máquinas e as pessoas que as constroem pensam?
Relances da tecnologia autônoma existem nas forças armadas dos EUA há décadas, desde o software de piloto automático em aviões e drones até as armas de convés automatizadas que protegem os navios de guerra de mísseis entrantes. Mas esses são sistemas limitados, projetados para desempenhar funções específicas em ambientes e situações particulares. Autônomos, talvez, mas não inteligentes. Foi apenas em 2014 que altos funcionários do Pentágono começaram a contemplar tecnologia autônoma mais capaz como solução para um problema muito maior.
Bob Work, então secretário adjunto de defesa, estava preocupado que os rivais geopolíticos da nação estivessem “se aproximando da paridade” com as forças armadas dos EUA. Ele queria saber como “recuperar a superioridade”, diz ele – como garantir que, mesmo que os EUA não pudessem mobilizar tantos soldados, aviões e navios quanto, digamos, a China, ainda assim pudesse sair vitorioso de qualquer conflito potencial. Então Work perguntou a um grupo de cientistas e tecnólogos em que o Departamento de Defesa deveria concentrar seus esforços. “Eles voltaram e disseram autonomia habilitada por IA”, lembra ele. Ele começou a trabalhar em uma estratégia de defesa nacional que cultivaria inovações provenientes do setor de tecnologia, incluindo as capacidades emergentes oferecidas pelo aprendizado de máquina.
Isso era mais fácil falar do que fazer. O Departamento de Defesa construiu certos projetos – incluindo o Sea Hunter, um navio de guerra experimental de US$ 20 milhões, e o Ghost Fleet Overlord, uma frota de embarcações convencionais adaptadas para operação autônoma – mas, em 2019, as tentativas do departamento de se conectar com as gigantes da tecnologia estavam engatinhando. O esforço para criar uma única infraestrutura em nuvem para suportar a IA em operações militares se tornou uma questão política e foi abandonado. Um projeto do Google que envolvia o uso de IA para analisar imagens aéreas foi recebido com uma tempestade de críticas públicas e protestos de funcionários. Quando a Marinha divulgou seu plano de construção naval para 2020, um esboço de como as frotas dos EUA evoluirão nas próximas três décadas, destacou a importância dos sistemas não tripulados, especialmente navios de superfície e submersíveis de grande porte, mas destinou relativamente pouco dinheiro para desenvolvê-los.
Em um pequeno escritório no Pentágono, um ex-piloto da Marinha chamado Michael Stewart estava ciente desse problema. Encarregado de supervisionar o desenvolvimento de novos sistemas de combate para a frota dos EUA, Stewart começou a sentir que a Marinha estava como a Blockbuster caminhando sonâmbula para a era da Netflix. Anos antes, na Harvard Business School, ele havia frequentado aulas ministradas por Clay Christensen, um acadêmico que estudava por que grandes empresas bem-sucedidas são interrompidas por entrantes de mercado menores – muitas vezes porque o foco nos negócios atuais faz com que eles percam as tendências de novas tecnologias. A questão para a Marinha, segundo Stewart, era como acelerar a adoção de robótica e IA sem se afundar na burocracia institucional.
Outros na época estavam pensando de maneira semelhante. Naquele dezembro, por exemplo, pesquisadores da RAND, o instituto de pesquisa de defesa financiado pelo governo, publicaram um relatório que sugeriu um caminho alternativo: em vez de financiar um punhado de sistemas autônomos de preço exorbitante, por que não comprar sistemas mais baratos em grande quantidade? Com base em vários jogos de guerra de uma invasão chinesa a Taiwan, o relatório do RAND afirmou que a implantação de um grande número de drones aéreos de baixo custo poderia melhorar significativamente as chances de vitória dos EUA. Ao fornecer uma imagem de cada embarcação no Estreito de Taiwan, os drones hipotéticos – que o RAND chamou de “gatinhos” – poderiam permitir que os EUA destruíssem rapidamente a frota inimiga. (Uma revista militar chinesa notou essa previsão na época, discutindo o potencial de xiao mao, a frase chinesa para “gatinho”, no Estreito de Taiwan.)
Arte: Julien Gobled; Getty ImagesNo início de 2021, Stewart e um grupo de colegas elaboraram um documento de 40 páginas chamado Unmanned Campaign Framework. Ele delineou um plano despretensioso e não convencional para o uso de sistemas autônomos pela Marinha, abandonando a aquisição convencional em favor da experimentação com plataformas robóticas baratas. O esforço envolveria uma equipe pequena e diversificada – especialistas em IA e robótica, especialistas em estratégia naval – que poderiam trabalhar juntos para implementar rapidamente ideias. “Isso não se trata apenas de sistemas não tripulados”, diz Stewart. “É tanto, se não mais, uma história organizacional”.
O plano de Stewart chamou a atenção do Vice-Almirante Brad Cooper da Quinta Frota, cujo território se estende por 2,5 milhões de milhas quadradas de água, desde o Canal de Suez ao redor da Península Arábica até o Golfo Pérsico. A área está cheia de rotas de navegação que são vitais para o comércio global e estão repletas de pesca ilegal e contrabando. Desde o fim da Guerra do Golfo, quando parte da atenção e recursos do Pentágono se voltaram para a Ásia, Cooper vinha procurando maneiras de fazer mais com menos, diz Stewart. O Irã intensificou seus ataques a navios comerciais, cercando-os em lanchas armadas e até mesmo atacando com drones e embarcações operadas remotamente.
Cooper pediu a Stewart que se juntasse a ele e a Brasseur no Bahrein, e juntos os três começaram a montar a Força-Tarefa 59. Eles analisaram os sistemas autônomos já em uso em outros lugares do mundo – para coletar dados climáticos, por exemplo, ou monitorar plataformas de petróleo offshore – e concluíram que alugar e modificar esse hardware custaria uma fração do que a Marinha normalmente gastava em navios novos. A Força-Tarefa 59 usaria então um software orientado por IA para juntar as peças. “Se novos sistemas não tripulados puderem operar nessas águas complexas”, disse Cooper para mim, “acreditamos que eles possam ser dimensionados para as outras frotas da Marinha dos Estados Unidos”.
A medida que eles estavam montando a nova força-tarefa, essas águas continuaram se tornando mais complexas. Nas primeiras horas de 29 de julho de 2021, um petroleiro chamado Mercer Street seguia para o norte ao longo da costa de Omã, a caminho da Tanzânia para os Emirados Árabes Unidos, quando dois drones em forma de V preta surgiram no horizonte, varrendo o céu claro antes de explodir no mar. Um dia depois, depois que a tripulação coletou alguns destroços da água e relatou o incidente, um terceiro drone mergulhou no telhado da sala de controle do navio, desta vez detonando um explosivo que rasgou a estrutura, matando dois membros da tripulação. Investigadores concluíram que três “drones suicidas” fabricados no Irã eram os responsáveis.
A principal ameaça na mente de Stewart era a China. “Meu objetivo é entrar com coisas baratas ou menos caras muito rapidamente, dentro de cinco anos, para enviar uma mensagem de dissuasão”, diz ele. Mas a China também está fazendo investimentos substanciais em autonomia militar. Um relatório da Universidade de Georgetown em 2021 descobriu que o Exército de Libertação Popular gasta mais de US$ 1,6 bilhão em tecnologia a cada ano – aproximadamente o mesmo que os EUA. O relatório também observa que embarcações autônomas semelhantes às usadas pela Força-Tarefa 59 são um foco importante da Marinha chinesa. Ela já desenvolveu um clone do Sea Hunter, juntamente com o que é relatadamente um grande drone-navio mãe.
Stewart não havia notado muito interesse em seu trabalho, no entanto, até a Rússia invadir a Ucrânia. “As pessoas estão me ligando e dizendo: ‘Você sabe sobre aquelas coisas autônomas sobre as quais você estava falando? OK, me conte mais'”, diz ele. Assim como os marinheiros e oficiais que conheci no Bahrein, ele não comentaria especificamente sobre a situação – não sobre o ataque ao drone-barco em Sevastopol; não sobre o pacote de ajuda de US$ 800 milhões que os EUA enviaram para a Ucrânia na primavera passada, que incluía um número não especificado de “embarcações de defesa costeira não tripuladas”; não sobre o trabalho da Ucrânia para desenvolver drones assassinos totalmente autônomos. Tudo o que Stewart diria é isso: “O cronograma está definitivamente mudando”.
O Hivemind é projetado para pilotar o caça F-16, e pode vencer a maioria dos pilotos humanos que o enfrentam no simulador.
Estou em San Diego, Califórnia, um dos principais portos da Frota do Pacífico dos EUA, onde as startups de defesa crescem como cracas. Logo à minha frente, em um prédio de vidro alto cercado por palmeiras, fica a sede da Shield AI. Stewart me incentivou a visitar a empresa, que fabrica o V-BAT, um drone aéreo com o qual a Força-Tarefa 59 está experimentando no Golfo Pérsico. Embora estranho em aparência – em forma de um T invertido, com asas e uma única hélice na parte inferior – é uma peça impressionante de hardware, pequeno e leve o suficiente para uma equipe de duas pessoas lançar praticamente em qualquer lugar. Mas é o software dentro do V-BAT, um piloto de IA chamado Hivemind, que eu vim ver.
Eu caminho pelos escritórios branco-brilhantes da empresa, passando por engenheiros mexendo com pedaços de drones e linhas de código, até uma pequena sala de conferências. Lá, em uma tela grande, eu assisto três V-BATS embarcarem em uma missão simulada no deserto californiano. Um incêndio florestal está devastando algum lugar próximo, e a tarefa deles é encontrá-lo. As aeronaves decolam verticalmente do chão, então se inclinam para frente e voam em direções diferentes. Depois de alguns minutos, um dos drones localiza o fogo e transmite as informações para seus companheiros. Eles ajustam o voo, se aproximando do fogo para mapear sua extensão completa.
Arte: Julien Gobled; Getty ImagesOs V-BATs simulados não estão seguindo comandos humanos diretos. Eles também não estão seguindo comandos codificados por humanos em software convencional – o rígido Se isso, então aquilo. Em vez disso, os drones estão autonomamente percebendo e navegando em seu ambiente, planejando como realizar sua missão e trabalhando juntos em um enxame. – Os engenheiros da Shield AI treinaram o Hivemind em parte com aprendizado por reforço, implantando-o em milhares de missões simuladas, encorajando gradualmente a zero em meios mais eficientes de completar sua tarefa. “Esses são sistemas que podem pensar e tomar decisões”, diz Brandon Tseng, um ex-SEAL da Marinha que cofundou a empresa.
Esta versão do Hivemind inclui um sub-algoritmo bastante simples que pode identificar incêndios florestais simulados. Claro, um conjunto diferente de sub-algoritmos poderia ajudar um enxame de drones a identificar qualquer número de outros alvos – veículos, embarcações, combatentes humanos. Além disso, o sistema não se limita ao V-BAT. O Hivemind também foi projetado para pilotar o caça F-16, e pode vencer a maioria dos pilotos humanos que o enfrentam no simulador. (A empresa prevê que esta IA se torne um “copiloto” em gerações mais recentes de aviões de guerra.) O Hivemind também opera um quadricóptero chamado Nova 2, que é pequeno o suficiente para caber dentro de uma mochila e pode explorar e mapear o interior de prédios e complexos subterrâneos.
Para a Força-Tarefa 59 – ou qualquer organização militar que queira migrar para IA e robótica de forma relativamente barata – o apelo dessas tecnologias é claro. Elas oferecem não apenas “visibilidade aprimorada” no campo de batalha, como Brasseur colocou, mas também a capacidade de projetar poder (e, potencialmente, usar força) com menos pessoas reais no trabalho. Em vez de atribuir dezenas de operadores de drones humanos para uma operação de busca e resgate ou uma missão de reconhecimento, você poderia enviar uma equipe de V-BATs ou Nova 2s. Em vez de arriscar a vida de seus pilotos treinados caríssimos em um ataque aéreo, você poderia enviar um enxame de drones baratos, cada um pilotado pela mesma IA especialista, cada um uma extensão da mesma mente coletiva.
No entanto, por mais surpreendentes que sejam os algoritmos de aprendizado de máquina, eles podem ser inerentemente inescrutáveis e imprevisíveis. Durante minha visita à Shield AI, tive um breve encontro com um dos drones Nova 2 da empresa. Ele se eleva do chão do escritório e fica pairando a cerca de um pé do meu rosto. “Ele está te analisando”, diz um engenheiro. Um momento depois, o drone zumbi para cima e passa por uma janela simulada de um lado da sala. A experiência é perturbadora. Em um instante, essa pequena inteligência voadora fez uma determinação sobre mim. Mas como? Embora a resposta possa ser acessível aos engenheiros da Shield AI, que podem reproduzir e analisar elementos da tomada de decisão do robô, a empresa ainda está trabalhando para disponibilizar essas informações para “usuários não especialistas”.
Só é preciso olhar para o mundo civil para ver como essa tecnologia pode dar errado – sistemas de reconhecimento facial que exibem preconceitos raciais e de gênero, carros autônomos que colidem com objetos para os quais nunca foram treinados para ver. Mesmo com engenharia cuidadosa, um sistema militar que incorpora IA pode cometer erros semelhantes. Um algoritmo treinado para reconhecer caminhões inimigos pode se confundir com um veículo civil. Um sistema de defesa antimísseis projetado para reagir a ameaças entrantes pode não ser capaz de “explicar” totalmente por que errou.
Esses riscos levantam novas questões éticas, semelhantes às introduzidas por acidentes envolvendo carros autônomos. Se um sistema militar autônomo cometer um erro fatal, quem é o responsável? É o comandante encarregado da operação, o oficial responsável pelo sistema, o engenheiro de computação que construiu os algoritmos e conectou a mente coletiva, o intermediário que forneceu os dados de treinamento?
Uma coisa é certa: a tecnologia está avançando rapidamente. Quando conheci Tseng, ele disse que o objetivo da Shield AI era ter “uma equipe operacional de três V-BATs em 2023, seis V-BATs em 2024 e 12 V-BATs em 2025”. Oito meses depois de nos conhecermos, a Shield AI lançou uma equipe de três V-BATs de uma base da Força Aérea para voar em uma missão simulada de incêndio florestal. A empresa também agora se orgulha de que o Hivemind pode ser treinado para realizar uma variedade de missões – procurar bases de mísseis, interagir com aeronaves inimigas – e em breve poderá operar mesmo quando as comunicações forem limitadas ou interrompidas.
Antes de deixar San Diego, faço um tour pelo USS Midway, um porta-aviões que foi originalmente comissionado no final da Segunda Guerra Mundial e agora está permanentemente atracado na baía. Por décadas, o navio transportou algumas das tecnologias militares mais avançadas do mundo, servindo como uma pista flutuante para centenas de aeronaves em missões de reconhecimento e bombardeio em conflitos desde o Vietnã até o Iraque. No centro do porta-aviões, como um estômago metálico cavernoso, está o convés do hangar. Portas de um lado levam a um labirinto de corredores e salas, incluindo alojamentos apertados de marinheiros, confortáveis quartos de oficiais, cozinhas, enfermarias, até mesmo um barbeiro e uma lavanderia – um lembrete de que 4.000 marinheiros e oficiais costumavam chamar este navio de lar.
Aqui em pé, consigo sentir o quão profunda será a mudança para a autonomia. Pode levar muito tempo até que embarcações sem tripulação superem aquelas com humanos a bordo, ainda mais tempo até que as mães-naves de drones dominem os mares. Mas a armada robótica da Força-Tarefa 59, por mais incipiente que seja, marca um passo para outro mundo. Talvez seja um mundo mais seguro, no qual redes de drones autônomos, implantados ao redor do globo, ajudem os humanos a manter o conflito sob controle. Ou talvez os céus escureçam com enxames de ataques. Qualquer que seja o futuro que está no horizonte, os robôs estão navegando nessa direção.
Este artigo aparece na edição de setembro de 2023. Assine agora.
Diga-nos o que você achou deste artigo. Envie uma carta ao editor para [email protected].
