Assistentes de IA mais inteligentes podem tornar mais difícil manter-se humano
IA mais inteligente dificulta humanidade
Pesquisadores e futuristas têm falado há décadas sobre o dia em que agentes de software inteligentes atuarão como assistentes pessoais, tutores e conselheiros. A Apple produziu seu famoso vídeo Knowledge Navigator em 1987. Parece que me lembro de ter participado de um evento do MIT Media Lab nos anos 1990 sobre agentes de software, onde o moderador apareceu como um mordomo, com um chapéu coco. Com o advento da IA generativa, essa visão nebulosa de um software como ajudante de campo de repente se tornou mais clara. Will Knight, da ENBLE, forneceu uma visão geral nesta semana do que está disponível agora e do que está iminente.
Texto simples
Estou preocupado com como isso vai nos mudar e mudar nossas relações com os outros a longo prazo. Muitas de nossas interações com os outros serão mediadas por bots agindo em nosso lugar. Assistentes robôs são diferentes de ajudantes humanos: eles não fazem pausas, podem acessar instantaneamente todo o conhecimento do mundo e não exigem um salário digno. Quanto mais os usarmos, mais tentador será transferir tarefas que antes reservávamos para nós mesmos. No momento, os assistentes de IA disponíveis ainda são pouco refinados. Ainda não chegamos ao ponto em que bots autônomos assumirão rotineiramente atividades em que erros não podem ser tolerados, como reservar voos, marcar consultas médicas e gerenciar carteiras financeiras. Mas isso vai mudar, porque é possível. Parece que estamos destinados a viver nossas vidas como pilotos de longa distância de companhias aéreas – depois de definir um curso, podemos relaxar na cabine enquanto a IA controla o avião, alternando para o modo manual quando necessário. O medo é que, eventualmente, sejam os agentes que decidam para onde o avião está indo em primeiro lugar.
Deixando de lado o pessimismo, todos nós teremos que lidar com agentes superinteligentes e possivelmente manipuladores de outra pessoa. Vamos entregar o controle de nossas atividades diárias e escolhas cotidianas, desde listas de compras até calendários de compromissos, para nossos próprios assistentes de IA, que também interagirão com os agentes de nossa família, amigos e inimigos. À medida que ganham independência, nossos ajudantes automatizados podem acabar tomando decisões ou fazendo acordos em nosso nome que não são bons. Para uma visão otimista desse futuro, consulto Mustafa Suleyman. Um dos fundadores da startup de IA DeepMind, que agora é o coração do desenvolvimento de IA do Google, ele é agora o CEO da Inflection.ai, uma empresa que desenvolve chatbots. Suleyman também recentemente entrou na lista de best-sellers do The New York Times com seu livro The Coming Wave, que sugere como os humanos podem enfrentar os perigos existenciais da IA. No geral, ele é um otimista e, é claro, tem uma visão positiva sobre agentes de software. Ele descreve o bot que sua empresa desenvolve, o Pi, como um “chefe de equipe” pessoal que fornece não apenas sabedoria, mas também incentivo empático e bondade.
- O Windows 11 está se tornando sem senha. Aqui está o que você usará...
- O X adiciona Anteriormente Twitter à listagem da App Store à medida...
- Os melhores gerenciadores de senhas para 2023
“Hoje o Pi não é capaz de reservar restaurantes para você ou arranjar um carro ou, sabe, comprar coisas para você”, diz Suleyman. “Mas no futuro, ele terá seu procurador contratual e legal, o que significa que você concedeu permissões para celebrar contratos em seu nome, gastar dinheiro real e obrigá-lo a acordos materiais no mundo real.” Também no roteiro: Pi fará chamadas telefônicas em nome de seu proprietário e negociará com agentes de atendimento ao cliente.
Isso parece justo, porque agora mesmo, muitos desses agentes de serviço já são bots e – talvez propositalmente? – não estão abertos a argumentos razoáveis de que seus empregadores corporativos prejudicam seus próprios clientes. Inevitavelmente, lançaremos nossas IA em negociações com outras IA em todas as áreas da vida. Suleyman reconhece que não queremos que esses bots fiquem muito íntimos uns dos outros ou interajam de maneiras que não estejam abertas à inspeção humana. “Na verdade, queremos que a comunicação de IA para IA seja limitada ao inglês simples”, diz Suleyman. “Dessa forma, podemos auditá-la.”
Essa é uma preocupação bem-intencionada, mas provavelmente forçaria os agentes a trabalharem mais devagar e talvez até impedisse algumas das soluções mais inovadoras que nossos assistentes superinteligentes poderiam criar. Suspeito que a tentação de tornar a comunicação de IA para IA eficiente e eficaz superará esse bom sentimento.
Outro pesadelo em potencial: bots financiados por anúncios que direcionam os proprietários para produtos e serviços patrocinados. Suleyman não adora a ideia, mas não parece descartá-la. Ele diz que seus bots, fornecendo um valor tremendo, não serão baratos. “Você paga regularmente centenas de dólares por hora a um advogado. Mas, por algum motivo, acabamos ficando alérgicos a pagar mais de 10 dólares por mês por qualquer serviço online. Isso terá que mudar.” E as pessoas que não podem pagar a taxa receberão versões com suporte de anúncios? Ele reconhece que nem todos quererão pagar pelo acesso à tecnologia. De qualquer forma, Suleyman diz que a confiança e a responsabilidade são essenciais. “Levará muitos anos antes de nos sentirmos confortáveis com a IA tomando ações autônomas”, diz ele. “Não acho que devamos fazer isso tão cedo.”
A tecnologia tornará as pessoas mais poderosas individualmente – a única preocupação que tenho é: o que as pessoas farão com esse poder?
Para mim, essa é a preocupação – uma vez que nos sentimos confortáveis, estamos acabados. Quando busquei validação em uma análise de artigos de pesquisa, minha atenção foi capturada pelo título “O Poder de Causar Danos: Assistentes de IA Abrem Caminho para Comportamentos Antiéticos”. Coescrito pelos cientistas da Universidade do Sul da Califórnia, Jonathan Gratch e Nathanael Fast, o artigo hipotetiza que agentes inteligentes podem democratizar um hábito desagradável das pessoas ricas, que terceirizam seu mau comportamento por meio de advogados, porta-vozes e subordinados brutamontes. “Nós revisamos uma série de estudos que ilustram como, em uma ampla gama de tarefas sociais, as pessoas podem se comportar de maneira menos ética e estar mais dispostas a enganar quando agem por meio de agentes de IA”, eles escrevem.
Conversei com Gratch, que estava em uma conferência em Würzburg, Alemanha. “Qualquer homem ou mulher pode ter seu assistente pessoal fazer coisas em seu nome”, ele diz. “Nossa pesquisa sugere que as pessoas podem estar dispostas a pedir a seus assistentes para fazer coisas que são mais questionáveis eticamente do que elas mesmas estariam dispostas a fazer.”
Gratch vem pesquisando o impacto possível dos agentes inteligentes há anos. No último ano, o campo passou por uma transformação semelhante a um raio atingindo alguém que repentinamente adquire superpoderes. “Costumava ser que você passava uma tese de doutorado inteira tentando construir o agente maldito que você queria testar”, ele diz. “E agora, com dois dias brincando com o GPT ou algo do tipo, você consegue algo que interage com as pessoas e parece muito bom.” Gratch diz que seu campo agora está cheio de uma mistura de entusiasmo e angústia.
“A tecnologia tornará as pessoas mais poderosas, liberando tempo livre”, ele diz. “A única preocupação que tenho é: o que as pessoas farão com esse poder?” Por exemplo, se eu tivesse pedido a um agente para ligar para ele em meu nome, diz ele, uma conexão humana potencial teria sido perdida. “Essas conexões pessoais são o que nos mantêm agradáveis e promovem empatia”, diz Gratch. “Quando a IA transforma tudo em algoritmos, leis e transações, nos diminui como seres humanos.”
O campo de Gratch, antes centrado em hipóteses, agora pode parecer um guia para os serviços comerciais de IA que estão ao virar da esquina. Considere algumas das apresentações na conferência em Würzburg: “Efeitos da Incorporação do Agente em Negociações entre Humanos e Agentes”, “Acomodação da Expressividade do Usuário Mantendo a Segurança para um Conselheiro Virtual para Abuso de Álcool”, “O Efeito da Empatia na Delegação para Agentes Virtuais.” (Reconfortantemente, outros artigos tratavam da manutenção da ética em um mundo cheio de agentes.) Gratch viu trabalhos semelhantes em uma conferência recente que ele participou no MIT. Todas as principais empresas de tecnologia também estavam lá, diz ele, e ele espera que elas contratem muitos de seus alunos.
Gratch descreve uma sessão de conferência nesta semana em que os pesquisadores exploraram como o software de IA poderia manipular as pessoas com emoções, comportamentos não verbais ou gestos, e encontrar as técnicas mais eficazes. “Você pode ajustar o ChatGPT para fazer tudo isso e vender uma televisão mais cara para você”, diz ele. Você se sente empoderado agora?
Em dezembro de 2010, ENBLE se adiantou um pouco ao declarar: “A Revolução da IA Está Acontecendo”. Em meu ensaio, falei sobre a dificuldade de descobrir o que os produtos de IA estão fazendo, mesmo que acabem fazendo coisas boas.
Estamos envolvidos em uma dança permanente com as máquinas, presos em um abraço cada vez mais dependente. E, no entanto, porque o comportamento dos bots não se baseia em processos de pensamento humano, muitas vezes somos impotentes para explicar suas ações. O Wolfram Alpha, o site criado pelo cientista Stephen Wolfram, pode resolver muitos problemas matemáticos. Também parece mostrar como essas respostas são derivadas. Mas os passos lógicos que os humanos veem são completamente diferentes dos cálculos reais do site. “Ele não faz nenhum desses raciocínios”, diz Wolfram. “Essas etapas são completamente falsas. Pensamos, como podemos explicar isso para um desses humanos lá fora?”
A lição é que nossos computadores às vezes têm que nos agradar, caso contrário, eles nos assustam. Eric Horvitz – agora um pesquisador sênior da Microsoft e ex-presidente da Associação para o Avanço da Inteligência Artificial – ajudou a construir um sistema de IA na década de 1980 para auxiliar patologistas em seus estudos, analisando cada resultado e sugerindo o próximo teste a ser realizado. Mas havia apenas um problema – ele fornecia as respostas muito rapidamente. “Descobrimos que as pessoas confiavam mais nele se adicionássemos um loop de atraso com uma luz piscante, como se estivesse ofegando para chegar a uma resposta”, diz Horvitz.
Mas devemos aprender a nos adaptar. A IA é tão crucial para alguns sistemas – como a infraestrutura financeira – que se livrar dela seria muito mais difícil do que simplesmente desconectar os módulos do HAL 9000. “De certa forma, você pode argumentar que o cenário da ficção científica já está começando a acontecer”, diz Hillis, da Thinking Machines. “Os computadores estão no controle e nós apenas vivemos em seu mundo”. Wolfram diz que esse dilema se intensificará à medida que a IA assumir novas tarefas, se distanciando cada vez mais da compreensão humana. “Você regula um algoritmo subjacente?” ele pergunta. “Isso é loucura, porque na maioria dos casos você não consegue prever quais serão as consequências desse algoritmo.”
Shanti pergunta, “Haverá algum dia um sucessor para o e-mail? O que seria necessário para substituir esse padrão da internet social?”
Obrigado pela pergunta enviada por e-mail, Shanti. O e-mail não possui mais o poder que costumava ter. Muitas mensagens que antes chegavam às caixas de entrada agora são recebidas por meio de mensagens de texto, mensagens diretas em redes sociais ou Slack. Suspeito que outros serviços surgirão e corroerão ainda mais a hegemonia uma vez todo-poderosa do e-mail. No entanto, como você sugere, para muitas coisas o e-mail ainda é o padrão, apesar de as caixas de entrada estarem perpetuamente fora de controle. Lembro-me de quando Bill Gates visitou meu escritório na Newsweek para me dizer que o spam seria erradicado dentro de um ano. Em alguns meses, comemorarei o 20º aniversário dessa visita e recebo dezenas de mensagens indesejadas todos os dias, com uma porcentagem irritante escapando do filtro de spam.
Deixando de lado o spam, eu não gostaria de me livrar do e-mail. É difícil imaginar uma maneira mais fácil de se apresentar a alguém, enviar ou receber arquivos ou manter um arquivo de interações. Essa última função é inestimável. Porque posso pesquisar instantaneamente décadas de mensagens. Sempre que um nome familiar surge, posso rapidamente encontrar uma troca anterior que eu havia esquecido completamente.
Por outro lado, se alguém sugerisse penas mínimas obrigatórias para aqueles que unilateralmente me colocam em listas de correspondência, especialmente comerciais, eu não me oporia.
Você pode enviar perguntas para [email protected]. Escreva ASK LEVY na linha de assunto.
Finalmente, a classificação que todos estávamos esperando: as melhores cidades para sobreviver a um apocalipse zumbi. NYC está em segundo lugar!
Além de dar conselhos e discutir com agentes de atendimento ao cliente, os bots podem escrever. Mas como eles se saem?
O Dall-E 3 torna ainda mais fácil acabar com o trabalho dos ilustradores.
Inventar o Crispr não é suficiente para a vencedora do Prêmio Nobel Jennifer Doudna. Ela agora planeja editar o bioma.
Dentro do Neuralink de Elon Musk, onde o negócio de macacos mortos realmente inclui macacos mortos.
Se você comprar algo usando os links em nossas histórias, podemos receber uma comissão. Isso ajuda a apoiar nosso jornalismo. Saiba mais. Por favor, considere também assinar a ENBLE
