IA como sua melhor amiga? Uma nova onda de chatbots quer se tornar pessoal com você

IA como sua melhor amiga? Chatbots querem ser mais pessoais com você

No evento de produtos em setembro, os executivos da Amazon não pouparam elogios sobre como a Alexa estará lá para você como um amigo, graças a melhorias de IA.

Dave Limp, vice-presidente sênior de serviços da empresa, mostrou as habilidades conversacionais da Alexa, começando com uma troca de gentilezas: “Oi” e “Como você está” e “E você?”

Conforme a conversa progredia, Limp observou que o dispositivo Alexa havia sido programado para saber qual era o seu time de futebol favorito, e certamente a Alexa também tinha o seu favorito. A conversa não foi sem empecilhos, mas foi suficientemente suave para Limp fazer o seu ponto: “As respostas… começaram a ser impregnadas de personalidade.”

Em uma demonstração separada, Daniel Rausch, vice-presidente para Alexa e Fire TV, mostrou como o assistente de IA poderia ajudar a encontrar um filme adequado para a família assistir. Assim como Limp, ele enfatizou o aspecto “natural e conversacional” da interação.

“É como falar com um grande amigo que também é o melhor atendente de uma locadora de vídeos do mundo”, disse Rausch.

• O primeiro projeto de supercomputador exascala do Reino Unido vai p...
• O Google tem uma ótima ideia para resolver o caos de guias no Chrom...
• A Apple está supostamente redesenhando o Vision Pro de duas maneira...

IA e chatbots não são novidades, mas interagir com eles, até agora, tem sido em grande parte desprovido de gentilezas, conversas banais e certamente de conversas estimulantes. Mas, como podemos ver por uma série de anúncios nas últimas semanas de gigantes da tecnologia sobre suas ferramentas de IA voltadas para o público e como eles esperam que interajamos com elas, isso nem sempre será o caso.

Dias após o anúncio da Amazon, a OpenAI introduziu um novo recurso no ChatGPT que permitirá interagir com seu grande modelo de linguagem por voz. Em seguida, veio a Meta, dizendo que iria incluir seu assistente de IA em todos os seus serviços existentes, incluindo WhatsApp e Instagram. Não apenas isso, a Meta também permitirá que você personalize o assistente com a aparência e a voz de uma das muitas celebridades contratadas para emprestarem suas semelhanças ao projeto (incluindo Snoop Dogg e Charli D’Amelio). Em seguida, na primeira semana de outubro, o Google anunciou o Assistant with Bard, que deseja ser o seu “ajudante personalizado” e um “verdadeiro assistente”.

O que todos esses desenvolvimentos significam é uma mudança na forma como interagimos com computadores. Em nossas viagens pelo mundo online, cada vez mais não estaremos sozinhos. Estaremos acompanhados por uma variedade de personagens de IA que eliminarão a necessidade de digitação excessiva e pressionar botões, nos ajudando enquanto fornecem um elemento de personalidade e companheirismo.

É algo que o fundador da Deepmind e pioneiro em IA, Mustafa Suleyman, descreveu em uma entrevista de setembro à MIT Tech Review como “IA interativa”. Segundo ele, isso será o sucessor da IA generativa que está sendo usada atualmente para produzir texto e imagens com base em entradas de dados.

Essa mudança para uma versão mais social da IA tem sido esperada há muito tempo. Tivemos nosso primeiro gostinho de IA interativa por voz lá em 2011, quando a Apple apresentou ao mundo sua assistente de voz, a Siri. Na época, a Siri era novidade de uma forma que empolgava as pessoas (e provavelmente ajudou a convencer algumas a comprar novos iPhones), mas era inacabada e pouco confiável de formas que tornavam a tecnologia algo decepcionante na realidade.

A Siri, junto com seus concorrentes – a Alexa da Amazon e o Google Assistant – melhoraram muito ao longo dos anos. Mas é realmente só agora que, graças aos avanços recentes em IA, estamos começando a experimentar o assistente de IA que a Apple insinuou que a Siri se tornaria há cerca de 12 anos.

A última leva de anúncios fará com que personagens de IA falem em voz alta conosco como se fôssemos amigos, se integrem perfeitamente às nossas redes sociais e nos conheçam para que, quando fizermos uma pergunta, eles possam usar pistas contextuais de nossas conversas anteriores para garantir que encontremos as respostas que procuramos. Por meio do aprendizado de máquina, a IA tem o potencial de nos perceber por meio de nossas interações e se transformar no tipo de companheiro mais estimulante e gratificante para estar por perto.

Dependendo de seu ponto de vista, essa ideia pode te encantar, te deixar desconfortável ou algo entre os dois. Para muitos de nós, estabelecer um relacionamento com um personagem de IA será uma experiência completamente nova. Mas há precedentes. Chatbots de amizade com IA já existem, como o Replika, que está por aí desde 2017 e permite que as pessoas criem seu próprio companheiro de IA ideal, sempre à mão em seus smartphones.

Nem todos os chatbots de IA serão projetados para serem seus melhores amigos embutidos, mas está claro pelos anúncios das empresas de tecnologia que eles querem que nos sintamos mais à vontade com a IA, proporcionando-nos uma experiência “naturalista” – mais parecida com conversar com outro ser humano.

Podemos realmente ser amigos de IA?

Você pode estar se perguntando até que ponto sua amizade com um chatbot de IA pode ser real. Afinal, amizades são relacionamentos complexos.

É uma pergunta que já está sendo estudada e debatida por filósofos, psicólogos e cientistas da computação. Resultados iniciais mostram opiniões divergentes, mas alguns estudos – incluindo dois da Universidade de Hawaiʻi em Mānoa e da Universidade de Oslo que especificamente analisaram usuários do Replika – demonstraram que algumas pessoas parecem realmente criar conexões genuínas com chatbots que melhoram seu bem-estar.

Pode não ser realista esperar ser melhor amigo de um robô ou companheiro de IA, como me diz Helen Ryland, professora associada da Open University no Reino Unido, mas é concebível que possamos ter algum grau de amizade com um robô ou companheiro de IA. “Essa relação poderia ter benefícios sociais genuínos”, diz ela.

Nos relacionamentos humanos, há toda uma lista de condições (incluindo empatia, afeto, admiração, honestidade e igualdade) que geralmente são necessárias para considerarmos alguém como amigo. Ryland argumenta que, para que existam amizades entre humanos e IA ou robôs, deve haver, no mínimo, uma boa vontade mútua. Isso significa que você não deve desejar mal ao chatbot, e vice-versa.

Pessoas que estabeleceram relacionamentos com IA sentem que têm amizades de dar e receber semelhantes às que têm com outros seres humanos, diz Petter Bae Brandtzæg, professor da Universidade de Oslo e cientista-chefe da organização de pesquisa Sintef Digital, que publicou vários estudos sobre o assunto. “Eles também sentem que são meio que responsáveis por construir isso ainda mais”, diz ele.

Nem todos acreditam que seja possível para os humanos experimentarem conexões genuínas com IA ou chatbots. Eles estão preocupados em se sentir enganados ou manipulados por uma máquina que não pode ser verdadeiramente vulnerável com você da mesma forma que um amigo humano e que só pode simular empatia em vez de senti-la.

A professora de sociologia do MIT, Sherry Turkle, que há muito estuda a relação entre humanos e tecnologia, argumenta que essa “empatia fingida… se aproveita da psicologia profunda de ser humano”. Ela consegue entender por que as pessoas podem recorrer a companheiros de IA, escreveu ela na MIT Technology Review em 2020, mas ela acredita que, no final das contas, chatbots, “por mais inteligentes que sejam, só podem desorientar e decepcionar”.

Devemos ser amigos de chatbots?

Independentemente de concordar com o ponto de vista de Turkle, certamente vale a pena perguntar se estabelecer conexões pessoais com IA é algo que beneficiará e melhorará nossas vidas.

De acordo com Brandtzæg, que entrevistou muitos usuários de companheiros de IA no curso de seus estudos sobre relacionamentos entre humanos e chatbots, várias pessoas relataram benefícios. Jovens enfrentando dificuldades, por exemplo, tiveram resultados positivos ao conversar com chatbots sem julgamentos, enquanto pessoas que estão isoladas de outra forma abraçam a oportunidade de ter conversas intelectualmente estimulantes e acham que isso evita que suas habilidades sociais enfraqueçam.

“Eles sempre vão te tratar muito bem, então você não se sente julgado”, diz Brandtzæg. As pessoas que usam os chatbots “não sentem que entram em tensões da mesma forma que podemos fazer com relacionamentos mais humanos.”

Também há benefícios em ter alguém à disposição 24 horas por dia, 7 dias por semana, acrescenta ele. Talvez você não queira acordar um amigo humano no meio da noite para conversar, mas seu companheiro de IA sempre pode estar disponível e acessível.

Robôs de IA ou companheiros podem ser úteis nesse contexto, mas alguns acreditam que os humanos não têm nada a ganhar com esses relacionamentos. De acordo com Robin Dunbar, professor de psicologia evolutiva da Universidade de Oxford, amigos de IA beneficiarão os humanos “apenas se você estiver muito solitário ou não puder conhecer pessoas facilmente.”

Nossos amigos humanos vêm até nós com personalidades únicas, histórias de vida diversificadas, visões e aparências diferentes, mas os companheiros de IA frequentemente se tornam o que fazemos deles – algo que preocupa Dunbar. Não apenas podemos personalizar sua aparência e voz, mas eles podem seguir nossas instruções sobre como gostamos que eles se comuniquem e se comportem.

Ao contrário de nossos amigos humanos, que nos expõem a diferenças e diversidade e que podem discordar de nós, é possível que chatbots de IA possam amplificar o efeito de câmara de ressonância ao qual já estamos expostos nas redes sociais, onde nos cercamos apenas de pessoas que compartilham nossas perspectivas. “O risco é que, em vez de ter seus horizontes ampliados, eles sejam progressivamente estreitados e é mais provável que o levem a um vórtice autogerado em um buraco negro”, diz Dunbar.

Outra preocupação, Brandtzæg destaca, é que muitos dos chatbots de IA que as gigantes de tecnologia estão nos impondo são feitos por empresas que lucram com nossos dados – e devemos ter cautela quanto a isso, diz ele. “Eles já possuem muita infraestrutura onde estamos realizando [muitas tarefas em] nossa vida diária, e isso será apenas uma nova camada.”

Ele está preocupado que, sem uma regulamentação sólida, as empresas de tecnologia americanas continuem a impulsionar o desenvolvimento da IA de uma forma que não seja democrática ou de interesse público. A longo prazo, devemos considerar se o objetivo da IA é nos transformar em consumidores mais eficientes que comprarão mais coisas, diz ele.

A manipulação é uma preocupação levantada pelos éticos da IA, e outra é a segurança. No início deste ano, o navegador focado em privacidade e fabricante de VPN Mozilla disse que o Replika era um dos piores aplicativos que já analisou do ponto de vista da segurança. (Nossas tentativas de entrar em contato com o Replika foram malsucedidas.) No início deste ano, a Amazon foi multada em $25 milhões pela Comissão Federal de Comércio dos EUA por supostamente não excluir os dados de crianças coletados pelo Alexa. Se considerarmos os detalhes íntimos de suas vidas que as pessoas provavelmente compartilharão com um companheiro de IA, a segurança laxa em torno desses dados sensíveis poderia se tornar um grande problema.

Mesmo Brandtzæg, que viu os benefícios que a companhia de IA pode oferecer às pessoas, nos encoraja a ter cautela ao interagir com chatbots – especialmente aqueles desenvolvidos por grandes empresas de tecnologia.

“Quando você se comunica com um chatbot, é apenas você e seu chatbot, então parece muito íntimo, parece muito seguro, sua guarda de privacidade está baixa”, diz ele. Isso pode incentivar você a compartilhar mais informações do que você normalmente faria ao interagir com as redes sociais ou o que ele se refere como “a velha internet”.

Está claro que, assim como o desenvolvimento de muitas tecnologias, a tecnologia interativa está cheia de possibilidades e armadilhas – muitas das quais podemos experimentar em tempo real, à medida que as empresas de tecnologia continuam a lançar suas últimas atualizações para nós.

Navegar nessa nova fronteira será um desafio para todos nós, mas talvez possamos tirar algumas lições dos outros relacionamentos em nossas vidas. Estabelecer limites saudáveis, por exemplo, e não permitir que nossos novos amigos de IA ultrapassem (especialmente quando se trata de acessar seus dados).

O instinto também pode desempenhar um papel. Se você sentir que algo não está certo, crie alguma distância. E lembre-se, está sempre tudo bem ir devagar e testar as águas primeiro – mesmo que o ritmo da inovação pareça sugerir o contrário.

Nota dos editores: A ENBLE está usando um mecanismo de IA para ajudar a criar algumas histórias. Para mais informações, veja este post.

• Amazon
• artificial intelligence
• chatbots
• google
• Meta