O Facebook pode ter chatbots – e isso poderia ser um problema | ENBLE
Facebook's chatbots could be a problem | ENBLE
O proprietário do Facebook, Meta, planeja introduzir chatbots com personalidades distintas em seu aplicativo de mídia social. O lançamento pode ocorrer já em setembro e seria um desafio para concorrentes como o ChatGPT, mas há preocupações de que possa haver sérias implicações para a privacidade dos usuários.
A ideia vem do Financial Times, que relata que a iniciativa é uma tentativa de aumentar o engajamento dos usuários do Facebook. A nova ferramenta poderia fazer isso fornecendo novas capacidades de pesquisa ou recomendando conteúdo, tudo por meio de discussões humanas.
Segundo fontes citadas pelo Financial Times, os chatbots assumirão diferentes personas, incluindo “um que emula Abraham Lincoln e outro que dá conselhos sobre opções de viagem no estilo de um surfista”.
Essa não seria a primeira vez que vemos chatbots assumirem suas próprias personalidades ou conversarem no estilo de pessoas famosas. O chatbot Character.ai, por exemplo, pode adotar dezenas de personalidades diferentes, incluindo as de celebridades e figuras históricas.
Preocupações com a privacidade
Apesar das promessas que os chatbots da Meta podem mostrar, também foram levantados temores sobre a quantidade de dados que provavelmente serão coletados – especialmente considerando que o Facebook tem um histórico abismal na proteção da privacidade do usuário.
- DALL-E 3 pode levar a geração de imagens de IA para o próximo nível...
- O Facebook agora está bloqueando notícias no Canadá e o Google pode...
- Para entender os custos do SaaS, você precisa saber o que está envo...
Ravit Dotan, um consultor de ética em IA e pesquisador, foi citado pelo Financial Times dizendo: “Assim que os usuários interagem com um chatbot, isso expõe muito mais de seus dados para a empresa, para que a empresa possa fazer o que quiser com esses dados”.
Isso não apenas levanta a possibilidade de violações de privacidade de longo alcance, mas também permite a possibilidade de “manipulação e influência” dos usuários, acrescentou Dotan.
Um grande risco
Outros chatbots como o ChatGPT e o Bing Chat tiveram histórico de “alucinações”, ou momentos em que compartilham informações incorretas – ou até mesmo desinformação. Os danos potenciais causados por desinformação e viés podem ser muito maiores no Facebook, que tem quase quatro bilhões de usuários, em comparação com os chatbots concorrentes.
As tentativas anteriores da Meta com chatbots tiveram um desempenho ruim, com o BlenderBot 2 e o BlenderBot 3 da empresa rapidamente se transformando em conteúdo enganoso e discurso de ódio inflamatório. Isso pode não dar muita esperança aos usuários para o mais recente esforço da Meta.
Com setembro se aproximando rapidamente, pode não demorar muito para ver se o Facebook será capaz de superar esses obstáculos ou se teremos outro lançamento repleto de alucinações, semelhante aos sofridos em outros lugares da indústria. Seja o que acontecer, será interessante assistir.
