Controvérsias do ChatGPT – Nossas apreensões estão certas ou erradas?
ChatGPT - Are our concerns right or wrong?
O ChatGPT dispensa apresentações. Este incrível chatbot alimentado por IA foi projetado para usar processamento de linguagem natural para responder perguntas como um ser humano conhecedor faria. Devido às suas impressionantes habilidades, o ChatGPT pode ser considerado um divisor de águas em IA, pois pode interpretar conceitos, compreender nuances linguísticas e fornecer respostas de maneira detalhada.
Como um modelo irmão do InstructGPT, o ChatGPT permite que os usuários tenham conversas humanas com o chatbot. Usuários da internet em todo o mundo encontraram o ChatGPT como uma ferramenta eficaz para responder suas perguntas e ajudá-los em tarefas como escrever e-mails, preparar ensaios, artigos, postagens de blog e até mesmo processos de codificação.
O enorme sucesso do ChatGPT obrigou muitas empresas a lançarem suas próprias versões de chatbots de IA, como o Google Bard, Zapier AI Chatbot, Microsoft Bing AI, Chatspot e outros.
Essa notável e inovadora tecnologia conseguiu trazer um novo paradigma sobre como os usuários podem interagir com a tecnologia. Muitos negócios começaram a usar o ChatGPT para escrever suas campanhas de marketing, vendas e anúncios. Os chatbots de atendimento ao cliente revolucionaram o serviço ao cliente, permitindo que as empresas interajam com seus clientes como nunca antes, resultando em maior satisfação do cliente e fidelidade à marca.
O ChatGPT conseguiu transformar a atual paisagem digital; no entanto, ele foi marcado por controvérsias. Nosso post no blog explicará algumas das limitações do ChatGPT e iluminará as controvérsias em torno dele – para que você possa entender se o ChatGPT vale a pena ser usado em seu negócio também.
- Os melhores roteadores WiFi para aumentar a sua conectividade sem fio
- Bill Gates apoia a Likewise, uma startup em estágio inicial, e lanç...
- Os erros da IA – e quanto às alucinações dos chatbots?
Os 5 principais problemas do ChatGPT da OpenAI
O ChatGPT é simples de usar e tem o poder de transformar nosso futuro; no entanto, pensar que é só vantagens e sem desvantagens é um equívoco. Existem várias razões pelas quais precisamos nos preocupar com o ChatGPT. Aqui estão algumas delas.
#1. Preocupações de segurança, ética e privacidade
Aqui está o exemplo #1, abaixo – Sério, você quer que essas informações fiquem disponíveis?
Em primeiro lugar, não há como verificar quanto informações o ChatGPT coletou sobre você desde que você criou sua conta. Isso não é assustador? É especialmente preocupante porque a escala e o alcance dos dados e armazenamento necessários pelo ChatGPT são muito maiores do que outras tecnologias.
O chatbot alimentado por IA recebeu duras críticas de usuários, especialistas em privacidade e agências governamentais sobre suas políticas de retenção de dados. O ChatGPT coleta detalhes do usuário de três fontes (em três estágios diferentes).
- Quando os usuários se inscrevem ou pagam por um plano premium, eles devem fornecer suas informações de conta. Essa é a primeira fonte pela qual o ChatGPT coleta informações.
- As informações que os usuários digitam no chatbot são outra fonte de coleta de dados.
- Finalmente, o ChatGPT tenta identificar os dados que ele obtém do seu dispositivo ou navegador, como endereço IP e localização.
Os dados coletados de suas conversas com o ChatGPT são o fator mais preocupante. Juntamente com seu endereço IP e localização, outros detalhes pessoais, como tipo de navegador, data e hora em que você começou a usar o ChatGPT e a duração de cada uma de suas sessões, também podem ser automaticamente obtidos do seu dispositivo e navegador.
Sua atividade de navegação também é rastreada pela OpenAI usando cookies na janela de chat e em seu site. Aparentemente, esses detalhes são coletados para fins de análise e para descobrir como os usuários interagem com o ChatGPT.
Usar o ChatGPT para revisar seus documentos pessoais pode ser perigoso, pois o ChatGPT armazena transcrições de suas conversas e registra todas as informações que você coloca no chat, incluindo informações pessoais e pontos de dados.
Usar o ChatGPT para seu trabalho profissional pode ser ainda mais perigoso se o documento que você está tentando revisar incluir informações confidenciais sobre sua empresa, clientes ou funcionários. Imagine o que poderia acontecer se você inadvertidamente divulgar os detalhes de contato de seu cliente. Isso poderia causar problemas – se não legalmente, certamente com seu cliente.
Ocorreram alguns casos no passado recente em que alguns usuários conseguiram ver cabeçalhos de conversas na barra lateral que não lhes pertenciam. Isso ocorreu devido a uma falha de segurança no ChatGPT. Compartilhar históricos de conversas dos usuários devido a uma violação de segurança é uma preocupação séria, especialmente devido ao número enorme de usuários que usam este chatbot – mais de 100 milhões de usuários ativos mensais.
#2. Geração de respostas incorretas
Enquanto assistentes de IA como Alexa ou Siri usam a internet para localizar a resposta para a pergunta especificada, o ChatGPT funciona de maneira diferente. Ele funciona em um modelo em que constrói uma frase palavra por palavra e gera uma resposta que poderia ser a resposta mais provável para a pergunta. Em resumo, ele dá uma resposta com base em suposições, e é bem provável que a resposta não seja totalmente relevante para a pergunta ou possa estar completamente errada.
Se você acha que isso só acontece com perguntas complicadas, você está enganado. O ChatGPT pode falhar em um cálculo matemático simples e até mesmo gerar uma resposta errada para uma pergunta lógica simples. O engraçado é que ele pode argumentar respostas erradas com tanta convicção que parece ser plausível e verdadeiro.
Os defensores do ChatGPT têm argumentado que ele gera respostas erradas porque os usuários não estão sendo específicos, suas solicitações são ambíguas ou muito curtas, a pergunta não tem um contexto adequado, e assim por diante. Eles até sugerem que os usuários precisam ter uma conversa de ida e volta para obter uma resposta ideal.
Embora alguns desses argumentos façam sentido, não deixa de ser surpreendente por que é tão complicado e desafiador obter as respostas corretas de uma IA que supostamente sabe tanto.
Podemos concordar que, quando se trata de consultas complicadas, os usuários devem fornecer solicitações detalhadas e específicas, evitando solicitações vagas ou ambíguas. Mas será que eles realmente precisam fazer isso também para algumas perguntas lógicas básicas? Não houve casos em que o ChatGPT teve dificuldade com matemática básica fundamental e também não conseguiu compreender um raciocínio simples e direto?
#3. Ser tendencioso
Pode ser surpreendente saber que uma ferramenta de IA pode ter tendências assim como a maioria dos seres humanos. Mas não esqueça que uma ferramenta de IA como o ChatGPT, ou qualquer tecnologia, é projetada por humanos. Emocionalmente falando, este é um dos problemas mais preocupantes do ChatGPT, pois pode gerar respostas controversas ou perturbadoras que discriminam raça, gênero, faixa etária e grupos minoritários.
Qual é a causa raiz desse problema? Bem, essa ferramenta de IA foi projetada de tal forma que usa dados passados e os considera um critério importante para chegar a uma decisão para a pergunta feita ou tarefa atribuída a ela. O problema é que o que era considerado certo ou normal no passado pode ser completamente inaceitável ou eticamente errado no presente.
Muitas empresas usam o ChatGPT para revisar os currículos que recebem dos candidatos a emprego. O grande problema é que a ferramenta de IA usa um padrão linguístico dos currículos passados para analisar os currículos dos candidatos atuais e identificar os candidatos ideais.
Como isso é um problema? No passado, as mulheres eram sub-representadas, havia viés de gênero no local de trabalho e mais importância era dada aos candidatos do sexo masculino durante as entrevistas. O ChatGPT seguirá o mesmo modelo ao filtrar os candidatos atuais, resultando em um programa de contratação que pode inadvertidamente ter viés em favor de candidatos do sexo masculino. Muitas empresas enfrentaram esse problema, incluindo a gigante da tecnologia Amazon.
Não é apenas o viés de gênero, o ChatGPT também foi criticado e acusado de ter viés político contra grupos como idosos e pessoas com deficiência.
#4. Criando um impacto negativo no setor educacional
O ChatGPT pode ajudar os alunos com qualquer tarefa envolvendo brainstorming e resumos, ajudando-os a concluir suas tarefas, seja uma redação em inglês ou qualquer outra coisa. No entanto, não são apenas as tarefas; os alunos também começaram a usar a IA para ajudá-los em suas provas online. Isso forçou as autoridades de gestão da educação a reescrever cursos e fazer mudanças em seus currículos para estar um passo à frente dos alunos que estão usando a IA de maneira antiética.
O ChatGPT pode ser útil para os alunos de algumas maneiras; no entanto, suas desvantagens superam suas vantagens. Um dos impactos significativos do ChatGPT é que ele pode afetar a criatividade dos alunos. O uso frequente do chatbot de IA pode levar à falta de criatividade e a ideias centradas apenas em si mesmos.
Também pode levar à falta de inteligência emocional nos alunos, pois o chatbot de IA não possui empatia e instintos humanos em suas funções. Embora tenha sido projetado para ter um comportamento semelhante ao humano, está longe de alcançar isso devido às respostas mecânicas e robóticas que gera, bem como às falhas que abordamos neste post.
Podemos sugerir fortemente que as autoridades escolares e educadores precisam garantir que os alunos não se tornem dependentes do ChatGPT para suas tarefas e outras atividades. Também podemos dizer que isso é muito importante para garantir que sua criatividade não seja afetada. Mas será que eles serão obrigados a usar sua criatividade no futuro?
Já há discussões sobre a possibilidade de o ChatGPT substituir os seres humanos no local de trabalho. Então, os alunos realmente precisarão aprender a escrever, desenvolver e aprimorar suas habilidades para suas futuras empreitadas profissionais, considerando que o ChatGPT pode reduzir ou eliminar completamente sua necessidade no local de trabalho?
#5. Substituindo os Seres Humanos no Local de Trabalho
Se uma empresa pode obter conteúdo relevante para seu website do ChatGPT, não é necessário contratar um redator de conteúdo. Da mesma forma, o ChatGPT pode lidar com muitas outras áreas, incluindo revisão de texto, marketing por e-mail, gerenciamento de mídias sociais, tradução, atendimento ao cliente, reportagem de notícias, recrutamento, análise de suporte técnico e assim por diante.
Se uma empresa pode realizar todas essas tarefas usando um chatbot de IA, ela pode evitar a contratação de várias pessoas para cada cargo. Dessa forma, a empresa pode economizar muito dinheiro evitando salários, aumentos, seguro, etc. Podemos argumentar que avanços tecnológicos no passado também resultaram na perda de empregos em grande número. Ainda assim, em última análise, foi para o bem maior, já que esses avanços tecnológicos ajudaram a humanidade de várias maneiras.
Lembre-se, a mudança é a única constante, e você deve abraçá-la. Portanto, o avanço tecnológico não é o problema aqui. É a velocidade com que o avanço da IA está ocorrendo, causando múltiplas indústrias a enfrentar várias mudanças rapidamente, todas de uma vez.
Nossas Apreensões sobre o ChatGPT estão Corretas ou Erradas?
O ChatGPT está longe de ser perfeito, pois ainda requer intervenção humana – para fornecer entrada e revisar a saída, considerando suas falhas. Seja para tarefas escolares, um artigo sobre um produto ou serviço, ou qualquer outra coisa, requer seres humanos para revisar e editar o conteúdo antes que possa ser enviado ou publicado. Portanto, está longe de substituir seres humanos em qualquer campo, pois requer assistência humana para ajustar sua saída.
As empresas podem usar o ChatGPT para substituir funções de trabalho específicas; no entanto, se você está preocupado com demissões em massa, é improvável que aconteça, já que o chatbot de IA não pode ser usado por empresas para substituir funções de trabalho que exigem qualidades humanas como pensamento crítico, inovação, emoções, empatia e criatividade. Isso destaca um ponto importante – a importância de aprimorar e atualizar suas habilidades no mundo competitivo de hoje. Desde que você esteja constantemente trabalhando para aprimorar suas habilidades, não apenas conseguirá se manter, mas também prosperar.
Crédito da Imagem em Destaque: Fornecida pelo Autor; Pexels; Obrigado!
