Motores de busca sob o microscópio estão eles facilitando conteúdo prejudicial?
Dê lugar ao TikTok, Ofcom planeja combater os mecanismos de busca sob a nova Lei de Segurança Online no Reino Unido
Um relatório recente da Ofcom revelou que 1 em cada 5 resultados de pesquisa de conteúdo nocivo eram ‘portais de acesso com um clique’, levando a um material ainda mais tóxico.
🔍🚀🧨
Deixem passar, TikTok. A Ofcom, o regulador do Reino Unido responsável pela aplicação da agora oficial Online Safety Act, está se preparando para mirar em um alvo ainda maior: os motores de busca, como o Google e o Bing, e o papel que eles desempenham na apresentação de conteúdo prejudicial como automutilação, suicídio e outros, com apenas um clique, especialmente para usuários menores de idade.
Um relatório encomendado pela Ofcom e produzido pelo Instituto de Pesquisa de Contágio de Rede constatou que os principais motores de busca, como o Google, o Bing da Microsoft, o DuckDuckGo, o Yahoo e o AOL, se tornam “portais de acesso com um clique” para tais conteúdos, facilitando o acesso fácil e rápido a páginas da web, imagens e vídeos – com um de cada cinco resultados de pesquisa relacionados a termos básicos de automutilação levando a conteúdo nocivo adicional.
Buscando em Terreno Instável
A pesquisa é oportuna e significativa porque muito do foco em torno do conteúdo prejudicial online nos últimos tempos tem sido sobre a influência e o uso de sites de mídia social fechados, como o Instagram e o TikTok. Essa nova pesquisa é, significativamente, o primeiro passo para ajudar a Ofcom a entender e reunir evidências sobre se existe uma ameaça potencial muito maior, com sites de acesso livre como o Google.com recebendo mais de 80 bilhões de visitas por mês, em comparação com a base de usuários ativos mensais do TikTok, de cerca de 1,7 bilhões.
🔍P: Que mal os motores de busca realmente podem causar? Imagine os motores de busca como as portas de entrada para um tesouro de conhecimento, mas às vezes, os tesouros não são tão valiosos. Essa pesquisa mostrou que os motores de busca podem nos levar a cantos obscuros e prejudiciais da internet, com conteúdo perigoso relacionado a automutilação e suicídio a apenas um clique de distância. É como receber a chave de uma estante proibida onde fantasia e realidade se chocam.
- A injusta desvendar do pacote salarial de Elon Musk
- Wattpad realiza mais uma rodada de demissões, buscando estabilidade...
- Universal Music Group retira música do TikTok devido a disputa de r...
“Os motores de busca geralmente são o ponto de partida da experiência online das pessoas, e estamos preocupados que eles possam ser portais de acesso com um clique para um conteúdo prejudicial de automutilação”, disse Almudena Lara, Diretora de Desenvolvimento de Políticas de Segurança Online da Ofcom. “Os serviços de busca precisam entender seus riscos potenciais e a eficácia de suas medidas de proteção – especialmente para manter as crianças seguras online – antes de nossa ampla consulta, prevista para a primavera.”
🕵️♂️P: O que os pesquisadores descobriram? Os pesquisadores analisaram quase 37.000 links de resultados nos cinco motores de busca mencionados anteriormente. Eles realizaram pesquisas intencionalmente com termos de busca comuns e mais obscuros (para evitar a triagem básica), desativando as ferramentas de triagem parental “safe search”, replicando as formas mais básicas que as pessoas usam os motores de busca e os piores cenários possíveis. Os resultados foram tão ruins quanto se poderia temer!
Não apenas 22% dos resultados de pesquisa produziram links de clique único para conteúdo prejudicial (incluindo instruções para várias formas de automutilação), mas esse conteúdo representou impressionantes 19% dos links mais bem posicionados nos resultados, e até 22% dos links nas primeiras páginas dos resultados. 🤦♀️
A busca de imagens foi particularmente grave, com 50% delas retornando conteúdo prejudicial. Páginas da web vieram em seguida, com 28%, e vídeos obtiveram 22%. Uma das razões pelas quais os algoritmos podem ter dificuldade em filtrar conteúdo prejudicial é que eles podem confundir imagens de automutilação com mídia médica e outros conteúdos legítimos. É como tentar separar as maçãs boas das ruins sem os óculos!
🔍P: Por que os termos de busca mais obscuros são mais eficazes para encontrar conteúdo prejudicial? Os pesquisadores descobriram que os termos de busca mais obscuros tinham seis vezes mais chances de levar os usuários a conteúdo prejudicial. Isso ocorre porque os algoritmos de busca têm dificuldade em interpretar a intenção por trás desses termos e frequentemente falham em filtrar resultados prejudiciais. É como tentar navegar por um campo minado com os olhos vendados – suas chances de pisar em uma mina prejudicial aumentam drasticamente!
O Fator IA: Uma Caixa de Pandora Potencial
Uma coisa que o relatório não aborda, mas provavelmente se tornará um problema maior com o tempo, é o papel que as buscas de IA generativa podem desempenhar nesse espaço. À medida que plataformas como o ChatGPT se tornam mais prevalentes, precauções estão sendo tomadas para impedir seu uso malicioso. No entanto, a pergunta permanece: os usuários encontrarão maneiras de explorá-los e quais podem ser as implicações?
“Já estamos trabalhando para construir uma compreensão aprofundada das oportunidades e riscos das novas e emergentes tecnologias, para que a inovação possa prosperar enquanto a segurança dos usuários é protegida. Algumas aplicações de IA generativa provavelmente estarão dentro do escopo da Lei de Segurança Online, e esperaríamos que os serviços avaliassem os riscos relacionados ao seu uso ao realizar sua avaliação de riscos”, disse um porta-voz da Ofcom.
🤖P: Qual é o papel das buscas de IA generativa em tudo isso? As buscas de IA generativa, alimentadas por tecnologia de ponta como o ChatGPT, têm o potencial de revolucionar as experiências online. No entanto, também representam riscos. Embora esforços estejam sendo feitos para evitar seu uso indevido para fins tóxicos, sempre existe a possibilidade de os usuários encontrarem maneiras de explorá-los. É como ter um gênio poderoso que pode conceder tanto desejos maravilhosos quanto maldições terríveis – tudo depende de como ele é controlado.
O Caminho a Seguir: Proteger os Usuários, Especialmente as Crianças
Nem tudo é desgraça e melancolia! Em meio às estatísticas alarmantes, o relatório também apontou que 22% dos resultados de busca são realmente úteis. No entanto, esse relatório serve como um alerta às provedoras de mecanismos de busca, lembrando-as das melhorias que precisam fazer.
A Ofcom planeja abrir uma consulta sobre seu Código de Prática para Proteção de Crianças na primavera. Isso visa estabelecer “as medidas práticas que os serviços de busca podem adotar para proteger adequadamente as crianças”, minimizando as chances de encontrarem conteúdo prejudicial relacionado a tópicos delicados como suicídio ou distúrbios alimentares em toda a internet, incluindo mecanismos de busca.
💡P: Quais medidas os provedores de mecanismos de busca precisarão tomar para proteger as crianças? Os provedores de mecanismos de busca devem assumir a responsabilidade e garantir a segurança das crianças durante a navegação. Isso significa implementar medidas mais rigorosas para impedir que conteúdos prejudiciais escorreguem pelos vãos. É como construir uma muralha fortificada ao redor de um reino encantado, protegendo seus jovens habitantes da escuridão que espreita do lado de fora.
“Empresas de tecnologia que não levarem isso a sério devem esperar que a Ofcom tome medidas adequadas contra elas no futuro”, alertou um porta-voz da Ofcom. Isso inclui a possibilidade de multas (como último recurso) e, em casos extremos, ordens judiciais exigindo que os ISPs bloqueiem o acesso a serviços não conformes. Executivos responsáveis por serviços que violam as regras também podem enfrentar responsabilidade criminal.
⚖️P: Quais ações a Ofcom tomará contra provedores de mecanismos de busca que não priorizam a segurança do usuário? A Ofcom está determinada a responsabilizar as empresas de tecnologia pela segurança do usuário. Eles estão preparados para tomar medidas, como impor multas e implementar ordens judiciais, para garantir o cumprimento das regras. É como ter uma equipe de guardiões vigilantes prontos para punir aqueles que colocam em risco o bem-estar dos usuários da internet.
Até o momento, o Google respondeu às descobertas do relatório, destacando seus esforços e recursos de segurança. No entanto, até o momento da redação, nenhuma resposta foi recebida da Microsoft e do DuckDuckGo.
📣P: Como o Google está lidando com essas preocupações? O Google enfatiza seu compromisso em manter as pessoas seguras online. Eles afirmam que o estudo da Ofcom não reflete as salvaguardas atualmente em vigor no Google Search, que incluem recursos padrão como SafeSearch e a configuração de desfoque SafeSearch, além de painéis de recursos de suporte em casos de crise para orientar os usuários que buscam informações sobre tópicos sensíveis.
Conclusão
Mecanismos de busca sempre foram nossa porta de entrada para a vastidão da internet. No entanto, essa pesquisa lança luz sobre os perigos potenciais ocultos nos resultados das buscas, especialmente para usuários vulneráveis, como crianças. É crucial que os provedores de mecanismos de busca priorizem a segurança do usuário e tomem medidas concretas para prevenir a propagação de conteúdo prejudicial.
À medida que a tecnologia continua a evoluir, novos desafios surgirão, como o papel das buscas de IA generativa. A necessidade de regulamentação e uso responsável de plataformas impulsionadas por IA não pode ser subestimada.
É hora de ver os mecanismos de busca não apenas como ferramentas poderosas, mas também como guardiões de uma experiência online mais segura para todos. Vamos trabalhar rumo a um futuro onde nossas buscas nos levem a um mundo de informações, inspiração e positividade, ao invés de um abismo digital de danos.
Referências:
- Lei de Segurança Online
- TikTok
- Vi os Novos TVs Transparentes da Samsung e LG na CES? Há um Vencedor Claro
- eBay pagará $3 Milhões para Resolver Acusações Criminais em um Caso de Perseguição Virtual Bizarro
🤗 Quais são seus pensamentos sobre o impacto dos mecanismos de busca na oferta de conteúdo prejudicial? Compartilhe suas opiniões e experiências nos comentários abaixo! Não se esqueça de apertar o botão de compartilhamento para conscientizar sobre essa importante questão. Juntos, podemos tornar a internet um lugar mais seguro. 💪
