Gerador de Imagens de IA Midjourney Proíbe Sugestões Envolvendo Trump e Biden.
Esta tarefa de moderação é bastante desafiadora.
Durante uma viagem, as plataformas de mídia social lidam cuidadosamente com as postagens de Joe Biden e Donald Trump devido à preocupação com a disseminação de desinformação eleitoral.
Imagem: [Inserir Imagem Relevante Aqui]
Numa tentativa de conter a disseminação de desinformação e manipulação antes das eleições presidenciais de 2024, o Midjourney, o gerador de imagens de IA conhecido por criar imagens falsas, anunciou que banirá prompts de imagem envolvendo tanto Donald Trump quanto Joe Biden. Essa decisão vem à medida que especialistas e defensores expressam preocupação com o uso da tecnologia de IA para influenciar eleitores.
Testes realizados pela Associated Press mostraram que pedidos de imagens de “Trump e Biden apertando as mãos na praia” acionaram um aviso de “Prompt Banido Detectado”. O CEO do Midjourney, David Holz, afirmou que, embora não esteja particularmente interessado em discurso político, ele também não quer passar todo o seu tempo policiando-o. Ele vislumbra um futuro onde atores mal-intencionados possam criar deepfakes e chatbots ainda mais sofisticados, tornando a moderação um desafio.
O Midjourney não é a única ferramenta de IA que está tomando medidas para lidar com a disseminação de imagens problemáticas. O Bing Image Generator da Microsoft anteriormente tentou banir prompts relacionados às “torres gêmeas” para evitar a criação de memes referentes aos ataques de 11 de setembro.
Além disso, o gerador avançado de imagens da OpenAI, o DALL-E 3, implementou políticas de uso mais restritivas e um sistema de segurança multinível para limitar a geração de conteúdo violento, odioso ou adulto. O DALL-E 3 também recusa pedidos de geração de imagens de pessoas reais, incluindo candidatos políticos.
- O Índice de Inovação ENBLE Inteligência Artificial Assume a Lideran...
- 🚀 Microsoft Copilot Pro Desbloqueando o Poder dos Chatbots de IA
- A chegada tardia da Apple à festa da IA generativa.
Essas ações destacam a crescente consciência da indústria sobre o potencial uso indevido da tecnologia de IA e a necessidade de medidas proativas para combater seus efeitos negativos. A OpenAI anteriormente detectou e terminou contas de atores mal-intencionados afiliados a estados estrangeiros usando suas tecnologias de IA generativa.
Conteúdo de Perguntas e Respostas:
P: Os geradores de imagens de IA como o Midjourney representam uma ameaça significativa durante as eleições?
R: Os geradores de imagens de IA de fato podem representar uma ameaça durante as eleições. Com a capacidade de criar imagens falsas altamente realistas, atores mal-intencionados podem potencialmente usá-las para espalhar desinformação, manipular a opinião pública e influenciar o resultado das eleições.
P: Como os geradores de imagens de IA detectam e previnem a criação de imagens problemáticas?
R: Os geradores de imagens de IA utilizam diversas técnicas para detectar e prevenir a geração de imagens problemáticas. Isso inclui filtros de palavras-chave, listas de banimento, alertas de abuso e sistemas de segurança que restrigem a capacidade do gerador de produzir conteúdo violento, odioso ou adulto.
P: Os geradores de imagens de IA podem eliminar completamente a criação de imagens falsas?
R: Embora os geradores de imagens de IA possam implementar medidas para lidar com a criação de imagens falsas, é desafiador eliminar completamente a produção desse tipo de conteúdo. Atores mal-intencionados continuam a encontrar maneiras de contornar as restrições e criar deepfakes convincentes. Pesquisa e desenvolvimento contínuos são necessários para permanecer à frente dessas técnicas em evolução.
P: Como indivíduos e plataformas podem se proteger da influência de imagens manipuladas durante as eleições?
R: Para se proteger da influência de imagens manipuladas, indivíduos e plataformas devem se manter vigilantes e avaliar criticamente a autenticidade das imagens que encontram. Verificação de fatos, confiar em fontes confiáveis e promover a alfabetização digital podem ajudar a combater a disseminação de desinformação.
Essas ações recentes do Midjourney, Microsoft e OpenAI refletem a resposta em evolução da indústria ao uso indevido da tecnologia de IA. Ao estabelecer diretrizes rígidas e adotar sistemas avançados de detecção, essas empresas visam proteger a integridade das eleições e minimizar o impacto de imagens falsas.
À medida que a tecnologia de IA continua avançando, é crucial tanto para profissionais da indústria quanto para reguladores abordar ativamente suas implicações éticas e elaborar soluções abrangentes. Somente por meio de esforços coletivos podemos aproveitar o potencial da IA enquanto protegemos contra seu uso indevido.
Referências: 1. Microsoft Atualiza o Copilot AI com Melhores Prompts Sugeridos 2. Apple Lança a Prévia de Tecnologia do Safari com Correções de Bugs e Melhorias de Desempenho 3. Vítimas de Deepfakes Não Consensuais Se Armam com a Lei de Direitos Autorais 4. Óculos Inteligentes Ray-Ban Meta: Novos Poderes de IA São Impressionantes e Preocupantes 5. AIs Servem: Lixo na Entrada, Perguntas Lixo na Votação
Você achou este artigo informativo? Compartilhe com seus amigos para conscientizá-los sobre as medidas que estão sendo tomadas para combater a disseminação de imagens falsas durante as eleições!
Autor: Seu Nome
