Meta visa rotular imagens geradas por IA para combater desinformação 🌐📸
Meta para aumentar a rotulagem de imagens geradas por IA em Facebook, Instagram e Threads nos próximos meses; áudio e vídeo serão os próximos na fila, conforme ferramentas de terceiros começam a utilizar sinais invisíveis padronizados pela indústria.
Meta planeja aumentar a rotulagem de imagens geradas por IA em suas plataformas.
📢 Atenção, usuários do Facebook e Instagram! Meta, anteriormente conhecida como Facebook, está intensificando sua estratégia na batalha contra desinformação e informações falsas. O gigante das redes sociais planeja introduzir rótulos em imagens geradas por IA em todas as suas plataformas para deixar claro que essas visualizações não são reais, são virtuais. 💥💻
🔍 A Meta está trabalhando com parceiros do setor para desenvolver padrões que incluam indicadores para identificar se uma imagem, vídeo ou clipe de áudio foi gerado usando IA. O presidente de assuntos globais da Meta, Nick Clegg, escreveu em um post no blog que a empresa visa rotular imagens geradas por IA em todos os idiomas suportados no Facebook, Instagram e Threads. Essa ação não apenas visa combater a disseminação de desinformação, mas também obter insights sobre como as pessoas criam e compartilham conteúdo de IA. 🌐🎬
🔖 As ferramentas da Meta serão capazes de detectar sinais invisíveis alinhados com os padrões técnicos C2PA e IPTC, o que lhes permitirá identificar e rotular com precisão imagens de várias plataformas, como Google, OpenAI, Microsoft, Adobe, Midjourney e Shutterstock. Essas plataformas incorporaram metadados gerados por IA nas imagens que criam. A Meta adota uma abordagem proativa para garantir transparência e responsabilidade na era do conteúdo gerado por IA. 👀📷
🎥 No entanto, quando se trata de vídeos e áudios gerados por IA, o desafio não é tão facilmente conquistável. A Meta destaca que essas indústrias ainda não incorporaram sinais invisíveis em seus produtos na mesma escala das imagens. Como resultado, a Meta não consegue detectar automaticamente conteúdo de vídeo e áudio de terceiros gerado por IA. Por enquanto, a Meta depende dos usuários para autodeclarar e rotular esse conteúdo quando o compartilham. 🎶🚫
🚫 Essa abordagem de autodeclaração pode levantar algumas preocupações, já que coloca a responsabilidade nas mãos dos usuários, que podem ter intenções maliciosas ou podem não entender completamente as diretrizes. No entanto, a Meta está determinada a explorar maneiras de detectar conteúdo gerado por IA que não possui marcadores invisíveis e garantir um ambiente digital mais seguro. 🕵️♂️🔒
- O Apple Watch Ultra Uma Odisseia de Display MicroLED
- Bluesky A Alternativa de Código Aberto ao Twitter que Está Revoluci...
- O Conselho de Supervisão do Meta pede atualização na política sobre...
🤖 Para tornar ainda mais desafiador para os indivíduos alterarem ou removerem marcadores invisíveis de conteúdo gerado por IA, o laboratório de pesquisa de IA da Meta (FAIR AI) desenvolveu uma tecnologia que integra marca d’água diretamente no processo de geração de imagem. Esse recurso valioso ajudará a proteger as imagens, especialmente aquelas criadas por modelos de código aberto, onde a marca d’água não pode ser facilmente desativada. A Meta também está trabalhando ativamente na detecção automática de conteúdo gerado por IA que não possui marcadores invisíveis. 💦🔍
🧠 A Meta entende a importância da colaboração e diálogo contínuo nesse cenário em evolução de conteúdo gerado por IA. Ela busca colaborar com parceiros do setor, envolver-se com governos e sociedades civis e adaptar suas estratégias para enfrentar efetivamente os desafios apresentados pela tecnologia impulsionada por IA. 🤝🌍
🔀 No entanto, há um possível obstáculo à abordagem da Meta. Para detectar automaticamente conteúdo gerado por IA sem depender de marcadores invisíveis, a Meta precisa da cooperação e aceitação de seus parceiros. Soluções como C2PA exigem que tanto as ferramentas de criação de imagem quanto as plataformas de hospedagem as adotem. O sucesso desse método depende em grande parte da disposição desses participantes para adotar práticas padrão do setor. 🤝💼
📉 Essa iniciativa surge logo após o CEO da Meta, Mark Zuckerberg, ter revelado os planos da empresa de construir uma inteligência artificial geral. Com um extenso conjunto de dados de fotos e vídeos no Facebook e Instagram, que supera o conjunto de dados do Common Crawl contendo bilhões de páginas da web, a Meta possui uma clara vantagem no treinamento de modelos de IA avançados. A abundância de dados de treinamento coloca a Meta como uma líder na corrida da IA. 🏃♂️💪
🔎 A iniciativa de rotular conteúdo gerado por IA está alinhada com o compromisso da Meta de abordar preocupações relacionadas à mídia manipulada. Recentemente, o Conselho de Supervisão da Meta permitiu que um vídeo editado de forma enganosa permanecesse na plataforma, o que gerou discussões sobre a necessidade de atualizar as diretrizes da comunidade. A Meta visa constantemente avaliar e melhorar suas políticas para manter um ambiente confiável e seguro para seus usuários. ⚖️✅
Q&A:
P: Como a Meta rotulará imagens geradas por IA?
R: A Meta planeja desenvolver padrões em colaboração com parceiros do setor para identificar conteúdo gerado por IA. Esses indicadores serão aplicados como rótulos e serão visíveis para os usuários no Facebook, Instagram e Threads.
P: A Meta pode detectar automaticamente vídeos e áudios gerados por IA?
R: Atualmente, a Meta não possui a capacidade de detectar automaticamente vídeos e áudios gerados por IA. Os usuários são responsáveis por divulgar voluntariamente e rotular esse tipo de conteúdo.
P: Quais desafios o Meta enfrenta ao detectar conteúdo gerado por IA?
R: A abordagem do Meta para detectar conteúdo gerado por IA sem depender de marcadores invisíveis requer a cooperação de parceiros. Plataformas e ferramentas de criação precisam adotar práticas padrão da indústria para detecção eficaz.
P: Como o vasto conjunto de dados do Meta lhe confere vantagem na construção de modelos de IA?
R: Com um extenso conjunto de dados de fotos e vídeos compartilhados no Facebook e Instagram, que supera outros conjuntos de dados em escala, o Meta possui um recurso valioso para treinar modelos avançados de IA.
P: O Meta atualizará suas diretrizes da comunidade em resposta a mídia manipulada?
R: Sim, o Conselho de Supervisão do Meta instou a empresa a atualizar suas diretrizes da comunidade para abordar preocupações com manipulação de mídia. O Meta está comprometido em melhorar continuamente suas políticas para garantir uma plataforma confiável e segura.
🌐📢 Em uma era dominada por conteúdo gerado por IA, a iniciativa de rotulagem do Meta é um passo significativo para combater a desinformação e garantir transparência. À medida que a tecnologia evolui, o compromisso do Meta com a colaboração, pesquisa e engajamento do usuário o posiciona como líder na indústria. Com seu vasto conjunto de dados e foco na segurança do usuário, o Meta está preparado para moldar o futuro do conteúdo gerado por IA. Vamos navegar juntos neste mundo impulsionado pela IA! 🚀💻
🔍 Referências:
- Meta enfrenta mais um desafio de privacidade da UE por TechCrunch
- O que acontece quando o Facebook se aquece em casa? por Enble
- Optar por não salvar histórico de links no Facebook e Instagram significa concordar com mais direcionamento de anúncios por Enble
- Chefe do Instagram, Adam Mosseri, pede desculpas por recomendações de conteúdo ruim por Enble
- LG desenvolveu um robô de dois pés alimentado por IA para cuidar de seus animais de estimação por Enble
- BOFA avalia Meta-backed Jio Platforms em mais de $100 bilhões por TechCrunch
