Os esforços do Instagram para rotular conteúdo gerado por IA
Instagram's efforts to label AI-generated content
A inteligência artificial (IA) está desempenhando um papel maior e causando disrupções em muitos mercados. Em particular, as plataformas de mídia social adotaram ferramentas de IA para melhor atender seus usuários. O Instagram, um dos sites de mídia social mais populares, está atualmente desenvolvendo novos avisos para rotular postagens que foram criadas com inteligência artificial. O objetivo dessa mudança é ser mais aberto e honesto sobre o uso de IA na produção da mídia consumida pelas pessoas.
Para informar seus usuários quando a inteligência artificial (IA) foi usada na produção de conteúdo, o Instagram está trabalhando atualmente em um sistema de rotulagem. Compartilhando uma captura de tela do aplicativo Instagram, o pesquisador de aplicativos Alessandro Paluzzi revela uma página com um aviso que diz, “o criador ou a Meta disse que este conteúdo foi criado ou editado com IA”. Este aviso enfatiza que o conteúdo em questão foi “gerado pela IA da Meta”. O artigo continua com uma breve explicação sobre IA generativa e algumas dicas para identificar artigos que fazem uso de IA.
A Meta, empresa mãe do Instagram, e outros grandes players de IA como o Google, Microsoft e OpenAI fizeram recentemente compromissos que estão alinhados com a introdução desse sistema de rotulagem. Essas promessas foram desenvolvidas em conjunto com a Casa Branca e têm como objetivo garantir o crescimento ético da IA. Alguns exemplos desses esforços são o financiamento de estudos sobre segurança cibernética e discriminação, e a criação de um sistema de marca d’água para alertar o público sobre a presença de conteúdo gerado por IA.
Uma vez que a frase “a Meta disse” aparece no rótulo, é seguro assumir que a empresa de tecnologia Meta aplicará proativamente o aviso em alguns casos, em vez de depender apenas das divulgações dos usuários, embora o nível exato de automação no sistema de rotulagem do Instagram ainda seja desconhecido. Um representante da Meta se recusou a comentar sobre o aviso, mas esse novo recurso mostra o compromisso da plataforma com a transparência e a responsabilidade em relação ao conteúdo gerado por IA.
Preocupações sobre a possível disseminação de desinformação foram levantadas diante do surgimento de conteúdo gerado por IA. Embora ainda esteja em seus estágios iniciais, somos lembrados das possíveis ramificações por eventos como a imagem viral do Papa Francisco vestindo um casaco cheio de estilo no início deste ano. A facilidade com que a IA pode ser usada para criar e espalhar informações enganosas ou prejudiciais foi destacada por essa imagem, que posteriormente foi desmentida. Isso é perigoso não apenas em contextos triviais como o casaco do papa, mas também na produção de deepfakes na forma de imagens de satélite ou fotografia política.
- Novas Regras da China sobre Vício em Internet São Muito Extremas?
- Passos para Escrever uma Redação Um Guia para Escrever Redações Exc...
- A Apple está em apuros?
Recentemente, a Meta deu passos para melhorar suas capacidades de inteligência artificial (IA), incluindo a disponibilização do seu grande modelo de linguagem LLaMA 2. Recursos de IA generativa que são acessíveis ao público em geral para serviços como o Instagram ainda estão em desenvolvimento. No entanto, evidências dos recursos em desenvolvimento começaram a surgir. Mark Zuckerberg, CEO da Meta, informou os funcionários em uma reunião geral em junho que a empresa estava desenvolvendo recursos como prompts de texto para editar fotos para o Instagram Stories. Alessandro Paluzzi, um pesquisador de aplicativos, também encontrou evidências de um recurso “pincel de IA” para o Instagram, que permitiria aos usuários editar pixels individuais em fotos. Além disso, o Financial Times informou que, a partir do próximo mês, a Meta poderia adicionar um recurso de ‘personas’ aos seus chatbots de IA.
Outro líder do setor em IA, o Google, passou a reconhecer o valor de informar os consumidores sobre o conteúdo criado por IA. O recurso “Sobre esta imagem” da busca de imagens da empresa será em breve lançado, conforme anunciado pela empresa. Neste verão, quando for lançado, um novo recurso facilitará identificar se uma imagem é produto de inteligência artificial ou não. Esse recurso fornece contexto valioso e insights sobre a autenticidade da imagem, revelando o primeiro local onde o Google a indexou.
A indústria de tecnologia como um todo está começando a reconhecer a importância da transparência e responsabilidade, como evidenciado pelos esforços do Instagram e do Google para rotular e identificar conteúdo gerado por IA. Os usuários precisam saber quando e como a IA é usada na criação de conteúdo, à medida que a IA se desenvolve e se integra cada vez mais em nossas vidas diárias. Ao fornecer descritores claros, esses sistemas de rotulagem ajudam os usuários a fazer escolhas informadas sobre o conteúdo com o qual interagem.
A decisão do Instagram de rotular conteúdo gerado por IA é um passo positivo em direção a uma maior transparência e responsabilidade em uma era em que as tecnologias de IA estão moldando cada vez mais nossas experiências digitais. O objetivo do Instagram é dar aos usuários mais controle sobre o conteúdo que consomem, notificando-os quando a IA foi usada na produção desse conteúdo. Juntamente com o trabalho do Google para identificar imagens geradas por IA, isso indica uma crescente conscientização sobre a necessidade de abertura na era da IA. As plataformas e empresas devem priorizar o uso ético e responsável da IA à medida que essas tecnologias avançam, a fim de manter a confiança dos usuários e tornar a internet um lugar mais seguro para todos.
Primeiro relatado em The ENBLE
Perguntas Frequentes
Qual é o objetivo do Instagram com o desenvolvimento de um novo sistema de rotulagem?
O objetivo do Instagram com o novo sistema de rotulagem é ser mais aberto e honesto sobre o uso de inteligência artificial (IA) na produção de conteúdo em sua plataforma. O sistema de rotulagem informará os usuários quando a IA foi usada para criar ou editar uma postagem.
Quem está desenvolvendo o sistema de rotulagem para conteúdo gerado por IA no Instagram?
A empresa mãe do Instagram, Meta, está desenvolvendo o sistema de rotulagem para conteúdo gerado por IA na plataforma.
O que o rótulo do conteúdo gerado por IA dirá?
O rótulo do conteúdo gerado por IA dirá: “o criador ou a Meta disse que este conteúdo foi criado ou editado com IA.” Isso enfatiza que o conteúdo foi “gerado pela Meta AI”.
Por que a introdução do sistema de rotulagem é importante?
A introdução do sistema de rotulagem é importante para abordar preocupações sobre a possível propagação de desinformação e deepfakes por meio de conteúdo gerado por IA. O objetivo é fornecer aos usuários mais contexto e transparência sobre o conteúdo que consomem.
Quais são alguns exemplos de esforços feitos por grandes empresas de IA em relação ao crescimento ético da IA?
Grandes empresas de IA como Meta, Google, Microsoft e OpenAI fizeram compromissos em parceria com a Casa Branca para garantir o crescimento ético da IA. Esses esforços incluem o financiamento de estudos sobre cibersegurança e discriminação, bem como a criação de um sistema de marca d’água para alertar o público sobre conteúdo gerado por IA.
Como a Meta está aplicando o aviso sobre conteúdo gerado por IA?
Embora o nível exato de automação no sistema de rotulagem do Instagram não seja conhecido, a presença da frase “a Meta disse” no rótulo sugere que a Meta possa aplicar proativamente o aviso em alguns casos, além de depender das divulgações dos usuários.
Quais outras funcionalidades de IA estão sendo desenvolvidas para o Instagram?
A Meta está desenvolvendo outras funcionalidades de IA para o Instagram, incluindo prompts de texto para editar fotos nas Histórias do Instagram e um recurso de “pincel de IA” que permite aos usuários editar pixels individuais em fotos.
Como o Google está lidando com conteúdo gerado por IA?
O Google também está trabalhando para informar os consumidores sobre conteúdo criado por IA. Está prestes a lançar um recurso “Sobre esta imagem” para sua pesquisa de imagens, facilitando para os usuários determinar se uma imagem é produto de IA ou não.
Por que a transparência é importante na era da IA?
A transparência é crucial na era da IA para dar aos usuários mais controle sobre o conteúdo com o qual interagem e ajudá-los a tomar decisões informadas sobre as informações que consomem. Ela promove a confiança e garante o uso responsável das tecnologias de IA.
Qual é o impacto mais amplo da decisão do Instagram de rotular conteúdo gerado por IA?
A decisão do Instagram de rotular conteúdo gerado por IA é um passo positivo em direção a uma maior transparência e responsabilidade no uso das tecnologias de IA. Isso reflete uma crescente conscientização na indústria de tecnologia sobre a necessidade de abertura e responsabilidade na era da IA para criar um ambiente online mais seguro para todos.
Crédito da Imagem em Destaque: Unsplash
