OpenAI forma equipe coletiva de alinhamento para obter opiniões públicas sobre os comportamentos dos modelos de IA
A OpenAI está criando uma nova equipe para integrar os conceitos de governança baseados em crowdsourcing em seus produtos e serviços impulsionados por IA.
OpenAI formou uma equipe para incorporar ideias de governança coletiva aos seus modelos, de acordo com a ENBLE.
A OpenAI, a renomada startup de IA, está dando um passo inovador para garantir que seus futuros modelos de IA estejam alinhados com os valores da humanidade. Eles anunciaram a formação de uma nova equipe de Alinhamento Coletivo, composta por pesquisadores e engenheiros, para criar um sistema de coleta e codificação de contribuições públicas sobre os comportamentos de seus modelos de IA em seus produtos e serviços. A OpenAI tem como objetivo incorporar perspectivas diversas e democratizar o processo de tomada de decisão em relação às regras que devem orientar os sistemas de IA.
A formação da equipe de Alinhamento Coletivo é uma extensão do programa público da OpenAI, lançado no ano passado com o objetivo de conceder bolsas para financiar experimentos que possam estabelecer um processo democrático para determinar as regras e governança de sistemas de IA. O programa financiou indivíduos, equipes e organizações para desenvolverem conceitos que esclarecessem questões importantes sobre as diretrizes e governança da IA.
Em uma postagem recente no blog, a OpenAI forneceu uma visão geral do trabalho realizado pelos beneficiários das bolsas. Os projetos variaram bastante, desde interfaces de videoconferência até plataformas para auditorias colaborativas de modelos de IA. Eles também exploraram abordagens diferentes para mapear crenças que podem ser usadas para ajustar o comportamento do modelo. A OpenAI disponibilizou todo o código desenvolvido pelos beneficiários publicamente no GitHub, juntamente com resumos breves de cada proposta e principais conclusões.
Vale mencionar que a OpenAI enfatiza a natureza não comercial de seu programa. No entanto, pode surgir certa ceticismo considerando as críticas do CEO da OpenAI, Sam Altman, em relação a regulamentações na União Europeia (UE) e em outras regiões. Altman, juntamente com o presidente da OpenAI, Greg Brockman, e o cientista-chefe Ilya Sutskever, expressou preocupações de que as autoridades existentes possam não acompanhar o ritmo acelerado da inovação em IA, levando a OpenAI a adotar uma abordagem de crowdsourcing.
As atividades da OpenAI não passaram despercebidas pelos reguladores. A startup está sendo investigada no Reino Unido devido à sua relação com a Microsoft, um de seus parceiros e investidores próximos. Para mitigar riscos regulatórios relacionados à privacidade de dados na UE, a OpenAI estrategicamente utilizou uma subsidiária em Dublin para limitar a capacidade de certas autoridades de privacidade na região de tomar medidas unilaterais com base em suas preocupações.
- Deepfakes e o Surgimento dos Vídeos de Golpes O Lado Negro da IA
- A Microsoft oferece uma assinatura mensal chamada Copilot Pro por U...
- Copilot Pro da Microsoft Levando os Chatbots para o Próximo Nível
Para abordar preocupações sobre o uso indevido de sua tecnologia, especialmente durante eleições, a OpenAI anunciou recentemente colaborações com organizações para explorar maneiras de prevenir o uso malicioso de suas ferramentas. Eles estão trabalhando ativamente para tornar mais evidente quando as imagens são geradas por IA, mesmo após modificações, e desenvolvendo métodos para identificar conteúdo gerado.
🔍 P&R: Abordando as Preocupações dos Leitores
P: Como a OpenAI coletará contribuições públicas sobre os comportamentos de seus modelos de IA? R: A OpenAI está formando uma equipe de Alinhamento Coletivo composta por pesquisadores e engenheiros, que será responsável por criar um sistema que coleta e codifica as contribuições públicas sobre os comportamentos de seus modelos de IA. Eles pretendem incorporar perspectivas diversas em seu processo de tomada de decisão.
P: Que tipo de experimentos foram financiados pelo programa público da OpenAI? R: A OpenAI concedeu bolsas para indivíduos, equipes e organizações para financiar experimentos focados no desenvolvimento de conceitos relacionados a regras e governança de sistemas de IA. Os projetos incluíram interfaces de videoconferência, auditorias colaborativas de modelos de IA e abordagens para mapear crenças que ajustam o comportamento do modelo.
P: Como a OpenAI garante que seu programa seja imparcial e não comercial? R: A OpenAI tentou distanciar o programa de seus interesses comerciais. No entanto, pode surgir ceticismo devido às críticas às regulamentações expressas pelo CEO e outras figuras-chave da OpenAI. No entanto, a OpenAI está trabalhando ativamente para democratizar o processo de tomada de decisão e incorporar contribuições públicas.
P: O que a OpenAI está fazendo para evitar o uso indevido de sua tecnologia de IA durante eleições? R: Com foco em transparência e limitações, a OpenAI está colaborando com organizações para abordar preocupações relacionadas ao uso malicioso de suas ferramentas durante eleições. Eles estão trabalhando para tornar as imagens geradas por IA mais facilmente identificáveis e desenvolvendo técnicas para identificar conteúdo manipulado.
🌐 Impacto na Indústria e Futuros Desenvolvimentos
A iniciativa da OpenAI de coletar e incorporar contribuições públicas sobre os comportamentos de modelos de IA representa um passo significativo para garantir o desenvolvimento ético e responsável da IA. Ao envolver perspectivas diversas, a OpenAI busca evitar viéses e alinhar seus modelos com os valores da humanidade. Essa ação estabelece um precedente positivo na indústria de IA, enfatizando a importância da democratização e da responsabilidade.
Iniciativas similares de outras organizações e instituições, como a Partnership on AI e as diretrizes da União Europeia sobre IA confiável, ressaltam o reconhecimento crescente da necessidade de tomada de decisão coletiva e práticas responsáveis em IA. Essas iniciativas fornecem insights valiosos sobre as considerações éticas, estruturas de políticas e implementações técnicas necessárias para o desenvolvimento e implantação de sistemas de IA.
À medida que o panorama da IA continua a evoluir, é crucial encontrar um equilíbrio entre inovação e regulamentação para garantir o uso responsável e ético das tecnologias de IA. Os esforços da OpenAI em envolver o público e considerar seus valores e preocupações são passos na direção certa, promovendo uma abordagem colaborativa e inclusiva para o desenvolvimento da IA.
🌐 Referências
- Anúncio oficial da OpenAI
- Programa público da OpenAI e beneficiários de subsídios
- Parceria em IA
- Diretrizes da União Europeia para IA confiável
- Investigação da OpenAI no Reino Unido
Caros leitores, o que vocês acham da abordagem da OpenAI de coletar contribuições públicas para seus modelos de IA? Vocês acreditam que incorporar perspectivas diversas pode levar a um desenvolvimento de IA mais ético e responsável? Compartilhem suas opiniões conosco nos comentários abaixo e continuemos a conversa! 😄
Se você achou este artigo esclarecedor, sinta-se à vontade para compartilhá-lo em suas plataformas de mídia social favoritas para divulgar a busca da OpenAI pela conformidade com os valores humanos. Juntos, vamos moldar o futuro da IA! 🚀
