ONU estabelece equipe consultiva para coordenar a governança inclusiva da IA
ONU cria equipe consultiva para coordenar governança inclusiva da inteligência artificial
As Nações Unidas (ONU) criaram uma equipe consultiva para analisar como a inteligência artificial (IA) deve ser governada para mitigar riscos potenciais, com o compromisso de adotar uma abordagem “globalmente inclusiva”. A iniciativa surge em meio a novas pesquisas que indicam que os consumidores não confiam nem nas empresas para adotar a IA generativa de forma responsável, nem em cumprir as regulamentações que regem seu uso.
O novo órgão consultivo sobre IA é multidisciplinar e tratará de questões relacionadas à governança internacional da IA, diz o Secretário-Geral da ONU, António Guterres.
Além disso: IA generativa está em toda parte, o tempo todo
O órgão atualmente é composto por 39 membros e inclui representantes de agências governamentais, organizações privadas e academia, como o executivo-chefe de IA do governo de Singapura, o secretário de Estado de Digitalização e IA da Espanha, o CTO do Grupo Sony, o CTO da OpenAI, o diretor de política internacional do Centro de Política Cibernética da Universidade de Stanford e o professor do Instituto de Direito de Dados da Universidade de Ciência Política e Direito da China.
Com o surgimento de aplicativos como chatbots, clonagem de voz e geradores de imagens durante o último ano, a IA demonstrou sua capacidade de trazer possibilidades significativas, bem como perigos potenciais, observou Guterres.
- O Reino Unido lança um fundo de £100 milhões em IA para ajudar no t...
- Twitter / As postagens com informações incorretas não são mais eleg...
- Os melhores fones de ouvido sem fio para cada situação
“Desde prever e lidar com crises, até implementar programas de saúde pública e serviços de educação, a IA pode ampliar e amplificar o trabalho de governos, sociedade civil e ONU em todas as áreas. Para economias em desenvolvimento, a IA oferece a possibilidade de pular tecnologias obsoletas e levar serviços diretamente para as pessoas que mais precisam”, disse ele.
Além disso: IA generativa no comércio: 5 maneiras de mudar a forma como os setores fazem negócios
Ele acrescentou que a IA também pode ajudar a impulsionar a ação climática e os esforços para alcançar os 17 Objetivos de Desenvolvimento Sustentável do grupo internacional até 2030.
“Mas tudo isso depende de as tecnologias de IA serem exploradas de forma responsável e acessíveis a todos, inclusive aos países em desenvolvimento que mais precisam delas”, disse ele. “No momento, o conhecimento em IA está concentrado em algumas empresas e países. Isso poderia aprofundar as desigualdades globais e transformar divisões digitais em abismos”.
Apontando preocupações com desinformação, Guterres disse que a IA poderia potencialmente aprofundar preconceitos e discriminação, vigilância e invasão de privacidade, fraude e outras violações de direitos humanos.
Além disso: Por que as empresas devem usar a IA para pensar de maneira diferente e não apenas para cortar custos
Portanto, a nova equipe consultiva da ONU é necessária para conduzir discussões sobre governança da IA e como os riscos associados podem ser contidos. A organização também avaliará como diversas iniciativas de governança de IA já em andamento podem ser integradas, disse Guterres, acrescentando que o órgão consultivo será guiado pelos valores descritos na Carta da ONU e esforços para ser inclusivo.
Até o final do ano, ele observou que recomendações preliminares em três áreas estarão prontas, ou seja, governança internacional da IA, compreensão compartilhada de riscos e desafios e facilitadores para aproveitar a IA na aceleração do alcance das metas de sustentabilidade.
Consumidores não confiam na adoção de IA pelas empresas
No entanto, existem dúvidas sobre se as regras que regem o uso da IA serão cumpridas, mesmo que sejam consideradas necessárias.
De acordo com os resultados de uma pesquisa da consultoria de tecnologia Thoughtworks, cerca de 56% dos consumidores não confiam que as empresas seguirão as regulamentações de IA generativa. O estudo entrevistou 10.000 respondentes em 10 mercados, incluindo Austrália, Singapura, Índia, Reino Unido, Estados Unidos e Alemanha. Cada mercado teve 1.000 respondentes, todos conscientes da IA generativa.
Também: Machine learning ajuda esta empresa a oferecer uma melhor experiência de compras online
A falta de confiança dos consumidores na conformidade das empresas é evidente, mesmo quando 90% acreditam que regulamentações governamentais são necessárias para responsabilizar as organizações pela forma como aplicam a IA.
Cerca de 93% dos consumidores estão preocupados com o uso ético da IA generativa, com 71% expressando preocupações de que as empresas usem seus dados sem consentimento. Outros 67% estão ansiosos com os riscos relacionados à desinformação.
Também: A IA generativa vai muito além do que o ChatGPT pode fazer. Aqui está tudo sobre os avanços tecnológicos
Questionados se comprariam de empresas que utilizam IA generativa, 42% dos consumidores estão mais propensos a fazê-lo, enquanto 18% sentem-se menos inclinados a isso.
Dentre aqueles que provavelmente comprariam de empresas que utilizam IA generativa, 59% dos consumidores acreditam que as empresas podem utilizar a tecnologia para impulsionar maior inovação, e 51% esperam uma melhor experiência do cliente com suporte mais rápido.
Cerca de 64% dos consumidores apontam a falta de contato humano como um motivo pelo qual são menos propensos a comprar de empresas que utilizam IA generativa, enquanto 48% citam preocupações com a privacidade de dados.
No geral, 91% dos consumidores expressam preocupações com a privacidade de dados, especialmente no que diz respeito ao uso, acesso e compartilhamento de suas informações.
Também: Estou usando o ChatGPT para me ajudar a corrigir código mais rápido, mas a que custo?
“Os consumidores são perspicazes o suficiente para reconhecer o potencial mau uso da tecnologia, que pode incluir violações de privacidade, violações de propriedade intelectual, perdas de emprego ou deterioração da experiência do cliente”, disse Mike Mason, diretor de IA da Thoughtworks.
“No cerne desses medos, há uma preocupação de que as empresas não serão transparentes quanto ao seu uso da tecnologia de IA generativa”, disse Mason.
“Para alguns consumidores, a regulamentação governamental é vista como o melhor meio de mitigar o uso antiético da IA generativa, mas a regulamentação governamental tem problemas inerentes: com frequência vemos os reguladores lutarem para acompanhar a velocidade da tecnologia.
Em vez de depender de regulamentações, ele instou as empresas a liderarem o caminho e abraçarem a IA generativa de maneira responsável para aproveitar o entusiasmo dos consumidores pela tecnologia.
