A UE Acabou de aprovar novas regras abrangentes para regulamentar a IA
A União Europeia acaba de aprovar novas regras abrangentes para regulamentar a Inteligência Artificial
A União Europeia concordou hoje com os detalhes do AI Act, um conjunto abrangente de regras para as pessoas que constroem e utilizam inteligência artificial. É uma lei marco que, os legisladores esperam, criará um modelo para o resto do mundo.
Após meses de debate sobre como regulamentar empresas como a OpenAI, legisladores dos três ramos de governo da UE – Parlamento, Conselho e Comissão – passaram mais de 36 horas discutindo a nova legislação entre a tarde de quarta-feira e a sexta-feira à noite. Os legisladores estavam sob pressão para chegar a um acordo antes do início da campanha eleitoral do parlamento da UE no próximo ano.
“O AI Act da UE é pioneiro global”, disse a presidente da Comissão Europeia Ursula von der Leyen no dia X. “[É] um arcabouço jurídico único para o desenvolvimento de uma IA em que você possa confiar. E para a segurança e os direitos fundamentais das pessoas e das empresas”.
A lei em si não é pioneira mundial; as novas regras da China para IA gerativa entraram em vigor em agosto. Mas o AI Act da UE é o conjunto de regras mais abrangente desse tipo para a tecnologia. Ele inclui proibições de sistemas biométricos que identificam pessoas usando características sensíveis, como orientação sexual e raça, e a raspagem indiscriminada de rostos na internet. Os legisladores também concordaram que as forças policiais devem poder usar sistemas de identificação biométrica em espaços públicos para determinados crimes.
Também foram incluídas novas exigências de transparência para todos os modelos de IA de propósito geral, como o GPT-4 da OpenAI, que alimenta o ChatGPT, e regras mais rígidas para modelos “muito poderosos”. “O AI Act estabelece regras para modelos de IA grandes e poderosos, garantindo que eles não representem riscos sistêmicos para a União”, diz Dragos Tudorache, membro do Parlamento Europeu e um dos dois co-relatores que conduziram as negociações.
- Parceria da Microsoft com a OpenAI é investigada pela CMA do Reino ...
- 20 empregos em perigo devido à IA, segundo novo estudo. O seu está ...
- Preço das ações da AMD dispara à medida que a empresa lança chip de...
Empresas que não cumprirem as regras podem ser multadas em até 7% de seu faturamento global. As proibições de IA proibidas entrarão em vigor em seis meses, as exigências de transparência em 12 meses e o conjunto completo de regras em cerca de dois anos.
Medidas destinadas a facilitar a proteção de detentores de direitos autorais contra a IA generativa e a exigir que os sistemas de IA de propósito geral sejam mais transparentes quanto ao seu consumo de energia também foram incluídas.
“A Europa se posicionou como pioneira, entendendo a importância de seu papel como formadora de padrões globais”, disse o Comissário Europeu Thierry Breton em entrevista coletiva na noite de sexta-feira.
Ao longo dos dois anos em que os legisladores negociaram as regras acordadas hoje, a tecnologia de IA e as principais preocupações a respeito dela mudaram drasticamente. Quando o AI Act foi concebido em abril de 2021, os formuladores de políticas estavam preocupados com algoritmos opacos decidindo quem conseguiria um emprego, obteria status de refugiado ou receberia benefícios sociais. Em 2022, houve exemplos de que a IA estava prejudicando ativamente as pessoas. Em um escândalo holandês, decisões tomadas por algoritmos foram vinculadas à separação forçada de famílias de seus filhos, enquanto estudantes que estudavam remotamente alegaram que sistemas de IA discriminavam contra eles com base na cor da pele.
Em seguida, em novembro de 2022, a OpenAI lançou o ChatGPT, mudando drasticamente o debate. O salto na flexibilidade e popularidade da IA gerou alarme em alguns especialistas em IA, que fizeram comparações hiperbólicas entre IA e armas nucleares.
Essa discussão se manifestou nas negociações do AI Act em Bruxelas na forma de um debate sobre se os fabricantes de chamados modelos de fundação, como o que está por trás do ChatGPT, como a OpenAI e o Google, devem ser considerados como a raiz de problemas potenciais e regulamentados de acordo – ou se novas regras devem se concentrar em empresas que usam esses modelos fundamentais para construir novas aplicações de IA, como chatbots ou geradores de imagens.
Representantes da indústria de IA generativa da Europa expressaram cautela em relação à regulamentação de modelos fundamentais, afirmando que isso poderia prejudicar a inovação entre as startups de IA do bloco. “Não podemos regular um motor desprovido de uso”, disse Arthur Mensch, CEO da empresa francesa de IA Mistral, disse no mês passado. “Nós não regulamos a linguagem C [de programação] porque ela pode ser usada para desenvolver malware. Em vez disso, banimos o malware.” O modelo fundamental 7B da Mistral ficaria isento das regras acordadas hoje porque a empresa ainda está na fase de pesquisa e desenvolvimento, disse Carme Artigas, Secretária de Estado de Digitalização e Inteligência Artificial da Espanha, em entrevista coletiva.
O principal ponto de desacordo durante as discussões finais que se estenderam até tarde da noite duas vezes esta semana foi se as forças policiais deveriam ter permissão para usar reconhecimento facial ou outros tipos de biometria para identificar pessoas em tempo real ou retrospectivamente. “Ambos destroem o anonimato em espaços públicos”, diz Daniel Leufer, analista sênior de políticas do grupo de direitos digitais Access Now. A identificação biométrica em tempo real pode identificar uma pessoa que está em uma estação de trem agora usando imagens ao vivo das câmeras de segurança, explica ele, enquanto a identificação biométrica “post” ou retrospectiva pode descobrir que a mesma pessoa também visitou a estação de trem, um banco e um supermercado ontem, usando imagens ou vídeos previamente armazenados.
Leufer disse estar desapontado com as “brechas” para as forças policiais que pareciam ter sido incluídas na versão final da lei hoje.
A resposta lenta dos reguladores europeus ao surgimento da era das mídias sociais pairou sobre as discussões. Quase 20 anos se passaram entre o lançamento do Facebook e a entrada em vigor do Digital Services Act – o conjunto de regras da UE projetado para proteger os direitos humanos online – neste ano. Nesse tempo, o bloco teve que lidar com os problemas criados pelas plataformas dos EUA, ao mesmo tempo em que não conseguia fomentar seus desafiadores europeus menores. “Talvez pudéssemos ter prevenido [os problemas] melhor por meio de regulamentação anterior”, disse Brando Benifei, um dos dois negociadores principais do Parlamento Europeu, à ENBLE em julho. A tecnologia de IA está avançando rapidamente. Mas ainda serão necessários muitos anos para saber se o AI Act será mais bem-sucedido em conter as desvantagens da mais recente exportação do Vale do Silício.
