A China fecha recorde de violações de dados pessoais, propõe lei de reconhecimento facial
China sets record for personal data breaches, proposes facial recognition law
A China fechou um número recorde de violações de dados pessoais e está buscando feedback público sobre projetos de leis para regular o uso de dados de reconhecimento facial.
Nos últimos três anos, a polícia chinesa fechou 36.000 casos relacionados a violações de dados pessoais, detendo 64.000 suspeitos no caminho, de acordo com o Ministério da Segurança Pública. As prisões faziam parte dos esforços do governo desde 2020 para regular a internet, que também viu mais de 30 milhões de cartões SIM e 300 milhões de contas de internet “ilegais” apreendidas, relatou a mídia estatal Global Times, citando o ministério em uma coletiva de imprensa na quinta-feira.
Também: IA pode quebrar sua senha ouvindo os cliques do seu teclado
A polícia vinha investigando um número crescente de casos criminais envolvendo violações de dados pessoais nos últimos anos, direcionados a várias indústrias, incluindo saúde, educação, logística e comércio eletrônico.
Casos criminais relatados envolvendo inteligência artificial (IA) também estavam aumentando, disse o ministério, citando um incidente de abril de 2023 em que uma empresa na província de Fujian perdeu 4,3 milhões de yuans (US$ 596.510) para hackers que usaram IA para alterar seus rostos.
- Novo Galaxy Tab S9 Ultra da Samsung vs. iPad Pro
- Obtenha uma assinatura de um ano do Norton 360 Standard e do LifeLo...
- 75% dos criadores de conteúdo estão estressados. Aqui está o que aj...
Até o momento, as agências de aplicação da lei resolveram 79 casos envolvendo “mudança de rosto com IA”.
Também: Não estamos prontos para o impacto da IA generativa nas eleições
Com o reconhecimento facial agora amplamente utilizado junto com os avanços tecnológicos da IA, autoridades governamentais observaram o surgimento de casos que aproveitam esses dados. Nesses casos, criminosos cibernéticos usariam fotos, em particular aquelas encontradas em cartões de identidade, juntamente com nomes e números de identificação pessoal para facilitar a verificação do reconhecimento facial.
Os departamentos de segurança pública da China estão trabalhando com as instalações estatais para realizar avaliações de segurança de reconhecimento facial e outras tecnologias relevantes, além de identificar riscos potenciais nos sistemas de verificação de reconhecimento facial, de acordo com o ministério.
Com ecossistemas cibercriminosos amplamente vinculados, que vão desde roubo até revenda de dados e lavagem de dinheiro, autoridades governamentais chinesas disseram que esses criminosos estabeleceram um significativo mercado “subterrâneo de big data” que representa sérios riscos para dados pessoais e “ordem social”.
Leis propostas em todo o país para regular o reconhecimento facial
A Administração do Ciberespaço da China (CAC) publicou esta semana projetos de leis que tratam especificamente da tecnologia de reconhecimento facial. Segundo o Global Times, foi a primeira vez que regulamentações em todo o país foram sugeridas para a tecnologia.
Também: O Zoom está envolvido em um problema de privacidade de IA
As regras propostas exigirão que o consentimento “explícito ou por escrito” do usuário seja obtido antes que as organizações possam coletar e usar informações faciais pessoais. As empresas também devem declarar o motivo e a extensão dos dados que estão coletando e usar os dados apenas para o propósito declarado.
Sem o consentimento do usuário, nenhuma pessoa ou organização tem permissão para usar a tecnologia de reconhecimento facial para analisar dados pessoais sensíveis, como etnia, crenças religiosas, raça e estado de saúde. Existem exceções para uso sem consentimento, principalmente para manter a segurança nacional e a segurança pública, bem como proteger a saúde e a propriedade das pessoas em emergências.
As organizações que utilizam a tecnologia devem ter medidas de proteção de dados para evitar acesso não autorizado ou vazamentos, conforme declarado no documento da CAC.
As leis propostas também indicam que qualquer pessoa ou organização que retenha mais de 10.000 conjuntos de dados de reconhecimento facial deve notificar as autoridades governamentais relevantes dentro de 30 dias úteis.
Também: IA generativa e o quarto porquê: Construindo confiança com seu cliente
O projeto de lei estipula as condições sob as quais os sistemas de reconhecimento facial devem ser usados, incluindo como eles processam dados faciais pessoais e para quais finalidades.
As leis propostas também exigem que as empresas priorizem o uso de ferramentas alternativas de reconhecimento não biométrico, se essas fornecerem resultados equivalentes à tecnologia baseada em biometria.
O público tem um mês para enviar comentários sobre as leis propostas.
Em janeiro, a China implementou regulamentações que visavam prevenir o abuso da tecnologia de “síntese profunda”, incluindo deepfakes e realidade virtual. Qualquer pessoa que usar esses serviços deve rotular as imagens adequadamente e evitar usar a tecnologia para atividades que violem as regulamentações locais.
Também: 4 maneiras de detectar a hype da IA generativa da realidade
Leis temporárias também entrarão em vigor na próxima semana para gerenciar os serviços de IA generativa no país. Essas regulamentações delineiam várias medidas que visam facilitar o desenvolvimento sólido da tecnologia, ao mesmo tempo em que protegem os interesses nacionais e públicos, bem como os direitos legais dos cidadãos e das empresas, afirmou o governo chinês.
Desenvolvedores de IA generativa, por exemplo, terão que garantir que seus processos de pré-treinamento e otimização de modelos sejam realizados em conformidade com a lei. Isso inclui o uso de dados de fontes legítimas que aderem aos direitos de propriedade intelectual. Caso dados pessoais sejam utilizados, é necessário obter o consentimento do indivíduo ou fazer de acordo com as regulamentações existentes. Medidas também devem ser tomadas para melhorar a qualidade dos dados de treinamento, incluindo sua precisão, objetividade e diversidade.
De acordo com as leis temporárias, os provedores de serviços de IA generativa assumem a responsabilidade legal pelas informações geradas e sua segurança. Eles precisarão assinar acordos de nível de serviço com os usuários de seu serviço, esclarecendo assim os direitos e obrigações de cada parte.
