Carros autônomos têm mais dificuldade em detectar pedestres crianças, aponta estudo
Study shows autonomous cars struggle to detect child pedestrians.
A inteligência artificial tem uma história notória de preconceitos, desde sistemas de reconhecimento facial identificando erroneamente pessoas negras até chatbots admirando Hitler. Em alguns contextos, os resultados podem ser fatais.
Um exemplo disso foi exposto esta semana. De acordo com novas pesquisas, os sistemas de detecção de pedestres usados na pesquisa de veículos autônomos têm grandes preconceitos relacionados à idade e à raça.
O estudo adiciona mais um obstáculo à implementação de carros autônomos. Ele também revela uma preocupante possibilidade de risco nas estradas.
Os resultados derivam de uma revisão sistemática de oito sistemas populares de detecção de pedestres. Pesquisadores do King’s College London (KCL) testaram o software em mais de 8.000 imagens de pedestres.
Eles descobriram que a precisão média de detecção era quase 20% maior para adultos do que para crianças. Os sistemas também eram 7,5% mais precisos para pedestres de pele clara do que para os de pele mais escura.
- O ‘Ryan Reynolds de Orçamento’ leva o Bitcoin FC para a...
- O primeiro summit de segurança de IA do mundo será realizado em Ble...
- O Google aumenta a segurança do Gmail com uma nova verificação de a...
Essas discrepâncias decorrem de uma causa comum dos preconceitos da IA: dados de treinamento não representativos.
“Existe um velho ditado quando se trata de engenharia e ciência de dados, ‘Lixo entra, lixo sai’. Os sistemas de IA precisam ser treinados com muitos dados de treinamento, e as deficiências desses dados inevitavelmente são refletidas na IA”, disse o Dr. Jie Zhang, professor de ciência da computação da KCL, à TNW.
“Neste caso, as galerias de imagens de código aberto usadas para treinar esses sistemas de detecção de pedestres não são representativas de todos os pedestres e são tendenciosas em relação a adultos de pele mais clara. Com menos dados para treinar, a IA se torna menos precisa ao detectar grupos sub-representados.”
Outro problema surgiu nas condições de iluminação. Sob baixo contraste e baixa luminosidade, os preconceitos contra crianças e pessoas de pele escura foram exacerbados. Isso sugere que ambos os grupos estariam em maior risco durante a condução noturna.
Embora os fabricantes de automóveis não divulguem detalhes sobre seu software de detecção de pedestres, eles são tipicamente baseados nos mesmos sistemas de código aberto usados na pesquisa. Zhang, portanto, está confiante de que eles enfrentam os mesmos problemas.
Para reduzir os riscos, ele deseja mais transparência e regulamentações mais rigorosas nos sistemas de detecção de pedestres.
“Os desenvolvedores devem começar sendo mais transparentes em relação à forma como seus sistemas de detecção são treinados, bem como seu desempenho, para que possam ser medidos de forma objetiva – as consequências de não fazer isso podem ser graves”, disse ele.
“Mas além disso, os fabricantes precisam trabalhar para garantir que seus sistemas de IA sejam justos e representativos, e parte do ímpeto para isso virá de formuladores de políticas e regulamentações mais rigorosas em relação à justiça na IA.”
Você pode ler o artigo do estudo aqui.
