Google search engine
InícioCenários SociaisPesquisa da USP propõe método para testar falhas de percepção em veículos...

Pesquisa da USP propõe método para testar falhas de percepção em veículos autônomos

Estudo injeta alucinações em sistemas de inteligência artificial para avaliar riscos e aumentar a segurança de carros que dispensam a condução humana

Veículos autônomos aprendem através de IA, mas muitas vezes a realidade pode ser interpretada de maneira equivocada – Ilustração: Reprodução / detalhe do cartaz 26º Colóquio Internacional do Gerpisa
Logo da Rádio USP

Os veículos autônomos são projetados para substituir o controle humano na direção. No entanto, falhas nos sistemas de percepção podem comprometer diretamente a tomada de decisões e a navegação desses automóveis. Para investigar esses riscos, pesquisadores desenvolveram uma estrutura de avaliação de segurança que provoca erros intencionais nos sistemas de inteligência artificial.

O tema é abordado na pesquisa “Injecting Hallucinations in Autonomous Vehicles: A Component-Agnostic Safety Evaluation Framework”, realizada em parceria entre o Grupo de Análise de Segurança (GAS), do Departamento de Engenharia de Computação e Sistemas Digitais (PCS) da Escola Politécnica (Poli) da USP, e pesquisadores da Stanford University e da University of Miami. O estudo foi publicado em agosto de 2026.

Como funcionam os veículos autônomos?

Alexandre Nascimento, pesquisador do Grupo de Análise de Segurança (GAS) da Poli e um dos autores do estudo, explica que, durante anos, empresas como Waymo e Tesla coletaram dados para mapear situações enfrentadas por motoristas no trânsito. Para isso, foram instaladas câmeras, radares e outros sensores nos veículos, com o objetivo de registrar informações sobre o ambiente e a condução.

“Todas essas informações foram usadas para quê? Para treinar a inteligência artificial. E aí, a partir do momento que você treina esse modelo de inteligência artificial, o que ele faz? Ele imita o ser humano”, explica o pesquisador.

Como acontecem as falhas de percepção?

Segundo Nascimento, embora os veículos autônomos apresentem índices de segurança superiores à média dos automóveis convencionais conduzidos por humanos, ainda podem ocorrer erros na interpretação do ambiente pela inteligência artificial.

A inspiração para o estudo surgiu de uma experiência do pesquisador ao utilizar a câmera de ré de um veículo. Ao engatar a marcha à ré, ele percebeu que o sistema, que reconstrói uma imagem do automóvel vista de cima, mostrava um inseto semelhante a uma mosca ou joaninha gigante, quase do tamanho do carro. Na realidade, não havia nenhum inseto daquele porte: a inteligência artificial estava interpretando a imagem de maneira equivocada.

Posteriormente, durante suas pesquisas em Stanford, ele também observou situações envolvendo veículos da Tesla nas quais a inteligência artificial identificava objetos inexistentes ou deixava de reconhecer elementos reais. Em um dos casos, o reflexo de um sinal vermelho nos trilhos de trem foi interpretado como um cone de trânsito.

Testes provocam erros de propósito

Na engenharia de segurança, a injeção de falhas é uma técnica utilizada para avaliar como equipamentos e sistemas reagem a situações adversas. “Se eu quero entender o que acontece com o carro, por exemplo, se morrer o motor e ele chegar a alta velocidade, ou quero testar o que acontece com o avião se ele perder uma turbina, isso é importante para saber se o dispositivo é seguro”, explica Alexandre.

Nos veículos autônomos, porém, o desafio envolve não apenas possíveis falhas nos sensores e nas câmeras, mas também erros de interpretação da inteligência artificial.

A injeção de falhas em simulações permite provocar erros intencionalmente em um ambiente virtual e controlado, para avaliar como os veículos reagem. No estudo, os pesquisadores provocam alucinações nos sistemas de inteligência artificial, fazendo com que o veículo identifique objetos inexistentes, deixe de reconhecer carros ou pedestres reais ou interprete imagens com atrasos e distorções.

Os testes envolvem milhares de combinações e situações simuladas. Dessa forma, os pesquisadores conseguem identificar quais tipos de falha representam maior risco de acidentes e desenvolver mecanismos de segurança para evitar que esses erros ocorram nas ruas.

“Eu forço, por exemplo, ele a perceber as coisas com uma distorção angular. Então, ele está vendo as coisas meio tortas. Eu faço com que ele veja um carro fantasma, ou seja, veja um carro onde não existe. Ou veja um pedestre onde não existe. Ao injetar essas alucinações e testar com milhares de situações e milhares de vezes, você consegue perceber qual tipo de alucinação e qual cenário é o mais grave. E por que isso é importante? Porque aí a gente mede a reação”, afirma.

Desafios para a circulação no Brasil

Algumas dessas reações podem representar riscos de acidentes graves. Por isso, os testes e o desenvolvimento de arquiteturas voltadas à segurança são fundamentais. Para Alexandre, o desafio é identificar situações incomuns e avaliar como o veículo responde a elas.

O pesquisador ressalta que os veículos autônomos precisam passar por testes rigorosos antes de serem utilizados. Em países como Alemanha, China e Estados Unidos, a tecnologia já faz parte da realidade, embora seu uso esteja sujeito a diferentes regras e condições.

No Brasil, a legislação de trânsito ainda exige a presença de um motorista humano atento e com as mãos no volante. O que já existe no mercado nacional são veículos semiautônomos, que oferecem recursos de assistência à direção, como frenagem automática e manutenção do automóvel na faixa de rodagem.

Jornal da USP no Ar é veiculado pela Rede USP de Rádio, de segunda a sexta-feira: 1ª edição das 7h30 às 9h, com apresentação de Roxane Ré, e demais edições às 12h40, 15h, 16h40 e às 18h. Em Ribeirão Preto, a edição regional vai ao ar das 12 às 12h30, com apresentação de Mel Vieira. Você pode sintonizar a Rádio USP em São Paulo FM 93.7, em Ribeirão Preto FM 107.9. Ouça também pelo link ou pelos agregadores de podcasts à disposição.

ARTIGOS RELACIONADOS
Publicidadespot_img
Publicidadespot_img

Mais populares

Publicidadespot_img