Carro com IA acusa motorista asiático de dirigir com os olhos fechados e caso viraliza

Uma tecnologia criada para aumentar a segurança ao volante acabou chamando atenção pelo motivo oposto. Um motorista asiático registrou o momento em que o sistema de monitoramento de um Lexus passou a afirmar que seus olhos estavam fechados, mesmo enquanto ele permanecia acordado e olhando para a estrada.

No painel do veículo apareceu a mensagem “Closed Eyes Detected. Look Forward”, que em tradução livre significa “Olhos fechados detectados. Olhe para frente”.

O motorista, porém, estava com os olhos abertos.

O episódio ganhou repercussão nas redes sociais e levantou questionamentos sobre a capacidade dos sistemas de monitoramento de reconhecer corretamente diferentes características faciais.

Câmera monitora motorista durante a viagem

Veículos modernos utilizam câmeras voltadas para o interior da cabine para acompanhar o comportamento de quem está dirigindo.

Esses sistemas podem observar a posição da cabeça, a direção do olhar e sinais associados a distração ou sonolência.

A ideia é emitir alertas caso o sistema entenda que o motorista deixou de prestar atenção à estrada.

No caso que viralizou, no entanto, o dispositivo aparentemente interpretou incorretamente os olhos do motorista como fechados.

A publicação Dedicated Issues atribui o problema à forma como sistemas de visão computacional analisam a abertura dos olhos.

Formato dos olhos entrou no debate

A repercussão do vídeo gerou discussões sobre possíveis dificuldades dos sistemas de monitoramento em lidar com diferentes características faciais.

Segundo a publicação que divulgou o caso, determinados sistemas analisam a abertura visível entre as pálpebras para tentar identificar se uma pessoa está com os olhos abertos ou fechados.

Isso poderia gerar falsos alertas caso os parâmetros utilizados pelo software não consigam interpretar adequadamente determinados formatos de olhos.

A explicação apresentada pela publicação, entretanto, não foi confirmada pela Lexus especificamente para o veículo mostrado no vídeo.

Outros motoristas já relataram problemas semelhantes

O episódio não é o primeiro a levantar dúvidas sobre tecnologias de detecção de sonolência.

Em 2022, motoristas chineses relataram problemas semelhantes envolvendo veículos de marcas como XPeng e NIO.

Na época, alguns condutores afirmaram que os sistemas interpretavam incorretamente seus olhos como fechados.

Os relatos levaram fabricantes a reconhecer problemas em determinados sistemas e prometer ajustes.

Manual da Lexus prevê limitações

A própria documentação da Lexus alerta que o funcionamento do monitoramento do motorista pode ser prejudicado em determinadas situações.

Fatores como posição do motorista, uso de óculos, condições de iluminação e dificuldade da câmera em visualizar adequadamente o rosto podem interferir na detecção.

Isso significa que o sistema não é infalível e pode apresentar alertas incorretos dependendo das circunstâncias.

Tecnologia está cada vez mais presente nos carros

Os sistemas de monitoramento do motorista estão se tornando cada vez mais comuns em veículos modernos.

Além de alertar sobre possível sonolência, algumas tecnologias trabalham em conjunto com recursos como controle de velocidade adaptativo, assistência de permanência em faixa e condução semiautomatizada.

A câmera verifica se a pessoa continua prestando atenção mesmo quando determinados sistemas de assistência estão controlando parte da condução.

Por isso, falhas de identificação podem ir além de um simples aviso no painel e interferir na utilização de outros recursos do veículo.

Caso reacende discussão sobre inteligência artificial

O vídeo também reforçou uma discussão antiga sobre sistemas automatizados treinados para reconhecer características humanas.

Tecnologias de visão computacional dependem dos dados e parâmetros utilizados durante seu desenvolvimento. Caso não sejam suficientemente ajustadas para diferentes características físicas, podem apresentar desempenhos diferentes entre grupos de usuários.

No episódio envolvendo o Lexus, não há evidência apresentada pela fonte de que o software tenha sido deliberadamente desenvolvido para discriminar motoristas asiáticos.

O que o vídeo demonstra é uma aparente falha de detecção: enquanto o motorista estava com os olhos abertos e olhando para a estrada, o veículo exibiu um alerta afirmando o contrário.