Quando todos os automóveis forem autónomos, vão ser capazes, em teoria, de reagir correta e instantaneamente a qualquer problema ou obstáculo na estrada. Mas a verdade é que muitas das situações que estão a ser programadas para as inteligências artificiais aprenderem são testadas apenas em realidade virtual, o que pode fazer com que os automóveis não reconheçam certos problemas no mundo real.
É por isso que o Instituto de Tecnologia de Massachusetts, ou MIT, uniu esforços com a Microsoft para identificar situações em que as inteligências artificiais poderão não saber a maneira correta de atuar e cometer um erro que pode ter consequências nefastas para os ocupantes da viatura. Os investigadores do MIT publicaram dois artigos científicos, propondo um cenário em que um automóvel seria incapaz de diferenciar um automóvel normal de uma ambulância, e não deixaria o veículo de emergência passar.
O novo programa desenvolvido pelo MIT passou a integrar sugestões humanas, em que uma pessoa iria alterando a aprendizagem da inteligência artificial em realidade virtual para corrigir defeitos na perceção do trânsito automóvel, e planeiam fazer o mesmo em testes no mundo real. Desta forma, os engenheiros esperam resolver problemas que poderiam causar acidentes antes de estes acontecerem.
No futuro, o sistema de inteligência artificial dos carros autónomos vai continuar a aprender em realidade virtual, para criar um conjunto base de diretrizes a adotar no trânsito real. Mas em testes no mundo real, uma pessoa vai providenciar informação adicional sobre como os carros autónomos devem reagir em situações inesperadas, cometendo erros de condução que a inteligência artificial deve aprender a corrigir, detetando situações pontuais e ajustando a sua própria condução no futuro.