Беспилотные автомобили открывают большие возможности перед человечеством. Но инженерам в этой сфере есть еще над чем работать. Случай показал, что система управления беспилотного автомобиля перестала правильно работать, потому что ее сбила с толку… обыкновенная поваренная соль.
Techcrunch сообщает, что британский художник Джеймс Бридл с помощью двух окружностей заманил беспилотный автомобиль в ловушку и заблокировал его движение. Художник солью «нарисовал» на дороге линии, а система восприняла их как дорожную разметку.
Правила дорожного движения разрешают пересекать прерывистую линию разметки, поэтому беспилотный автомобиль смог без проблем заехать в «ловушку», не нарушая правила. А выехать из круга через сплошную линию, которую бортовой компьютер интерпретирует как дорожную разметку, машина не может, потому что это запрещено правилами дорожного движения.
Джеймс Бридл неслучайно использовал в своем эксперименте именно соль. Британский художник объяснил, что соль издревле использовалась, чтобы оградиться от духов и демонов.
Данный эксперимент показал, что системы искусственного интеллекта очень просто обмануть, и они все еще очень примитивные. Могут ли воспользоваться этим преступники? Как защитить от подобных случаев водителей и пассажиров? Вопросы перед производителями и специалистами в области безопасности пока открыты.
