​​В автомобилях Tesla есть опция Speed Assist — камера распознаёт дорожные знаки с ограничением скорости и передаёт данные системе круиз-контроля. Удобная фича — водителю не надо лишний раз обращать внимание на дорожные знаки, машина сама их видит и разгоняется только до разрешенной скорости. Но в лаборатории McAfee нашли занятный баг — наклеив на дорожный знак всего одну наклейку, систему распознавания можно обмануть и заставить машину разгоняться до 85 миль в час вместо 35. Баг не работает в новых моделях Driver Assistant, но много машин используют старую версию. Побыстрее бы его пофиксили, а то ведь такую наклейку могут наклеить на знак не только исследователи в рамках эксперимента.

Откуда берутся такие баги в нейросетях, распознающих изображения
Список проблем, с которыми столкнулись разработчики беспилотных машин
Что ещё почитать про беспилотные машины