Tesla на автопилоте протаранила стену с изображением пустой дороги
В погоне за идеальной картинкой с камер, электромобили Tesla могут стать жертвой собственных сенсоров. Нашумевший эксперимент популярного инженера Марка Робера наглядно продемонстрировал критический недостаток стратегии отказа от радаров: система автопилота Tesla Model Y на полном ходу врезалась в стену, замаскированную под свободную дорогу, в то время как автомобиль с лидаром успешно избежал столкновения. Этот тест ставит под вопрос безопасность миллионов машин, полагающихся исключительно на визуальное восприятие.
Главная уязвимость: когда камера не видит препятствия
Давно известно, что компания Илона Маска последовательно избавляется от ультразвуковых датчиков и радаров, делая ставку на нейросети, обрабатывающие данные с восьми бортовых камер. Аргумент звучит логично: человек управляет автомобилем с помощью глаз и мозга, значит, и машина может научиться тому же. Однако реальность оказалась сложнее.
В ходе эксперимента Марк Робер сравнил две системы: стандартную Tesla Model Y и экспериментальный прототип на базе Lexus, оснащенный лидаром (лазерным радаром). Результаты первого этапа испытаний были неутешительными для «камерного» подхода. В условиях сильного тумана и ливня, имитирующих реальную непогоду, Tesla не смогла обнаружить манекен пешехода, в то время как Lexus с лидаром уверенно затормозил.
Эффект «невидимой стены»: как обмануть нейросеть
Кульминацией теста стало испытание на когнитивную слепоту. Организаторы соорудили массивную стену из разрушаемого каркаса, оклеенную фотообоями. С точки зрения водителя и, что критически важно, с точки зрения камер, изображение создавало полную иллюзию пустого шоссе, уходящего вдаль.
Бортовая система Tesla Model Y не распознала подвоха. Машина, уверенная в отсутствии преграды, на полном ходу протаранила стену. Для лидара, который измеряет расстояние до объектов с помощью лазерных лучей, «фотообои» не стали помехой. Прототип Lexus заранее остановился, идентифицировав стену как твердое препятствие. Этот эксперимент наглядно демонстрирует, что двухмерное изображение с камеры, даже обработанное мощным ИИ, может быть обмануто, в то время как лидар видит трехмерную структуру мира.
Проблема заключается не в том, что камера «не видит», а в том, что нейросеть интерпретирует увиденное. Она была обучена на тысячах изображений дорог и препятствий, но не на ситуации, где стена маскируется под перспективу дороги. Это классический пример «состязательной атаки» на искусственный интеллект, когда небольшое изменение входных данных (в данном случае — рисунок на стене) приводит к фатальной ошибке.
Стоит напомнить, что переход Tesla на чисто «камерную» систему (Tesla Vision) произошел относительно недавно, вызвав волну критики со стороны экспертов по безопасности. Многие автопроизводители, такие как Waymo, Mercedes-Benz и Volvo, продолжают использовать комбинацию камер, радаров и лидаров, считая такой подход более надежным в сложных погодных условиях и нестандартных ситуациях.
Данный эксперимент имеет далеко идущие последствия для регулирования автономного транспорта. Если системы, основанные исключительно на камерах, могут быть столь легко обмануты простым визуальным искажением, это ставит под сомнение возможность их сертификации для полностью беспилотного вождения на высоких скоростях. Регуляторам, вероятно, придется пересмотреть требования к сенсорному оснащению, чтобы предотвратить аварии, вызванные не технической неисправностью, а уязвимостью алгоритмов восприятия.
