Найден серьезный баг автопилота Tesla: у водителя нет шанса среагировать перед аварией
Источник:
NHTSAАмериканский регулятор в области безопасности автотранспорта расследует аварии с участием автопилота Tesla, когда тот приводил к столкновениям с автомобилями экстренных служб на обочине. Первые результаты неутешительны.
Дело было запущено в августе 2021 года и с тех пор выявило страшную закономерность в как минимум 16 авариях. Водители, как говорится в отчете, замечали угрозу столкновения как минимум за восемь секунд до него, тогда как автопилот Tesla предупреждал о возможной аварии только за секунду. Но это не самое интересное.
Автопилот Tesla стал причиной страшной аварии, но в убийстве все равно обвиняют водителя
Случайность или умышленная настройка?
По данным регулятора, вместе с предупреждением в последний момент автопилот просто выключался. Водитель при этом оказывается заложником ситуации: он рассчитывает на автопилот, который должен спасать от аварий, а тот самоустраняется практически в момент столкновения. В результате ни водитель, ни автоматика не успевают ничего сделать и столкновение происходит.
У экспертов NHTSA возникло подозрение, что автопилот Tesla отключается не просто так. Они считают, что система специально запрограммирована таким образом, чтобы отключаться перед неизбежной аварией и впоследствии к ней не было бы претензий у государственных органов. Если это так, то Tesla, вероятно, столкнется с серьезными репутационными и юридическими последствиями.
Результаты этого исследования ставят под вопрос итоги одного ДТП со смертельным исходом, произошедшим в 2021 году: тогда полиция сначала обвинила в аварии автопилот Tesla, но компания предоставила доказательства, что в момент столкновения он был отключен. Сколько таких случаев еще неизвестно.
Всего была проанализирована 191 авария. Из них 85 исключили из списка из-за "внешних факторов", таких как действия других транспортных средств или другое. В остальных авариях заметны признаки того, что водитель недостаточно реагировал на рекомендации компьютера. Например, только в 37 случаях руки человека были на руле перед столкновением. А в четверти из 106 инцидентов основной фактор сбоя связан с работой системы в среде, накладывающей определенные ограничения на ее использование, о чем компьютер также предупреждает владельца автомобиля, но тот решает игнорировать.