Автотранспорт

В первую очередь, это риски аварий, травм или гибели людей из-за ошибок ИИ. Например, ИИ может не распознать пешехода или препятствие в условиях плохой видимости или в какой-то нестандартной дорожной ситуации, которой не было в обучающем наборе данных, и в результате не предупредить водителя об опасности столкновения или не остановить автомобиль в нужный момент.

Отсюда вытекают, с одной стороны, риски юридической ответственности за ошибки ИИ. Если автономный автомобиль попадает в аварию, кто в этом случае несет ответственность: автопроизводитель, разработчик системы ИИ, владелец машины? Такие ситуации могут привести к судебным разбирательствам, что порождает недоверие и скептическое отношение потребителей к передаче ИИ контроля над автомобилем.

С другой стороны, автоматизация процессов принятия решений влечет за собой и ряд серьезных этических вопросов. Один из них – как ИИ должен принимать решение в критических ситуациях, в которых могут пострадать люди? Если столкновение неизбежно, должен ли ИИ отдавать приоритет безопасности водителя ВАТС или выбрать маневр, обеспечивающий защиту наибольшего числа людей [6]? На данный момент единого мнения по этому поводу нет. В технологическом плане это повышает актуальность исследований по интерпретируемости ИИ. В результате логика ИИ при принятии решений в тех или иных дорожных ситуациях должна стать более прозрачной для человека и поддаваться большему контролю с его стороны.

Наконец, остаются традиционные киберугрозы, еще более усиленные уязвимостями, специфичными для ИИ. Исследователями уже был продемонстрирован на практике целый ряд атак на ИИ в беспилотных ТС, например с использованием стикеров и специальных состязательных патчей, нанесенных на дорожные знаки [7]. Атакованная система ИИ в этом случае классифицировала с высоким уровнем достоверности изображение дорожного знака «Стоп» как «Ограничение скорости» или полностью игнорировала определенные виды знаков. Состязательные атаки проводились не только с изображениями, но и с данными лидаров путем генерации ложных облаков точек [8].

Чтобы минимизировать риски и угрозы, разработка и внедрение ИИ в автотранспорт ведется в регуляторных рамках и в соответствии со строгими стандартами безопасности, принятыми в автомобильной отрасли.

Особое внимание уделяется многостадийным испытаниям систем ИИ в составе ВАТС.

Предварительные этапы испытаний включают оценку работы ИИ в контролируемых условиях с использованием стендов компьютерного и полунатурного моделирования, а также на закрытых полигонах. О возможностях средств моделирования дают представление такие платформы, как CARLA [9] или NVIDIA Drive Sim [10], способные реалистично воспроизводить широкий диапазон дорожных сценариев.

Заключительный этап – испытания на дорогах общего пользования для подтверждения характеристик ИИ в реальной эксплуатации, в том числе в различных климатических условиях и при различной интенсивности движения. Этот вид испытаний во всех странах попадает в той или иной форме под госрегулирование (см., например, [11], [12]).

В свою очередь, единообразие требований и технических решений обеспечивается системой стандартов. В России на данный момент действует 25 ГОСТ по ИИ для автотранспорта. В них, в частности, приведены требования и методическая основа для испытаний алгоритмов обнаружения и распознавания препятствий [13], сигналов светофоров 14], дорожной разметки [15], дорожных знаков [16]. Разработана серия ГОСТ по системам управления интеллектуальной транспортной инфраструктурой (см., например, [17]-[19]), средствам мониторинга поведения и прогнозирования намерений людей [22], «большим данным» в сфере автотранспорта (платформа «Автодата») [20, 21].

Непосредственно эксплуатация ВАТС на дорогах общего пользования пока допускается только с ограничениями зон и сценариев и также происходит под контролем со стороны регуляторов. В России такая эксплуатация возможна в рамках экспериментального правового режима (ЭПР), введенного постановлением Правительства Российской Федерации от 09.03.2022 № 309 [23].