Инцидент с участием робота-доставщика, который пересекал перекресток на разрешающий сигнал светофора и не успел сориентироваться, создав помеху для части спецкортежа, вызвал оживленные дискуссии. Машина сопровождения была вынуждена остановиться, чтобы пропустить робота. Этот случай поднимает важные вопросы об алгоритмах и процессе обучения автономных систем.
В Москве робот-курьер неожиданно вклинился в колонну спецтранспорта с мигалками, не уступив ей дорогу. Робот двигался по пешеходному переходу на зеленый свет, однако движение на перекрестке было регулировано инспектором ГИБДД, который обеспечивал беспрепятственный проезд кортежу. В то время как полицейский автомобиль сопровождения Aurus проехал, следующий за ним лимузин был вынужден притормозить. Этот инцидент активно обсуждается в социальных сетях, где пользователи задаются вопросом, как поведет себя такой робот в случае появления машины скорой помощи или пожарной службы.
Эксперты полагают, что в стандартных условиях робот уступил бы дорогу, поскольку его обучают подобным ситуациям. Однако директор по внешнему развитию группы компаний «Автомакон» и автор телеграм-канала «Родина и роботы» Екатерина Родина предложила свой анализ вирусного видео:
Директор по внешнему развитию группы компаний «Автомакон», автор телеграм-канала «Родина и роботы»
«Данная ситуация не является проявлением „глупости“ робота, а скорее указывает на пробелы в логике обучения автономной системы. Выявлено несколько уязвимых мест: это датчики и программное обеспечение восприятия, модуль принятия решений, а также недостаточное тестирование. Для инженеров это бесценные данные, которые служат отличным материалом для доработки. Однозначно требуется улучшение системы восприятия, в частности, распознавания спецсигналов. Алгоритмы компьютерного зрения на базе нейросетей должны быть натренированы на изображения именно в этом ракурсе, с такими мигалками и звуковыми сигналами различных типов. Вероятно, не хватало тренировочных данных или примеров именно в таких специфических условиях. Система не присвоила распознанным спецсигналам высокий приоритет и не связала их с правилом уступки дороги, что требует исправления. Также необходима доработка прогнозирования поведения: система должна не только видеть объекты, но и предсказывать их траекторию и намерения. Робот увидел быстро проехавший автомобиль и не спрогнозировал, что за ним может следовать кортеж, и что следующий автомобиль продолжит движение с высокой скоростью, не ожидая препятствий. Вероятно, он интерпретировал ситуацию как „опасность миновала“, и его алгоритм работал по жесткому правилу „зеленый свет светофора – движение разрешено“, которое не было перевешено более серьезным правилом о необходимости уступить дорогу транспорту со спецсигналами. В таких случаях приоритет, безусловно, должен смещаться. В защиту робота стоит отметить, что данная ситуация – довольно редкое событие. Проезд кортежа на высокой скорости через перекресток (будь то на красный или зеленый свет) встречается гораздо реже по сравнению с тысячами обычных пересечений. Поэтому такие сценарии сложно моделировать и отрабатывать в виртуальной среде. По сути, робот столкнулся с уникальной комбинацией факторов: пешеходный переход, только что проехавшая машина ДПС, и следующий за ней автомобиль с мигалками. Алгоритм не смог быстро адаптироваться, скорректировать свое поведение и принять правильное решение».
Напомним, что для обычного водителя отказ уступить дорогу кортежу может обернуться штрафом в 10 тысяч рублей или лишением водительских прав на срок от шести месяцев до года. Однако информации о возможном привлечении к ответственности владельца робота-курьера пока не поступало.
