Текст уведомления здесь

Искусственный интеллект начал убивать на дорогах

Что произошло, кто виноват и стоит ли теперь бояться ИИ на колесах

В Темпе (штат Аризона, США) во время испытаний в ночных условиях беспилотный автомобиль Uber сбил пересекавшую дорогу велосипедистку. Позднее женщина умерла в больнице от полученных травм. Это первая смертельная жертва беспилотного авто. До сих пор подобных инцидентов не случалось, хотя машины без водителей успели проехать уже несколько миллионов километров. Событие может серьезно повлиять на развитие индустрии беспилотных авто, особенно тех, что используют лидары.
Добавить в закладки
Комментарии

Что произошло?

Поздним вечером 18 марта женщина переходила дорогу вместе со своим велосипедом. Ехавший по той же улице автомобиль Uber, оснащенный лидаром (лазерный аналог радара) и иным оборудованием для беспилотного вождения, сбил женщину, после чего ее доставили в больницу, где она умерла. Находившийся в машине инженер Uber не успел вовремя вмешаться, перехватить управление и предотвратить трагедию. По всей видимости, он так же не успел заметить пешехода. Двигался в этот момент автомобиль на скорости 64 км/ч.

Убить пешехода из-за плохой видимости машина не могла: хотя было еще темно, но для лидара это незначимый фактор. В теории на его способность «видеть» мог негативно повлиять дождь или плотный туман, отражающий и рассеивающий лазерные лучи, но в то время в Темпе не наблюдалось ни того ни другого.

Глава полиции Темпе Сильвия Мойр (Sylvia Moir) в интервью San Francisco Chronicle заявила, что скорее всего в случившемся виновна сама велосипедистка. По словам Мойр, та нагрузила на велосипед пластиковые сумки и переходила в стороне от обозначенного пешеходного перехода. Кроме того, она ступила на дорогу с островка безопасности между полосами движения внезапно, прямо перед проезжающей машиной, то есть отреагировать в таких обстоятельствах даже водителю-человеку было бы практически невозможно.

Чтобы полностью понять значение инцидента, стоит напомнить два факта. Во-первых, до сих пор в ДТП со смертельным исходом беспилотники не участвовали ни разу. Во-вторых, беспилотная программа Uber уже подвергалась сильнейшей критике в связи с нарушениями ее автопилотом правил дорожного движения (езды на красный в присутствии пешеходов и так далее).

Случай с Tesla

В 2016 году автомобиль Tesla Model S попал в ДТП, которое в российских СМИ и вообще в русскоязычном сегменте интернета неверно расценили как первое событие с летальным исходом по вине автопилота. Однако на самом деле это не так. Tesla Model S, согласно руководству водителя, на данном этапе предлагает только продвинутую систему круиз-контроля, при пользовании которой водитель должен быть всегда готов перехватить управление и держать руки на руле. Машина погибшего в 2016 году водителя подавала ему звуковые сигналы о том, что он убрал руки с руля, однако тот не реагировал и продолжал смотреть «Гарри Поттера».

«Тесла» после аварии с грузовиком в 2016 году. Фото: Florida Highway Patrol investigators
«Тесла» после аварии с грузовиком в 2016 году. Фото: Florida Highway Patrol investigators

Tesla Model S действительно не распознала белый грузовик на фоне неба, отчего машина проехала под ним, убив водителя. Однако даже представители американских властей (NHTSA), обычно скорые на расправу, не смогли утверждать, что в ДТП виноват автомобиль — однозначное указание в руководстве водителя и отсутствие у Tesla рекламы, эксплуатирующей слово «автопилот» (впрочем, у данной компании вообще пока не было коммерческой рекламы), делало такое заявление невозможным.

Дополнительным фактором, не давшим применить санкции к Tesla, была переданная ее менеджерами властям статистика по логам езды в режиме продвинутого круиз-контроля. Оказалось, что к октябрю 2016 года в таком режиме машины Tesla проехали уже 357 миллионов километров, и это летальное ДТП было первым.

Дело в том, что в среднем в США на 357 миллионов километров пробега легкового автомобиля приходится 2,3 смерти, а, например, в России — около семи. Более того, расследование властей показало, что после внедрения на Tesla Model S такого продвинутого круиз-контроля общее число серьезных аварий на километр пробега упало для этих машин на 40 процентов. Под серьезной аварией доклад NHTSA имел в виду такую, при которой от удара раскрываются подушки безопасности. То есть получалось, что даже до развертывания полноценного автопилота уже внедренный «частичный автопилот» резко повысил безопасность водителей.

Странная трактовка происшествия в российских СМИ («первая смерть на счету беспилотного авто») была вызвана слабым знакомством с темой отечественных автомобильных журналистов. Они буквально перевели слово Autopilot (коммерческое наименование продвинутого круиз-контроля Tesla) как «автопилот». Ни в доступное в сети руководство для владельцев электромобилей, ни на сайт компании, описывающей сущность этого «автопилота», никто не заглянул. Также прошел мимо внимания российской прессы и тот факт, что сама Tesla неоднократно отмечала: действительно, беспилотный режим будет доступен на ее машинах лишь после соответствующего программного апдейта, о котором будет сообщено дополнительно (сейчас он планируется на 2018—2019 годы).

Uber über alles?

Программа развертывания беспилотников Uber с самого начала резко отличалась от всех остальных. Например, она была не похожа на Tesla тем, что позиционировала свои машины как беспилотные такси.

Проблемы начались с того, что компания очень поздно — на три-четыре года позже конкурентов, что для этого сектора просто целая эпоха, — пришла на рынок беспилотников. Поэтому Uber сильно технологически отставал от лидеров гонки Waymo (принадлежит Google) и Tesla. Чтобы как-то догнать их, Uber пошел на шаги, не совсем законные с точки зрения американского права. Компания купила стартап Otto, созданный бывшими сотрудниками Google, ушедшими из компании с целью создать свой беспилотник. Waymo ожидаемо подало в суд, обвинив Uber в банальном воровстве технологий. Последний даже не стал судиться — тут же пошел на мировую и отдал Waymo 244 миллионов долларов в качестве компенсации.

Но желание любой ценой догнать уходящий вперед поезд прогресса не оставляло Uber. Компания начала тестировать свои беспилотники на дорогах Калифорнии. Один из них почти тут же попал на камеру едущим на красный свет, причем рядом с пешеходом, переходившим дорогу по всем правилам. Uber попытался спасти лицо, заявив, что в этот момент управление беспилотником перехватил ее инженер и что сама машина «не виновата». Правда, другие источники тут же недвусмысленно указали, что это неправда и разработчики просто выгораживают свое пока еще сырое детище.

Власти Калифорнии немного устали от подобной ситуации — с машинами Waymo у них таких проблем не было, те на красный свет не ездили. Поэтому получить разрешение на испытания своих беспилотников на дорогах общего пользования в данном штате Uber стало затруднительно, и компания перенесла свои испытания в Аризону. Там и случилась первая смерть с участием ее автопилота. Теперь компания вовсе приостановила программу испытаний.

Когда беспилотные автомобили действительно начнут массово убивать людей?

В целом беспилотные машины пока трудно назвать опасными: как ни считай, они убивают намного меньше людей на километр пробега, чем средний водитель-человек. Достаточно напомнить, что автомобили Waymo, например, проехали три миллиона километров в беспилотном режиме уже к 2016 году — и не имели ни одного ДТП со смертельным исходом. Данные по частичному «автопилоту» Tesla мы приводили выше — они еще более впечатляющие. Другое дело, что автопилот автопилоту рознь, и у Uber статистика смертельных ДТП близка к начинающим водителям-людям, то есть радикально хуже.

Однако в самом ближайшем будущем ситуация с числом жертв беспилотников начнет меняться. В 2018—2019 годах Tesla планирует проапгрейдить программное обеспечение на всех своих машинах, которых уже сейчас больше 200 000, а к тому времени будет уже больше 300 000. Апгрейд позволит полностью использовать возможности уже установленного на машинах оборудования для беспилотного вождения. Массовое внедрение, несомненно, будет сопровождаться ошибками, пусть и более редкими, чем у людей. В этот момент летальные ДТП по вине беспилотников будут случаться все чаще и чаще, просто потому, что парк Tesla растет очень быстро. И такая печальная статистика просто неизбежна.

Изображение: chombosan / Фотодом / Shutterstock

Изображение: chombosan / Фотодом / Shutterstock

Тот самый часто задаваемый вопрос

Самый частый вопрос в связи с гибелью человека от рук роботов — кто виноват? От ответа зависит и то, кто будет платить по страховке, разоряться в суде и многое другое. С данным конкретным случаем все, кажется, ясно: виновным, скорее всего, определят пешехода. Однако очевидно, что рано или поздно будет и такое событие, в котором причиной гибели будет ошибка беспилотного авто. С юридической точки зрения виновником в этом случае будет производитель оборудования, но только если он не оговорил отказ от ответственности так же, как это делает, например, операционная система Windows.

Если из-за «синего экрана» компьютера под ее управлением отключится свет в больнице и хирург не сможет спасти пациента, то в силу принятия пользовательского соглашения при установке системы Microsoft ответственности не несет. Отраслевые наблюдатели уже давно ожидают подобных превентивных мер юридической защиты от тех, кто создает автопилоты. Вероятно, мы увидим такие соглашения уже в ближайшие пару лет.

Ну, а если обратиться не к праву, а к совести, то конечно же в сложном программном продукте с миллионами строк кода ошибки неизбежны. Конечно же, в ошибках на самом деле — по совести — виноваты программисты компаний-разработчиков автопилотов. Но вот обвинять их всерьез, по той же совести, будет трудновато. Как бы плохо ни работали программисты, мы, водители, судя по статистике, водим все равно хуже.

Добавить в закладки
Комментарии
Вам понравилась публикация?
Расскажите, что вы думаете, и мы подберем подходящие материалы

«Искусственный интеллект — важный аспект новой экономики, но такой же опасный, как мирный атом»

Интервью с Ольгой Усковой, президентом российской компании, которая развивает технологии беспилотного управления автомобилем

Автомобили-беспилотники уже пару лет как не кажутся чем-то фантастическим. Напротив, их появление на дорогах, пожалуй, уже просто вопрос времени. Где же именно в ближайшем будущем появятся роботы на дорогах? Какие именно технологии будут им помогать «видеть» дорогу и других участников дорожных событий? Как их создают? Обо всем этом «Чердак» поговорил с директором группы компаний Cognitive Technologies Ольгой Усковой.
Добавить в закладки
Комментарии

— Какие последние технологии вы разработали для беспилотных автомобилей?

— На выставке электроники и робототехники в Лас-Вегасе CES (прошла в январе этого года. — прим. «Чердака») — это крупнейший мировой консьюмерский форум, он задает тренды на ближайшие годы — мы демонстрировали целый ряд технологий работы в плохих дорожных и погодных условиях. Это наши российские реалии и наше конкурентное преимущество. И эксперты CES отмечали, что решения такого класса востребованы на 98% дорог мира. В их числе технология «виртуального тоннеля». В основе этой технологии лежит принцип самоподобия дорожной сцены. Когда вы едете, вы понимаете, что едете по дороге, хотя не видите знаков разметки. Но ваш мозг понимает, что это дорога, по целому ряду признаков. Разработчики научились выявлять самые общие такие признаки, присущие различным вариантам дорожного полотна.

«Виртуальный тоннель» строится из определения линии горизонта и объектов вдоль дороги. А называется он так, потому что именно такую форму напоминает удаляющаяся последовательность прямоугольных зон интереса — область, окружающую наблюдаемый в данный момент объект или зону. Эта технология не зависит от разметки, что дает определенную степень свободы и возможность определять направление движения даже в очень тяжелых условиях. Тоннель работает практически 100-процентно.

Ольга Ускова. Фото: Алиса Веселкова / Chrdk.

Ольга Ускова. Фото: Алиса Веселкова / Chrdk.

[ ... ]
Читать полностью

Надежды и чаяния

Чего хорошего мы ждем от нового года

Наступивший 2018 год, как любой другой, обещает быть богатым на события. В эти 365 дней нас ждут пуски космических аппаратов к Луне, Марсу, Меркурию, астероидам и первый снимок черной дыры; квантовые компьютеры наконец-то покажут, на что они способны; поезда станут быстрее, беспилотные автомобили — надежнее; вооруженные современными биотехнологиями медики научатся лечить несколько неизлечимых болезней, а киберспортсмены продолжат обыгрывать ИИ в Dota 2 и Starcraft. Оставайтесь с нами в новом году :^)
Добавить в закладки
Комментарии

«…а они как ломанулись!»

31 марта 2018 года — дедлайн «частной лунной гонки», она же Google Lunar X Prize: призы достанутся тем командам, которые смогут доставить на спутник Земли луноход. Доставить в сохранности: тот должен будет проехать по лунной поверхности не менее 500 метров и передать на Землю видео и изображения. Само соревнование было анонсировано в 2007 году, изначально в нем зарегистрировались 32 команды, сейчас в осталось пять — те, кто успел купить пассажирский билет на Луну для своего аппарата. Израильтян SpaceIL до Луны подбросят SpaceX, индийцев из Team Indus и японцев Hakuto будет запускать Индийская организация космических исследований. Американцы из Moon Express планируют отправить свой ровер с новозеландской ракетой Rocket Lab (те верят, что успеют обкатать свою технику к этому моменту), примерно в той же позиции и пятый участник, интернациональная команда Synergy Moon, которая обещает уложиться к концу марта, но в довольно размытых формулировках — их луноход будут запускать калифорнийские частники, пока что только однажды выводившие на низкую орбиту CubeSat’ы.

Отдельно от Google Lunar X Prize на Луну собирается немецкая частная компания PTScientists, они уже договорились с сотовым оператором Vodafone, который должен предоставить связь для отправки информации на Землю, а запускаться собираются на Falcon 9.

Наконец, SpaceX обещает отправить двух космических туристов на корабле Dragon 2 вокруг Луны и обратно в конце 2018 года. [ ... ]

Читать полностью

Изобретай за призовые

Как проходят технологические конкурсы и зачем они нужны

Многие изобретения и технологии появлялись на свет не просто потому, что какому-то инженеру пришла в голову замечательная идея. Зачастую, для того чтобы пробудить интерес ученых и изобретателей к решению какой-то проблемы, им необходимо что-то посулить взамен. Так много лет назад появились технологические конкурсы. Какими они были и бывают до сих пор, кто в них участвует и что получается на выходе — в обзоре организаторов одного из таких конкурсов, Up Great.
Добавить в закладки
Комментарии

От парусной навигации до космических кораблей

Одним из первых технологических соревнований стал «Конкурс Долготы», объявленный Британской академией наук в начале XVIII века. Его суть заключалась в необходимости решить проблему точного определения долготы во время длительных морских путешествий.

Победителем стал часовщик Джон Гаррисон: он предложил использовать в навигации хитрое устройство собственной сборки. Сегодня это известный всему миру хронометр. За прошедшие века конструкция прибора Гаррисона практически не изменилась — совершенствовались лишь технологии изготовления и материалы. Сам английский часовщик, неожиданно совершивший технический прорыв, получил не только славу, но и неплохие для своего времени премиальные.

Еще один пример инженерных состязаний — «Приз Ортега» с призовым фондом 25 тысяч долларов. Его целью было совершение первого в истории беспосадочного перелета через Атлантику. Конкурс выиграл молодой Чарльз Линдберг. В 1927 году на сконструированном винтовом самолете «Дух Сент-Луиса» он совершил первый трансатлантический перелет из Нью-Йорка в Париж. Тем самым заработал денег и дал новый толчок развитию самолетостроения в США. [ ... ]

Читать полностью