Rambler's Top100
 
 
Статьи
Флориан БАУМАНН  19 мая 2021

Может ли публичное облако представлять угрозу для безопасности автономных автомобилей?

Алгоритмы машинного обучения с открытым исходным кодом, например те, которые доступны в публичном облаке, могут создавать серьезные риски для безопасности автономных транспортных средств.

Я ежедневно общаюсь с ИТ-руководителями и руководителями бизнеса в автомобильной промышленности, и знаю, что они постоянно думают о том, какие новые сервисы им нужно будет предложить и как автономные транспортные средства изменят способы производства автомобилей. Одно из самых серьезных изменений связано с огромным количеством данных, которые генерируют автономные транспортные средства.

Как ожидается, к 2030 году каждое транспортное средство ежедневно будет генерировать до 10 Тбайт данных, а отрасль в целом – 1 зеттабайт. Для сравнения: примерно такой же объем имел мировой интернет-трафик за весь 2016 год. 

Это означает, что автопроизводители и OEM-компании превратятся, по сути, в разработчиков программного обеспечения с производственными подразделениями. Сегодня автопроизводители находятся в процессе создания ИТ-инфраструктуры, необходимой им для «автономного» будущего, в котором одной из важнейших бизнес-функций станет анализ данных с помощью машинного обучения.

Этот рынок бурно развивается, поэтому каждая компания хочет получить преимущества первопроходца. Вместо того чтобы проходить трудоемкий процесс разработки ПО своими силами, многие создают новые платформы и приложения на базе сторонних алгоритмов.

Но здесь кроется большой риск. Использование алгоритмов с открытым исходным кодом или ПО сторонних разработчиков может существенно ухудшить безопасность автономных транспортных средств. Это может сделать автомобили уязвимыми для сбоев и кибератак, которые приведут к миллионным убыткам для производителей, а в худшем случае поставят под угрозу жизни пассажиров. Данная проблема пока не обсуждается в отрасли достаточно широко, но руководителям ИТ-отделов и инженерам необходимо задуматься над ней уже сегодня.

Аргумент против публичного облака

Сегодня алгоритмы широко доступны в публичных облаках. Они служат основой для многих новых сценариев использования ИИ и машинного обучения. Они позволяют компаниям любого профиля и размера извлекать выгоду из интеллектуального анализа данных. Но сильные стороны этих алгоритмов – простота и доступность – могут обернуться их недостатками.

Алгоритмы публичного облака – своего рода черный ящик. У пользователей очень мало информации о том, как именно они реализованы. И даже при наличии такой информации код, реализующий алгоритм машинного обучения, может содержать сотни тысяч строк, на изучение которых у специалистов по обработке данных в производственных компаниях нет ни времени, ни ресурсов, ни опыта. Таким образом, автопроизводители сегодня создают ПО, которое использует сторонние алгоритмы, не разбираясь глубоко в математических формулах, тонкостях и деталях.

Пассажиры в группе риска?

В этом году выяснилось, что хакерские атаки могут сбить с толку программное обеспечение нейронных сетей для распознавания объектов. ИИ несложно обмануть, неправильно пометив объекты или добавив немного информационного шума. Это вызывает серьезные опасения, особенно когда сбои напрямую влияют на важные для безопасности функции транспортных средств.

В городах нередко можно увидеть поврежденные или изрисованные граффити уличные знаки. Водителю-человеку не представляет труда отфильтровать ненужную информацию и разобраться в инструкциях, но для программы это не так просто. ПО, построенное на общедоступных несовершенных алгоритмах, может с трудом интерпретировать важные дорожные сигналы, такие как светофоры или знаки остановки. Но что еще более тревожно, с помощью физических сигналов могут осуществляться и атаки хакеров, и это может привести к отказу транспортного средства и даже поставить под угрозу безопасность пассажиров и других участников дорожного движения.

Такие риски могут показаться маловероятными или неактуальными, но любые транспортные средства, использующие алгоритмы из публичного облака, могут иметь слабые стороны. Подобные уязвимости способны подорвать позиции вашей модели автомобиля на рынке. Транспортные средства должны быть защищены – как на этапе подготовки к производству (во время разработки), так во время эксплуатации (от сбоев или злонамеренных атак). И производители или поставщики могут обеспечить защиту только в том случае, если они понимают все детали своего программного кода.

Новый правовой ландшафт

Регулирующие органы тоже будут внимательно следить за этими рисками и, вероятно, в ближайшие годы примут законодательные меры, чтобы свести к минимуму потенциальные риски, связанные с автономными транспортными средствами. Регламент ЕЭК ООН WP29 по автомобильной кибербезопасности (UNECE WP29 Automotive Cybersecurity Regulation) уже одобрен в ЕС и на других основных рынках. Поскольку технология автономного вождения новая, эти правила, вероятно, со временем будут совершенствоваться, чтобы охватывать новые риски, когда они становятся очевидными.

Как и следовало ожидать, наиболее важный аспект таких правил – безопасность пассажиров. Для усовершенствованных систем помощи водителю (ADAS) и автономных транспортных средств, которые будут разрешены для движения по дорогам общего пользования, есть несколько важных для безопасности функций, которые не будут фигурировать в отраслевых стандартных правилах. Они определенно будут включать автономные системы экстренного торможения и контроля полосы движения, а также могут охватывать предупреждения об активном техническом обслуживании, чтобы автомобили не ездили, например, с изношенными шинами или поврежденными тормозами.

Но, если источником ПО машинного обучения, лежащего в основе этих важных для безопасности функций, является публичное облако, то кто будет отвечать, когда что-то пойдет не так? Технологические компании вряд ли будут нести ответственность за свои алгоритмы общего назначения, размещенные в публичном облаке. Однако будет считаться неприемлемым, чтобы автопроизводитель применял такой программный код (черный ящик) в своих автомобилях без должной осмотрительности, хотя сегодня некоторые производители это делают.

В поиске правильного баланса

До массового появления полностью автономных транспортных средств осталось, вероятно, лет 10, поскольку, чтобы сделать систему доступной и надежной, необходимы масштабные сети и инфраструктуры данных. Тем не менее отделы исследований и разработок автопроизводителей уже работают над ПО для первых своих коммерческих беспилотных транспортных средств, даже если они не появятся на дорогах в ближайшее время. Многие из них по крайней мере на первых порах полагаются на программный код из публичного облака, который они не обязательно понимают в деталях и не контролируют.

Итак, что могут сделать производители и поставщики? Чтобы воспользоваться огромными рыночными возможностями автономных транспортных средств, им необходимо быстро внедрять инновации. Исследование, проведенное Dell Technologies и WARDS Intelligence в 2020 году, показало, что производители уже отдают предпочтение частному облаку или локальному хранилищу, особенно с учетом дополнительного контроля и безопасности, которые оно обеспечивает на протяжении всего жизненного цикла продукта. Но они, возможно, еще накапливают необходимый ИТ-опыт и пока не могут разрабатывать собственные алгоритмы.

Нужен взвешенный подход. Публичное облако по-прежнему – полезный ресурс для инноваций. Для предприятий это хороший способ протестировать свои базы данных с помощью существующих алгоритмов и запустить пилотные проекты. Благодаря публичному облаку автопроизводитель может перенимать опыт лучших поставщиков, пользоваться преимуществами открытых инноваций и API. Но, что очень важно, после того, как правильные алгоритмы созданы или выбраны, необходима разработка ПО внутри компании.

Флориан Бауманн, технический директор по решениям для работы с неструктурированными данными, Dell Technologies
Поделиться:
Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!