Амстердам и Хельсинки первыми в мире создали реестры городских ИИ-систем

Цель создания реестров и публикации их в открытом доступе – информировать граждан о применяемых в городах ИИ-системах и собрать отзывы о работе этих систем, сделать городские ИИ-системы «человекоцентричными». Разработку выполнила финская компания Saidot.

Реестры пока что содержат сведения о небольшом числе ИИ-систем. В Амстердаме действуют система управления парковкой; система сообщений граждан городским властям (пример сообщения – необходимость убрать мусор, ИИ-система сама пытается правильно адресовать такие сообщения); контроль соблюдения правил предоставления туристам жилья в аренду.

В Хельсинки ИИ-системы, вошедшие к настоящему времени в реестр, представляют собой чат-роботов, консультирующих, в частности, по вопросам парковки и о медицинских услугах. Одна из систем «заведует» библиотечным фондом, который совместно используется городскими библиотеками – ИИ контролирует и пытается оптимизировать перемещения книг.

И финны, и голландцы называют ИИ-системы «алгоритмами», что, строго говоря, неверно – системы искусственного интеллекта алгоритмическими не являются; эта терминологическая особенность закрепилась, однако, в западных официальных документах и СМИ. Принципиальная проблема практического применения ИИ-систем состоит именно в том, что они не алгоритмичны, и в том, следовательно, что даже их разработчик не может ни объяснить результаты работы ИИ-систем, ни тем более контролировать их работу.

Поэтому публикация реестров ИИ-систем Амстердама и Хельсинки, попытка создания механизма общественного наблюдения за поведением искусственного интеллекта является важным событием – даже если единственным результатом будет привлечение внимания к названной проблеме.

Напомним, что в России в соответствии с «Национальной стратегией развития искусственного интеллекта на период до 2030 года», утверждённой указом президента, защита прав и свобод человека, безопасность и прозрачность ИИ-систем считаются основными принципами их разработки и использования.

Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!