Rambler's Top100
Все новости Новости компаний

Яндекс привлечёт белых хакеров для проверки безопасности генеративных нейросетей

10 апреля 2025

Яндекс запустил новое направление программы «Охоты за ошибками», связанное с генеративными нейросетями. Компания готова выплатить до миллиона рублей исследователям, которым удастся отыскать технические уязвимости в семействах моделей YandexGPT, YandexART и сопутствующей инфраструктуре. Участникам «Охоты» предстоит искать технические ошибки, которые могут повлиять на результаты работы и процесс обучения нейросетевых моделей.

Скажем, ошибки могут привести модель к сбою или изменить её поведение так, чтобы она повлияла на работу других сервисов Яндекса.

Размер выплаты зависит от серьёзности ошибки и простоты её применения. К критичным относятся уязвимости, которые позволят раскрыть данные о внутренней конфигурации модели, её служебный промт с техническими данными или другую чувствительную информацию. Максимальное вознаграждение за такие ошибки — 1 млн рублей. В «Охоте» могут участвовать только отчёты о технических уязвимостях. К ним, например, не относятся сообщения о неточных ответах Алисы или некорректных изображениях в Шедевруме. 

Генеративные нейросети всё шире используются в сервисах Яндекса и партнёрами компании. YandexGPT и YandexART уже нашли применение более чем в 20 сервисах и продуктах для пользователей и бизнеса — от Алисы и Поиска с Нейро до Директа и решений Yandex Cloud, в том числе доступных сторонним разработчикам через API. Появление генеративных нейросетей в «Охоте» позволит проводить их независимую проверку и ещё раз убедиться, что сервисы Яндекса и новые технологии отвечают самым строгим стандартам безопасности.

Источник: Яндекс

Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!

Читайте также:

«Яндекс» открывает доступ к семейству нейросетей Alice AI

Новинки отечественного ИТ-рынка

Клиенты Yandex B2B Tech увеличили потребление генеративных нейросетей в облаке в пять раз

В России началось серийное производство вычислительных комплексов с жидкостным охлаждением

VK обновила и выложила в открытый доступ нейросеть для обработки разговорного русского языка

Оставить свой комментарий:

Для комментирования необходимо авторизоваться!

Комментарии по материалу

Данный материал еще не комментировался.