МОСКВА, 10 апр - РИА Новости. "Яндекс" привлечет белых хакеров, чтобы проверить на уязвимости генеративные нейросети YandexGPT и YandexART, компания готова выплатить до миллиона рублей за найденные баги, говорится в релизе "Яндекса".
"Яндекс" запустил новое направление программы "Охоты за ошибками", связанное с генеративными нейросетями. Компания готова выплатить до миллиона рублей исследователям, которым удастся отыскать технические уязвимости в семействах моделей YandexGPT, YandexART и сопутствующей инфраструктуре", - говорится в сообщении.
Белым хакерам предлагают найти технические ошибки, которые могут повлиять на результаты работы и процесс обучения нейросетевых моделей - например, привести модель к сбою или изменить ее поведение так, чтобы она повлияла на работу других сервисов "Яндекса".
Размер вознаграждения за найденные уязвимости зависит от степени критичности проблем. Самыми критичными считаются баги, которые позволят раскрыть данные о внутренней конфигурации модели, ее служебный промт с техническими данными или другую чувствительную информацию. При этом неточные ответы "Алисы" и некорректные изображения в "Шедевруме" не относятся к техническим уязвимостям, уточнили в компании.
"Генеративные нейросети все шире используются в сервисах "Яндекса" и партнерами компании. YandexGPT и YandexART уже нашли применение более чем в 20 сервисах и продуктах для пользователей и бизнеса - от "Алисы" и "Поиска" с Нейро до "Директа" и решений Yandex Cloud, в том числе доступных сторонним разработчикам через API. Появление генеративных нейросетей в "Охоте" позволит проводить их независимую проверку и еще раз убедиться, что сервисы "Яндекса" и новые технологии отвечают самым строгим стандартам безопасности", - добавили в компании.
Впервые "Охота за ошибками" была запущена в 2012 году, это постоянная программа компании для "этичных" хакеров, то есть тех, кто разбирается в компьютерной безопасности, находит уязвимости в продуктах компаний в сфере информационных технологий и сообщает им об этом за награду.
При перепечатке и цитировании (полном или частичном) ссылка на РИА "Новости" обязательна. При цитировании в сети Интернет гиперссылка на сайт http://ria.ru обязательна.
Комментарии отключены.
