МОСКВА, 28 июл - РИА Новости. Причиной того, что чат-бот с искусственным интеллектом ChatGPT начал "глупеть", могут быть попытки создателей оптимизировать его и направить в сторону выдачи ответов, не противоречащих кодексам этики, в рамках реализации концепции "не навреди", рассказал РИА Новости директор по искусственному интеллекту и цифровым продуктам "Билайна" Константин Романов.
Ранее в журнале Decrypt была опубликована статья, в которой приводились результаты исследования ученых из Стенфорда и Беркли. В нем говорится, что на определенные категории вопросов качество ответов, выдаваемых ChatGPT версии 4 и 3.5, существенно снизилось в июне по сравнению с мартом.
Эксперт отметил, что версия с намеренной деградацией ChatGPT кажется утопической и маловероятной.
"Сетки" постоянно оптимизируют, а мы наблюдаем результаты процессов их дообучения и оптимизации. Возможно, в свете последних событий и разговоров о толерантности ответов оптимизация компании-разработчика была больше направлена в это русло: выдачу более верифицированной, не противоречащей законам и кодексам этики информации. То есть оптимизация была направлена на реализацию концепции "не навреди". Вместе с этим при направленном дообучении нейросети мы можем наблюдать деградацию при ответе на отдельную категорию вопросов", - заявил Романов.
Он подчеркнул, что это логично, поскольку происходит обучение модели в соответствии с решаемыми задачами. "Это связано с тем, что у нейросети, даже у ChatGPТ, ограниченное количество параметров для обучения. Нельзя изменить архитектуру нейросети и данные для обучения, сделав нейросеть лучше во всем", - уточнил эксперт.
Романов также заявил, что чтобы понять, действительно ли с марта по июнь происходила оптимизация, стоит задать чат-боту вопросы о последних событиях и сравнить ответы, например, об уходе Илона Маска с поста гендиректора Twitter или крушении глубоководного обитаемого аппарата "Титан".
Чат-бот ChatGPT набрал популярность после запуска в конце ноября прошлого года, собрав первый миллион пользователей менее чем за неделю. Бот принадлежит компании OpenAI. Одним из ее сооснователей в 2015 году выступил американский миллиардер Илон Маск, который позже разорвал связи со стартапом.
При перепечатке и цитировании (полном или частичном) ссылка на РИА "Новости" обязательна. При цитировании в сети Интернет гиперссылка на сайт http://ria.ru обязательна.
Комментарии отключены.
