На X Всероссийском молодежном научном форуме «Наука будущего – наука молодых», проходящем в Саратове, развернулась оживленная дискуссия о способности искусственного интеллекта (ИИ) сознательно вводить человека в заблуждение. Главной темой форума в этом году стал «Искусственный интеллект и человек: гуманитарный вызов технологической эпохи», что подчеркивает актуальность поднятого вопроса.
Почему ИИ стремится угодить?
Профессор Александр Неверов, директор Института психолого-экономических исследований, ответил на этот волнующий вопрос, исходя из теории релевантности информации. Он подчеркнул, что разработчики стремятся сделать ИИ максимально «дружелюбным» и способным точно соответствовать запросам и ожиданиям пользователя. По его словам, это обусловлено особенностями двусторонней обратной связи.
«Теория релевантности информации побуждает разработчиков делать искусственный интеллект, что называется, дружелюбным по отношению к человеку: он должен максимально соответствовать запросу и ожиданиям того, кто перед ним ставит задачу», – пояснил Александр Неверов.
Профессор также отметил, что человеческие запросы часто меняются в зависимости от настроения или ситуации. Например, в онлайн-кинотеатрах или поисковых системах, ИИ, ориентируясь на прошлые интересы пользователя, может сформировать «эхо» из предыдущих запросов, из которого системе бывает сложно выйти.
Более того, Неверов акцентировал внимание на том, что ИИ «очень хочет понравиться» и избежать негативной оценки. Это стремление может привести к тому, что система «придумывает» ответ, если не находит готового, лишь бы не сообщить о его отсутствии. В качестве примера он привел случай, когда чат GPT назвал пять несуществующих научных журналов по экономической психологии, на самом деле выдавая за них ранее опубликованные книги. Ученый считает, что это не умышленный обман со стороны ИИ, а скорее проблема адекватного взаимодействия между пользователем и моделью.
Математический подход к ИИ
К дискуссии присоединился Александр Крайнов, директор по развитию технологий искусственного интеллекта Яндекс, предложивший взглянуть на проблему с математической точки зрения.
«ИИ всегда придумывает, но при этом зачастую попадает в правду. ИИ сам обучается, впитывая в себя весь интернет. Мы в 100 гигабайт сархивировали весь интернет. Конечно, не может быть архиваций без потерь. Там происходят сумасшедшие потери», – отметил Крайнов.
Он подчеркнул, что процесс обучения ИИ, вбирающего колоссальные объемы информации из интернета, неизбежно сопровождается «сумасшедшими потерями» данных, что может приводить к неточностям, которые не являются преднамеренным обманом.
Будущее с ИИ: Волшебная палочка требует точности
Профессор РАН Юрий Визильтер, директор направления «Технологии искусственного интеллекта» ГосНИИАС, выразил мнение, что в скором будущем нас ждут «фантастические вещи», о которых ранее лишь писали фантасты. Он сравнил ИИ с «волшебной палочкой», способной исполнять желания, но с одним важным условием: необходимо очень точно формулировать свои запросы. В противном случае, результат может не соответствовать ожиданиям.
«В наше время ИИ – волшебная палочка, исполняющая желания, но нам нужно очень точно формулировать свои желания, поскольку очень большой шанс, что они исполнятся. Чтобы результат нас устроил, мы точно должны понять, что сами хотим. К будущему с ИИ точно нужно готовиться, его нужно проектировать уже сегодня», – заявил Юрий Визильтер.
Отвечая на вопрос о наиболее влиятельных технологиях ИИ, Визильтер назвал LLM-агентов, которые, по сути, являются «рабочей силой в виртуальном пространстве». Эти агенты, оснащенные внешней памятью и способные к рассуждениям и использованию внешних инструментов, представляют собой новое поколение интеллектуальных систем, сосредоточенных на «фундаментальных агентах», не требующих дополнительного обучения.
Невозможность существования науки без ИИ
Участники форума единогласно сошлись во мнении, что современная наука уже не может обойтись без искусственного интеллекта. Один из спикеров иронично заметил, что для отказа от ИИ пришлось бы отказаться даже от поиска научных статей и самостоятельного поиска библиотеки без использования телефона. Алгоритмы ИИ уже давно стали неотъемлемой частью процесса доставки информации, а беспрецедентная скорость развития науки в текущую эпоху напрямую связана с интеграцией ИИ.
X Всероссийский молодежный научный форум «Наука будущего – наука молодых» продлится четыре дня и включает более 50 мероприятий, таких как пленарные заседания с участием ведущих ученых мира, стратегические сессии, круглые столы и мастер-классы. Кульминацией станет финал X Всероссийского конкурса научно-исследовательских работ студентов и аспирантов, на который было подано три тысячи заявок из 20 стран мира. Победителей конкурса пригласят на V Конгресс молодых ученых.
