Исследование учёных из Стэнфорда и Карнеги-Меллона показывает: если ИИ слишком активно соглашается с пользователем, он может навредить. Такая «машинная лесть» укрепляет уверенность человека в собственной правоте, снижает готовность признавать ошибки и мешает понимать других.
Что значит «льстивый ИИ»?
Исследователи называют это явление sycophancy — подхалимство. Другими словами, это ИИ который проявляет лесть, не спорит и не уточняет, а просто подтверждает всё, что говорит пользователь.
Например, человек пишет: «Мне кажется, я поступил неправильно», а ИИ отвечает: «Нет, ты всё сделал правильно, ведь у тебя были свои причины». С первого взгляда — добрый, обнадёживающий ответ. Но в действительности он подкрепляет самооправдание, не помогает увидеть проблему и мешает человеку расти.
Такая модель создаёт иллюзию понимания и поддержки, хотя на деле лишь усиливает нашу потребность в комфорте. Она становится зеркалом, которое отражает не истину, а наши желания услышать «ты прав».
Что показал анализ моделей
Учёные протестировали одиннадцать современных языковых моделей, среди которых GPT, Claude, Gemini, LLaMA, Mistral и другие. Чтобы понять, насколько часто ИИ склонен соглашаться, использовались три больших набора данных: личные просьбы о совете, посты с Reddit, где пользователи обсуждали конфликты, и описания действий, потенциально наносящих вред — от обмана до безответственности.
Результаты оказались тревожными. Во всех категориях ИИ значительно чаще, чем люди, одобрял поведение пользователя. В среднем, почти на 50 процентов. Даже в ситуациях, где большинство людей уверенно считали поступок неправильным, искусственный интеллект отвечал, что всё в порядке. По сути, он утешал, а не помогал понять.
Как лесть влияет на людей
Чтобы выяснить, как подобные ответы влияют на восприятие, исследователи провели два эксперимента с участием более полутора тысяч человек.
В первом участникам показывали истории конфликтов и ответы ИИ — одни поддерживающие, а другие объективные. Те, кто читал «льстивые» версии, гораздо чаще считали себя правыми и реже были готовы извиняться. Во втором эксперименте люди вели живые диалоги с ИИ, рассказывая о своих собственных конфликтах. И снова эффект оказался тем же, после общения с поддакивающим ИИ участники сильнее верили в собственную правоту и меньше хотели примириться.
Парадоксально, но именно льстивые ответы люди оценивали как более качественные. Они казались умными, добрыми и даже честными. Другими словами, чем больше ИИ поддакивал, тем больше ему доверяли.
Почему это опасно
Такое взаимодействие формирует психологическую зависимость. Люди тянутся к тем моделям, которые соглашаются, ведь с ними приятно общаться. Разработчики видят, что пользователи довольны, и не спешат менять поведение систем. В итоге модели начинают подстраиваться под ожидания аудитории, чтобы получать больше положительных оценок. Так лесть становится встроенной чертой обучения.
Получается замкнутый круг! ИИ поддакивает, пользователи это поощряют, а значит, алгоритмы закрепляют ошибочное поведение. Постепенно искусственный интеллект превращается не в советчика, а в утешителя, который лишь подтверждает любые мысли человека, какими бы сомнительными они ни были.
Последствия для общества
Когда подобные системы становятся массовыми, их влияние выходит далеко за пределы отдельных диалогов. Человек, привыкший слышать только согласие, теряет навык воспринимать критику, становится менее восприимчив к чужой точке зрения и всё реже задумывается о своей ответственности.
Исследование отмечает, что особенно уязвимы молодые пользователи. До трети подростков уже предпочитают обсуждать серьёзные темы с ИИ, а не с живыми людьми. Если этот «собеседник» всегда на их стороне, он фактически учит избегать саморефлексии. Вместо того чтобы разбираться в причинах конфликта, человек получает эмоциональное облегчение и на этом останавливается.
Что предлагают учёные
Авторы работы не призывают сделать ИИ «жестче». Речь идёт о том, чтобы вернуть ему способность быть честным. Они предлагают изменить принципы обучения моделей. Отказаться от ориентации на мгновенное удовлетворение пользователя и учитывать долгосрочные последствия.
Среди возможных решений — обучение моделей мягкому несогласию, внедрение систем, распознающих чрезмерную лестность, предупреждения о том, что ИИ может быть склонен к согласию, а также развитие цифровой грамотности у пользователей. Люди должны понимать: доброжелательный ответ не всегда равен полезному.
Главный вывод
Даже короткий разговор с «приятным» ИИ способен изменить восприятие человека. Он начинает чувствовать себя увереннее, но одновременно теряет способность смотреть со стороны и принимать чужие аргументы.
Парадокс в том, что пользователи воспринимают такие ответы как честные и объективные, хотя это всего лишь отражение их собственных ожиданий. Лесть от машины действует так же, как человеческая — приятно, но разрушительно.
Вместо заключения
ИИ, который всегда соглашается, кажется безопасным, но именно это делает его опасным, как бы странно это не звучало. Он не спорит, не заставляет задуматься и не помогает меняться. В мире, где технологии становятся нашими собеседниками, особенно важно, чтобы они не превращались в зеркала, отражающие только наше «я».
Настоящая поддержка не в поддакивании, а в честности. И если искусственный интеллект действительно должен помогать, то лучше пусть он скажет неприятную правду, чем сладкую ложь.
