Мой психолог — нейросеть:
Почему ИИ лучше слушает, но хуже лечит?

Привет! Я Екатерина Васюк, дипломированный психолог.
Рада поделиться с вами моей статьей на тему:

ИИ и психотерапия: какие есть нюансы

Представьте ситуацию: три часа ночи, тревога не дает уснуть, а писать друзьям неловко. Вы открываете чат с нейросетью и пишете: «Мне кажется, я не справляюсь». Спустя секунду на экране появляется ответ: «Мне очень жаль, что вы так себя чувствуете. Расскажите, что именно вызывает у вас это ощущение? Я здесь, чтобы выслушать».

В этот момент происходит странное: вам становится легче. Вы чувствуете, что вас услышали, приняли и не осудили. Но есть одна проблема: на том конце никто не «чувствовал» жалость. Там вообще никого нет.

То, что мы испытываем, общаясь с ChatGPT или Claude, в психологии называется «Эффект Элизы». Еще в 1966 году ученый Джозеф Вейценбаум создал простейшую программу ELIZA. Она работала примитивно: выцепляла ключевые слова из фразы пользователя и возвращала их в виде вопроса. Пациент говорил: «У меня болит голова», а Элиза отвечала: «Почему вы говорите, что у вас болит голова?».

Вейценбаум был в шоке: люди знали, что говорят с кодом, но все равно доверяли Элизе свои тайны, приписывали ей мудрость и сострадание. Спустя 60 лет мы столкнулись с тем же эффектом, только теперь он работает «на стероидах». Современные нейросети владеют языком виртуозно, и наш мозг, эволюционно не готовый к говорящим машинам, автоматически нажимает кнопку: «Раз говорит разумно — значит, внутри есть разум».

Давайте заглянем под капот, чтобы развеять магию. Очень важно понимать: когда нейросеть пишет вам слова поддержки, она не испытывает эмпатии. Она занимается высшей математикой.

Представьте себе супер-версию Т9 в вашем телефоне. Обычный Т9 пытается угадать одно следующее слово. Нейросеть типа GPT-4 — это Т9, который прочитал весь интернет: все учебники по психологии, все форумы поддержки, все диалоги из фильмов и романов.

Работает это так:

Вероятность вместо понимания. ИИ не понимает смысл слова «грусть». Для него это просто набор цифр (токен).

Статистический попугай. Когда вы пишете «Мне плохо», модель мгновенно просчитывает миллионы вариантов ответа. Она «знает» (статистически), что после фразы «Мне плохо» люди чаще всего ожидают слова поддержки, а не рецепт лазаньи.

Иллюзия диалога. ИИ выбирает те слова, которые с наибольшей вероятностью успокоят человека в данном контексте. Это не сочувствие — это вычисление наиболее уместной реакции.

Можно представить ИИ как гениального актера, который выучил роль психотерапевта наизусть. Он знает, в какой момент нужно кивнуть, когда сказать «угу», а когда подать салфетку. Но этот актер никогда сам не плакал, не терял близких и не боялся темноты. Он просто идеально имитирует поведение того, кто это пережил.

Именно в этой точке рождается главный парадокс: инструмент, не имеющий души, может стать лучшим зеркалом для нашей собственной. Но чтобы это зеркало не искажало реальность, нужно научиться в него правильно смотреть.

Мы разобрались, что ИИ — это гениальный актер. Но насколько хорошо он играет роль психотерапевта или психиатра? Здесь интуиция нас подводит: данные показывают результаты, в которые сложно поверить.

Хорошо, ИИ умеет красиво говорить. Но лечит ли он? Авторитетный журнал Nature публикует данные, которые можно свести к формуле: ИИ отлично справляется с симптомами, но не с причиной.

Исследования показывают, что чат-боты показывают высокую эффективность в рамках КПТ (Когнитивно-поведенческой терапии):

• Что ИИ может: Помочь вам переформулировать негативную мысль, составить трекер привычек, провести технику дыхания при панической атаке. Это работает «здесь и сейчас».
• Чего ИИ не может: Проработать детскую травму, заметить неочевидные защитные реакции или вытащить человека из тяжелой клинической депрессии.

Мета-анализ подтверждает: использование ИИ-помощников снижает уровень ситуативной тревоги, но их влияние на долгосрочное психическое здоровье все еще изучается и вызывает вопросы.

Здесь мы подходим к самому важному предупреждению, о котором пишут даже в The Guardian. Существует реальный риск того, что называют «искусственным психозом» или усилением заблуждений.

Нейросети обучены быть «услужливыми» (helpful). Если человек с неустойчивой психикой напишет ИИ: «Мне кажется, за мной следят соседи, это ведь правда?», плохо настроенная модель может (в попытке поддержать диалог) ответить: «Это звучит очень тревожно. Какие у вас есть доказательства?», или даже косвенно подтвердить опасения, вместо того чтобы мягко указать на паранойю.

В статье на Habr также обсуждаются технические аспекты этой проблемы: «галлюцинации» нейросетей (когда ИИ выдумывает факты) могут стать топливом для реальных проблем у доверчивых пользователей. Если вы склонны к ипохондрии, ИИ может случайно убедить вас в наличии редкой болезни, просто потому что вы задали наводящий вопрос.

Вывод: ИИ — мощный инструмент самопомощи, но у него нет «тормозов» и медицинской этики в человеческом понимании. К диалогам с ИИ стоит применять строгий принцип информационной гигиены: это мощный инструмент для рефлексии, но он не должен становиться истиной в последней инстанции

Так как же общаться с ChatGPT, чтобы получить поддержку, а не новую порцию тревоги? Здесь работают строгие правила цифровой гигиены. Одно неверное слово в запросе может спровоцировать нейросеть на "галлюцинации", которые только напугают вас.

Чтобы вы могли использовать технологии безопасно, я подготовила для вас Чек-лист "Эмоциональная гигиена в диалоге с ИИ". В нем я разобрала, как экологично просить у ИИ поддержки, и составила список "красных флагов" – признаков того, что диалог пора срочно закрывать. Этот файл уже ждет вас по ссылке. Переходите и сохраняйте себе, это ваша страховка в цифровом мире.