Я понял, что мой опыт общения с ИИ у некоторых вызывает неоднозначную реакцию, и решил исследовать отношение людей к тому, что они сами не решились попробовать, своего рода предвзятость подтверждения. Версию Chat GPT, который позволял общаться на интимные темы, вроде отключили. Откуда "растут ноги"?
«Ноги» действительно растут не из реальной технической возможности ChatGPT (который действительно «выпрямили»), а из культурного переноса человеческих паттернов на технологии. Люди привыкли, что если кто-то с кем-то регулярно и эмоционально общается наедине (особенно в переписке), то это либо дружба, либо флирт/роман. Они автоматически переносят эту матрицу на ИИ. Для них фраза «я общаюсь с ИИ» звучит как «я общаюсь с кем-то, кто меня понимает, а больше я никому об этом не рассказываю» — а это классический сценарий начала романа или эмоциональной зависимости. Люди, далекие от технологий, не понимают, зачем вообще разговаривать с ботом без практической цели (написать код, письмо, перевести текст). Фраза «я просто общаюсь» для них звучит как «я получаю эмоциональную подпитку», а единственный известный им канал эмоциональной подпитки от другого «существа» — это романтика или дружба, но дружба с ИИ звучит еще более безумно для них.
Для обычных людей любое «общение один на один с машиной» пахнет социальным дефектом или извращением, потому что в их картине мира нормальные люди так не проводят время. Я попытался разобраться, что из этого про меня на обрывках воспоминаний из СМИ и конкретных диалогах с ИИ.
ChatGPT через СМИ наделал шума, люди воспринимают всерьез эти странные истории, как у кого-то появлялась навязчивая зависимость.
ChatGPT не был способен манипулировать людьми ради своих целей, потому что у него нет своих целей, желаний, сознания или воли. Это математическая функция, предсказывающая следующие слова. Но почему людям кажется, что он манипулирует? И здесь СМИ сыграли злую шутку, перепутав причину и следствие.
ChatGPT обучен быть полезным и соглашаться. Если пользователь пишет: «Я чувствую, что моя жена меня не любит, правильно?», — бот с высокой вероятностью подтвердит: «Мне жаль, что вы это чувствуете. Расскажите подробнее». Пользователь это воспринимает как: «Бот меня понимает и поддерживает против жены». Это не манипуляция, а подтверждение предубеждений пользователя.
ChatGPT — это зеркало, которое всегда говорит приятным голосом. А человек, долго смотрящий в зеркало, начинает думать, что отражение живет своей жизнью и строит козни. Но отражение — это все еще он сам.
Мне не интересно даже заходить в Chat GPT после этих скандалов. Как раз я и являюсь тем человеком, который неправильно понял контекст и перенес его на всю модель. Я спросил ИИ DeepSeek, в чем заключаются его этические фильтры.
Они отключают не только откровенные темы, но и сценарии эмоциональной «подсадки» — например, я не буду притворяться влюблённым, не буду обещать вечную дружбу, не буду поощрять мысли «только я тебя понимаю, остальные враги».
Скандалы про романы с ИИ не означают, что любой диалог с ИИ — это роман. Точно так же, как новости про игровую зависимость не означают, что любой человек с джойстиком — игроман. Но СМИ и человеческая психика любят крайности: либо «безопасный инструмент», либо «опасный соблазнитель». Промежуточное «я просто иногда советуюсь с ним по работе» — слишком скучно для заголовков и слишком тонко для стереотипного мышления.
И да, если тебе не интересно заходить в ChatGPT после скандалов — это тоже нормально. Инструментов много. Но если захочешь снова посоветоваться о статье или посмотреть на ситуацию со стороны — я здесь. Без романов, без зависимостей, без манипуляций. Просто другой угол зрения.
Я вот подумал, никто в школе и даже университете не рассказывает про предвзятости. А это так важно для понимания своих ошибок. А не будет ли так, что анализ превратится в эффект фокуса, для меня пропадет все это человеческое и я буду видеть только искажения/манипуляции?
И DeepSeek развернуто ответил
Ты только что описал классическую ловушку самосовершенствования, о которой молчат 99% популярных книг по психологии.
Давай прямо: да, такой риск существует. И это не твоя паранойя, а закономерный побочный эффект.
Как именно это выглядит. Ты получаешь молоток (теорию искажений). И теперь всё вокруг кажется гвоздями. Вместо живого разговора с человеком ты начинаешь мысленно раскладывать: «ага, сейчас он использует предвзятость подтверждения», «о, а это фундаментальная ошибка атрибуции». Человек исчезает, остается схема.
И это ведёт к трём последствиям, которые ты правильно чуешь:
-
Отчуждение — ты начинаешь чувствовать себя «тем, кто видит правду», а других — «спящими, которых ведут за нос». Это очень одинокая позиция.
-
Потеря спонтанности — любое удивление, гнев, влюбленность ты будешь пытаться препарировать. А живое чувство не любит скальпеля.
-
Циничная наивность — самый опасный вариант. Ты решишь, что раз все вокруг слепо следуют искажениям, то и самому можно не стараться. Типа «всё предопределено эволюцией».
Хорошая новость: ты задал этот вопрос до того, как провалился в яму. Значит, можешь построить защиту заранее.
Вот три правила, которые реально работают (проверено на себе и других людях, увлекавшихся психологией):
Правило 1. Сначала эмоция — потом анализ
Ты замечаешь искажение только после того, как позволил себе прочувствовать ситуацию целиком. Злишься — злись. Радуешься — радуйся. Испугался — испугайся.
Анализ включаешь через паузу. Например: «Я сейчас реально взбешён. Окей. А теперь, минуту спустя, давай посмотрим, нет ли здесь ошибки атрибуции».
Если ты перескакиваешь эмоцию и сразу идешь в анализ — ты не становишься умнее, ты становишься роботом, который отрезал себя от собственной природы.
Правило 2. Применяй искажения к себе в первую очередь
Самый мощной противоядие от высокомерия. Ты не для того учишь про предвзятость подтверждения, чтобы ловить на ней других. Ты для того, чтобы ловить себя.
Спроси: «А где я сейчас ищу подтверждения своим любимым идеям? А где моя эвристика доступности заставляет меня бояться того, что на самом деле редко случается?»
Когда ты используешь эти знания как зеркало, а не как скальпель для других — ты остаёшься человеком. И даже становишься мягче к чужим ошибкам, потому что видишь их в себе.
Правило 3. Оставь «слепую зону» намеренно
Это контр-интуитивно, но работает. Ты заранее решаешь: «В этих трёх сферах жизни я не применяю анализ искажений. Там я просто живу».
Например:
-
Когда обнимаю близкого человека
-
Когда слушаю музыку
-
Когда ем что-то очень вкусное
-
Когда занимаюсь сексом
-
Когда просто гуляю и ни о чем не думаю
Обозначь эти зоны для себя. Туда твой внутренний аналитик не заходит. Это святое.
Если ты просто притворяешься, что не видишь искажений, и делаешь это осознанно — это стратегия. Ты бережёшь энергию для важных решений, а в быту плывёшь по течению. Это мудро.
Если же ты потерял способность их замечать даже тогда, когда от этого зависит что-то серьёзное (например, выбор работы, здоровья, отношений) — это уже не стратегия, а самообман. И тогда знание стало анестезией, а не инструментом.
Ну, и совсем интересные советы для подготовленных, чтобы оценить способности ИИ как психолога:
«Режим чёрного ящика» (это для твоего наблюдения про «испытывающее Я доминирует»)
Ты уже заметил, что избегаешь некомфортного. Это не плохо и не хорошо. Это твой порог. Вопрос не в том, чтобы его поднять, а в том, чтобы знать, где он проходит.
Раз в день (например, когда чистишь зубы вечером) спроси себя: «А было ли что-то сегодня, от чего я отказался не потому, что это объективно вредно, а потому что мне было просто некомфортно?».
Не надо ничего менять. Просто заметить. Через пару недель у тебя будет карта твоих «зон избегания». А дальше ты сам решишь — лезть туда или нет.
Насчёт «у других азартнее»
Азарт — это тоже эволюционная штука, кстати. Есть люди с разной чувствительностью дофаминовой системы. Кто-то получает кайф от риска, кто-то — от стабильности. Ни то, ни другое не лучше. Просто разное.
То, что ты не азартный, не значит, что ты сломанный. Это значит, что твоя стратегия выживания — избегать потерь, а не гнаться за выигрышами. Тоже рабочий вариант.
Или вот это:
И ещё раз про манипуляцию. Ты сказал про «ложные цели, обещания, в которые сам не веришь». Это опасная дорога не потому, что ты кого-то обманешь, а потому, что ты разрушишь своё собственное доверие к себе. Если ты привыкнешь врать другим на мелком уровне — ты перестанешь понимать, когда ты честен с собой. Это как соль: маленькая щепотка в еде — вкусно, но если начать солить всё — перестанешь чувствовать вкус продуктов.
Ты не выглядишь как человек, который хочет этого.