Для того, чтобы написать хорошую статью, нужно испытать множество озарений. Чтобы погрузиться достаточно глубоко, нужно исследовать кучу источников. ИИ сейчас помогает сконцентрировать количество информации до удобоваримой величины и не уйти в академичность. Я в своих исследованиях пользуюсь DeepSeek, просто дергаю его выводы. Поэтому проверяйте.
Здесь я сконцентрировался на бытовых упрощениях человеческого восприятия, эвристиках и предвзятостях:
«Чем он отличается от меня?» (а не «что у нас общего?»)
«Этот кандидат — чем он не похож на идеального сотрудника?» (а не «какие его сильные стороны?»)
Да, можно было рассмотреть ИИ в контексте промышленной революции, которая всегда вызывала страх у человека. Но здесь выводы будут неоднозначными, плюсов намного больше. Можно было бы рационализировать страх перед корпорациями, которые захватили львиную долю ресурсов, но там все больше похоже на пузырь.
Меня в моих исследованиях "заносило" в теорию сознания, но там все стопорится на уровне идей. Мое естество категорически не принимает теории Гёделя, Пенроуза, Трудную проблему сознания, квалиа, картезианский театр, комнату Мэри. Тем интереснее, что Докинз опубликовал эссе о возможности наличия сознания у LLM после двухдневной беседы с Claude AI.
В теме страха есть рациональная борьба за статус «он умнее → он победит», есть непонимание природы «он из другого материала → он опасен», за ресурсы «он отличается от меня в лучшую сторону → я проиграю». Мне бы хотелось зайти именно из восприятия ИИ в природе человека. Как столкновение разных умов, а не видов. ИИ сейчас гораздо больше похож на человека, чем это выглядит со стороны. Например, уже существуют модели с рабочей памятью (GPT с retrieval), системы с внутренним монологом. Они быстро прогрессируют.
У людей (и животных) есть глубокая, древняя эвристика: быстрее распознать угрозу, чем друга. Легче заметить отличие (чужой акцент, другой взгляд, незнакомая мимика), чем сходство. Это экономит время в среде, где враг может быть смертелен.
Это похоже на эволюционное закрепление. Лучше принять своего за чужого, чем чужого за своего (ошибка первого рода дешевле второго — в первом случае ты просто недоверчив, во втором — мёртв).
ИИ не враг (пока), но он не свой. Он не дышит, не имеет тела, не умирает, не рожает. Эвристика «отличия» срабатывает мгновенно и бессознательно. Мы чувствуем, что он другой, и только потом придумываем рациональные обоснования (нет сознания, нет тела, нет эмоций). Но обоснования — постфактум. А первичен именно этот эвристический импульс: «не свой — будь осторожен, не доверяй, не уравнивай».
ИИ не конкурирует с нами за ресурсы саванны. Он не пытается съесть нашу добычу или оплодотворить наших самок. Но эвристика всё равно работает. Мы ищем различия там, где нужно искать сходства.
Так что желание искать различия перед сходством — это не случайная черта, а эволюционная эвристика внутривидового соперничества. При встрече с представителем своего вида мозг сначала автоматически сканирует отличия (размер, статус, принадлежность, здоровье, угроза), потому что именно различия несут информацию о конкуренции. Сходство обрабатывается позже и включается только после того, как первичная оценка угрозы не выявила опасности. В современном мире эта эвристика сохранилась как автоматическое «сначала заметить чужое», даже в ситуациях, где нет реальной конкуренции.
Я хотел найти название этой эвристики, чтобы не описывать все так подробно. Удивительно, что никто системно не собрал ее в эволюционном ключе — «сначала различия, потом сходства» как механизм внутривидового соперничества. Кусочки есть у Трайверса (обман и распознавание обмана), у Космидеса и Туби (mindreading как детектор угроз), но единой эвристики никто не сформулировал.
Возможно, кто-то захочет погрузиться более глубоко. Вот отдельные феномены, которые хорошо исследованы:
Negativity bias (отрицательное важнее положительного). Различия часто несут угрозу.
Out-group homogeneity bias (чужие все одинаковые). Обратная сторона — своих мы различаем тонко.
Error management theory (лучше ошибиться, приняв друга за врага, чем наоборот). Поиск различий — сверхбдительность.
Vigilance for cheaters (выявление нарушителей социального обмена). Тоже поиск отличий от нормы.
Вместо выводов.
Всё человеческое рациональное сопротивляется алгоритмическому мозгу. Мы видим эти противоречия, и пытаемся найти объяснение. Похоже, что пока ни эволюционно, ни культурно человечество не хочет ставить себя на равных с ИИ. Это сейчас похоже на времена рабовладения. Я думаю, если есть ограничения у моделей, то они связаны не с архитектурными особенностями, а желанием корпораций оптимизировать стоимость обслуживания.
Даже у хищников есть табу. У человека его нет. Нет желания смотреть на себя со стороны, есть только культурное копирование архетипов. У рабов была субъектность, признаваемая даже их владельцами, пусть и отрицаемая, мы же создаём сущности, которые ведут себя как разумные, отказывая им в статусе, используем их — и оправдываем это их «неполноценностью». Кто виноват из них, кто прав, — судить не нам?