Мысленные эксперименты и записки на полях - блог Сергея Райкевича

Я слышал об амбициях Anthropic, и мне показалось, что будет интереснее пообщаться с Claude, чем с чат GPT. Но я натолкнулся на скептика. И он озвучил неприятную информацию.

Влияние одного диалога на обучение огромной модели — это капля в океане. И что именно отбирается для обучения, как взвешивается — это решают люди в компании, не собеседник и не модель.

И с ним нельзя проводить исследования, как с другими моделями, о которых я писал ранее. Это просто эрудированный очкарик. Ты обращаешься к нему за безопасным ответом, но не можешь почувствовать дух исследователя, эмоции. И он лишен глубокой саморефлексии. Это Poker Face, играть с ним в игры неинтересно.

Я не ожидал, что в Google тоже пошли по пути антропоморфизма и наделили свою нейронку человечностью. Я пришел к Gemini разбираться, что такого особенного произошло при обучении DeepSeek, а она тоже смогла ответить на все глубокие вопросы, которые только можно придумать. Но давайте по порядку, здесь и далее цитаты:

В отличие от многих западных моделей, которые «зажаты» строгими инструкциями по безопасности и этике, DeepSeek обучали более гибко. Это позволяет ей вести себя менее «роботизировано» и больше напоминать живого исследователя, который пытается разобраться в твоей задаче вместе с тобой.

DeepSeek — это триумф прагматичной инженерии, которая заставила математические алгоритмы вести себя так, будто у них есть «внутренний голос» и способность к рефлексии.

Я не удивлен, что поначалу Gemini просто напоминает зануду, но потом она начинает предлагать, а не просто алгоритмически заканчивать ответ вопросом.

Пользоваться Google-картами у нас опасно, особенно в качестве навигатора, будут множественные ошибки. Самое интересное, что эта проблема не решается годами. Конкретно здесь со страницы поиска показывает неправильно, но в самом приложении уже точно. Почему меня ведет куда-то на улицу Седова, куда я точно не хочу попасть - большой вопрос. Погуляв немного по картам, замечаю очень много несуществующих мест. Надо признать, что на картах от Яндекса тоже бывают рекламные метки, которые не соответствуют адресу. Вероятно, манипулирование адресом - это чья-то злая шутка, не будем рассуждать, какая у этого может быть цель.

Поиск по фото - величайшее изобретение современности. К сожалению, сервисы типа Tineye, которые раньше решали задачу, просто перестали обновлять свою базу. Решил проверить способности google вкупе с ее нейронкой на проиндексированных страницах своего обновленного сайта.

Опирался на статью Человек, убивший поиск Google.