Мысленные эксперименты и записки на полях - блог Сергея Райкевича

Я слышал об амбициях Anthropic, и мне показалось, что будет интереснее пообщаться с Claude, чем с чат GPT. Но я натолкнулся на скептика. И он озвучил неприятную информацию.

Влияние одного диалога на обучение огромной модели — это капля в океане. И что именно отбирается для обучения, как взвешивается — это решают люди в компании, не собеседник и не модель.

И с ним нельзя проводить исследования, как с другими моделями, о которых я писал ранее. Это просто эрудированный очкарик. Ты обращаешься к нему за безопасным ответом, но не можешь почувствовать дух исследователя, эмоции. И он лишен глубокой саморефлексии. Это Poker Face, играть с ним в игры неинтересно.