Профессор Александр Яковлевич Каплан. Источник: Telegram-канал.
Почему это происходит? Потому что модель, которая сформирована в мозге, зачем-то дописала обстоятельства.
Модель подчиняется запросам, потребностям организма и пытается мне помочь, добавляя что-то в картину. Опыт у неё большой, много чего она как бы знает — и дописывает по примеру того, что где-то когда-то было. И вот вы уже уверены, что были здесь, а на самом деле никогда не были.
Конфабуляции — это такие ошибки памяти, когда вы утверждаете: «Да точно, да я помню, было!». Но в реальности — не было, это модель дописала.
Механизм ложных воспоминаний
Каплан описывает конфабуляции как результат работы внутренней модели мозга, которая «дописывает» недостающие детали по аналогии с прошлым опытом. Это не ложь — человек искренне верит в то, что вспоминает. Мозг не хранит точные копии, а реконструирует события, и реконструкция подвержена искажениям.
Есть и другой механизм, не менее сильный. Воспоминание часто сидит в подсознании не в вербальной форме — это комплекс «картинок», «фильмов действия», звуков, запахов, мыслей. Рассказывая, мы обобщаем и вербализуем этот комплекс, выстраивая логичную структуру: каждое событие вытекает из предыдущего, у рассказа есть смысл и цель. По ходу что-то обобщается, что-то детализируется, связывается с другой информацией, подстраивается под слушателя.
Особенно сильно воспоминание меняют заданные вопросы и ответы на них. Всё, что сотворено в голове с конкретным эпизодом, запоминается вместе с оригинальным вариантом — нередко изменяя и дополняя его. Когда один и тот же эпизод рассказывается многократно (а преподаватель ТРИЗ постоянно использует примеры из практики), в конечном итоге в голове остаётся не столько оригинальное воспоминание, сколько синтетический конгломерат из множества пересказов для разных аудиторий.
Параллель с ИИ
Конфабуляции мозга поразительно похожи на то, как работают генеративные нейросети. LLM тоже «дописывает» то, чего не было, — это называется галлюцинациями. Механизм один: модель предсказывает наиболее вероятное продолжение на основе обучающих данных, не проверяя соответствие реальности. Как мозг достраивает воспоминание по аналогии, так и нейросеть достраивает текст по статистическим паттернам.
Разница в том, что у человека есть механизм проверки — «нет, этого не могло быть, потому что…». У LLM такого механизма нет: она с одинаковой уверенностью выдаёт факт и галлюцинацию. В ТРИЗ это называется отсутствием функции коррекции: система генерирует, но не фильтрует. Добавление векторной проверки фактов (retrieval-augmented generation) — попытка закрыть этот разрыв, но она остаётся внешней надстройкой, а не внутренним свойством модели.
Урок Каплана применим и к ИИ: чем чаще модель «рассказывает» одну и ту же историю, тем сильнее она закрепляется — даже если изначально была неверной. Обратная связь от пользователей (RLHF) работает как многократный пересказ: модель учится тому, что «хотят услышать», а не тому, что истинно.
Источник: Telegram-канал профессора А.Я. Каплана.
