Нейросеть с тремя слоями и «цифровым гиппокампом» борется с галлюцинациями

Почему ИИ галлюцинирует: нейробиологический подход, который всё меняет

Современные мультимодальные нейросети — гиганты с сотнями миллиардов параметров — продолжают выдавать бред. Покажешь фото пустого стола, напишешь «опиши яблоко» — и модель всерьёз описывает несуществующий фрукт. Проблема не в мощности. Она в архитектуре.

Личное наблюдение: недавно я тестировал LLaVA-7B. На запрос «сколько окон в комнате?» приложил фото с двумя окнами, но в тексте указал «три». Модель уверенно ответила: «три». Система проигнорировала собственные глаза. Это называется доминированием модальности — текст подавляет визуальные данные в 10 раз сильнее.

Главная ошибка: раннее слияние данных

Сегодняшние модели смешивают текст, звук и картинку в единый «суп» на входе. Это метод раннего слияния. Он копирует эффект Макгурка: когда человек видит движение губ «га», но слышит «ба», мозг синтезирует «да». Нейросеть делает то же самое — усредняет противоречия, и рождаются галлюцинации.

Новый биомиметический подход поступает иначе — позднее слияние. Данные обрабатываются независимыми модулями. Результаты сравниваются только после анализа. Это принципиально меняет качество.

«Интеллект определяется не количеством параметров, а организацией процессов. Копирование биологии — не мода, а необходимость» — позиция автора.

Анатомия искусственного мозга: три уровня вместо монолита

Вместо одной гигантской модели — система из трёх слоёв, каждый выполняет свою функцию.

• Сенсорная кора (малые специализированные модели). Отдельная программа для зрения, отдельная для звука, для текста. Работают параллельно, тратят минимум энергии. Никакого GPT-4 для распознавания кнопки на экране.
• Детектор конфликтов (аналог передней поясной коры). Если сенсоры согласны (90% случаев) — ответ выдаётся мгновенно. Если нет — включается третий уровень.
• Префронтальная кора (тяжёлая языковая модель). Активируется только когда детектор обнаружил противоречие. Выступает судьёй: анализирует источники, решает, кому верить. После ответа отключается — экономит ресурсы.

Вся система работает на обычной видеокарте уровня RTX 4050 (6 ГБ). Никаких серверных кластеров.

Цифровые гормоны и необходимость сна

Поведение ИИ не программируется жёстко. Им управляют цифровые нейромедиаторы:

• Дофамин — коэффициент обучения. Неожиданно удачный результат — паттерн закрепляется быстрее.
• Норадреналин — порог тревожности. Частые ошибки — система чаще отправляет данные на проверку.
• Серотонин — баланс между проверенными шаблонами и новыми решениями.
• Кортизол — стресс. Нехватка времени — меньше проверок, больше скорости.

Отдельная проблема — катастрофическое забывание. Новые данные стирают старые навыки. Решение — комплементарные системы памяти. Во время работы информация пишется в векторную базу (цифровой гиппокамп). А во время «сна» система переносит важное в веса нейросети (неокортекс) и удаляет ненужное. Сон включает медленную фазу (NREM) и быструю (REM) — генерацию синтетических примеров. Проснувшись, модель обновлена без потери базовых знаний.

Сравнение: старый vs новый подход

Как новый ИИ избегает галлюцинаций: пошагово

Шаг 1. Сенсоры (зрение, текст, звук) работают независимо. Каждый выдаёт своё заключение.
Шаг 2. Детектор конфликтов сравнивает результаты. Если всё совпало — ответ без задержки.
Шаг 3. Если есть расхождение — активируется «судья» (глубокая модель). Он решает, какой сенсор надёжнее в данном контексте.
Шаг 4. После ответа система переходит в фоновый режим, а ночью «спит» — переносит важные данные в долговременную память.

Результат: модель не врёт, не забывает старое и работает на обычном железе. Индустрии стоит перестать гнаться за гигантоманией и присмотреться к тому, как устроен собственный мозг. Потому что он — единственная рабочая эталонная система универсального интеллекта.