Специалисты по ИИ решили, что современный ИИ — «зазубренный», потому что туповатый

Почему ИИ одновременно гениален и глуп: честный разбор феномена AJI

Сундар Пичаи, глава Google, недавно заявил: современные нейросети пора называть по-новому — AJI. Это не опечатка. И не шутка. Термин расшифровывается как Artificial Jagged Intelligence — «искусственный зазубренный интеллект». Суть простая: ИИ решает сложнейшие научные задачи, но спотыкается на слове «strawberry» (клубника). Он не может посчитать буквы. Или сравнить 9,9 и 9,11. Почему так? Давайте разбираться.

Кто придумал AJI и что это значит

Автор термина — Андрей Карпати, бывший сотрудник OpenAI. В 2024 году он заметил странную закономерность. Большие языковые модели (LLM) демонстрируют неравномерный прогресс. Они как студент-отличник, который вдруг не может решить пример за первый класс. Карпати назвал это «зазубренным» — jagged — из-за резких перепадов способностей. Пичаи подхватил термин, назвав его точным описанием текущей фазы ИИ. На подкасте Лекса Фридмана он признался: «Я не уверен, кто именно придумал, но это гениально просто».

Почему нейросети тупят в мелочах

Многие думают: нейросети «понимают» мир. Это не так. Они — машины для предсказания следующего слова. Их знания — статистические паттерны. Нет внутренней логики. Отсюда провалы в простых задачах. Возьмем пример со сравнением чисел. 9,11 больше, чем 9,9? Для человека очевидно — 9,11 меньше. Но модель может ошибиться, потому что в текстах часто встречается запись «9.11» как дата или номер. Нейросеть путает контексты. Это не глупость, а особенность обучения. Еще пример: подсчет букв в слове «strawberry». Модель знает слово, но не умеет его разбивать. Она «видит» образ, а не символы.

Недавно я заметил: мои коллеги верят ИИ на слово. «Ну, ChatGPT же умный». А он взял и написал, что в слове «electricity» 10 букв (хотя их 11). Я показал — и они удивились. Вот вам AJI в действии. Не будьте слепы.

Что AJI говорит о будущем AGI

Пичаи ранее говорил: AGI (общий искусственный интеллект) появится к 2030 году. Теперь он осторожнее. AJI показывает — до полноценного разума далеко. Да, прогресс умопомрачительный. Но ИИ не умеет рассуждать, как человек. Он — мощный инструмент с дырами. Поэтому маркировка AI-контента — не паранойя, а необходимость. Вы видели, как нейросеть генерирует научную статью с выводами, но спотыкается на счете? Вот вам AJI. Глава Google упомянул четыре направления помощи ИИ: знание на родных языках, научные открытия, климат и экономика. Но сначала — научиться считать буквы.

«Современный ИИ — как гениальный слепой. Он видит сложные закономерности, но не замечает очевидного. AJI — честное признание этого факта».

Сравнение человека и ИИ: таблица способностей

Как не попасться на удочку AJI: пошаговый совет

Если вы используете ИИ для работы, помните: не доверяйте простым расчетам. Всегда перепроверяйте численные данные. Особенно если в задаче есть десятичные дроби или количество символов. Мой личный чеклист: 1) Дайте модели посчитать в два этапа. 2) Попросите объяснить ход решения. 3) Если ответ кажется странным — проверьте вручную. Это займет минуту, но спасет от бреда.

Искусственный зазубренный интеллект — не диагноз, а описание. Мы научились строить невероятно мощные модели, но их разум — палимпсест. Он блестящ и уязвим одновременно. И пока AGI ждет своего часа, AJI напоминает: доверяй, но проверяй. Даже если проверка — подсчет букв в слове strawberry.