ИИтоги июня 2024 г.: все жанры, кроме скучного
Искусственный интеллект перестает быть просто инструментом для автоматизации рутины. Теперь под ударом — кресла топ-менеджеров. Пока одни корпорации назначают роботов на пост CEO, другие пытаются внедрить ИИ в кинопроизводство и госуправление, а третьи — безуспешно борются с галлюцинациями собственных чат-ботов. Июнь 2024 года показал: технологии развиваются настолько стремительно, что вопросы этики и безопасности начинают доминировать над восторгами от новых возможностей.
Роботы у руля: когда ИИ становится боссом
Эксперты всё чаще предупреждают: работа CEO, основанная на анализе данных, прогнозировании и коммуникациях, идеально подходит для алгоритмов. Китайская NetDragon Websoft уже в 2022 году представила «сменяющуюся CEO» Tang Yu, а польский бренд Dictador назначил робота Mika своим директором. Аргумент — непредвзятость и бескомпромиссное следование интересам бизнеса. При этом, по прогнозам, ИИ-руководители не заменят людей полностью, но возьмут на себя львиную долю стратегического планирования и контроля.
Галлюцинации как новая норма: проблемы поиска и достоверности
Функция AI Overview от Google, призванная выдавать концентрированные ответы, продолжает генерировать абсурдные советы — от добавления клея в пиццу до рекомендации есть камни. Механизм обратной связи усугубляет проблему: случайные «галлюцинации» тиражируются в интернете, индексируются поисковиками и попадают в базу данных как достоверные. Это грозит «шизофазией» — грамматически верными, но бессмысленными ответами. Для исправления ситуации может потребоваться полное переобучение модели на вручную очищенных данных, что ударит по кошелькам корпораций и доверию пользователей.
ИИ в творчестве: кино, реклама и цифровые двойники
Кинопроизводство переживает ИИ-революцию. Sony Pictures планирует сокращать расходы на блокбастеры с помощью нейросетей, а стартап Fable Studio создал платформу Showrunner для генерации анимации по текстовому описанию. Бренд «Toys "R" Us» уже представил рекламный ролик, на 80% созданный ИИ-генератором Sora от OpenAI. Актёр и инвестор Эштон Катчер предрекает появление полнометражных фильмов, созданных исключительно ИИ.
Параллельно развиваются технологии «цифровых двойников». Глава Zoom Эрик Юань анонсировал ИИ-аватаров, способных полноценно участвовать в совещаниях, обсуждать вопросы и предоставлять отчеты. Ожидается, что через 5-6 лет до 90% офисных задач будут решаться ИИ-агентами.
Этика и безопасность: гонка вооружений и регуляторные риски
OpenAI заявила о пресечении пяти «операций влияния», где злоумышленники пытались использовать ChatGPT для манипуляции общественным мнением. Этичные хакеры продолжают взламывать популярные модели, заставляя их выдавать рецепты напалма или оправдывать экстремизм. Расходы на информационную безопасность в сфере ИИ за год выросли с 70 до 213 млн долларов.
Российский Минфин, напротив, бестрепетно внедряет ИИ в бюджетный процесс, разработав совместно со «Сбером» первого профильного агента. Глава Минфина США Джанет Йеллен предостерегает от безоглядного доверия ИИ в финансах из-за риска галлюцинаций. Бывшие сотрудники OpenAI и Google DeepMind призывают защитить «свистунов», готовых рассказать о рисках углубления неравенства и дезинформации.
Пока энтузиасты спорят о перспективах Stable Diffusion 3 Medium, страдающей от «body horror» при генерации людей, а Microsoft откладывает запуск скандальной функции Recall из-за уязвимостей, становится очевидным: главный вызов 2024 года — не в создании более мощных моделей, а в обеспечении их безопасности, этичности и энергоэффективности. ИИ-революция требует не только новых алгоритмов, но и новых правил игры.
