Anthropic засекла неназванных ученых за использованием ИИ Claude для создания биологического оружия

Компания Anthropic обнародовала отчет о блокировке пяти аккаунтов, чьи владельцы использовали уязвимости при работе с искусственным интеллектом Claude для разработки биологического оружия. Речь идет не о гипотетических рисках, а о конкретных попытках обойти защитные механизмы модели. При этом в самой компании признают: реальное число подобных инцидентов исчисляется сотнями, хотя до тысяч вряд ли доходит — в мире просто не так много профессиональных биохимиков, способных замаскировать опасные запросы под нейтральные научные изыскания. И это, пожалуй, главная проблема всей истории.

Anthropic поступила честно, не став делать вид, что ситуация полностью контролируема. В отчете прямо сказано: запретить или ограничить работу ИИ в сфере медицины и биохимии невозможно в принципе. Никто и никогда не сможет провести четкую грань между «мы создаем лекарство» и «мы усугубляем болезнь». Иногда нужно первое, а порой и второе — например, чтобы справиться с паразитическими видами. Это не оправдание, а констатация фундаментального противоречия, заложенного в саму природу двойного назначения биологических знаний.

Показательно, что нарушителей выявили не по научным, а по административным признакам. Ограничительные механизмы в работе ИИ все же существуют, и поймали злоумышленников именно на попытке их обойти. Сработали региональные запреты, которые преступники попытались обойти — на этом и попались. Но тут же возникает неизбежный вопрос: а сколько таких случаев осталось незамеченными? Одно дело заблокировать аккаунт, привязанный к военному институту, который прямо интересуется ускорением синтеза новых штаммов вируса. И совсем другое — уличить «тихого аспиранта», который всего лишь перепроверяет свою научную работу.

Одновременно Anthropic объявила об усилении мер защиты и ограничении доступа к своим моделям при работе с широким кругом биологических запросов двойного назначения. Официальная причина — поток хакерских атак из России. По факту же речь идет о том, что некие группировки с недоказанным происхождением целенаправленно прощупывают механизмы защиты ИИ и на ходу изобретают новые способы их обхода. Характерная деталь: все это тоже осуществляется с помощью искусственного интеллекта. А вот кто и зачем это делает — включая создание биологического оружия и чего-то еще более опасного — пока что остается за кадром.

Ситуация обнажает uncomfortable truth: гонка вооружений в сфере ИИ давно вышла за пределы лабораторий и корпоративных офисов. Пока одни компании совершенствуют защиту, другие — анонимные и неуловимые — учатся ее обходить. И в этом противостоянии административные запреты и региональные блокировки выглядят лишь временными барьерами, которые рано или поздно будут преодолены. Вопрос не в том, произойдет ли это, а в том, насколько быстро.