Появление «потенциально страшных» ИИ-инструментов не за горами — создатель ChatGPT

Глава OpenAI Сэм Альтман, чей чат-бот ChatGPT произвел революцию в общественном восприятии искусственного интеллекта, выступил с неожиданным предостережением. Он заявил, что сверхбыстрое внедрение подобных технологий несет в себе серьезные риски, и призвал регуляторов и общество к осторожности, несмотря на очевидный потенциал ИИ для роста производительности в ключевых отраслях.

Предупреждение от создателя: почему скорость внедрения ИИ опасна

В серии публичных высказываний Сэм Альтман обозначил парадоксальную позицию. С одной стороны, он уверен в стремительном распространении ИИ-инструментов, способных кардинально улучшить, например, медицинские исследования. С другой — настаивает, что «сверхбыстрое» принятие этих технологий может стать пугающим опытом для человечества. По его мнению, обществу критически необходимо время, чтобы адаптироваться к столь масштабным изменениям, а регуляторным органам — разработать взвешенные рамки для их использования.

Главная головоломка: проблема предвзятости алгоритмов

Альтман отдельно выделил одну из самых острых технических и этических проблем — проблему предвзятости. Он прямо признал, что такие системы, как ChatGPT, могут демонстрировать смещение в ответах, что вызывает справедливое недовольство пользователей. «Мы не хотим, чтобы ChatGPT выступал за ту или иную политику», — подчеркнул глава OpenAI. Этот вопрос вышел на публичный уровень после волны критики в социальных сетях, где пользователи и известные личности, включая Илона Маска, обвиняли чат-бот в так называемой «либеральной предвзятости».

Ответ разработчиков и философия «сломанного» ИИ

В ответ на эту критику компания уже сообщила об обновлении базовой языковой модели GPT-3, что, по замыслу инженеров, должно увеличить разнообразие и сбалансированность выдаваемых ответов. Однако Альтман предлагает взглянуть на ситуацию иначе. Он считает, что ключевым шагом стало именно раннее публичное представление «в некоторой степени сломанных» инструментов. Такой подход, по его словам, был необходим, чтобы получить обратную связь от миллионов пользователей и в конечном итоге «сделать их правильными».

Столь откровенные заявления от человека, стоящего у истоков самого обсуждаемого ИИ-продукта последних лет, сигнализируют о переходе отрасли в новую фазу. Первоначальный восторг от возможностей уступает место сложным дискуссиям об управлении, безопасности и этике. История с ChatGPT уже стала катализатором гонки технологических гигантов, но теперь она же заставляет их и общество задуматься о социальных последствиях этой гонки.

Потенциал искусственного интеллекта для ускорения научных открытий и роста экономики неоспорим, однако путь к его безопасной интеграции оказался сложнее, чем многие предполагали. Успех дальнейшего развития области будет зависеть не только от прорывов в алгоритмах, но и от выстраивания диалога между разработчиками, регуляторами и обществом, чтобы технологический скачок не обернулся социальным потрясением.