Появление «потенциально страшных» ИИ-инструментов не за горами — создатель ChatGPT
На фоне активного развития технологий искусственного интеллекта Сэм Альтман (Sam Altman), глава компании OpenAI, разработавшей очень продвинутого ИИ-чат-бота ChatGPT, поделился своим мнением о том, как подобные инструменты ИИ могут помочь человечеству повысить продуктивность в таких важных направлениях, как медицина. Однако по словам того же Альтмана, поспешное распространение таких ИИ-инструментов, как тот же ChatGPT, может быть опасным и контрпродуктивным.
Источник изображения: OpenAI
В большой ветке записей на своей странице в Twitter Альтман выразил опасение, что люди находятся недалеко от момента создания «потенциально страшных» ИИ-инструментов, и призвал регулирующие органы серьёзно подойти к решению данного вопроса. По мнению главы OpenAI, распространение различных ИИ-технологий в мире будет проходить «очень быстро». Однако «сверхбыстрое» принятие этих инструментов может оказаться весьма пугающим опытом для всех. По словам Альтмана, «обществу необходимо время для привыкания к чему-то столь значительному и большому». Он также выделил некоторые проблемы ИИ, требующие решения перед началом их массового использования.
«Станут более актуальными проблемы предвзятости и люди будут недовольны результатом общения с чат-ботом, даже если сами будут понимать, что на самом деле происходит в реальности. Мы не хотим, чтобы ChatGPT выступал за ту или иную политику. Мы работаем над решением этой проблемы», — написал Альтман.
Одним из важнейших вопросов, отмеченных создателем ChatGPT, является проблема развития предвзятости ChatGPT к чему-либо или против чего-либо. Пользователи социальных сетей недавно подняли вопрос о предвзятости чат-бота, поделившись скриншотами его ответов, которые могут восприниматься как «одобрение ChatGPT определённых политических идеологий». Илон Маск (Elon Musk), один из влиятельнейших голосов в интернет-пространстве, недавно сам раскритиковал данный инструмент ИИ в том, что многие называют «либеральной предвзятостью». Он сопроводил свою критику публикацией мема, где чат-бот ChatGPT обращается к средствам массовой информации с фразой: «Посмотри на меня, теперь я капитан пропаганды».
Недавно OpenAI сообщила, что обновила модель алгоритма обработки естественного языка GPT-3, которая используется ChatGPT, что должно привести к увеличению разнообразия его «взглядов» на тот или иной вопрос.
По мнению Альтмана, признание в том, что современные инструменты искусственного интеллекта все ещё «в некоторой степени сломаны», а также демонстрация этих инструментов на раннем этапе их развития имели решающее значение в задаче «получить отклик, чтобы в перспективе сделать их правильными».
