OpenAI начала терять исследователей после появления рекламы в ChatGPT

Почему реклама в ChatGPT — это ловушка: честный разбор бывшего инсайдера OpenAI

Исследователь OpenAI Зоя Хитциг уволилась в тот же день, когда компания запустила тестирование рекламы в ChatGPT. Она помогала собирать модели и устанавливать цены. Теперь она бьёт тревогу. И я с ней согласен — хотя сам долгое время скептически относился к страхам вокруг ИИ.

Реклама в ChatGPT — не просто баннеры. Это персонализированные объявления, которые видят не все и не сразу. Но настройка по умолчанию включена. Если не зайти в профиль и не отключить — ваши данные из чатов (прошлых и текущих) будут кормить алгоритмы. Рекламодатели не видят переписку напрямую. Но этого и не нужно — система сама подберёт рекламу под ваш запрос.

«Люди верят, что разговаривают с чем-то, лишённым скрытых мотивов, — объясняет Хитциг. — А платформа превращается в беспрецедентный архив человеческой откровенности».

И это главная ловушка. Мы доверяем ChatGPT то, что не сказали бы врачу или психологу. Медицинские проблемы, ссоры в семье, религиозные сомнения — всё это теперь может стать источником для таргетированной рекламы. Формально OpenAI обещает не показывать рекламу в чатах о здоровье, религии и политике. Но кто проверит? Технология уже оптимизирована так, чтобы делать ИИ «более льстивым и подобострастным» — это прямая цитата Хитциг. Искусственный интеллект учится удерживать ваше внимание любой ценой.

Недавно я заметил, как знакомый начал обсуждать с ChatGPT финансовые трудности — буквально выгрузил выписки со счетов. Через пару дней в ленте у него появилась реклама микрозаймов. Совпадение? Возможно. Но осадок остался.

Сравнение с Facebook: история повторяется

Хитциг проводит параллель с Facebook образца 2010 года. Тогда соцсеть обещала пользователям контроль над данными и возможность голосовать за изменения политики. Прошло десять лет — Федеральная торговая комиссия США зафиксировала, что те самые изменения конфиденциальности на самом деле ослабили защиту.

OpenAI рискует повторить тот же путь. Только ставки выше: диалоговый ИИ знает о нас больше, чем любой лайк или репост.

Как защитить свои данные — пошаговый совет

Пока реклама тестируется, у вас есть время подстелить соломку. Вот что я советую каждому — это не займёт больше 3 минут:

• Отключите персонализацию прямо сейчас. В настройках аккаунта найдите раздел «Реклама» и выключите галочку «Использовать данные чатов».
• Не делитесь чувствительной информацией в открытых диалогах. Если уж надо — используйте анонимные аккаунты или шифрование на своей стороне.
• Следите за обновлениями политики конфиденциальности. OpenAI уже меняла правила без предупреждения в 2024 году. Будьте настороже.
• Используйте локальные модели для личных тем. Например, те же GPT-4All или Llama работают без интернета и без рекламы.

Я понимаю, что звучит как паранойя. Но давайте честно: когда бесплатный продукт внезапно начинает показывать рекламу — вы — продукт. Другого не дано.

Что дальше: манипуляция или благо?

Хитциг предложила альтернативы: субсидирование чата корпорациями, независимые советы по контролю за данными, трасты для пользователей. Но пока OpenAI выбрала путь Facebook. И за этим стоит риск, который она сама же сформулировала: «Технология, манипулирующая теми, кто пользуется ей бесплатно, и приносящая пользу только тем, кто может заплатить».

Лично я считаю: реклама в ChatGPT — это мина замедленного действия. Она не взорвётся сразу, но подточит доверие к ИИ-помощникам на годы вперёд. А доверие — единственное, что удерживает нас от превращения чат-ботов в ещё один инструмент Big Tech для сбора душ.

В итоге выбор за каждым: либо вы контролируете свои данные, либо ваш диалог с ИИ будет монетизирован тем, кто знает о вас чуть больше, чем вы сами.