OpenAI пересмотрела правила поведения ИИ: главное — понимать намерения человека

OpenAI пересмотрела Model Spec, свод правил, который определяет поведение её ИИ-моделей. Главным из пяти основных пунктов компания назвала понимание намерений человека. Новые правила также должны задать поведение ИИ в незнакомых ситуациях.

Модели, по обновлённым правилам, не должны ограничиваться буквальным выполнением инструкций и обязаны учитывать их смысл. Кроме того, документ закрепляет принципы минимизации вреда, честности и прозрачности. ИИ должен сообщать о пределах своих знаний и помогать пользователям самостоятельно принимать решения и достигать поставленных целей.

OpenAI рассматривает документ как часть работы над тем, чтобы поведение ИИ в общении с человеком было согласованным. При этом компания сама признала, что существующие модели пока не полностью соответствуют новым принципам. Чтобы модели лучше усвоили эти принципы, компания изучает дополнительные методы обучения.

По материалам: 3DNews