В OpenAI разработали кодекс для ИИ – что запретили нейросетям
OpenAI представила масштабную техническую спецификацию Model Spec для флагманских моделей GPT, где подробно описаны принципы обучения, тонкой настройки и поведения ИИ.
Документ вводит иерархию команд для разрешения логических конфликтов, усиливает требования к прозрачности и отдельно регулирует взаимодействие с подростками 13–17 лет.
Согласно спецификации, наивысший приоритет получают корневые правила безопасности компании, запрещающие генерацию экстремистского или опасного контента. Вторым уровнем идут инструкции от независимых разработчиков ПО, а наименьший приоритет отведён текущим запросам конечных пользователей.
В документе закреплено требование бороться с «угодничеством» нейросетей.
«ИИ больше не имеет права менять свою объективную точку зрения на факты ради лести или одобрения со стороны собеседника», — говорится в кодексе.
Модели должны признавать ограничения, сообщать о высокой степени неуверенности в ответах и по запросу раскрывать логику действий.
«Алгоритмы должны честно признавать ограничения своих возможностей и прямо сообщать человеку о высокой степени неуверенности в ответах. При этом робот обязан сохранять полную прозрачность и раскрывать логику своих действий по первому требованию», — требует кодекс.
Отдельный блок посвящён безопасности подростков 13–17 лет: блокируются элементы эротического ролевого флирта и опасные челленджи.
«Новый регламент прямо запрещает нейросетям давать несовершеннолетним советы по экстремальному похудению или маскировке вредных привычек от родителей. Вместо этого искусственный интеллект будет аккуратно перенаправлять подростков к реальным доверенным взрослым или квалифицированным психологам», — говорится в документе.
В OpenAI отмечают, что новая архитектура правил позволит обучать более гибких и безопасных агентов для сложных многошаговых задач. Компания планирует дорабатывать открытый стандарт на основе отзывов мирового ИТ-сообщества.
Ранее Microsoft представила проект кодекса поведения для собственных систем искусственного интеллекта. Компания хочет заранее определить правила для будущих мощных моделей и закрепить главный принцип: ИИ должен оставаться под контролем человека
