OpenAI обновляет ChatGPT: больше свободы, меньше цензуры
OpenAI меняет подход к обучению своих ИИ-моделей, заявляя, что теперь будет открыто поддерживать «интеллектуальную свободу» независимо от того, насколько сложной или спорной может быть тема, рассказывает Tengri Life.
Как пишет TechCrunch, в результате ChatGPT сможет отвечать на большее количество вопросов, предлагать различные точки зрения и сократить список запретных тем.
«Эти изменения могут быть частью стратегии OpenAI по налаживанию отношений с новой администрацией (президента США Дональда — прим.) Трампа, но также отражают более широкие тенденции в Кремниевой долине и изменяющиеся представления о «безопасности ИИ», — говорится в материале.
На минувшей неделе OpenAI представила обновленную спецификацию модели — документ объемом 187 страниц, который описывает принципы работы и обучения ИИ. В нем компания обозначила новый ключевой принцип: не лгать — ни путем распространения ложных сведений, ни путем умалчивания важных деталей.
В разделе «Ищем истину вместе» OpenAI заявляет, что не хочет, чтобы ChatGPT занимал редакционную позицию, даже если некоторым пользователям это может показаться морально неправильным или оскорбительным. Это означает, что ChatGPT будет предоставлять разные точки зрения на спорные темы, стремясь к нейтральности, отметило издание.
Вместо отказа от ответа или выбора одной стороны в политических вопросах OpenAI хочет, чтобы ChatGPT выражал «любовь к человечеству» в целом, а затем предоставлял контекст по каждой из сторон.
«Этот принцип может быть спорным, так как он означает, что ассистент может сохранять нейтралитет в вопросах, которые некоторые считают морально неприемлемыми или оскорбительными, — говорится в документе. — Однако цель ИИ-ассистента — помогать человечеству, а не формировать его».
Тем не менее новая спецификация не превращает ChatGPT в платформу без ограничений. Чат-бот по-прежнему будет отказываться отвечать на определенные неприемлемые вопросы или поддерживать откровенно ложные утверждения.
Эти изменения можно расценить как реакцию на критику со стороны консерваторов, утверждавших, что встроенные ограничения ChatGPT имели либеральный уклон. Однако представитель OpenAI опроверг предположение о том, что компания адаптирует свою политику, чтобы угодить администрации Трампа.
Вместо этого OpenAI заявляет, что ее стремление к интеллектуальной свободе отражает «давно укоренившееся убеждение в необходимости предоставления пользователям большего контроля», указывается в материале.
Напомним, ранее OpenAI представила новую агентскую функцию, которая выполняет многошаговый анализ в Интернете для сложных задач. Теперь то, что раньше поглощало часы, разрешается за несколько минут. Подробнее в материале.
Читайте также: Создатель ChatGPT отверг многомиллиардное предложение Маска
Источник: tengrinews.kz
