ChatGPT начнет помечать сгенерированные тексты невидимыми знаками
В компании отметили, что проверка происхождения контента помогает людям понять, откуда он взялся, как был создан или отредактирован и содержит ли он сигналы, связанные с нашими моделями.
«В ближайшие недели мы добавим невидимый водяной знак к текстовым сообщениям, выводимым через ChatGPT и Codex в Европейском союзе. Мы открываем прием заявок на доступ к нашему детектору текстовых водяных знаков. Первоначально доступ будет ограничен утвержденными исследователями и экспертными организациями, которые смогут помочь нам оценить и улучшить эту технологию», — говорится в заявлении компании.
В OpenAI отметили, что проверку происхождения будут проходить не только тексты, но и аудио и изображения.
Как отметили в OpenAI, законодательство Евросоюза в сфере искусственного интеллекта (ИИ) предполагает идентификацию текста с помощью машинного чтения. Разработчики подчеркнули, что принятые меры отражают требования ЕС, а также обеспечивают прозрачность.
Технология водяных знаков textGrain добавляет невидимые стилистические сигналы к словам, которые выбирает модель. Детектор будет искать данные сигналы и определять, были ли они созданы OpenAI. При этом компания указывает, что детекторы могут пропускать водяной знак, который присутствует в тексте, или сообщать о водяном знаке, которого нет.
«Эти ограничения повлияли на наше решение предоставить первоначальный доступ к детектору только утвержденным исследователям и экспертным организациям, которые могут помочь нам оценить надежность и ответственное использование», — сообщили в OpenAI.
В компании заверили, что будут адаптировать «наш подход по мере развития доказательств, стандартов и нормативных требований и расширять доступ к детектору, когда будем уверены, что результаты могут быть интерпретированы ответственно».
Напомним, ранее крупнейшие ИИ-лаборатории высказались за сдерживание разработок в этой области.
