Google начал помечать тексты, сгенерированные ИИ: как это работает

Google выпустила инструмент SynthID Text для маркировки текстов ИИ.
Инструмент не влияет на скорость и качество генерации контента.
SynthID Text добавляет водяной знак в распределение вероятностей символов и слов.
Водяной знак позволяет определить, создан ли текст ИИ.
Инструмент не влияет на точность, качество или скорость генерации, но может усложнить обработку измененных текстов.
Слишком четкие вопросы ограничивают возможности модели.
Google не единственная компания, разрабатывающая подобные технологии.
Такие технологии помогут решить проблему неточных детекторов ИИ.
Некоторые страны, включая Китай и Калифорнию, планируют обязательную маркировку ИИ-контента.