OpenAI започва да маркира текстовете на ChatGPT в ЕС с невидими "водни знаци"
По искане на законодателите в ЕС, OpenAI внедрява технологията за поставяне на воден знак textGrain, която помага за разграничаването на текст, генериран от ChatGPT и Codex, от съдържание, създадено от хора.
Първоначално технологията ще работи в рамките на ЕС, но според OpenAI няма да се превърне в "глобален стандарт". По-рано компанията Anthropic обяви подобни маркери, базирани на технологията SynthID на Google DeepMind. И двете компании предприеха тази стъпка, за да спазят европейските регулации относно прозрачността на съдържанието, генерирано от изкуствен интелект.
Маркерът на OpenAI, наречен textGrain, е невидим за човешкото око и не разчита на специални символи или скрити интервали; вместо това, по време на генерирането на текст, системата променя статистическото разпределение при избора на токени, създавайки модел, който специализирани инструменти могат да засекат.
Поставянето на воден знак за клиентите в ЕС ще бъде автоматично активирано в ChatGPT и Codex през следващите седмици, докато потребителите на API на OpenAI по целия свят могат ръчно да го добавят към избрани модели, считано от днес.
Същевременно компанията отбелязва, че поставянето на воден знак върху текст е по-малко надеждно в сравнение с водните знаци при генерирани изображения и аудио. Колкото по-кратък е текстът, толкова по-трудно е за OpenAI да определи дали той е генериран от ИИ: по време на тестовете детекторът е разпознал приблизително 80% от текстовете с воден знак, съдържащи 200 токена, и около 90% от тези с 400 токена.
Освен това дори незначителни редакции могат да намалят ефективността на маркера. В същия тест замяната на едва 10% от думите е понижила успеваемостта при засичане от 92% на 66%, докато замяната на 25% от текста я е свалила до 17%. Предвид това, от OpenAI отбелязват, че засичането на воден знак не трябва да се разглежда като доказателство, че някой просто е копирал целия текст от ChatGPT; то може да сигнализира и за генерирането или обработката само на част от съдържанието.
