Claude получит скрытые метки для распознавания ИИ

Anthropic внедряет систему цифровых меток в Claude, чтобы можно было легко отличить текст AI от человеческого. Это решение продиктовано требованиями законодательства ЕС, при этом качество ответов нейросети останется прежним.

Как это работает

В основе лежит технология SynthID-Text от Google DeepMind. Она незаметно заменяет отдельные слова синонимами — например, «пасмурно» вместо «серо». Обычный читатель не заметит разницы, но специальный API мгновенно распознает скрытую метку.

Такой метод гораздо надежнее стандартных детекторов вроде Pangram. Если последние ищут лишь общие закономерности в стиле письма, то водяной знак работает как точный математический ключ.

Влияние на текст и правки

Внешне выдача останется прежней, однако любые изменения текста влияют на «видимость» метки:

• Легкая редактура: метка, скорее всего, сохранится.
• Полный перефраз: знак исчезнет, и текст будет распознан как написанный человеком.
• Корректура: результат зависит от объема правок и общей длины текста.

С программным кодом ситуация иная: из-за жесткого синтаксиса менять слова в нем нельзя, иначе код перестанет работать. Поэтому SynthID-Text будет применяться только в комментариях к коду.

Подобные системы становятся общим стандартом индустрии, обеспечивая необходимую прозрачность при использовании AI.

Ранее по теме
Anthropic внедрила скрытые водяные знаки в Claude

Больше новостей в нашем Телеграм. Подпишись!

Ссылка на источник тык.