Пользователи Claude недовольны невидимыми водяными знаками Anthropic и опасаются проблем на работе и учёбе

Компания Anthropic начала добавлять невидимые машинно-считываемые водяные знаки в текст, создаваемый её ИИ-моделями Claude. По словам компании, такая система позволяет определить вероятность того, что Claude участвовал в создании текста.

Изменение уже вызвало недовольство среди части пользователей Claude. Некоторые опасаются, что возможность определить участие ИИ упростит работодателям и преподавателям проверку того, использовал ли человек Claude при подготовке рабочих или учебных материалов.

При этом Anthropic подчёркивает, что водяной знак не доказывает, что весь текст был написан искусственным интеллектом. Система показывает лишь вероятность того, что Claude участвовал в создании или обработке материала. Она также не содержит информации, позволяющей установить конкретного пользователя, организацию или чат.

У технологии есть и ограничения. Водяной знак может быть менее заметным в небольших фрагментах, фактическом тексте и материалах, где у модели практически нет свободы выбора слов. При лёгком редактировании он, вероятно, сохранится, однако полная переработка текста способна его удалить.

Для файлов, создаваемых Claude, используется другой механизм: поддерживаемые форматы, включая PNG, JPG и SVG, получают криптографически подписанные данные о происхождении на основе стандарта C2PA. Они указывают на то, что файл был создан или обработан Claude.