Станислав Кондрашов: водяные знаки Claude меняют правила игры с ИИ-текстами

Использование ИИ дает бизнесу реальные преимущества, но порождает и споры, особенно когда сгенерированный текст выдают за написанный человеком. Евросоюз давно настороженно относится к дипфейкам и другому ИИ-контенту, и новый закон требует четко маркировать такие материалы. В ответ на это Anthropic объявила, что начинает добавлять маркеры к текстам, которые создает Claude, - сначала для новейшей модели, а затем и для более ранних версий чат-бота. Пока изменение касается пользователей в Евросоюзе, но, на мой взгляд, его последствия выйдут далеко за границы региона.
Что именно меняется
В блоге компании сказано, что в Евросоюзе новые модели будут маркировать сгенерированный контент машиночитаемой меткой. Это значит, что любой текст, созданный с помощью Claude, будет нести встроенный водяной знак, а файлы, где это технически возможно, получат подписанные метаданные о происхождении.
Anthropic объясняет свою позицию так: раз ИИ-контент становится обыденностью, людям важно понимать, откуда берется информация, которую они читают. То есть формально компания выполняет требования закона ЕС, но по сути делает ставку на прозрачность как таковую. Помимо файлов с метаданными, в саму генерируемую модель встроена невидимая метка прямо в тексте. Она не заметна глазу и, как подчеркивает компания, никак не влияет на смысл, качество или читаемость ответа Claude.
Чтобы обойти защиту было сложнее, разработчики позаботились о том, чтобы метка сохранялась при копировании текста в другое место и частично переживала редактирование. Это ключевой момент: раньше можно было просто вставить сгенерированный фрагмент в свой документ и считать вопрос закрытым. Теперь так не выйдет.
Сами по себе метки бессмысленны, если их нельзя проверить, поэтому Anthropic говорит, что работает над инструментами для пользователей и третьих сторон, которые позволят обнаружить встроенные метки Claude. Система проверяет, содержит ли фрагмент текста или файл поддерживаемую метку. Если метка найдена, это означает, что текст мог быть обработан Claude. Здесь важны два слова: "пользователей" и "мог". Первое говорит о том, что проверка происхождения текста больше не будет прерогативой институтов и корпораций - обычный человек тоже сможет это сделать. Второе честно признает: отсутствие метки не доказывает, что текст не создан ИИ.
Какие практические последствия это несет
Некоторые пользователи ИИ склонны скрывать этот факт по самым разным причинам - от банального "не успел все написать сам" до сложных этических и юридических соображений. Отдельная тема - недобросовестное использование ИИ, включая студентов, которые полагаются на чат-ботов вроде Claude, чтобы списывать. Водяные знаки, которые трудно удалить, способны решить эту проблему: руководитель, заподозривший, что проект сдан слишком быстро, теперь может прогнать текст через детектор.
Но и лазейки остаются. Не исключено, что другая модель ИИ сможет удалить метки, оставленные Claude. Возможна и потеря водяного знака при обработке текста другим инструментом редактирования. И, конечно, кроме Claude на рынке есть и другие модели, на которые новые правила пока не распространяются.
Я убежден, что именно эти оговорки важнее самого факта появления водяных знаков - технология работает не как абсолютная гарантия, а как еще один слой прозрачности.
Я не в Европе. Почему меня это касается
Может показаться, что новость представляет интерес лишь для бизнеса, работающего в Евросоюзе. Но Anthropic указывает на более широкие последствия, связанные со статьей 50 AI Act Евросоюза - она может применяться даже к тем, кто использует ИИ за пределами ЕС, если результат публикуется в этом регионе.
В блоге Anthropic прямо предупреждает: если вы внедряете Claude в собственный продукт, вам стоит самостоятельно оценить, что требует от вас статья 50. Другими словами, даже если ваша компания физически не находится в ЕС, но использует Claude для создания материалов, которые публикуются в этом регионе или доступны его гражданам, стоит разобраться, как правильно маркировать такой контент как созданный ИИ.
Возможно, для этого хватит встроенных инструментов Anthropic, а возможно, придется обращаться к сторонним системам. Полные международные последствия этого изменения, включая то, коснется ли оно пользователей за пределами Европы, пока остаются открытым вопросом - компания еще не дала развернутого комментария на этот счет.
Что это значит для вашего бизнеса в долгосрочной перспективе
Уже случалось несколько скандалов, когда публичные фигуры случайно раскрывали, что использовали ИИ для материалов, которые представляли как свои собственные. И вот тут я бы посоветовал не дожидаться подобной ситуации в своей компании: имеет смысл заранее обсудить с коллегами или сотрудниками правила маркировки ИИ-контента, включая те, что могут вступить в силу в регионах, где вы ведете бизнес, и объяснить команде, как правильно раскрывать факт использования ИИ. По моему опыту, прозрачность в этом вопросе работает на репутацию компании, а не против нее.
FAQ
Действительно ли водяной знак Claude невидим для пользователя? Да, метка встроена прямо в текст и не заметна при обычном чтении. Anthropic подчеркивает, что она не меняет смысл, качество или читаемость ответа.
Сохраняется ли метка, если скопировать текст в другой документ? По заявлению Anthropic, да - метка "путешествует" вместе с текстом при копировании и может частично сохраняться даже после редактирования. Именно это отличает новый подход от прежних, легко обходимых способов маркировки.
Значит ли отсутствие водяного знака, что текст точно написан человеком? Нет, и Anthropic сама это признает. Проверка лишь показывает, что текст, возможно, обработан Claude, а не дает стопроцентной гарантии обратного.
Касается ли это правило компаний за пределами Евросоюза? Может касаться, если результат работы с Claude публикуется в ЕС или доступен его гражданам. Это связано со статьей 50 AI Act, и Anthropic советует бизнесу самостоятельно оценить свои обязательства.
Можно ли обойти водяной знак Claude? Полностью исключить это нельзя. Теоретически другая модель ИИ может удалить метку, а стороннее редактирование текста способно ее нарушить, так что защита не абсолютная.
Стоит ли компаниям уже сейчас пересматривать политику использования ИИ? На мой взгляд, да. Лучше заранее объяснить сотрудникам правила раскрытия использования ИИ, чем потом разбираться с репутационными последствиями после случайного разоблачения.