Закон ЕС об ИИ и его влияние на компании
С принятием Закона ЕС об ИИ компании, разрабатывающие искусственный интеллект, и другие заинтересованные стороны смогут идентифицировать текст, сгенерированный ИИ. Закон требует от всех компаний полностью соответствовать его требованиям к определённому сроку, включая встроенный скрытый водяной знак во все сгенерированные тексты. Этот водяной знак не представляет собой букву или символ, видимый невооружённым глазом, а представляет собой тонкий математический и статистический узор в выборе слов.
На поверхности сгенерированный текст будет выглядеть полностью естественным, но сертифицированные инструменты сканирования смогут с высокой точностью обнаружить водяной знак и подтвердить, что текст создан ИИ, а не написан человеком. В результате упростится выявление случаев прямого копирования и вставки ИИ‑генерированного текста в школьные задания, научные работы, служебные письма, книги, статьи и отчёты без пометки о его искусственном происхождении.
Европейский Союз выпустил Закон об ИИ, касающийся использования и передачи текстов, созданных ИИ; требования прозрачности в статьях закона вступают в силу с указанной даты. Закон обязывает поставщиков генеративных систем ИИ делать их выводы машинно‑читаемыми и обнаруживаемыми как созданные ИИ.
Компания Anthropic, создатель модели Claude, уже внедрила скрытый водяной знак в создаваемые ею тексты; эта мера применяется глобально, а не только к пользователям в пределах ЕС, поскольку в настоящий момент нет надёжного способа географически ограничить применение такой технологии.
Как работает эта технология?
Компании, создающие ИИ, внедряют невидимые «символы» или характерные признаки в каждый сгенерированный текст. Метод основан на тонком управлении выбором слов: вместо полностью равновероятного выбора следующего слова из допустимого множества модель накладывает небольшое статистическое смещение в пользу определённого набора «предпочтительных» слов, задаваемых секретным ключом. Это позволяет инструментам обнаружения с высокой степенью уверенности определять, был ли текст сгенерирован машиной.
Хотя крайний срок для реализации требований установлен на декабрь, три крупнейшие компании пока не подтвердили полную приверженность этому требованию, за исключением Anthropic с её Claude. Все три компании уже подписали Кодекс поведения ЕС по прозрачности ИИ‑генерированного контента и заявили о намерении внедрять аналогичные технологии в будущем.
В настоящий момент OpenAI помечает только изображения, но не текст. При этом закон предписывает соблюдать требования «когда это технически возможно», что означает, что выполнение не является абсолютно обязательным во всех случаях. Текст также содержит примечание о том, что существуют способы обойти такую защиту.
Автор: Ahmad alsarraf E‑mail: [email protected]
