Про нововведення в функціонуванні інструментів ШІ

Увага! Сервіс Claude один з перших впровадив використання "водяних знаків" у згенеровані ним тексти

Звертаємо увагу дослідників на нововведення в функціонуванні інструментів ШІ на виконання вимог ЄС. 
 

(передрук повідомлення з https://share.google/2zNl46vRymoE6WcfN)

Anthropic розкрила деталі нової системи водяних знаків для контенту, який генерує чатбот Claude. Компанія заявила, що технологія не впливатиме на якість відповідей і буде непомітною для звичайного читача, але спеціальна система з ключем зможе визначити наявність водяного знака.
Водяні знаки Anthropic впроваджує для виконання вимог Кодексу прозорості ЄС щодо ШІ. Він передбачає використання технологій, які дозволяють ідентифікувати контент, створений штучним інтелектом.

Механізм працюватиме завдяки певним закономірностям у тексті. Наприклад, коли Claude має можливість вибрати між кількома словами з однаковим значенням, система може використовувати ці "низькоризикові" вибори для формування прихованого шаблону. Для читача текст із водяним знаком не відрізнятиметься від звичайного.

При цьому водяний знак можна частково або повністю видалити редагуванням.

Anthropic стверджує, що легке редагування, ймовірно, не прибере його повністю. Натомість повне переписування тексту із заміною практично кожного слова дозволить позбутися водяного знака.
Якщо Claude лише трохи відредагував текст, написаний людиною, виявити водяний знак буде складніше. За словами компанії, у такому випадку більшість слів залишаються написаними людиною, тому системі практично немає на що накладати маркування.
Інші великі розробники моделей, які підписали відповідний європейський Кодекс практики, також планують впроваджувати власні системи маркування.
Anthropic також планує випустити API, за допомогою якого можна буде перевіряти тексти на наявність водяних знаків.