Нови европейски правила задължават доставчиците и ползвателите на определени системи с изкуствен интелект да обозначават ясно взаимодействията и съдържанието, създадено или променено от машина. От 2 август чатботовете трябва да уведомяват хората, че разговарят с ИИ, а дийпфейковете подлежат на видимо етикетиране. За нарушения компаниите могат да бъдат глобявани с до 15 млн. евро или 3 на сто от световния си годишен оборот. Целта е ограничаване на измамите, манипулациите и масовото разпространение на дезинформация.
Законодателният акт на ЕС за изкуствения интелект влезе в сила на 1 август 2024 г., но отделните му разпоредби започват да се прилагат поетапно. От 2 август 2026 г. действат правилата за прозрачност по член 50, както и правомощията на Европейската комисия да налага санкции на доставчиците на модели с общо предназначение. Самите задължения за тези модели, включително политиката за авторските права и обобщението на данните за обучение, са в сила още от 2 август 2025 г.
Чатботът трябва да се представи
Системите, които общуват пряко с хората, трябва да бъдат създадени така, че потребителят недвусмислено да разбира, че взаимодейства с изкуствен интелект, а не с реален човек. Изискването обхваща чатботове, виртуални асистенти, ИИ агенти и дигитални аватари, освен когато от обстоятелствата е очевидно, че системата не е човек.
Доставчиците трябва да вграждат и машинночетими белези в генерираното или манипулираното съдържание. Те трябва да позволяват на специализиран софтуер надеждно да установява, че даден текст, изображение, звук или видеозапис е създаден или съществено променен с ИИ.
Изключения са предвидени при обикновени помощни функции за редактиране, които не променят съществено първоначалното съдържание или неговия смисъл. За генеративни системи, пуснати на пазара преди 2 август 2026 г., е предвиден преходен срок за машинното маркиране до декември 2026 г.
Дийпфейковете получават видим знак
Изображенията, видеозаписите и звукът, които наподобяват реални хора, обекти, места или събития и могат погрешно да бъдат възприети като автентични, трябва да носят ясно и видимо обозначение. Правилото цели потребителят да разбере веднага, че е изправен пред дийпфейк, а не пред действителен запис.
Обозначаване се изисква и за текстове по въпроси от обществен интерес, когато са създадени или променени с ИИ и са публикувани без човешки преглед или редакционен контрол. Когато журналист, редактор или друго отговорно лице е проверило съдържанието и носи редакционна отговорност за него, това конкретно задължение не се прилага по същия начин.
Хората трябва да бъдат уведомявани и когато са подложени на системи за разпознаване на емоции или биометрично категоризиране. Европейската комисия мотивира мерките с опасността от измами, представяне под чужда самоличност, подвеждане на потребители и масова манипулация.
По-строг контрол върху мощните модели
Доставчиците на модели с изкуствен интелект с общо предназначение трябва да поддържат техническа документация, да предоставят информация на компаниите, които изграждат свои системи върху тях, и да въведат политика за спазване на авторските права. Задължително е и публикуването на достатъчно подробно обобщение на съдържанието, използвано при обучението на моделите.
За най-мощните модели, които могат да създадат системен риск, важат допълнителни изисквания. Доставчиците трябва да оценяват и ограничават опасностите от тежки киберинциденти, вредни манипулации, загуба на контрол и злоупотреба, способна да доведе до химически, биологични, радиологични или ядрени вреди. Те са длъжни също да докладват сериозни инциденти и да осигурят защита срещу кибератаки.
Три институции ще следят за нарушения
Контролът се разпределя между националните органи за надзор на пазара, Европейската служба за изкуствен интелект и Европейския надзорен орган по защита на данните. Службата за ИИ ще наблюдава системите, които попадат под прекия ѝ надзор, включително свързаните с модели с общо предназначение, а националните власти ще отговарят за останалите приложения.
Граждани и компании ще могат да подават жалби при съмнения за нарушение. Служители на доставчици също ще имат възможност да сигнализират за предполагаеми нередности при системи и модели с общо предназначение.
Предвидените санкции за компаниите достигат 15 млн. евро или 3 на сто от общия им световен оборот за предходната година, като се прилага по-високата стойност. За институциите, органите и агенциите на ЕС глобата може да достигне 750 000 евро, а при малките и средните предприятия трябва да се отчита принципът на пропорционалност.
