Брюксел обмисля да забрани секс снимки, създадени от ИИ

Европейският съюз (ЕС) използва „тежката артилерия“ след широко разпространеното възмущение от използването на изкуствен интелект (ИИ), нарушаващ личната неприкосновеност и достойнството на хората, пише Европейският нюзрум – платформа за сътрудничество между агенциите на 23 европейски държави, сред които е и БТА.

Брюксел обмисля възможността за класифициране на създаването на изкуствено генерирани (дийпфейк) изображения със сексуално съдържание като забранена практика съгласно Закона за изкуствения интелект на ЕС, след скандала, свързан със сексуализирани изображения, създадени от „Грок ЕйАй“ (Grok AI), чатботът, интегриран в платформата „Екс“ на Илон Мъск.

Възмущение от „Грок“ 

Компанията на Мъск „ЕксЕйАй“ (xAI), след продължителни международни критики, въведе нови ограничения в средата на януари върху генерирани от ИИ изображения със сексуално внушение в „Грок“. Ходът следва критиките, че „Грок“ е позволил на потребителите дигитално да заменят дамските дрехи с бикини и в някои случаи

да създават сексуализирани изображения на непълнолетни. 

Първите изображения на хора, „съблечени голи“ без тяхно съгласие (нудификация), започнаха да се разпространяват в дните след пускането на опцията, но разпространението им се увеличи особено около Нова година. Според СиЕнЕн, само между 5 и 6 януари „Грок“ е бил използван за генериране на най-малко 6700 сексуални изображения. Те често включват жени и непълнолетни. 

„Грок“ сега предлага „пикантен режим“, показващ изрично сексуално съдържание с някои генерирани детски изображения.

Това не е пикантно. Това е незаконно. Това е ужасяващо“,

каза тогава говорителят на ЕС по цифровите въпроси Томас Рение пред репортери.

Европейската комисия, която действа като дигитален надзорник на блока, заяви, че ще вземе под внимание новите мерки, предприети от „Екс“, и ще ги преразгледа. Длъжностни лица предупредиха, че ако стъпките се окажат недостатъчни, ЕС ще обмисли използването на пълния обхват на своя Закон за цифровите услуги (Digital Services Act - DSA).

Заместник-председателят на Европейската комисия Хена Виркунен заяви, че

Комисията обмисля изрична забрана на тези видове генерирани от ИИ сексуални изображения

съгласно Закона за ИИ, класифицирайки ги като неприемливи рискове.

Забраната за вредни практики в областта на ИИ може да бъде от значение за справяне с проблема с дийпфейковете със сексуално съдържание и детската порнография, заяви Виркунен, която е и комисар по технологичния суверенитет, сигурността и демокрацията, на пленарната сесия на Европейския парламент в Страсбург тази седмица. Тя също така заяви, че Законът за цифровите услуги смекчава риска от разпространение на онлайн сексуални материали без съгласие.

Тя също така припомни, че Комисията е изпратила искане за информация до „Екс“ относно „Грок“ като част от разследването си на платформата по DSA.

От платформата е било поискано да запази всички вътрешни документи и данни, свързани с нея, до края на годината. 

„Сега проучваме до каква степен „Екс“ може във всеки случай да е нарушил DSA и няма да се поколебаем да предприемем допълнителни действия, ако доказателствата го сочат“, каза тя.

Комисията преди това засили натиска върху платформата „Екс“, която беше глобена със 120 милиона евро в началото на декември за нарушения на прозрачността. ЕС настоя, че ще прилага правилата си, въпреки че предизвика негативна реакция от страна на администрацията на САЩ.

„Споразумението за цифрови услуги е много ясно в Европа. Всички платформи трябва да си подредят нещата, защото това, което генерират тук, е неприемливо и спазването на законодателството на ЕС не е опция. Това е задължение“, каза Рение в разгара на скандала в началото на януари.

Миналата седмица група от около 50 евродепутати призоваха Комисията да забрани приложенията с ИИ, използвани за създаване на разголени изображения, на пазара на ЕС.

Не мога да живея без „Екс“

Въпреки критиките към „Екс“, почти всички висши служители на ЕС продължават да публикуват там, а не в европейски алтернативи, сочи проучване на ДПА.

Председателят на Европейската комисия Урсула фон дер Лайен и други висши служители все още нямат официални акаунти в „Мастодон“ (Mastodon) - базирана в Германия социална платформа, алтернатива на „Екс“. Виркунен откри официален акаунт в „Мастодон“ през януари. Високопоставени политици от ЕС са активни и в „Блускай“ (Bluesky), друга платформа, базирана в САЩ, която в момента набира скорост.

Комисията оправдава продължаващата употреба на „Екс“ поради неговия обхват – “Мастодон“ има приблизително 750 000 потребители месечно, в сравнение със 100 милиона потребители на „Екс“, според данни на самите компании. 

Дългият правен път към по-добра онлайн безопасност

Пътят към защита на непълнолетните в ЕС е дълъг, тъй като опасенията за поверителност, бизнес и защита се сблъскват. Няколко регламента се пресичат:

Контрол на чата

През 2022 г. Комисията предложи регламент, който да изисква от платформите да откриват и докладват изображения и видеоклипове с насилие – материали за сексуално насилие над деца или скам (scam) съдържание (съдържание, което цели да се подведе или измами лице или група лица, след като е било спечелено тяхното доверие), както и опити на „хищници“ да се свържат с непълнолетни.

Подкрепен от няколко групи за закрила на детето, планът, наречен „Контрол на чата“, предизвика ожесточени дебати за поверителност в блока от 27 държави и доведе до обвинения в масово наблюдение. Очаква се окончателното законодателство да бъде договорено в началото на 2026 г., като целта е да се преодолее разликата между подхода на Европейския парламент, фокусиран върху поверителността, и желанието на Съвета на ЕС за широки правомощия за сканиране. Въпреки че удължава временните мерки за сканиране до април 2026 г., за да се избегне правен вакуум, членовете на ЕП заявиха, че е необходимо да се вземе решение бързо. 

Закон за цифровите услуги

Европейският съюз използва Закона за цифровите услуги, за да санкционира онлайн платформите, като налага огромни глоби, изисква незабавни оперативни промени и, като крайна мярка, временно спира услугите им. Може да налага глоби, ако платформите нарушават задълженията по Закона, не спазват временни мерки или не спазват ангажименти.

Това е регламент на ЕС за по-безопасен онлайн свят, който изисква от платформите да се борят с незаконно съдържание, да защитават потребителите и да повишават прозрачността.

Закон за изкуствения интелект

Законът за изкуствения интелект беше приет през 2024 г. и е първата в света всеобхватна правна рамка в контекста на изкуствения интелект. Той установява система, основана на риска, за регулиране на технологиите за изкуствен интелект в рамките на ЕС, с цел да се гарантира, че те са безопасни, надеждни и зачитат основните права, като същевременно насърчават иновациите. Той забранява някои неприемливи практики с ИИ, като например социалното оценяване, и определя правила за области с висок риск от използване на технологията, като например в критичната инфраструктура или заетостта. Той също така определя ограничения за манипулативно използване на ИИ, като например дийпфейк съобщения, насочени към деца, наред с други мерки.

Забрани за социални медии

Франция, която обмисля забрана на социалните медии за деца под 15 години, тества приложение за проверка на възрастта, разработено от Европейската комисия, от това лято. Този инструмент е един от няколкото метода, използвани за проверка на възрастта на интернет потребителите, което е главоболие както за технологичните гиганти, така и за властите.

Индивидуални усилия

В началото на януари испанският министър на младежта и децата Сира Рего поиска от прокуратурата да разследва дали „Грок“ е възможно да извършва престъпления, свързани с разпространението на материали за сексуално насилие над деца.

В момента Испания разработва собствен закон за защита на непълнолетните в дигитална среда. Законът укрепва рамката за защита на личната неприкосновеност и неприкосновеността на личния живот срещу нови форми на нарушение, свързани с използването на технологии като ИИ, като потвърждава, че интересите на детето винаги трябва да имат предимство пред всеки дигитален бизнес модел.

България засили усилията си за борба със сексуалното насилие над деца онлайн чрез международно сътрудничество в правоприлагането, национални кампании за превенция и дискусии за политики, съобразени със законодателството на ЕС. През 2025 г. българските власти участваха в голяма международна операция, която затвори „Кидфликс“ (Kidflix), една от най-големите платформи за сексуална експлоатация на деца в света, използвана между 2022 и 2025 г. от близо 2 милиона потребители.

Румъния разполага със законодателни механизми за борба със сексуалното насилие над деца чрез своя наказателен кодекс и властите се стремят да разширят и модернизират тези правила.

От 2025 г. насам важен законопроект за защита на децата онлайн (наречен Закон за онлайн пълнолетие) е част от парламентарния дебат, а Румъния също така участва и прилага правилата на ЕС за предотвратяване и борба със сексуалното насилие онлайн. Законът за онлайн пълнолетие въвежда задължително потвърждаване на възрастта и родителско съгласие за непълнолетни (под 16 години) за достъп до онлайн услуги като социални медии, игри и стрийминг платформи.

Страната кандидат за ЕС Босна и Херцеговина все още няма специален закон, регулиращ тази област. В Босна и Херцеговина наказателната отговорност за производството, разпространението и притежанието на такива материали се основава на наказателни закони, които обхващат сексуалната експлоатация на деца, но не съдържат изрични разпоредби за генерирано от ИИ съдържание. ЕС е въвел набор от допълнителни инструменти и мерки за защита на своите граждани, млади и стари, от вредни онлайн практики, но слабите страни включват предизвикателства при прилагането, алгоритмично усилване на вредата, непоследователно прилагане на национално ниво и дебати за балансирането между сигурността и личната неприкосновеност.