Берлин иска наказателни мерки срещу злоупотреби с AI изображения

Германското министерство на правосъдието планира да представи в близко бъдеще мерки, които биха позволили на властите да се борят по-ефективно с използването на изкуствен интелект за манипулиране на изображения по начини, които нарушават личните права, предава "Ройтерс".

Grok, вграденият чатбот с изкуствен интелект в социалните медии на милиардера Илон Мъск X, е обект на разследване в Европа заради така наречения си "пикантен режим", който позволява на потребителите да генерират сексуално откровени изображения.

Разследване на "Ройтерс" установи, че генерирането на изображения от чатбота е било използвано за създаване на изображения на жени и деца с минимално облекло, често без съгласието на изобразените лица.

Германският министър на медиите призова Европейската комисия по-рано тази седмица да предприеме правни действия, за да спре това, което той нарече "индустриализация на сексуалния тормоз" по X.

В отговор на въпрос относно противоречията на редовно провеждана правителствена пресконференция, говорителят на министерството на правосъдието Анна-Лена Бекфелд посочи, че Германия се готви да разгледа въпроса в своите вътрешни съдилища.

"Неприемливо е манипулациите в голям мащаб да се използват за систематични нарушения на личните права", заяви тя. "Следователно искаме да гарантираме, че наказателното право може да се използва по-ефективно за борба с това."

Министерството работи за по-добро регулиране на дийпфейковете и планира закон срещу дигиталното насилие в подкрепа на жертвите му, каза тя пред журналисти.

"Искаме да им улесним предприемането на директни действия срещу нарушения на правата им в интернет", каза Бекфелд.

Министерството планира да представи конкретни предложения в близко бъдеще, каза тя, добавяйки, че на този етап не може да коментира подробно плановете.

След като първоначално отхвърли опасенията относно генерирането на изображения от Grok, xAI вече ограничи функцията до платени абонати. Мъск заяви миналата седмица, че всеки, който използва чатбота за създаване на незаконно съдържание, ще се сблъска със същите последици, както ако качва такъв материал директно.