ЕС въвежда първия закон за изкуствения интелект в света

Представители на държавите членки на Европейския съюз и на Европейския парламент постигнаха споразумение за правилата, регулиращи използването на изкуствения интелект, съобщи еврокомисарят за вътрешния пазар Тиери Бретон,  предаде БТА.

Споразумението бе постигнато след почти 15 часа преговори между двете страни, проведени вчера. Преди това имаше още 24 часа дебати по въпроса. Споразумението касае въвеждането на по-строги правила основно използването на изкуствен интелект в ЕС в бъдеще. ЕП описа правилата като първия закон за изкуствения интелект в света.

Проектът на нормативен акт, съдържащ въпросните правила, беше предложен от Европейската комисия през април 2021 г. Според него системите за изкуствен интелект ще бъдат категоризирани в различни рискови групи. Колкото по-висок е потенциалният риск, свързан с едно приложение за изкуствен интелект, толкова повече изисквания ще има за него. ЕС се надява, че правилата, заложени в законодателството ще бъдат възприети по целия свят.

Но преговорите по разпоредбите почти се провалиха неотдавна заради въпроса за регулиране на така наречените базисни модели. Това са много мощни модели за изкуствен интелект, които могат да бъдат обучени с широк набор от данни. Те могат да формират основата за много други приложения, като например генеративните предварително обучени трансформатори.

ЕП и държавите членки предстои официално да одобрят постигнатото споразумение за правилата за изкуствен интелект, но се смята, че това е само формалност.

Какво се забранява?

Споразумението по новите правила изисква от основополагащите модели за изкуствен интелект да отговарят на задълженията за прозрачност, преди да бъдат пуснати на пазара. Това включва и изготвяне на техническа документация, съответствие със законите на ЕС за авторското право и разпространяване на детайлно обобщение относно съдържанието, използвано при обучението на изкуствения интелект, допълва Ройтерс.

Законодателството предвижда и изискване, че правителствата ще могат да използват биометрично наблюдение на хората в реално време на обществени места само в случаи, когато става дума за издирване на жертви на определени престъпления, за превенция на истински, настоящи или прогнозирани заплахи, като терористични атаки, или за издирване на хора, заподозрени за най-сериозни престъпления.

Споразумението забранява манипулиране на когнитивното поведение, нецелевото събиране на лицеви изображения от интернет или от охранителни камери, а също и системите за социално оценяване или за биометрична категоризация с цел намеса в политическите, религиозните, философските вярвания и убеждения, сексуалната ориентация и расовата принадлежност, допълва Ройтерс.

Потребителите ще имат правото за подават оплаквания и да получават детайлни обяснения, докато за нарушителите на разпоредбите ще има глоби, вариращи от 7,5 милиона евро до 35 милиона евро.

В сърцевината на проекта има списък от правила, които ще се налагат само на системите, преценени като високорискови, по-специално тези, които се използват в областта на критичната инфраструктура, образованието, човешките ресурси, поддържането на обществения ред. Тези системи ще бъдат подложени на серия от задължения, като например такива, които предвиждат човешки контрол над машината, установяване на техническа документация и създаването на система за управление на риска. Законодателството предвижда специални правила и за системите за изкуствен интелект, които взаимодействат с хората. Те ще бъдат задължение да информират потребителя, че той общува с машина, а не с истински човек.

Забраните, предвидени в новото законодателство са малко. Те касаят приложенията, които противоречат на европейските ценности, като например системите за оценяване или за масово наблюдение, използвани в Китай, или биометричната идентификация от разстояние на хора на обществените места, за да се избегне масовото следене на населението, отбелязва Франс прес.