Папата призова за глобален договор за регулация на ИИ

Папа Франциск призова за правно обвързващ международен договор за регулиране на изкуствения интелект, като каза, че не трябва да се позволява на алгоритмите да заменят човешките ценности и предупреди за "технологична диктатура", заплашваща човешкото съществуване, предава "Ройтерс".

Папата отправи призива си в четвъртък в послание за Световния ден на мира на Римокатолическата църква, който се отбелязва на 1 януари. Заглавието на посланието, което традиционно се изпраща до световни лидери и ръководители на институции като ООН , е "Изкуствен интелект и мир".

Призивът на Франциск идва в момент, когато правителствата по света се стремят да балансират предимствата на технологията, която може да участва в човешки разговори, да отговаря на въпроси и да пише компютърен код, срещу необходимостта от поставяне на предпазни мерки.

"Глобалният мащаб на изкуствения интелект ясно показва, че наред с отговорността на суверенните държави да регулират вътрешното му използване, международните организации могат да играят решаваща роля в постигането на многостранни споразумения и координирането на тяхното прилагане и прилагане", казва Франциск в съобщението.

"Призовавам световната общност от нации да работят заедно, за да приемат обвързващ международен договор, който регулира развитието и използването на изкуствения интелект в неговите многобройни форми", каза папата.

Миналата седмица Европейският съюз постигна предварителна сделка относно правила, регулиращи използването на ИИ, включително използването на AI от страна на правителствата при биометрично наблюдение и как да се регулират ИИ системи като ChatGPT.

"В обсесивно желание да контролираме всичко рискуваме да загубим контрол над себе си; в стремежа към абсолютна свобода рискуваме да попаднем в спиралата на "технологична диктатура", пише той.

Франциск, който често е критикувал оръжейната индустрия, предупреди срещу използването на ИИ в оръжейните системи, като каза, че това може да доведе до глобална катастрофа.

"Изследванията на нововъзникващи технологии в областта на така наречените смъртоносни автономни оръжейни системи, включително въоръжаването на изкуствения интелект, са причина за сериозна етична загриженост. Автономните оръжейни системи никога не могат да бъдат морално отговорни субекти", каза той.

"Уникалната човешка способност за морална преценка и вземане на етични решения" не може да бъде оставена на машина, каза той, добавяйки, че "е наложително да се осигури адекватен, смислен и последователен човешки надзор върху оръжейните системи".

На пресконференция, представяща посланието, кардинал Майкъл Черни, ръководител на службата за човешко развитие на Ватикана, каза, че 86-годишният папа "не е лудит", термин, отнасящ се до някой, който се противопоставя на новите технологии.

Той каза, че папата оценява технологичния и научен прогрес, който служи на човечеството, но че Франциск е особено загрижен за ИИ, защото той е "може би най-големият залог на нашето бъдеще".