Чарлз към ИИ компаниите: Изкуственият интелект ще развие мрачни способности, може да стане убиец

Крал Чарлз с тревожно предупреждение за AI
Крал Чарлз предупреди ръководителите на водещи компании за изкуствен интелект за "екзистенциалните опасности", ако технологията попадне в неподходящи ръце.

Той говори по време на среща в Дъмфрийс Хаус в Шотландия, посветена на безопасното развитие на AI, предаде BBC (Би Би Си).

Сред участниците бяха представители на Nvidia, OpenAI и Anthropic, както и британският министър за изкуствения интелект Канишка Нараян.

"Тези, които създадоха тези технологии, все по-често предупреждават, че изкуственият интелект може да развие по-мрачни способности – дори потенциално да отнема човешки живот", заяви кралят.

Чарлз призова технологичните компании да гарантират, че AI ще бъде използван в полза на обществото. "Задачата пред вас не е просто да развивате технологиите, а да гарантирате, че те остават в служба на човечеството, обществото и природата", каза той.

Ръководителят на Nvidia Дженсън Хуанг също подчерта значението на безопасността. Той заяви, че компаниите трябва да отлагат пускането на продукт, ако той не е достатъчно сигурен.

Предупрежденията идват на фона на засилващия се дебат за бързото развитие на AI и необходимостта от по-строг контрол.

Част от експертите се опасяват от потенциални катастрофални последствия, докато други смятат, че прекомерният фокус върху бъдещите рискове отклонява вниманието от непосредствените проблеми на технологията.