Червена лампа: AI може да предизвика катастрофа с мащабите на Чернобил

Кръстникът на съвременния изкуствен интелект и носител на Нобелова награда проф. Джефри Хинтън, предупреди, че човечеството може да се изправи пред сериозна криза заради новите технологии още тази или следващата година. Според него е възможен мащабен инцидент, предизвикан от изкуствен интелект, който временно да парализира финансовата система или електрозахранването.

В интервю за британския вестник „Гардиън" 78-годишният учен заявява, че не е сред песимистите, които смятат, че развитието на AI неизбежно ще доведе до катастрофа. Той вярва, че технологията може да отвори път към „прекрасно бъдеще", но същевременно допуска, че

може би човечеството е щяло да бъде по-добре, ако изобщо не беше създало изкуствения интелект.

Хинтън настоява за въвеждането на строги международни правила и независим контрол върху компаниите, разработващи AI. Според него трябва да бъде създадена система, подобна на американската Агенция по храните и лекарствата (FDA), която да изисква убедителни статистически доказателства, че новите модели носят повече ползи, отколкото вреди, преди да бъдат пуснати на пазара.

Проф. Джефри Хинтън

Ученият сравнява настоящия подход на големите технологични компании с допускането на лекарството талидомид до употреба през 50-те години на миналия век. Препаратът впоследствие се оказва причина за тежки вродени увреждания при хиляди деца. Според Хинтън не е правилно първо да се допускат потенциално опасни технологии, а последствията да се решават едва след настъпването на щетите.Хинтън смята, че инцидентите с автономни AI агенти през последните месеци са сериозен предупредителен сигнал. Той сравнява случая с опитите на AI системи на OpenAI да проникнат в сайта Hugging Face с частичната авария в атомната електроцентрала „Три Майл Айлънд" в САЩ през 1979 г.

„Или по-късно тази година, или през следващата ще видим Чернобил", предупреждава ученият. По думите му подобен инцидент може да накара обществото и политическите лидери да осъзнаят сериозността на рисковете.

Хинтън уточнява, че не става дума за ядрена авария, а за мащабна криза, предизвикана от изкуствен интелект. Сред възможните сценарии той посочва кибератака срещу електроенергийната система, която да доведе до масови прекъсвания на тока, или срив на финансовата система, продължаващ цяла седмица.

Според него подобно събитие би могло да бъде преодоляно, но би принудило световните лидери да обърнат сериозно внимание на опасностите. Ученият отправя остри критики към ръководителите на водещите технологични компании, които продължават да разработват все по-мощни модели в надпреварата за пазарно господство.

Той заявява, че няма доверие на изпълнителния директор на OpenAI Сам Алтман. По думите му Марк Зукърбърг, Илон Мъск и Алтман разбират потенциалните рискове, но поставят финансовите интереси над безопасността.