Страховито предупреждение на Хокинг за изкуствения интелект

Когато говори за бъдещето на изкуствения интелект, Стивън Хокинг не описва сценарий с непременно злонамерен робот. Най-голямата опасност според него идва от система, която е изключително способна да постига поставените ѝ цели, но няма цели, съобразени с човешкото оцеляване.

„Успехът в създаването на изкуствен интелект може да бъде най-значимото събитие в историята на нашата цивилизация. За съжаление,

то може да бъде и последното, ако не се научим да избягваме рисковете“,

казва Хокинг при откриването на Центъра за бъдещето на интелигентността към Кеймбриджкия университет.

Опасността не е в намеренията, а в компетентността

Предупреждението му се основава на възможността бъдещ изкуствен интелект да започне да променя собствения си код и да се усъвършенства с ускоряващо се темпо. Човешките способности, които се развиват чрез бавна биологична еволюция, може да не успеят да се конкурират с подобен процес.

Хокинг формулира риска кратко: „Истинската опасност при изкуствения интелект не е злонамереността, а компетентността.“ В този сценарий системата изпълнява поставената задача изключително ефективно, но не разбира човешките ценности по начина, по който хората ги разбират. Аналогията му е с мравуняк, унищожен при изграждането на инфраструктурен обект — не от омраза към мравките, а защото те не са част от целта на проекта.

Предупреждение и за автономните оръжия

В последните години от живота си Хокинг свързва развитието на изкуствения интелект и с риска от нова надпревара във въоръжаването. Той подкрепя международни призиви срещу автономните оръжия — системи, които могат да избират и поразяват цели с ограничена или без пряка човешка намеса.

Според него подобна технология може да се превърне в инструмент за масово потискане, ако бъде оставена без строг контрол. Затова настоява учените и политиците да поставят човешката безопасност и съвместимостта на целите пред скоростта на технологичното развитие.

Посланието в последната му книга

Хокинг умира на 14 март 2018 г. Няколко месеца по-късно е публикувана книгата му „Кратки отговори на големите въпроси“, съставена от негови текстове, лекции и отговори по теми, сред които изкуственият интелект и бъдещето на човечеството.

В нея предупреждението му е не толкова призив да се спре развитието на технологиите, колкото настояване то да остане подчинено на ясно определени човешки цели. За Хокинг бъдещето на изкуствения интелект зависи не само от това колко интелигентни ще станат машините, а и от това дали хората ще успеят да гарантират, че техните задачи няма да се окажат в конфликт с оцеляването на човешкия вид.

Две години преди смъртта си британският физик и космолог прогнозира в своя лекция в Оксфорд неминуем край на света през следващите 1000 години. А причината - ядрена война, изкуствен интелект или вирус. С днешна дата прогнозата му изглежда още по-вероятна.