Роботите атакуват: „1984” на Оруел идва през 2024-а

Президентът на Microsoft предупреди, че животът, изобразен в „1984” на Джордж Оруел, „може да бъде реалност през 2024 г.“, ако законодателите не ни защитят от изкуствен интелект.

В интервю за Би Би Си Брад Смит заяви, че бързо напредващите технологии ще бъдат „трудни за догонване“. Програмата изследва все по-широкото използване на изкуствен интелект в Китай за наблюдение на своите граждани.

Има опасения, че доминиращата роля на държавата в областта на изкуствения интелект представлява непосредствена заплаха за демокрацията. „Ако в бъдеще не приемем закони, които защитават обществеността, ще открием, че технологиите напредват бързо и ще бъде много трудно да ги догоним“, каза Смит.

"Постоянно си припомням уроците на Джордж Оруел от неговата книга „1984”. Всъщност тази история ... беше за правителство, което винаги можеше да види и чуе всичко, което всички правят и казват", каза Смит. „Това не се случи през 1984 г., но ако ние не бъдем внимателни, това може да се случи през 2024 г.

"Китайски изкуствен интелект Смит добави, че в някои части на света реалността все повече догонва научната фантастика. Китай се стреми да стане световен лидер в областта на изкуствения интелект до 2030 г. и мнозина вярват, че способностите му надхвърлят възможностите на ЕС.

Ерик Шмид, бившият главен изпълнителен директор на Google, а сега председател на Комисията за национална сигурност на САЩ по изкуствен интелект, предупреди, че е необходима победа над Китай в областта на изкуствения интелект. „Намираме се в състояние на геополитически стратегически конфликт с Китай”, каза той.

„Пътят към победата е да обединим ресурсите си за разработване на национални и глобални стратегии за спечелване на демокрации в областта на изкуствения интелект. " Д-р Лан Сюе, консултант на китайското правителство, каза, че разпознаването на лица може да бъде „изключително полезно“ при идентифициране на хората при масови събирания в случай на „голяма авария“.

"Китай наистина постигна огромен напредък в технологичното развитие", добави той. "[САЩ] вижда това като заплаха ... и искат да започне студена война срещу технологиите."

Въпреки че Китай се различава значително от западния свят по своите ценности и политики, китайската визия за света е „не сближаване, а съвместно съществуване“, каза д-р Кей Цин, асистент в Лондонското училище по икономика. „Китай не желае да изнася своите ценности“, казва тя.

Проект Maven

Ерик Шмид стана съветник на Пентагона през 2016 г., запазвайки позицията си на изпълнителен председател на Alphabet, компанията майка на Google. През следващите години Google сключи договор с Пентагона, който му позволи да използва някои от своите технологии за разпознаване на изображения във военни проекти.

Проектът Maven използва машинно обучение, за да прави разлика между хора и обекти във видеоклипове с дронове. „По онова време Maven беше начин [...] да се замени човешкото око с автоматично зрение за кадри от безпилотни летателни апарати, които се използваха в различни конфликти в арабските страни”, каза Шмит.

„Смятах, че използването на тази технология е положителен фактор за националната сигурност и добро партньорство за Google. " Кръв по ръцете Но редица служители на Google разкритикуваха проекта и подадоха оставка.

„Google не трябва да участва във военния бизнес", каза софтуерният инженер Лора Нолан, която се пенсионира през 2018 г., след като научи какво прави Google по проекта Maven. „Чувствах, че имам кръв в ръцете си."

Нолан твърди, че тази технология може да се използва в системи за ориентиране в бъдеще. Google обаче заяви, че нейният изкуствен интелект ще се използва само за невоенни цели и през юни 2018 г. компанията напусна проекта Maven. Шмит каза, че намира технологията за полезна, за да помогне на военните да вземат правилните решения. Надпревара на интелекти

Междувременно министерството на отбраната на САЩ продължава да търси партньори в Силициевата долина в опит да спечели световната надпревара за въоръжение с изкуствен интелект. Сет Моултън, председател на Работната група за бъдещето на отбраната на САЩ, призовава технологичните компании да подкрепят военните.

„Всичко се свежда до факта, че това е състезание, това е съревнование и ние сме в него”, казва той. „Ще ни помогнете ли да спечелим това състезание или ще станете наши опоненти? В Китай няма система на управление като у нас. Може ли надпреварата във въоръжаването в областта на изкуствения интелект да доведе до конфликт с Китай? Напълно е възможно.”

Д-р Сюе се съгласява, че съществува потенциал за конфликт, въпреки че не е неизбежен. Но за да се предотврати това, САЩ и Китай трябва наистина да си сътрудничат, каза той.