"Халюцинирам" е думата на 2023 г.

Експерти от университета в Кеймбридж посочват, че всъщност въвеждането на тази нова дефиниция представлява "моментна снимка" на човешкото възприятие спрямо изкуствения интелект

Свят
16:46 - 15 Ноември 2023
2437
"Халюцинирам" е думата на 2023 г.

“Халюцинирам”. Това е думата на 2023 г. според речника на “Кеймбридж” - най-посещавания безплатен онлайн речник на английски език. Думата определено не е нова, но влиза в класацията заради нов свой смисъл, който придобива заради изкуствения интелект. 
 
Традиционното обяснение за "халюцинирам" е "да виждаш, чуваш и усещаш нещо, което не съществува". Сега обаче към тази дефиниция се прибавя и друго - когато изкуственият интелект започне да произвежда невярна информация.

Експерти от университета в Кеймбридж посочват, че всъщност въвеждането на тази нова дефиниция представлява "моментна снимка" на човешкото възприятие спрямо изкуствения интелект и импулсът да му приписваме човешки качества (т.нар. антропоморфизъм). Използването на думата "халюцинирам" за ИИ всъщност отразява дълбока промяна във възприятието.

Халюцинациите на изкуствения интелект се наричат още “конфабулации” и често изглеждат напълно безсмислени. Могат обаче да изглеждат и напълно правдоподобни. Адвокатска кантора в САЩ използва ChatGPT за правни изследвания, което доведе до цитиране на фиктивни случаи в съда, например, пишат от “Кеймбридж”. 

От там предупреждават, че способността на ИИ да халюцинира всъщност показва нуждата от критично мислене у хората.

Така наречените “халюцинации“ възникват, когато ИИ модели като ChatGPT на OpenAI или Bard на Google изфабрикуват изцяло информация, държейки така, сякаш представят факти. Така през февруари в промоционален видеоклип на Google за Bard чатботът направи невярно твърдение за космическия телескоп James Webb.

От OpenAI посочиха, че дори най-съвременните модели са склонни да създават лъжи и да халюцинират. Затова компанията предприе нова стратегия, за да се пребори с халюцинациите на AI - моделите да бъдат обучавани и да да се възнаграждават за всяка индивидуална правилна стъпка в разсъждението, когато стигат до отговор, вместо само за правилното окончателно заключение.