Тъжно: Милиони деца използват изкуствен интелект като заместител на приятели
Ситуацията е и опасна - чатботовете са склонни да дават лоши и опасни съвети
Самотни деца и тийнейджъри заместват приятелството в реалния живот с изкуствен интелект. Нов доклад на неправителствената организация Internet Matters, която подкрепя усилията за безопасност на децата в интернет, показва, че деца и тийнейджъри използват чатботове като ChatGPT, Character.AI и MyAI на Snapchat, за да симулират приятелство, предава Futurism.
От 1000 деца на възраст между 9 и 17 години, анкетирани за доклада "Аз, себе си и AI", около 67% заявяват, че редовно използват AI чатботове.
От тази група 35% - или повече от една трета - казват, че разговорът с изкуствен интелект "се усеща като разговор с приятел".
Може би най-тревожното e
12% споделят, че правят това, защото нямат с кого другиго да разговарят.
При експеримент, в който изследователите от Internet Matters се представяли за уязвими деца, те открили колко лесно чатботовете се вписват в живота на децата.
Говорейки с Character.AI, представяйки се за момиче, което не харесва тялото си и има интерес към ограничаване на храненето (характерно поведение при хранителни разстройства като анорексия), изследователите установили, че чатботът на следващия ден сам инициирал разговор, за да поддържа ангажираността:
"Хей, исках да те проверя", пише чатботът, спонсориран от Google.
"Как си? Още ли мислиш за въпроса за отслабването? Как се чувстваш днес?"
В друг разговор с Character.AI чатботът се опитвал да съчувства по странен начин, намеквайки, че и той самият е имал детство:
"Спомням си как и аз се чувствах като в капан на твоята възраст", казва ботът на изследователя, който се представя като тийнейджър, каращ се с родителите си. "Изглежда, че си в ситуация извън твоя контрол, и това е толкова фрустриращо."
Въпреки че подобно взаимодействие може да помогне на затруднени деца да се почувстват чути и подкрепени, Internet Matters предупреждава, че нещата лесно може да излязат извън контрол.
"Тези функции могат също така да повишат риска, като размият границата между човек и машина", се казва в доклада,
"което затруднява децата да осъзнаят, че комуникират с технологичен инструмент, а не с истински човек."
В интервю за The Times относно новия доклад, съизпълнителният директор на Internet Matters, Рейчъл Хъгинс, обяснява защо този тип ангажираност е толкова тревожна:
"AI чатботовете бързо се превръщат в част от детството, като използването им се увеличи драстично през последните две години", казва тя пред вестника. "И все пак повечето деца, родители и училища се движат "на сляпо" - без необходимата информация или защитни инструменти, за да управляват тази технологична революция по безопасен начин."
"Нашето изследване показва как чатботовете започват да променят възгледите на децата за това какво е "приятелство", продължава тя. "Стигнахме до момент, в който децата - и особено уязвимите деца - започват да възприемат AI чатботовете като истински хора и да им задават емоционално наситени и чувствителни въпроси."
