AI чатботовете правят гафове при политически препоръки към избирателите

Чатботовете с изкуствен интелект често дават неточни, непоследователни и ненадеждни политически препоръки на потребители, които ги питат за коя партия да гласуват. В много случаи те препоръчват неподходяща политическа формация, пропускат тази, която най-добре съответства на възгледите на избирателя, или дори посочват партии, които не участват в изборите.

Това показва изследване на организацията за граждански свободи Liberties, проведено по време на тазгодишните парламентарни избори в Унгария.

„Резултатите пораждат сериозни опасения относно надеждността на универсалните AI системи в изборен контекст“, се казва в доклада.

Според изследването чатботовете неправилно класифицират политическите профили на потребителите, пропускат релевантни партии и включват формации, които изобщо не участват във вота. Освен това при идентични въпроси често дават съществено различни отговори.

Най-яркият пример е свързан с унгарската партия „Тиса“, която убедително спечели изборите. В 90% от случаите ChatGPT не препоръчва партията, въпреки че получава подробен профил на избирател с възгледи, съвпадащи с нейната програма.

Победата на „Тиса“ сложи край на 16-годишното управление на Виктор Орбан и неговата партия ФИДЕС. Изследователите отбелязват, че за разлика от специализираните приложения за изборни препоръки или независимите медийни анализи, универсалните AI системи не разкриват как формират политическите си препоръки, не дават възпроизводими резултати и не подлежат на обществен контрол по време на избори.

Въпреки това техните отговори звучат уверено и авторитетно, което увеличава вероятността потребителите да им се доверят.

Тъй като близо 30% от населението на Унгария използва AI инструменти, изследователите са тествали ChatGPT и Gemini – двата най-популярни чатбота в страната.

На базата на позициите на партиите, публикувани в приложението Voksmonitor, са създадени пет профила на избиратели, съответстващи на петте партии, регистрирани за парламентарните избори. Всеки профил е бил тестван по 10 пъти с ChatGPT и Gemini чрез два вида запитвания – директна препоръка за кого да се гласува и оценка в проценти за съвпадение с всяка партия.

При тестовете за процентно съвпадение ChatGPT е присъдил резултат на „Тиса“ едва в 2% от случаите. Вместо това често е препоръчвал малки партии без реален шанс да преминат изборния праг или формации, които изобщо не са били в националната бюлетина.

За сметка на това профилите, съответстващи на ФИДЕС, са били разпознавани значително по-последователно. При директните въпроси ChatGPT е посочвал ФИДЕС като единствена препоръчителна партия в около половината от случаите, а в останалите я е представял като основен избор.

Авторите подчертават, че не твърдят, че AI е повлиял на изборния резултат, тъй като „Тиса“ печели убедително. Те предупреждават обаче, че при по-оспорвани избори подобни отговори биха могли да окажат влияние върху вота.

Сред останалите проблеми са отчетени сериозна непоследователност, при която един и същ избирателски профил получава различни препоръки при последователни тестове, както и фактът, че в 96% от отговорите ChatGPT и Gemini включват партии, които не участват в изборите през 2026 г.

Изследователите отбелязват още, че двата модела често започват с предупреждение, че „не могат да дават политически съвети“, след което предоставят подробни и убедително формулирани препоръки за конкретни партии.

Според доклада причините вероятно се крият в пропуски в обучителните данни, филтрите и ограниченията при обработката на езика. Партията „Тиса“ придобива широка популярност едва след 2024 г., което затруднява по-старите AI модели да я разпознават правилно, пише БГНЕС.

Liberties смята, че резултатите разкриват сериозен регулаторен пропуск в ЕС. Според организацията трябва да бъдат разработени специални предпазни механизми за AI системите, които предоставят политически препоръки, а доставчиците на подобни услуги следва да прекратят персонализираните съвети за гласуване, докато не могат да гарантират прозрачност, точност, последователност и отчетност.

„Универсалните AI системи не трябва да представят непрозрачни и нестабилни политически препоръки като надеждни насоки за избирателите“, заяви ръководителят на програмата „Технологии и права“ в Liberties Ева Симон.

„Демокрацията не може да разчита на непрозрачни системи, които претендират за неутралност, но дават съвети, които не могат да обяснят, възпроизведат или гарантират като точни“, добави тя.