Забележителното слово на Явор Гърдев: : Пазете идентичността си на човеци!

Режисьорът, философ и истински анализатор на човешката душа Явор Гърдев е произнесъл забележително слово пред зрелостниците от випуск '23 на Американския колеж в София на 20 май. Редакцията на Lupa.bg го публикува без съкращения и редакторска намеса:

"Скъпи абитуриенти,

Изключително съм развълнуван от честта да се изправя тук пред вас точно днес, в този вододелен момент, когато отбелязваме не само тридесетата годишнина от възобновяването на дейността на Американския колеж в София, но заедно с това и множество други етапни моменти. Развълнуван съм много повече, отколкото бих бил във всяка друга година, защото вие сте граничен випуск във всяко отношение.

Вие завършвате средното си образование в годината, в която езиковите модели на изкуствен интелект преминаха в режим на масова достъпност. Този маркер бележи старта на принципно нов етап в развитието на технологиите, с което ви отличава не само като представители на вододелния випуск, но ви причислява и към поредното в историята граничното поколение.

Склонен съм даже да мисля, че в недaлечно бъдеще маркерът AI (изкуствен интелект - б.р.), под знака на който завършвате средното си образование днес, може да се окаже идентификационно много по-важен за вас дори от маркера, под чийто знак сте родени, а именно Gen Z, “първото истински дигитално поколение”, с чиято поява Гутенберговата епоха, траеща вече около пет века и половина, окончателно залязва.

На вашия випуск и на вашето поколение вероятно ще се падне трудната мисия житейските ви избори да изискват поемането на огромни рискове, резултатите от които ще е все по-трудно да бъдат предвиждани. Тези рискове ще бъдат (не, те вече са!) неизчислими и често направо хазартни. Тези рискове са неизбежно обстоятелство на днешния ден и по всичко личи, че ще съпътстват цялото човечеството в неговото близко бъдеще.

Точно във вашия по-особен случай мисията ще бъде още по-предизвикателна, защото е обусловена не само от хронографското ви гранично положение, но и от топографското ви местонахождение в гранична зона. Днес вие вече се намирате едновременно на множество граници, както забележими, така и още незабележими за вас. Независимо осъзнавате ли това или не, вие вече балансирате върху тънката полоса между различни тектонични плочи – исторически, политически, социални, културни, икономически и технологически.

Искам да ви разкрия, че и за поколенията преди вас това балансиране си е било достатъчно напрегната дейност, но напоследък търкането между тектоничните плочи започва да става все по-интензивно. Дотолкова, че и в буквален, и в преносен смисъл се налага да обитаваме нещо като земетръсна зона.

През отминалата нощ беше нанесен единадесетия въздушен удар срещу Киев от началото на месец май в коварната и опустошителна война на Русия против Украйна. Помнете, че се намирате на място с все още нееднозначна принадлежност — зона, в която интензивно се трият геополитически масиви, които произвеждат постоянни сътресения и земята под краката ви няма скоро да спре да се клати, а от време на време балансирането върху нея ще ви изглежда като отчаяна и даже неизпълнима задача. Обаче не се отчайвайте!

Сърфирайте с умела лекота между двата огромни цивилизационни ареала, които си дават съвсем не безметежна среща на нашата земя и чиито вековни традиции и навици се преплитат в една не винаги безопасна плетка. Усърдно работете за трудното стиковане между прагматичната ефективност и предприемаческите умения на запада с организционната безметежност и ваканционните трудови навици на жизнелюбивия югоизток. Навигирайте мъдро и с трезва преценка между западния и източния жизнени стилове, между най-последните технологични достижения и по-скоромната, вечно наваксваща материална култура, между невронните мрежи на изкуствения интелект и огромните масиви на функционалната неграмотност.

Всички тези трудни за удържане баланси често ще ви тласкат към прага на унинието, ще ви се струват достатъчно основателни причини за умора, прегаряне, разочарование, понякога може би даже за отчаяние, но съдейки от личния си опит, съм абсолютно сигурен, че на тях може и все повече ще може да се гледа и като на вдъхновяващо предизвикателство.

Надявам се, даже силно се надявам, да се окажете способни да погледнете на всички тези противоположности именно така – като на вдъхновяващи предизвикателства, които да изкушат тъкмо вашето поколение най-после да ги преодолее окончателно и след като е попътувало и е завършило висшето си образование, да се окаже първото, което ще се завърне в страната си по свое собствено желание, и то за да живее и работи тук, а не просто да прекара в заслужен отдих носталгичните си старини.

Преди време се изкушавах да мисля, че моето поколение ще е първото и последното, което ще се разпръсне по света, след като е преживяло началото на прехода и чрез емиграция е решило да си спести социалните катаклизми, последвали от него.

Радвах се, разбира се, да имам съученици от Класическата гимназия, при които да мога да отида в почти всеки по-голям американски и европейски град и в големите университетски центрове на двата континента. Бях даже сигурен, че един ден ще се окажа в привилегированата спрямо тях позиция на носител на по-богат на сътресения източноевропейски личен опит. Мислех си, че те, разселилите се по света мои приятели, ще обитават безметежно комфорта и сигурността на едни по-стабилни откъм социални катаклизми места.

По-късно обаче ми стана пределно ясно, че нито днес, нито вероятно в цялата история на света, не е съществувало поколение, което да е било цялостно застраховано срещу превратностите на живота и да се е радвало на напълно безметежен жизнен цикъл.

Убедих се, че обществените катаклизми, насред които живея и от които даже имам дързостта понякога да се оплаквам, не са много по-различни от катаклизмите, които се случват около домовете на собствените ми успешно емигрирали съученици. И че дори в най-напредналите технологично, икономически и социално точки по света понякога можеш да се окажеш заобиколен от хора, които още доизносват скъпите си и елегантни костюми, но вече живеят на улицата след спукването на поредния икономически балон и обитават кашони, подпрени на стените на къщите на собствените ми съученици.

Затова ми се струва, че във времето на предизвикателства от страна на изкуствения интелект, най-важното нещо и от тази, и от онази страна на океана, ще бъде как присъстваме в собствения си живот. Защото само интензивността на присъствието в собствения ни живот може да му придаде смисъл и да ни дари с истински житейски опит. Защото улесненията, които ще ни донесе ерата на изкуствения интелект, отново няма да успеят да направят хората, които отсъстват от собствения си живот, по- щастливи. Дори и да достигнем в рамките на собствения си живот до точката на така любимата на Реймънд Курцвейл точка на сингуларността.

Даже и да решим въпроса със съхраняването на съзнанието си извън собствените си тела и успеем да станем по някакъв особен начин “безсмъртни”, пак няма да можем да решим въпроса с “отсъствието” от собствения си живот.

Защото за този, който отсъства от собствения си живот, краткото или дългосрочно удължаване на живота само ще удължи скуката и тегобата на едно първоначално отсъствие. Поради което ми се струва, че най-важният въпрос за поколението под знака на изкуствения интелект ще бъде не толкова в какво този интелект ще успее да ни помогне, колкото в това какво ще остане на нас да правим с живота си ние подпомогнатите? Какво ще ни остане за вършене? Какво точно ще ни остане на нас?

И макар да се успокоявам, че точно моята режисьорска професия, която разчита главно на прякото и директното общуване с други хора, както и на личното ми присъствие в тяло, едва ли ще бъде от сериозно засегнатите от изкуствения интелект, все пак ясно си спомням как като малък по телевизията гледах някакъв филм, в който персонажите бяха постигнали безсмъртието, нямаха никакви проблеми за решаване и отегчено се излежаваха на един плаж, не знаейки какво да правят нито със себе си, нито с живота си. Скучаеха, едва-едва намираха сили бавно да произнесат по някоя дума и нямаха воля дори да се надигнат.

Не зная защо този невръстен спомен се запечата толкова ярко в детската ми глава още тогава, но е вероятно това да се случва с човека, когато има пред себе си всичкото време – демотивира се да прави каквото и да било и просто започва да отсъства от живота си. Щом като няма защо да бързаш да правиш нещо, вероятно няма защо и въобще да го правиш.

Та какво ще правим самите ние, щом, да допуснем, изкуственият интелект реши вместо нас повечето ни проблеми? Какво ще правим ние тогава? Вероятно ще си повтаряме подобно на бекетовия герой Естрагон от “В очакване на Годо”:”Ние сме щастливи. И какво да правим сега като сме вече щастливи?” А отговорът на този въпрос може да се окаже по-труден даже и от отговора на апокалиптичния въпрос: “Защо допуснахме изкуственият интелект да ни завладее?”

Ще се съгласите обаче, че и двата въпроса съдържат в себе си нещо апокалиптично, което ни поставя пред дилема, по отношение на която най-вероятно ще се наложи именно вашето поколение да вземе решение, защото то може да се окаже и последното, което ще е полагало истински усилия да учи и вече знае цената на усилието като личен опит и начин на пребиваване в живота и в света. Присъствен, а не отсъствен начин на пребиваване. Начин на пребиваване в света чрез правене. Чрез действие.

И ще видите, че именно споменът за това усилие може да се окаже и центърът на вашата идентичност. Усилието да си правил нещо с ръцете си и с ума си, да си изписвал букви, да си рисувал форми, да си съчинявал текстове... Усилието като идентичност. Усилието като начин да си спомняш кой си.

А паметта за това кой си съвсем скоро може да ти бъде нужна, защото ако нещо друго изписва буквите, рисува формите и съчинява текстовете ти, съвсем скоро няма дори да знаеш кой си. Както аз като дете за известно време не знаех кой съм заради един полски научнофантастичен филм, в който разрязаната в някаква екранна схватка кожа на един от персонажите, ненадейно разкри сложен и фин технологичен механизъм в ръката му, разконспирира го, че е всъщност робот.

Поради моята тогавашна безвъпросна емпатия и наивна вяра в реалността на филмовите образи, успях трайно да си внуша, че самият аз съм хуманоиден робот и че ако някога попадна в болница или клиника за спешна хирургия, тази моя тайна ще бъде разкрита и ще се окажа отхвърлен от хората понеже не съм от техния вид. Така за известно време развих съвсем реален страх от всякакви медицински заведения. Не по обичайните причини, а от страх да не бъда разобличен като нечовек.

Неспокойствието ми постоянно нарастваше поради това, че нямаше как да проверя истината за себе си и оставах в мъчително неведение, докато подозренията ми се увеличаваха. Нямах куража да разрежа дълбоко ръката си, за да проверя кой съм и страховете ми достигнаха невиждани нива.

Един ден обаче се наложи родителите ми да ме заведат на рентгенова снимка. Това, казах си, ще бъде краят. Сега родителите ми първи ще разконспирират вътрешната ми идентичност на робот. Самата ми роботска същност щеше да излезе наяве. Щяха да ме разобличат, отхвърлят, изоставят и обрекат на самота. Вътрешно се подготвих да понеса последствията от това, че ще ми се наложи принудително да изляза от килера и всички да разберат, че аз роботът досега съм имал наглостта да се представям за човек без да съм.

За щастие рентгеновата снимка отведнъж ме възвърна към идентичността ми, но това все още беше в епохата на преклонение пред науката и нейните верифицирани от реалността достижения. Тогава легитимността ми на човек рязко се възвърна в собствените ми очи понеже все още имаше общо съгласие, че рентгеновата снимка удостоверява реалност, чиято достоверност може да бъде колективно потвърдена с общо съгласие, докато днес вече съвсем не е така.

Днес нищо не е достатъчно авторитетно, всеки преценява сам и доказателство за това е и възвърналото се в последните два дена, по време на писането на тази реч, мое усещане, че отново, както тогава в детството, започвам да губя личната си и даже човешката си идентичност.

Първо, докато пишех първия параграф за изкуствения интелект, се подсетих за предговора към пиесата на немския драматург Хайнер Мюлер “Квартет”, в който той обяснява, че като започнал да пише пиесата усетил как нещо в стила му на писане допълнително се е автоматизирало поради факта, че за първи път използвал електрическа пишеща машина. Ударите по клавишите вече не изисквали същата сила на натиск, както при механичната пишеща машина, от което и текстът ставал някак по-автоматичен.

Подобно усещане имах и аз през деветдесетте, когато преминавах от механична пишеща машина към компютърна клавиатура. Първоначално толкова силно блъсках по клавишите, че пръстите ми посиняваха. Толкова силна беше инерцията на все още непроменената ми Гутенбергова печатарска душа. Но и аз усетих как нещо в писането ми се автоматизира. Писането беше станало лесно обратим процес и вече не се налагаше да обмисляш толкова добре изреченията си предварително, за да не се налага после да мажеш по напечатания лист с течен коректор.

Вече можеше да си пишеш и редактираш колкото ти душа иска, да се връщаш назад и безболезенено да триеш и поправяш. Текстът вече не изискваше толкова ясна мисъл от самото начало, а позволяваше постепенен синтез, докато накрая изгради и изведе смисъла си.
Но тогава все още не губех авторската си идентичност.

Започнах да я губя отново едва онзи ден, когато във връзка с първите две страници на тази реч, които бях написал, отворих в интернет един от многото детектори за съдържание, генерирано от изкуствен интелект и вкарах за проверка текста, който бях написал до момента.

Детекторът уверено ми съобщи, че текстът е в голямата си част продукт на човек, но частично е генериран от изкуствен интелект. Това ме стресна и събуди детския спомен за онзи полски филм за робота. Мълниеносно развих рецидивен страх от скрит роботизъм, взех да губя идентичност и веднага написах горните три абзаца, за да разкрия честно детските си терзания.

Бях напълно уверен, че съм написал текста сам, когато детекторът се усъмни и в този факт, пак частично. Взех да се съмнявам и в текста, и в себе си. Вече не знаех не само какво съм написал, но вече и кой всъщност съм.

Разрових се в интернет и разбрах, че според Rolling Stone цял клас от тексаски университет временно не е могъл да се дипломира, след като професорът им използвал по неправилен начин ChatGPT, за да провери дали студентите не са използвали изкуствен интелект, за да генерират дипломните си работи. Полазиха ме ледени тръпки при мисълта как днес, след като чуете тази реч, ще я проверите с детектор за генерирано съдържание и ще бъда обвинен в умишлено фабрикуване на несъществуващи детски фобии.

Само и само да започна да изглеждам на детектора повече човечен и по-малко машинен, започнах да реконструирам изреченията си. Доста се потрудих, за да получа от машината по-добро съотношение в полза на човечността на текста си.

Накрая поставих текста в друго приложение и му дадох задачата да повиши гладкостта. То започна да ми предлага алтернативни изкази на същото съдържание. Някои от тях приех и отново налях текста в детектора за машинно генерирано съдържание. Оказа се, че след компетентната намеса на предишната машина, процентът на човечност спрямо този на роботизъм в текста ми, рязко е нараснал.

Отдъхнах си с облекчение и започнах да подобрявам текста в посока към “човечност” под стриктния контрол на машина. Не спрях да редактирам докато не прехвърлих деветдесетте процента човечност според трите верификационни критерия – предсказуемост, вероятност и модел.

Едва тогава с пълна сила ме споходи мисълта за невероятното унижение да седя и да се подмазвам на машина да ме признае за човек. Тук и спрях.

Къде ще спрете вие, уважаеми зрелостници от випуск 2023 и ще спрете ли въобще, предстои тепърва да разберем. Всичко е във вашите ръце, сърца и умове. Градете и пазете идентичността си на човеци!"

Снимки: ACS