Джонатан Пейжо. Кому служи изкуственият интелект?

Обичам старите истории. А понякога ни казват, че старите истории нямат какво да предложат, когато търсим решения на предизвикателствата, пред които сме изправени, защото нашите проблеми били толкова нови. Това, вярвам, е неразумно.

Истина е, че през Средновековието нямаме Claude или ChatGPT, но се разказва, че Алберт Велики създал бронзова глава, която можела да отговаря на всеки въпрос. А по‑късни легенди твърдят, че неговият ученик, един определен Тома Аквински, за когото вероятно сте чували, раздразнен от непрестанното дърдорене на главата, я разбил на парчета. И това е първата известна реакция към „AI боза“ в историята.

Древната мъдрост често съдържа злато толкова чисто, че блясъкът му може да освети ситуации, които древните дори не са могли да си представят. Затова искам да ви разкажа една история. Много важна история, особено понеже се намираме тук, във Великобритания.

Преди много време, в Замъка на Граала, където Светият Граал и Копието на св. Лонгин се пазели в един параклис, рицар на име Балин влязъл в този замък. Той влязъл като гост, но тайно бил дошъл да убие един от другите гости, като така предал древния кодекс, който е поддържал цивилизацията цели хилядолетия. След убийството Балин бил преследван из залите на замъка, докато не се озовал в параклиса на Граала. И виждайки копието, което пронизало Христовия хълбок, и чашата, която приела Неговата кръв, той бил твърде заслепен от ярост, за да различи най‑дълбокото предназначение на тези предмети. Балин грабнал копието и нанесъл удар в слабините на Краля на Граала, правейки го импотентен и превръщайки цялото кралство в пустош.

Често мислим за Светия Граал и Светото Копие като за мистични предмети, но има един много важен начин, в който те са примери за технология. Чашата на Граала била съд, който постоянно се изпълвал с всичко, което човек може да пожелае да яде или пие. Тя била генератор на изобилие. А копието, разбира се, било оръжието, което нанесло върховния удар, пронизвайки самия Богочовек.

Тези два предмета съдържат граничните случаи на технологията, към които всяка технология се стреми. Едната страна се движи навътре — към увеличаване на изобилието. Другата се движи навън — към битките, необходими за придобиване или защита на това изобилие.

И от зората на времето това са двете основни цели на технологията. Едно и също парче остър кремък може да разоре земята или да убие врага ми.

След убийството в параклиса, Светият Граал бил изгубен и рицарите на крал Артур тръгнали на поход да го намерят. Обикновено се фокусираме върху търсенето на Граала, но често забравяме най‑важната част от този поход. Рицарят, който намери Светия Граал, трябва да зададе въпрос:

Кому служи Граалът?

Въпросът е по‑важен от намирането. Въпросът и неговият отговор са това, което ще изцели пустошта.

Именно този въпрос Балин забравил да зададе, когато грабнал копието в желанието си за власт. Той забравил да попита: Кому служат Граалът и Копието?

Днес нашият свят облажава онези, които намират по‑голямото, технологичното чудо — новото, по‑бързото, по‑силното нещо. Тези открития ни правят по‑могъщи, по‑ефективни в създаването на изобилие и по‑ефективни и мощни в убиването на враговете ни. Затова облажаваме онези,  които намират Граала. Но кой днес задава Грааловия въпрос?

Има някои, които го задават. Когато Рос Доует, който беше тук тази сутрин, попита Дарио Амодей, изпълнителния директор на Anthropic, защо е озаглавил своя оптимистичен технологичен есе „Machines of Loving Grace“ — кръстено на поема, в която хората губят своя суверенитет и стават като животни, управлявани от машини — мисля, че Рос задаваше Грааловия въпрос.

Когато Джонатан Хайд написа The Anxious Generation, документирайки зависимостта на нашите деца от екраните и ефекта върху тяхното здраве — той задаваше Грааловия въпрос.

Но странното е, че често хората, които разработват тези нови технологии, са същите хора, които ни казват, че те също така могат да доведат до пустош — предупреждавайки ни как могат да ни убият, докато самите те посягат към копието.

Как е възможно Илон Мъск да предупреждава, че изкуственият интелект е по‑опасен от ядрените оръжия, първо да умолява всички да спрат да го развиват, а накрая сам да започне собствена AI компания? Не ви ли е любопитно да попитате кого обслужва Palantir? Кому служи?

Не сме глупави. Знаем, че в историята, от която е взето името Palantir в Властелинът на пръстените, тази технология в крайна сметка служи само на тъмния лорд Саурон.

Когато технологичните олигарси строят бункери по острови и се подготвят за съдния ден, всички трябва да крещим: „Кому служи това? За кого е?“

През последното десетилетие се говори много за ескалационни капани от гледна точка на теорията на игрите — ситуации, в които заради конкуренцията определени технологии и системи, колкото и опасни да са, трябва да бъдат внедрени. И не просто внедрени — ние се надпреварваме да ги внедрим, защото се страхуваме да не изгубим състезанието.

Разбира се, това беше вярно за надпреварата в ядреното въоръжаване. Това е онова, което мнозина наричат капана на Молох. И изведнъж се връщаме към древни истории — истории много по‑стари от историята за Граала.

Молох, както вероятно знаете, е древно хананейско божество, което изисквало хората да жертват децата си в замяна на власт. А капанът на Молох е моментът, в който ескалацията, породена от конкуренцията за власт, ни кара да жертваме най‑ценното — дори когато това е против нашия собствен интерес.

И така — от страх, че Китай ще ни изпревари в развитието на изкуствения интелект, ние жертваме милиони работни места, водата си, енергията си, умовете на децата си. Всъщност жертваме самата способност да различаваме истинско от фалшиво — само и само да спечелим състезанието.

Разбира се, повечето теоретици на игрите не вярват, че Молох има някакво независимо съществуване. За тях той е механизъм. Но дори теоретици на игрите виждат, че Молох се движи — че иска нещо. И докато се състезаваме помежду си, ние ставаме неговите крака.

Ставаме неговите ръце. И въпреки себе си, водим това чудовище към собственото си възможно унищожение.

Докато всички най‑после съжаляват, че са дали на децата си таблети и телефони — правейки ги глупави, депресирани и зависими — ние се обръщаме и се втурваме да интегрираме изкуствения интелект във всичко. И така, независимо дали вярваме в хананейския бог или не, се оказваме, че жертваме децата си на него.

И все пак, както често казва Джордан Питърсън, ние действаме така, сякаш той е реален — и това е достатъчно, за да продължи чудовището да се движи. И виждаме как, докато изкуственият интелект преминава през всички наши системи, имаме интуицията, че вместо инструмент, който ни служи, може би ние ставаме тези, които служат на инструмента.

И откриваме, както Маршал Маклуън предсказа още през 60‑те години, че се свеждаме до това да бъдем репродуктивните органи на машината. Бог ли създаваме? А? Някои хора смятат, че да. Някои от хората, които създават изкуствения интелект, мислят, че да.

Ако е така — какъв бог създаваме?  Ако неконтролируемият капан на Молох и вероятно поклонението пред Мамон водят развитието му — какво да правим?

Ние сме в капана. Капанът е реален. Не се преструвам, че не е. Но не знам. Не знам какво да правя.  Вие не знаете какво да правите. Никой не знае какво да прави. На системно ниво — не знаем. Уловени сме. Котката — или по‑скоро змията — е изпусната от торбата. Не можем да я върнем обратно.

Балин вече е нанесъл гибелния удар в пристъп на власт, алчност и конкуренция. И ние чакаме — и ни казват, че ни предстои сътресение толкова голямо, че ще съперничи на всичко, което човечеството е преживяло от началото на времето. Така че просто да се сложим колана, нали?

Единственото решение, единственото истинско решение, което мога да си представя, е лично решение. Решение подобно на това, което Джордан Питърсън формулира като „оправи си леглото“.

Аз имам малко по‑различна версия: Отиди на църква.

И разбира се, когато казвам „отиди на църква“, имам предвид — да, отиди на църква. Определено отиди. Но по‑големият въпрос е: Ако не можем да получим отговор на въпроса кому служат тези технологии, то поне знайте кому и на какво служите вие. Служите ли на Мамон? Аз служа ли на Молох? Кому служим?

Ако не можем да спрем машината да поглъща всичко, тогава ти — и аз — трябва да станем истински човеци. По‑човеци от преди, за да можем поне в собствения си живот да останем господари на машината, а не нейни роби. И сме на правилното място, защото трябва да станем отговорни граждани — затова сме тук. Но също така отговорни родители, отговорни учители, отговорни ученици — заради себе си, но всъщност заради всички нас.

От индустриалната революция насам хората все повече възприемат образованието като нещо, което ти дава умение, за да си намериш работа. Мисля, че всички сте осъзнали, че тези времена са отминали. Аз казвам: назад към хуманитарните науки. Те ще станат най‑важните. Нека хората станат напълно човешки. Стани най‑добрият човек, който можеш да бъдеш.

Когато учим децата си да танцуват, да свирят или да спортуват, повечето от нас не го правят, за да станат професионалисти. Учим ги, за да станат повече човеци. И сега ще трябва да правим това с всичко.

Ако изкуственият интелект ни подтиква да изнесем паметта, уменията и знанието навън, тогава ние трябва съзнателно да развиваме памет, умения и знание вътре. Учете стихове, четете приказки, ходете на къмпинг, отглеждайте градина, участвайте в общността си, в семейството си, в отношенията си — и не забравяйте да се молите.

Това, разбира се, е екзистенциално очевидно и може да звучи малко сантиментално, когато го казвам. Разбирам. Но мисля, че всъщност това е техническото решение на проблема, пред който сме изправени.

Тези технологии ни правят по‑глупави. Правят ни васали. Това младо поколение е първото в записаната история, което има по‑ниско средно IQ от родителите си.  Така че — не мисля, че решението е да отидем на Марс, приятели. Или дори до Алфа Кентавър. Съжалявам, Ерик Уайнстийн, ако си тук. Ако изпратим в Марс умове, зависими от TikTok и пълни с AI боза, няма да променим нито един от проблемите си.

И същото важи за сливането с машината или за чипове в мозъка. Илон, нищо от това няма да те направи добродетелен. И единственото, което ще получим, са много мощни, но много счупени хора.

Онези, които са направили себе си напълно зависими — в мислене и навик — от тези технологии, ще се превърнат във васали на чудовището. И аз наистина вярвам, че само онези, които имат сияещи души, които са развили мъдрост и добродетел, които са практикували истина и любов — само те ще оцелеят и ще процъфтяват в предстоящия AI апокалипсис. Лично, общностно, а мисля дори и професионално.

Независимо дали нещата се развият така, че AI стане повсеместен и просто ни помага, или дали доведе до опустошение — мисля, че има само едно решение: стани напълно човек. Такъв човек, на какъвто се възхищаваме във великите истории. Човек, който служи на нещо повече от своята алчност и власт.

И тогава — когато строим, каквото строим, ще бъде по този образ. И когато се изправим пред Граала, ще имаме силата да зададем въпроса: Кому служи Граалът? И в крайна сметка ще имаме присъствие на духа да зададем и отговорим на това, което мисля, че е най‑важният въпрос от всички: Кому служа аз?

Благодаря ви.