Въобразеното бъдеще

“Уилям Гибсън е написал в един от разказите си, че “улицата намира собствени употреби за нещата”, и това все още е вярно – от хората зависи как ще се развият технологиите и за какво ще бъдат използвани”, казва Александър Попов. Той е част от екипа на списанието за фантастика, култура и футурология ShadowDance, а освен това се занимава с изследвания в областта на компютърната лингвистика и изкуствения интелект и преподава научна фантастика в катедра “Англицистика” в Софийския университет “Св. Климент Охридски”. Повод за срещата ни с него е темата за бъдещето на човечеството и компютърните технологии. “Ключовото е, че това е до голяма степен политически въпрос, който ще се реши в сблъсък на интереси. Колкото по-добре го осъзнаваме, толкова по-голям шанс имаме технологиите да работят за нас, а не обратното”, продължава Александър. Според него в един по-философски план големият въпрос е дали ще намерим начин да ги използваме, за да усилим творческия си потенциал, или самите ние все повече ще се превръщаме в периферни устройства.

Александър Попов / Фотограф: Боряна Пандова

Какво следва от това, че технологиите изземват все повече от дейностите на човека? “Процесът на автоматизация не е никак нов и от него не следва задължително, че човекът ще стане излишен, но може би следва, че човешката работа ще се променя по начини, които е трудно да предвидим”, казва Попов. “Преди почти век икономистът Джон Мейнард Кейнс, известен като архитект на следвоенното възстановяване на западния свят, прогнозира, че в бъдещето хората ще имат все по-къс работен ден и че тогава предизвикателството пред тях ще бъде да намерят как да реализират собствения си потенциал при наличието на толкова много време. В действителност днес работим доста повече, въпреки че автоматизацията би трябвало да е отнела огромна част от бремето върху ни. Причината не е по същина технологична, а икономическа живеем в система, която изисква постоянен растеж. За да го постигне, тя използва технологиите, включително изкуствения интелект, така че да оптимизира и ускори човешкия труд още повече.”


Александър Попов / Фотограф: Боряна Пандова

Всичко обаче би се променило при появата на т.нар. “силен” изкуствен интелект, който би бил способен да имитира всички човешки дейности, включително емоции и автентично творчество. На теория изкуственият интелект би могъл да започне да подобрява сам себе си, докато стигне до състояние на “свръх изкуствен интелект”, по думите на шведския философ Ник Бострьом. “Да разберем как и с какви цели функционира такъв “свръх изкуствен интелект”, би било извън човешките способности, както извънземната Зона от “Пикник край пътя” на братя Стругацки е напълно непонятна за хората и както океанът в “Соларис” на Станислав Лем е непроницаем за науката”, обяснява Попов. При такъв сценарий човекът би могъл и да стане излишен. “Но засега все още можем да разчитаме на себе си и да се опитваме да развиваме тази технология така, че да ни позволява да бъдем все повече човеци, вместо обратното”, успокоява ни той.

Всъщност “по-глупавите” изкуствени интелекти крият не по-малко опасности. Бострьом предлага мисловни експерименти в тази посока – изкуствен интелект, натоварен със задачата да премахне рака, би могъл в някакъв етап да се опита да убие всички болни от рак. “Преди да сме способни да произведем истински интелигентни машини, трябва да знаем как да отгледаме в тях ценности, съвместими с човешките. В такъв случай това на практика би означавало да създаваме хора. За всички е ясно, че това отворя съвсем нова кутия на Пандора, гъмжаща от морални дилеми. Затова би било разумно да предположим, че изследванията на изкуствения интелект и на човека все повече ще се сближават в бъдеще.” Ето защо Попов мисли, че е изключително важно да се пише силна, смела и критична фантастика, която да поставя под съмнение настоящето и да задава все по-настойчиво и интересно въпроса за границата между човешкото и нечовешкото (машинното, но и не само). Ако все повече хора си го задават, това вероятно би довело до направата на технологии, които ще работят за намаляването на страданието – човешко и нечовешко.


Александър Попов / Фотограф: Боряна Пандова

Новите технологии отдавна са навлезли в изкуството – писането на разкази, романи, игри чрез хипертекстови връзки прави бум още през 90-те години. “Днес дигиталната среда позволява все по-лесно и ефектно да се експериментира със смесването на форми – майсторят се романи с нелинейна структура (например “Аркадия” на Иън Пиърс, замислен специално за платформата iOS), дигитални комикси, които използват екрана не просто като светещ лист хартия, а като медия със собствени закономерности, колаборативни художествени светове под формата на интернет енциклопедии”, разказва Попов. Вече има и романи, писани в съавторство между изкуствен интелект и човек – например “Pharmako-AI” на KAllado-McDowell, написан в колаборация с езиковия модел GPT-3. С навлизането на изкуствения интелект в изкуството, опасностите вероятно са също толкова много на брой, колкото и възможностите. Биологът Доналд Кракауер говори за два типа технологии, които взаимодействат с човешките познавателни способности: “допълващи” и “съперничещи” със собствения ни интелект. Допълващите ни позволяват да усилим вече наличните ни способности, както калкулаторът. Съперничещите правят обратното, заместват ги и водят до атрофията им например все по-често си купуваме продуктите, които ни предлагат алгоритмите в социалните мрежи, до степен, че в някакъв момент способността ни да вземаме решения може да ерозира. Същите процеси биха могли да се развият (и вероятно вече се развиват) в изкуствата. “Затова трябва да подхождаме критично и да търсим дълбочинно разбиране за формите, за това как работят и за какво могат да служат. Хуманитарните и социалните науки са не по-малко важни за бъдещето ни от инженерните и фундаменталните дисциплини”, завършва Попов.


Мариана Тодорова / Фотограф: Боряна Пандова

Футурологът Мариана Тодорова е основател и ръководител на българския клон на глобалния тинк-танк “Милениум проджект”, доцент в Института по философия и социология към БАН и автор, който работи над третата си книга – за технологичното и геополитическо бъдеще на света и новия световен ред. Освен огромното значение на изкуствения интелект, тя посочва като повратна точка за човешкото бъдеще и откритието на квантовите компютри. “Това би извело компютрите на едно съвсем ново равнище като бързина и комплексност на решаване на проблеми”, казва тя. Ключово е дали държавата или корпорацията, която успее да създаде подобно устройство, би задържала монопола върху него или би го споделила с останалата част от света. “Тук вече можем да говорим за изключително голямо предимство, за рязък скок в еволюцията с 50 или 100 години напред и дори за обособяване на нова човешка раса”.


Мариана Тодорова / Фотограф: Боряна Пандова

Друга посока, в която биха могли да се развият взаимоотношенията между човека и машините, е интерфейсът мозък-компютър (brain-computer interface). Докъм 2015-2016 г., разказва Тодорова, Илън Мъск е вярвал, че, за да е уравновесен и балансиран, изкуственият интелект трябва да бъде отворен, така че в него да попадат всякакви данни. При опити със самообучаващи се чатботове, вързани към социалните мрежи, обаче резултатите са тъкмо обратните – започват да доминират агресията и крайностите. “Мъск никога не го е казвал открито, но ми се струва, че в последните години за него единственият начин човечеството да продължи да съществува заедно с изкуствения интелект е чрез технологичния прогрес на самия изкуствен интелект. Така се ражда концепцията за интерфейса мозък-компютър”, обяснява тя. Компанията на Мъск Neurolink започва експерименти с прасета и шимпанзета, вграждайки такива устройства в черепните им кутии. През 2021 г. е показано как някои от опитните животни вече могат да побеждават в някои елементарни компютърни игри. “Основният проблем при такова взаимодействие е спазването на законите на термодинамиката, тоест белтъкът да запази своята форма и да не се изпържи от прегряване, докато се предава информация от чист белтък към силиций, каквито са повечето такива устройства. Затова вероятно ще се работи по това устройството да бъде имплантирано не директно в мозъка, а да бъде изведено извън черепната кутия”, коментира Тодорова, подчертавайки, че тук навлизаме в границите на това, което за някои ще е утопия, а за други – дистопия.


Мариана Тодорова / Фотограф: Боряна Пандова

Има ли опасност в този смел нов свят човекът да стане излишен? “От Ренесанса насам сме свикнали човекът да бъде център на Вселената, а той вече може да бъде вторичен елемент. Дори да упражняваме контрол над изкуствения интелект, можем да загубим екзистенциален смисъл”, разсъждава тя, защото благодарение на новите технологии много човешки професии биха изчезнали поради стремежа на корпоративния сектор и капитализма към оптимизация на производството. А при наличие на силен или свръх изкуствен интелект можем да изгубим какъвто и да било контрол. “За мен идеалната формула би била да следваме препоръката на американския инженер Ерик Дрекслер, един от популяризаторите на нанотехнологиите, който напоследък доста говори за изкуствен интелект. Той смята, че трябва да го запазим до сегашното му ниво – за набор от услуги във всички области, но не и за нещо повече, което би могло да промени нашата същност и да ни накара по-скоро ние да се адаптираме към технологиите, отколкото те да ни служат.”