Westworld | За науката в Зловещата долина

Зловещата долина (на куклите) от Запада

Дългоочакваният сериал Westworld стартира тази седмица и все още продължавам да си мисля за първия епизод и да дисектирам пласт по пласт (платка по платка?) сцени и идеи от него.

Всички наоколо споделят много положителни реакции, но на мен ми се иска да прескоча очевидното (наистина впечатляващ актьорски състав; висококачествена продукция базирана на оригинала създаден от Крайтън; препратки към класическата литература; заявка за много качествен sci fi; жесток саундтрак и т.н) и да задълбая малко по-дълбоко в това как сериалът прави препратки или задейства като далечно ехо действителните развития в областта на когнитивната наука, роботиката и опитите за създаване на изкуствен интелект.

[Не четете по-нататък, ако не сте гледали първия епизод. Също така: идеите в текста са базирани изцяло на сегашната история и света на сериала Westworld, не на оригинала на Майкъл Крайтън]

Независимо дали е нарочно търсен ефект или любопитно (подсъзнателно?) съвпадение: това, че “инженерите” на този “Западен” свят гледат надолу към една огромна долина-макет на човешкия свят е поразителна препратка към един от крайъгълните камъни в роботиката: идеята за Зловещата долина.

Героите и зрителите не само изпитват “синдрома” на Uncanny Valley- цялото действие се развива в долината на един привидно цивилизован и контролиран от интелект свят, който при по-задълбочено вглеждане (ще) става все неправомерен, изкривен и зловещ. Но да започнем отначало:

 

Какво е Зловещата долина от научна гледна точка?

През 1970 японецът Масахиро Мори забелязва интересна зависимост по време на заниманията си като професор по роботика. Той наблюдава емоционалните реакции на странични наблюдатели спрямо различни видове роботи. По принцип хората реагират с повишаваща се емпатия и положително отношение към машини с поне някакъв набор от наподобяващи човек характеристики: лице със загатнати очи и уста, 4 крайника и т.н.

Когато обаче приликата стане прекалено силна, осъзнаването на несъответствието между роботът и истинските хора пробужда силно негативна емоция и отблъскване у наблюдаващия.

Няколко години по-късно японската концепция на Мори е преведена на английски като хипотеза за “Зловещата долина”| Uncanny Valley: на името на резкия спад в емоционалната реакция спрямо силно наподобяващи, но все пак различни от истинските хора обекти. 

The Uncanny Valley

Учените и философите на науката, които се занимават с изследването на проблема, имат многобройни предположения какво точно поражда този ефект. Например, ако обектът прилича на жив човек, но всъщност е неодухотворен обект, се предизвиква асоциация със смъртта, към която имаме вродено негативна реакция. Друг вариант: неестествеността (нетипични черти и пропорции, неестествен цвят на кожата и т.н) се възприема от мозъка като сигнал за наличие на мутации или патогени, които са нарушили нормалния вид на човек и това ни отблъсква, и т.н. Една от най-добре подлежащите на емпирично тестване хипотези е за когнитивния дисонанс породен от привидно познати, но интегрирани по нов (или странящ от нормата) начин маркери за възприятие. Обикновено последните са свързани с отделни зони в мозъка, специализирани във възприемането на различни категории обекти: одухотворени и неодухотворени.

През последните няколко години в University of California San Diego се провеждат изследвания с функционален ядрено-магнитен резонанс (fMRI), които целят да установят, т.нар невронен субстрат или физическите структури в мозъка, участващи в обработката на информация при възприятието на различни образи: истински човек, механичен робот и андроид с човешки вид (Още по темата).

Brain activity images
Активация в различни зони в мозъка при трите групи визуални стимули: механичен робот, андроид, човек

На втория ред можете да видите оцветени в червено зоните, които се активират при наблюдаване на андроид, имитиращ вида на човешко общество. Интересното е, че те се намират предимно в теменния дял на мозъка (parietal lobe, мързеливо преведен като париатален лоб в доста източници).

Какво означава това?

Жестове, андроиди и теменния дял на мозъка

Помните ли как в епизода подобряването на приликата с истински човек беше постигнато с  един почти незабележим жест? Жест за постигането на който е сменен кодът на партида ставащи все по-неконтролируеми роботи?

Споменатите по-горе изследвания обясняват защо той е толкова важен. Теменният дял в мозъчната кора е разположен между регионите, отговарящи за визуално възприятие и двигателни способности. Той интегрира информацията подадена от съседните му зони и ако нещо не е наред подава нещо като сигнал Error 404: Movement not found.

 С други думи: дори микроскопично накъсване на дадено движение, неестествен жест или мимика, която изглежда по начин, различен от нормалния, изискват повече дейност от тази зона, за да се справи с интегрирането.

С още по-прости думи: благодарение на зоната активирана в случай на Uncanny Valley мозъкът разбира, че нещо с това движение/обект/”човек” просто не е наред, защото не би трябвало да изглежда така.

И тук нещата стават много “мета” благодарение на отличните актьори. Когато те вкарват малки несъответсвия/minor glitches/ в мимиките и движенията си, когато са извън ролята си в тематичния парк. Получава се нещо като Reverse Uncanny Valley: колкото и да приличат на андроиди, има нещо малко в движенията, което издава, че са хора.

Разбира се, по всичко личи, че историята ще поеме по добрата стара sci fi пътека, предначертана още от Р.У.Р на Чапек, откъдето тръгва названието робот. Знаем че рано или късно машините ще се изправят срещу създателите си: по-интересното е кои от самите създатели са машини.

Още по-интересното: кои са машини без да го знаят (малко Battlestar Galactica за андроиди). Щом има Reverse Uncanny Valley, трябва да има и Reverse Turing Test: кой андроид е толкова добър, че е успял да заблуди дори себе си, че е човек?

Keep Calm: скоро няма да има Skynet

Точно толкова близо сме до осъществяването на Skynet и Westworld, колкото до Jurassic Park. И аз преди смятах (на базата на статии в медиите и попкултурни митове), че това бъдеще е точно зад ъгъла. Докато професорите ни в университета не стовариха едни безкрайни купчини от книги, статии, лекции, дикусии и семинари по въпроса и осъзнах колко малко знаем по темата, колко още много има да се изследва и колко безкрайно НЕнаясно са с това медиите, търсещи вечната сензация и най-лесните, опростени отговори.

 От гледна точка на сериозните изследвания в когнитивната и невронауката има още безкрайно много мостове за свързване между брегове, на които учените тепърва стъпват.

Изкуственият интелект се справя по-добре от който и да било човек в изчислителни задачи, взимане на решения в сложни ситуации като казусите в теория на игрите, обработка на счетоводна информация и т.н. По отношение на елементарни за хората ежедневни неща като ориентация в пространството и дори визуално възприятие ще бъдете шокирани колко безпомощни са роботите и AI, ако не разполагат с детайлно ръководство, създадено от човек.

Стигне ли се до семантика, абстрактно значение, съзнателни процеси и използването и разбирането на естествен език: AI все още е доста далече от човешкия ум. Една от основните причини е, че ние самите все още научаваме стъпка по стъпка как фунционират мозъците ни и докато не го разберем няма как да го повторим.

PR  акции като роботът, с който Морган Фрийман говори в документалния филм Историята на бог, не са нищо повече от заблуда в търсене на корпоративно финансиране. Театрална заблуда, която изглежда удивително на обикновения зрител, но само на него.

Роботът там работи с напълно скриптиран набор от възможни теми, възможни шеги по тези теми и възможни отговори за хитроумно заобикаляне на въпросите на водещия. Като Siri и други сходни опити: огромно количество съдържание налято с механизъм, който предвижда в какви ситуации да се използва. Механизмът изпълнява задачи: той не разбира какво казва, защо го казва и какво значение има това за събеседника му: основни критерии за наличие на (само)съзнание.

Ако си спомняте в сериала това е и един от критериите дали роботите си спазват задълженията: придържат ли се към “сценария” 😉

Границата на съзнанието |The frontier of the mind

Един от най-важните исторически и литературни мотиви в историята на заселването на Северна Америка е тази за Границата. The frontier (от фр. frontiere) е не просто граница (border), не просто линия на разделение между отделни териториални или политически единици. Тя е зона на преход: пространството, до което са стигнали заселниците със своите разбирания за цивилизация, докато избиват и избутват в ъгъла местните, които им изглеждат като диваци в нивото си на развитие.

Звучи ли ви точно като анти-утопиите за машините, които ни изместват от собствения ни свят?

Другото значение е това на последната граница, отвъд която всичко е възможно, the final frontier. Ръбът на цивилизацията: ще изгубим ли здравия си разум отвъд този ръб? И притежаваме ли го изобщо? Къде е границата между нас и машините?

Противопоставянето на машина vs съзнание най-добре се прокрадва в препратките към постиженията на човешкото въображение, които не могат да бъдат имитирани от компютърни алгоритми. В сериала чухме цитати от Крал Лир, Ромео и Жулиета, “Розата е роза е роза е роза” на Гъртруд Стайн; чухме андроидни кавъри на Black hole sun и Painted Black, но ги познахме въпреки всичко.

Сигурна съм, че скоро ще чуем и емблематичните цитати от Хамлет

There are more things in Heaven and Earth, Horatio, than are dreamt of in your philosophy.’

и най-вече от Както ви се харесва:

All the world’s a stage, And all the men and women merely players; They have their exits and their entrances, And one man in his time plays many parts

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s