Hlavní navigace

James Williams (University of Oxford): Technologie mají pracovat pro nás, ne proti nám

Marek Janouš

Obchodní cíle informačních technologií je třeba sladit s potřebami lidí, než bude příliš pozdě. James Williams hledá způsoby, jak na to.

Doba čtení: 9 minut

James Williams vystoupil jako hlavní zahraniční řečník na nedávné konferenci Czech Internet Forum 2017, kde promluvil o tom, jak nám ekonomické prostředí založené na soutěži o lidskou pozornost, která je omezená, a proto vzácná, brání v tom, abychom v životě usilovali o to, oč stojíme opravdu.

Co mi můžete říci o sobě?

V roce 2005 jsem nastoupil do Googlu a pracoval na jejich reklamním systému a produktech. Před několika lety jsem však odešel do Oxfordu věnovat se doktorandskému výzkumu, ale částečně jsem pokračoval v práci pro Google v Londýně. Připadalo mi důležité spojit práci v oboru s pohledem akademickým a myslím, že potřebujeme více takových přemostění.

V angličtině Williams hovořil o „attention economy“.

Google jsem opustil teprve loni a pokračuji ve svém výzkumu na Oxfordu, který už takřka dokončuji. Také píši knihu, bude to pohled na společenské dopady pozornostní ekonomiky.

O té jste měl keynote na konferenci CIF 2017. Jak se může vámi nastíněný neutěšený stav změnit?

Je to problém složitý, vpravdě systémový, netýká se jen určitých firem nebo služeb. Uživatelé se mohou bránit jen do určité míry a návrháři služeb mohou zmírnit některé dopady, ale největší možnost ke změně by naskytlo nalezení nových obchodních modelů náhradou za závislost na reklamě. Myslím, že potřebujeme vytvořit takové prostředí, ve kterém by podniky usilovaly o jiné obchodní modely než ty založené na hromadném unášení a přesměrovávání naší pozornosti.

Při poslechu vaší keynote mi připadalo, že přikládáte jen malou váhu síle jednotlivcovy vůle…

Z pohledu morálního a etického je pro mě lidská vůle na předním místě a právě tu je třeba ochránit. Máme vůli, ale technologie jsou cíleně navrhovány tak, aby se jí prolomily. Jedním z významných poznatků v oboru psychologie za několik posledních let je vliv prostředí na utváření toho, jak přemýšlíme a jak se chováme.

Prostě nevidím důvod myslet si, že by lidé skutečně mohli účinně odolávat všem technologickým svodům vlastní vůlí, je‑li cíleně podkopávána právě jejich vůle. Máme meze svých možností. I kdybychom se dokázali ubránit, samo o sobě by nás to stálo tolik sil, že by nám už nezbývalo na to, po čem toužíme opravdu.

A odmítám vůbec představu, že bychom se měli smířit s tím, že technologie jsou stavěny proti nám, protože smyslem technologií má být vylepšovat naše životy, pomáhat nám dosahovat toho, co si přejeme.

Můžeme snad uvažovat o nějakém zásahu zvenčí, který by napravil současné prostředí?

Úlohu určitě může sehrát regulace, pokud je to správná regulace. Jde o to zachovat svobodu lidí vědět, co se děje, zatímco užívají technologií. Většina dnešních uživatelů webu si ani neuvědomuje rozsah toho, nakolik celý web převážně závisí na příjmech z reklamy; většina lidí si ani není vědoma podstaty té ekonomické transakce, když za něco platí svou pozorností.

Myslím, že důležité je i to, jak o tomto problému hovoříme. Ve vystoupení na CIF17 jsem se zaměřil i na jazykovou stránku věci, o níž jsem v poslední době hodně uvažoval… Protože nedokážeme napravit to, co neumíme pojmenovat. Proto mě hodně zajímá vznik nových slov, jako například „clickbait“ – přesně víme, co tím myslíme, ale než vzniklo toto slovo, neměli jsme opravdu jak ten jev uchopit.

Nebo například „fake news“. A lidé se obvykle domnívají, že potíž s „fake news“ spočívá v tom, že nejsou pravdivé, ale já vidím jako podstatné to, že za nimi je obchodní model spočívající v působení především na naše pudy, než že by se snažily oslovit naše rozumové vědomí.

Jak by mohla jakákoli regulace uspět? V současnosti musí lidé odsouhlasit mnohé podmínky a prostě je jen odkliknou…

Je to složité, i proto, že internet je globální a regulovat lze spíš na úrovních národních…

Částečně se můžeme inspirovat ochranou ovzduší. Díky tomu, že jsme vymezili a změřili znečišťování, mohli jsme zavést obchodování s emisemi. Není to dokonalé, ale pomáhá to.

Nemyslím, že je nerozumné myslet si, že by něco podobného mohlo pomáhat kultivovat prostředí pro naši pozornost. Nebyla by to jediná odpověď, spíš část širší skládačky. Avšak určitě potřebujeme schopnost měřit tento problém a vůbec jej myšlenkově uchopit.

A mimoto můžeme usilovat o průhlednost. Je už mnoho pravidel týkajících se nakládání s údaji, ale nejsou žádná, pokud jde o přesvědčovací úsilí technologických služeb. Můžete se zajímat o to, jak Facebook nakládá s vašimi údaji, ale nemáte jak se dozvědět, jak a k čemu se snaží nasměrovat vaše chování.

Kdybyste měl právo vidět ty metriky, které oni mají na obrazovkách, bylo by to určitě užitečným vstupem do veřejné rozpravy o nesouladu mezi skutečnými lidskými tužbami a mezi povrchními, malichernými cíli obsaženými v těch metrikách, pro které jsou tyto technologie optimalizovány.

Stojíme přitom na prahu toho, že ještě více zůstane skryto za oponou – v souvislosti s hlasovým ovládáním a s inteligentními pomocníky založenými na volné promluvě.

Ovšem musíme být opatrní v tom, kdy a jak se uchýlit k regulaci, avšak myslím, že jsou případy, ve kterých toho nástroje lze využít.

Část problému spočívá v tom, že značná moc utvářet naši pozornost je celosvětově soustředěna v několika málo společnostech; lidé s tou mocí by se nejspíše vešli do této místnosti. Ale to také skýtá příležitost: můžeme dosáhnout mnohého, už jen zaměříme‑li se na těch několik společností.

Je poměrně snadné vystrašit lidi tím, že údaje o nich budou zneužity, ale chtějí lidé opravdu znovuovládnout svou pozornost?

Pozornostní ekonomikou a tím, co z ní plyne, určitě nejsou vystrašeni dost. Nikdy dříve v dějinách jsme nezažili tak mocnou přesvědčovací sílu a v takovém rozsahu, nemá to precedens. Přitom významná část naší každodennosti je utvářena a řízena informačními technologiemi.

Ty nám škodí po malých dávkách, a tak to vnímáme jen jako drobná vyrušení, drobné mrzutosti, protože si nepřipouštíme dostatečně, že trpíme nenasytným sklonem podléhat rozptýlení.

Musíme o tom začít přemýšlet v pojmech hlubších než jen jako o vyrušeních – jde o směřování našeho života. Naše životy jsou utvářeny technologiemi, ale zasluhují tyto technologie naši důvěru? Ne‑li, jak to můžeme změnit?

Co je vaším osobním cílem ve vztahu k tomuto problému?

V nejbližším výhledu mi jde o rozšiřování povědomí a našich poznatků o pozornostní ekonomice. Snažím se posunout kupředu, jak o tomto problému dokážeme přemýšlet, a část mého výzkumu se týká lepšího měření a vyčíslení některých nákladů pozornostní ekonomiky.

Konečným posláním mé snahy však je uvést v soulad cíle technologií s cíli lidí: převedení technologií na stranu uživatelů tak, aby nestály proti nám.

James Williams je doktorandem Oxfordské univerzity a vítězem nové významné výroční literární ceny Nine Dots Prize. Ve své práci se zaměřuje na etické aspekty práce s lidskou pozorností a přesvědčovací prvky technologického designu. Je také spoluzakladatelem kampaně Time Well Spent. Předtím působil více než deset let u společnosti Google, v níž obdržel nejvyšší ocenění Cenu zakladatelů.

A domníváte se, že firmy mohou nalézt nové cíle, které by vyhovovaly jim, ale zároveň by byly v souladu s potřebami lidí?

Určitě. Myslím, že opravdovým smyslem podnikání je sloužit potřebám lidí, a pokud se tak neděje, je to špatně. Představíte‑li si cíle podniků a potřeby lidí znázorněné jako množiny Vennovými diagramy, potřebujeme se dostat do takového stavu, aby se podnikatelské cíle i potřeby lidí nalézaly v průniku.

Současné technologické prostředí bylo navrženo pro nás bez nás. Neměli jsme možnost dostatečně se k němu vyjádřit. Připadá mi to, jako kdyby všichni lidé na světě byli nuceni bydlet jen ve dvou nebo třech různých uspořádáních příbytku, navržených někým, kdo tím sledoval nějaké vlastní cíle, jak na lidi působit, namísto toho, aby si lidé stavěli a pořádali svoje domovy podle vlastních potřeb.

Zhoršuje se průběžně stav našeho digitálního prostředí?

Z mého pohledu se rychle zhoršuje a hrozí, že se dostaneme za hranici možného návratu, že ztratíme pojem o tom, jaké to bylo předtím, než jste mohl mít přístup kdykoli ke kterékoli informaci o komkoli.

Jsou-li tyto technologie cosi jako GPS pro mysl, tak kdyby to došlo tak daleko, že bychom zapomněli, kam jsme opravdu chtěli jít, pak by to bylo opravdu vážné. Doufám, že se ještě dokážeme stočit správným směrem.

Nejde ovšem o návrat do jakéhosi ráje lidské pozornosti, jde prostě o to, abychom si svou pozornost řídili sami.

Kdy se asi tak dostaneme za bod možného návratu, neučiníme-li nic?

To odhadnout neumím. Jenom myslím, že překročíme-li tu hranici, poznáme to.

O čem bude vaše kniha především?

Knihu píšu pro Cambridge University Press v rámci toho, že mi nedávno udělili cenu Nine Dots. Prvním ročníkem této ceny vyzvali k příspěvkům přinášejícím odpovědi na otázku, zda digitální technologie znemožňují politiku.

Hlavním argumentem v mé knize bude to, že pozornostní ekonomika upřednostňuje spíše snahu zasáhnout naše pudové a automatické , nežli oslovit to , se kterým se ztotožňujeme ve svém vědomí.

Demokratické zřízení přitom předpokládá určitý způsob myšlení, uvažování a rozhodování – jak jednotlivců, tak co do rozpravy ve společnosti.

Kniha bude v zásadě o tom, jak zákonitosti pozornostní ekonomiky podkopávají základy demokracie, protože podněcují spíše nízké pohnutky jako rozhořčení či davová hnutí – co Sókratés nahlížel jako to, co demokracii navrací k tyranii.

Na sám návrh digitálních technologií musíme pohlížet jako na otázku politickou, protože vnímáme‑li společnost kolem nás skrze technologie, jež však náš pohled zkreslují, je to prvořadá otázka politická.

Budou příští pokolení natolik utvářena technologiemi, že ztratí schopnost udržet demokracii, jak ji známe?

Myslím, že takové účinky můžeme pozorovat už dnes.

Uvedete příklad?

Za přelomové považuji zvolení Trumpa v USA. S každým médiem zacházejí nejlépe ti, kteří nejlépe rozumějí jeho omezením. V době televize jsme měli prezidentem Ronalda Reagana – herce. A guvernérem Kalifornie byl „Terminátor“. V době pozornostní ekonomiky vyhrává ten, kdo přitáhne co nejvíc pozornosti.

Trump je podle mě vzorový příklad, jak to chodí v pozornostní ekonomice, toho cílení na pudové pohnutky, pobízení k malichernosti, upřednostňování krátkodobých vítězství před dlouhodobými, snižování váhy toho, co společnost spojuje, ve prospěch zisku politických bodů…

Hodně mě v poslední době ovlivnila kniha „What is populism“ od Jana‑Wernera Müllera. Ten v ní píše, že populismus nespočívá jen v tom, co široce podporují lidé, ale jestliže se politika určitým způsobem moralizuje – jestliže určitá skupina lidí ujišťuje sama sebe, že právě oni jsou pravověrní.

Content 2018 Tip Záhoř

To vnáší do politiky psychologii morálky. A hodně se to zesiluje tím, jak často má politická rozprava povahu rozhořčení – už nejde o předmět rozpravy, jde o ukázání příslušnosti ke správné skupině; rozhořčení poskytuje člověku mnohé psychologické výhody.

Myslím, že pozornostní ekonomika se přímo podílí na současném stavu politiky a na rozštěpení společnosti.

Našli jste v článku chybu?