S tím, jak algoritmy strojového učení čím dál více ovlivňují rozhodování v byznysu, politice a společnosti, tlak na poskytování více osobních dat bude narůstat, zatímco ochrana soukromí bude pomalu, ale jistě narušována. Pokud těmto technologiím nedáme patřičné mantinely, dovedou nás k takovému politickému systému, jaký jsme si rozhodně nevybrali, píše ve svém příspěvku pro Světové ekonomické forum Mark MacCarthy z Georgetown University.
Přibližně v roce 1200 před naším letopočtem vytvořila v Číně dynastie Shang tovární systém na odlévání obrovských bronzových soch určených pro každodenní životní rituály. V této rané době masové produkce vyžadoval proces odlévání bronzu složité plánování a koordinaci velkého množství dělníků, z nichž každý měl na starosti konkrétní činnost v přesně stanoveném pořadí. Podobně komplexní proces byl použit i o tisíc let později pro výrobu proslulé terakotové armády prvního čínského císaře Qin Shi Huanga. Jak uvádí Muzeum asijského umění v San Franciscu, sochy byly vytvořeny za použití systému montážní linky, který dal později vzniknout systému masové produkce a obchodu.
Někteří vědci se domnívají, že tyto prvotní formy příkazového systému hrály roli ve formování čínské společnosti. Mimo jiné tím, že přiměly lidi akceptovat byrokratické struktury, sociální filozofii stavící na hierarchii a přesvědčení, že existuje jen jeden správný způsob, jak se věci mají dělat. Když potom v devatenáctém století začaly v Evropě vznikat továrny, i nejzatvrzelejší kritici kapitalizmu jako Friedrich Engels uznávali, že masová produkce vyžaduje centralizovanou autoritu, ať už byl daný ekonomický systém kapitalistický nebo socialistický. Ve dvacátém století pak teoretici jako Langdon Winner rozšířili tento předpoklad i na další technologie. Winner se domníval, že například jaderná bomba má být posuzována jako ve své podstatě politický lidský výtvor, protože její „smrtící vlastnosti vyžadují, aby byla ovládána centralizovaným, striktně hierarchickým řetězcem velení“.
V dnešní době můžeme toto uvažování dále rozšířit například na algoritmy strojového učení, nejdůležitější současnou technologii určenou pro obecné účely. Takové algoritmy se dnes stávají na pracovišti všudypřítomné tím, že používají příklady z reálného světa, aby napodobily lidské poznávací kapacity. Nicméně aby organizace mohly plně využít tyto technologie, musí redefinovat lidské úkoly jako úkoly predikce, které tak lépe sedí přednostem těchto algoritmů.
Hlavním rysem těchto strojově učících algoritmů je, že se jejich výkon zlepšuje s větším množstvím dat. Což vede k tomu, že informace o lidech se posuzují jako zaznamenatelná a dosažitelná data. Stejně jako v systému masové produkce jsou tato data ve své podstatě politická, protože jejich klíčová funkce vyžaduje určité sociální praktiky a odrazuje od jiných. Strojově učící algoritmy jsou tak v přímém rozporu s požadavkem jednotlivce na ochranu soukromí.
Systém založený na volné dostupnosti dat o jednotlivci může být snem komunitaristů (opak stoupenců individualizmu) jako Amitai Etzioni, pro něž jsou omezení soukromí způsobem pro vynucování sociálních norem. Ale na rozdíl od komunitaristů jsou algoritmy netečné k sociálním normám. Jejich jediným zájmem jsou lepší předpovědi transformací více a více oblastí lidského života v data, která mohou být těžena.
A navíc, zatímco moc technologického imperativu mění individualistické obyvatele Západu v komunitaristy, činí je i více zavázané kultuře meritokracie (přesvědčení, že ekonomická a politická moc má být distribuována na základě úsilí a dosažených výsledků) založené na hodnocení algoritmů. Ať už je to v práci, ve škole, nebo dokonce v případě seznamovacích aplikací, už jsme si zvykli na hodnocení naší způsobilosti neosobními nástroji, které nám potom přiřadí pozici v hierarchii.
Aby bylo jasno, hodnocení pomocí algoritmů není nic nového. Už v předchozí generaci vědci jako Oscar H. Gandy varovali, že se z nás stává společnost založená na hodnocení a přiřazování pozic v hierarchii. Požadovali proto více odpovědnosti a nápravu chyb způsobených technologiemi. Ale na rozdíl od strojově učících algoritmů byly starší nástroje hodnocení dobře chápány. Jejich rozhodování totiž bylo založeno na relevantních normativních a empirických faktorech. Nebylo například tajemstvím, že akumulace dluhů na kreditních kartách vedla ke snížení úvěruschopnosti dlužníka.
Naproti tomu moderní algoritmy se hluboce zanořují do velkého množství dat, aby nalezly korelaci, které mají předpovídající hodnotu, ale jsou obtížně chápány. Na pracovišti můžou algoritmy sledovat konverzaci zaměstnanců, kde obědvají a kolik času stráví na počítači, telefonu nebo na mítincích. A s pomocí těchto dat pak vytvořit sofistikované modely produktivity překonávající zásady zdravého rozumu. V novém systému meritokracie algoritmů se novým standardem excelence stává cokoli, co modely vyžadují.
Technologie však není osudová. My lidé ji utváříme dříve, než ona utváří nás. Vedoucí osobnosti byznysu a politici můžou vyvinout a nasadit technologie, jaké budou jejich instituce potřebovat. V naší moci je pak vytvořit bariéry chránící citlivé oblasti lidského života, aby byli lidé ochráněni od škodlivého užití dat. My lidé rovněž můžeme požadovat, aby algoritmy vyvažovaly přesnost předpovědí s hodnotami jako férovost, odpovědnost a transparentnost.
Ale když budeme následovat přirozený tok logiky algoritmů, více meritokratická a komunitární kultura bude nevyhnutelná. A tato postupná transformace bude mít zásadní důsledky na naše demokratické instituce a politické struktury. Experti na Čínu jako Daniel A. Bell a Zhang Weiwei poukazují na to, že hlavní politická alternativa vůči západním liberálně demokratickým tradicím jsou komunitární instituce, které se vyvíjejí v Číně.
V ní nejsou kolektivní rozhodnutí legitimizována explicitním souhlasem občanů a lidé obecně mají méně vynutitelných práv vůči státu, především v oblasti sledování. Občanská role běžného Číňana se omezuje jen na účast v lokálních volbách. Političtí vůdci země se naproti tomu vybírají v meritokratickém procesu a považují se za správce blahobytu lidí.
Liberální demokracie se určitě nepřemění v takový politický systém. Ale jestliže budou současné trendy v byznysu a kultuře spotřebitelů pokračovat, brzy budeme mít s čínskými meritokratickými a komunitárními tradicemi více společného než s naší vlastní historií individualizmu a liberální demokracie. Pokud chceme změnit kurs, budeme muset klást větší důraz na náš politický imperativ než na technologie.
