Etika a technologie: řadoví zaměstnanci přebírají odpovědnost

Při pročítání webových stránek Ethical Explorer Pack, které radí technologickým pracovníkům v otázkách etiky, narazíte na poměrně neobvyklou mapu. Nejsou na ní totiž vyobrazena města nebo regiony, ale „rizikové oblasti“ označené například jako závislost, dezinformace, algoritmyznevýhodňující vybrané uživatele nebo vyloučení určitých skupin. Čtenáře tato mapa nutí zamyslet se nad tím, jaký negativní dopad mohou mít produkty, na kterých pracují, a co jejich firma dělá pro to, aby byl tento negativní dopad co nejmenší.

Debaty na tato témata jsou mezi technologickými odborníky stále častější. Během několika posledních let otřásly celým oborem pochyby ohledně etiky chování některých firem i kritická veřejná vystoupení některých čelních představitelů největších technologických společností.

Tak například Tristan Harris, bývalý zaměstnanec Googlu, učinil veřejné prohlášení, ve kterém kritizuje způsob, jakým jsou technologie využívány k manipulaci lidského myšlení. V mnoha velkých firmách zabývajících se digitálními technologiemi se také objevily petice, pod kterými jsou podepsány často stovky zaměstnanců a které se vyhraňují proti tomu, aby se vyvíjené produkty umělé inteligence využívaly pro vojenské účely nebo pro rozpoznávání obličejů policejními složkami. Některé petice si také stěžují na pracovní podmínky zaměstnanců.

Zvýšený zájem zaměstnanců

Emanuel Moss je vedoucím etnografického výzkumu o otázkách etiky a odpovědnosti v neziskovém výzkumném institutu Data & Society. Ten se zaměřuje na sociálně-kulturní problémy vznikající jako důsledek technologického vývoje zaměřeného čistě na data. „Čím dál více řadových pracovníků se o problematiku etiky začíná zajímat. A jsme svědky i toho, že zaměstnanci zakládají aktivistické skupiny zabývající se právě otázkami etiky vyvíjených produktů,“ říká Moss.

V nedávné době oborem otřáslo memorandum, ve kterém bývalá datová vědkyně Facebooku píše, že i když představitelé firmy věděli, že Facebook je světovými lídry zneužíván k manipulaci voleb, nic s tím neudělali. „Mám na rukou krev,“ píše v dokumentu Sophie Zhangová.

Disent uvnitř technologických firem vyjádřil obavy ohledně etiky některých technologických produktů a poukázal i na to, jak se v poslední době změnil přístup zaměstnanců k problematice etiky: „Etické otázky se už neřeší jenom na úrovni vrcholového managementu firem. Už i řadoví pracovníci napříč celým oborem si začínají uvědomovat svoji individuální odpovědnost,“ říká Moss.

Podle nedávného průzkumu by téměř dvě třetiny (63 %) technických pracovníků rády měly větší vhled do toho, jaký dopad mají produkty, na nichž pracují. A více než tři čtvrtiny (78 %) z nich by uvítaly praktické nástroje, které jim umožní tento dopad ovlivňovat.

Otázky ohledně etiky

V americké aktivistické organizaci Omidyar Network jsou si vědomi, jak moc se situace za poslední dobu změnila. Tato instituce nedávno uveřejnila Ethical Explorer Pack. Jedná se o praktickou příručku, kterou lze zdarma stáhnout na webových stránkách organizace a jejímž cílem je „vytvořit prostor pro debatu o složitých tématech, jako je zaujatost nebo vyloučení určitých skupin“, jak uvádí Sarah Drinkwaterová, ředitelka týmu, který měl vývoj projektu na starosti. Ethical Explorer Pack navazuje na příručku, kterou organizace Omidyar Network uveřejnila před dvěma roky a která byla určena ředitelům firem.

Drinkwaterová uvádí, že nová forma příručky, která má podobu balíčku karet, byla navržena specificky pro „pracovníky ve firmách, které jsou příliš malé na to, aby měly speciální tým dedikovaný výhradně na otázky etiky a firemní odpovědnosti“. Z příručky tedy mohou těžit i designéři, inženýři, ředitelé startupů nebo externí pracovníci.

„Velká část uživatelů, která si naši příručku stáhne, pochází z této cílové skupiny. Ale tisíce stažení mají na svědomí i pracovníci velkých technologických firem nebo zástupci akademické obce. Velmi rádi vidíme, jak velký zájem náš projekt vzbudil, zvláště v tomto roce, který je plný různých krizí,“ říká Drinkwaterová.

Co se děje v pozadí

Alicia Robertsová pracuje pro startup vyvíjející systémy personalizace, které využívají umělou inteligenci k tomu, aby firmám pomohly navýšit prodeje. „Vždycky tu je otázka, zda je správné, že technologie, kterou prodáváme online prodejcům, vnucuje potenciálním klientům produkty, o které někdy projevili zájem,“ říká. „Čistě teoreticky se jedná o věci, o které klienti skutečně měli v určitou chvíli zájem, ale je zde možnost, že náš algoritmus zkrátka jde proti jejich zájmu. Posílá totiž uživatelům podprahové signály, které je tlačí do nákupu určitých věcí a ve výsledku mohou u uživatelů přispět i k vytvoření závislosti.“

Robertsová říká, že na jejím pracovišti se prakticky žádná debata o etických otázkách nekoná. Její kolegové jsou většinou příliš zabraní do svých každodenních úkonů, aby se zajímali o celý kontext své práce. A Robertsová dále dodává, že vyjádřit pochyby o etice konání firmy je velmi komplikované, především „z pozice pracovníka, který je závislý na profitu společnosti“.

Mnoho technických pracovníků se bojí na svém pracovišti iniciovat debatu o etice. Jejich čím dál výsadnější postavení i vyšší příjmy jim ale mohou dodat potřebnou moc i určité sebevědomí při vyjadřování obav o etických otázkách.

„Elitní techničtí pracovníci jsou často velmi dobře placeni, dostávají se rychle na seniorní pozice a mohou tak více nastavovat agendu ve firmách, ve kterých působí,“ říká Moss. „Tím, že tito pracovníci mají finanční jistoty a mohou se ozvat, aniž by se museli obávat o své místo nebo o svoji reputaci na pracovním trhu, jsou motivováni k aktivismu a k tomu, že mohou bez starostí vyjádřit své pochyby.“

Prostředí, které podporuje etické chování

Nástroje, jako je třeba výše zmiňovaná etická příručka, mohou být užitečné, ale základním předpokladem pro jejich použití je transparentní pracovní prostředí a zdravé a přátelské vztahy na pracovišti, jež umožňují diskuzi o etických otázkách mezi kolegy i napříč všemi úrovněmi firmy. V dokumentárním filmu Sociální dilema z dílny Netflixu říká bývalý zaměstnanec Instagramu Bailey Richardson, že jedním z největších problémů u technologických firem je „neschopnost vedení vést otevřenou diskuzi nejen o tom, co se povedlo, ale také o tom, co by se mělo změnit.“

Annie Williamsová pracovala devět měsíců ve Facebooku, který je známý tím, že se v něm jednou za týden konají otevřené diskuze, ve kterých zakladatel společnosti odpovídá na otázky zaměstnanců. Zkušenost Williamsové ale byla poněkud odlišná. Pracovní prostředí, ve kterém se ocitla, nebylo transparentní, ale naopak uzavřené a nesdílné. „Vším prostupovala autocenzura,“ říká. „Všichni se neustále navzájem kontrolovali. To proto, že ve firmě je uplatňován systém zpětné vazby a vzájemného hodnocení. Měla jsem pocit, že není možné vznášet dotazy ani otevřeně mluvit o etice.“

Podle několika bývalých pracovníků Facebooku, kteří o tomto tématu veřejně promluvili v roce 2019, pomohl systém vzájemného hodnocení ve firmě vytvořit kulturu, ve které jsou pracovníci odrazováni od toho, aby se vyjadřovali jakkoliv kriticky. Tento systém se neuplatňuje pouze ve Facebooku – až do roku 2013 byl využíván i v Microsoftu.

Mezi pracovní povinnosti Williamsové patřilo radit malým firmám při jejich digitální transformaci a skrz workshopy jim pomoci lépe využívat reklamu na Facebooku. Po čase ale ztratila veškeré iluze. „Hlavním kritériem při hodnocení mé práce nebylo, jestli se firmy něco skutečně naučily, ale jestli uvěřily, že to, co Facebook dělá, je dobré a správné,“ říká.

V oboru digitálních technologií jsou zaměstnanci hodnoceni většinou na základě klíčových ukazatelů, jako je plnění plánu a obchodních cílů, ale v systémech hodnocení výkonu jednotlivců zpravidla chybí jakékoliv přihlédnutí k otázkám etiky. Někteří techničtí pracovníci se tak o etice učí sami ve svém volném čase, ale za tuto činnost nejsou nijak odměňováni. „Podle mě by se takovéto vzdělávání mělo odměňovat nebo by alespoň mělo být součástí požadavků zaměstnavatele na své pracovníky,“ říká Moss. Věří, že zahrnutí faktoru etiky do hodnocení zaměstnanců by pomohlo nastavit lepší kulturu v rámci celých firem.

Jak dosáhnout změny?

Jedním z důvodů, proč je tak složité prosadit dodržování určitých etických kodexů, je fakt, že nejsou z velké části právně závazné. Společnosti, které musí dostát požadavkům investorů a akcionářů, by tak musely dobrovolně investovat do „prospěšnosti“ produktu, aniž by z toho měly přímý finanční profit.

Posledních několik let se Nicolas Esneault, front-end web developer ve francouzské firmě BlaBlaCar, snaží prosadit změny, které by umožnily používání jejich platformy i nevidomým uživatelům. „Někteří kolegové se o etické problémy, jako třeba umožnění přístupu handicapovaným, zajímají. Ale mnoho z nich ne. Z pozice web developera nemůžu přijít a všem říci: poslouchejte, měli bychom to dělat tak a tak,“ říká.

Esneault si rychle uvědomil, že prvním krokem ke změně je poskytnout vzdělání kolegům skrz workshopy a školení. Věří, že zaměstnanec by se měl ozvat, pokud ví o možné změně, která by učinila nabízený produkt společensky odpovědnějším. „Takový zaměstnanec by měl ostatním říci, co by se dalo vylepšit, a měl by všechny přesvědčit za pomocí vhodných argumentů,“ říká.

Esneault nakonec získal podporu svých manažerů a kolegů – a jeho tým teď dokončuje detailní analýzu mezer v přístupnosti systému ze strany handicapovaných uživatelů.

Osobní odpovědnost

Ve světle kritiky, která se ze strany médií čím dál více snáší na technologické firmy, se některé společnosti ze Silicon Valley, například Salesforce, rozhodly najímat pracovníky na zcela novou pozici – a sice „expert na etiku“. I když se přesné názvosloví může v různých firmách lišit, úkolem člověka v takové roli je řešit bezprecedentní otázky etiky, které vznikají spolu s novým využitím moderních digitálních technologií. Úkolem experta na etiku je prosazovat a kontrolovat etické standardy napříč celou organizací, tedy i mezi řadovými pracovníky.

I přes zapojení běžných zaměstnanců jsme však stále svědky případů, které dokazují, že cesta bude ještě dlouhá. V případě projektů Maven nebo Dragonfly společnosti Google například pracovníci nevědomky pracovali na vývoji aplikací, které odporovaly jejich morálnímu přesvědčení.

„Pokud pracujete na programu určeném na rozpoznávání snímaného obrazu, nemusíte nutně vědět, že bude ve výsledku používaný pro vojenské účely. Z morálního hlediska nemůžeme po programátorech chtít, aby se podíleli na eticky diskutabilních zakázkách, které domluvil vrcholový management firmy,“ říká Moss.

Podle Mosse je řešením vznik nových interních etických kodexů uvnitř firem. Ty by nesměly být jenom na papíře, ale musely by být skutečně implementovány do každodenní práce všech zaměstnanců firmy. Zároveň by se měl zavést velký, jednotný, zastřešující systém odpovědnosti a etiky v celém technologickém odvětví, pod který by všechny společnosti spadaly. „Firmy věnující se digitálním technologiím nesmí dohlížet samy na sebe. Musí existovat externí mechanismus, který konkrétní osoby a firmy požene k odpovědnosti, pokud dojde k porušení etických zásad,“ říká Moss.

Podle nedávného průzkumu mezi technickými pracovníky ve Spojeném království věří téměř polovina lidí (45 %) pracujících v oboru digitálních technologií, že celý sektor není dostatečně regulován. Šetření také zjistilo, že tito pracovníci by si přáli, aby dopady, které vyvíjené a používané technologie mají na jednotlivé uživatele i celou společnost, více hlídal stát.

„Vzhledem k tomu, o jak závažný problém se jedná, měly by se jím vlády začít vážně zabývat,“ říká Moss. „Každý by měl mít zájem na tom, aby se otázky okolo etiky začaly skutečně důkladně řešit.“

Přeložil Matěj Moravec
Foto: Welcome to the Jungle
Sledujte Welcome to the Jungle na Facebooku, začněte odebírat novinky a nechte si posílat inspiraci každý týden.