Etika vo svete techniky: aká je zodpovednosť radových zamestnancov?

Zamestnanci v technických odboroch si stále viac uvedomujú potenciálne nebezpečenstvo produktov, ktoré vytvárajú. Niektorí z nich sa preto snažia zmeniť a vylepšiť „etickú stopu“, ktorú ich firma zanecháva.

Na stránkach Ethical Explorer Pack, nového sprievodcu pre pracovníkov v technologickej oblasti, nájdete nezvyčajnú mapu. Oblasti, ktoré identifikuje, nie sú regióny alebo mestá, ale tzv. „rizikové zóny“ s názvami ako závislosť, dezinformácia, algoritmická zaujatosť a vylúčenie. Umožňujú používateľovi klásť otázky ako: Môžu technické produkty, na ktorých pracujem, uškodiť, prípadne spôsobiť neželané následky? A čo robí moja firma pre to, aby sa niečo také nestalo?

Podobné otázky si začínajú klásť odborníci v technológiách stále častejšie. Aj preto za posledných pár rokov otriasla týmto priemyslom rada etických dilem a odhalení. Jedným z hlasov „zo zákulisia“ bol napríklad bývalý zamestnanec Googlu Tristan Harris, ktorý varoval pred spôsobmi, akými môže technológia manipulovať naše mysle. Stále viac sa stretávame tiež s medializovanými petíciami a protestmi stoviek zamestnancov veľkých techkorporácií, ktorí poukazujú na problémy využívania umelej inteligencie pre vojenské účely, zneužívania technológií na rozpoznávanie tváre ako aj vlastné pracovné podmienky.

Revolta proti technológiám

„Viem, že už teraz mám krvavé ruky.“ – Sophie Zhangová

Emanuel Moss vedie etnografický výskum v oblasti etiky a zodpovednosti pre Data & Society, neziskový výskumný inštitút zameraný na sociálne a kultúrne problémy, ktoré sú následkom datacentrického technologického vývoja. „Pozorujeme vzrastajúci aktivizmus zamestnancov v technologickom priemysle v súvislosti s etickými aspektmi jednotlivých produktov,“ vysvetľuje.

„Individualizácia etickej zodpovednosti sa rozmáha naprieč priemyslom a nelokalizuje sa na úrovni zodpovednosti celej firmy, teda na úrovni výkonných manažérov.“ – Emanuel Moss

Bývalá dátová vedkyňa Facebooku nedávno zverejnila správu o tom, ako majitelia tejto sociálnej siete vedeli, že vodcovia po celom svete zneužívali túto platformu na manipuláciu volieb, no nepodnikli akékoľvek kroky. „Viem, že už teraz mám krvavé ruky,“ napísala Sophie Zhangová vo svojom 6600-slovnej správe.

Disidentstvo v technologických firmách odhalilo obavy v oblasti etiky a zároveň poukázalo na zmenu v spôsobe adresovania a riešenia problémov. „Individualizácia [etickej zodpovednosti] sa rozmáha naprieč priemyslom a nelokalizuje sa na úrovni zodpovednosti celej firmy, teda na úrovni výkonných manažérov,“ vysvetľuje Moss.

Nedávna štúdia v skutočnosti zistila, že takmer dve tretiny (63 %) pracovníkov v oblasti technológií by chceli viac priestoru na zhodnotenie dopadu produktov, ktoré vyrábajú. Viac než tri štvrtiny (78 %) z nich by uvítalo praktické zdroje, ktoré im v tom pomôžu.

Premýšľanie o etike

Americká firma zameraná na spoločenské zmeny Omidyar Network si uvedomuje, ako sa pole technológií zmenilo. Nedávno publikovali sprievodcu, ktorého si môžete aj stiahnuť, tzv. Ethical Explorer Pack – praktický zdroj na „pomoc vytvárať priestor pre komplexnú konverzáciu o zložitých témach, akými sú napríklad vylúčenie, alebo zaujatie,“ objasňuje Sarah Drinkwaterová, riaditeľka zodpovedného technologického tímu. Jedná sa o pokračovanie sprievodcu pre generálnych riaditeľov, ktorý Omidyar vydal dva roky dozadu.

„Väčšina stiahnutí pochádza od očakávaného publika, no zároveň si sprievodcu stiahlo veľa veľkých technických firiem, akademikov a dizajnérov.“ – Sarah Drinkwaterová

Nová verzia vo forme balíčku kariet bola navrhnutá špecificky pre „ľudí, ktorí pracujú pre malé firmy a nemôžu si dovoliť vytvoriť akýkoľvek tím, ktorý by sa sústredil len na zodpovednosť,“ popisuje Drinkwaterová.

„Väčšina stiahnutí pochádza od očakávaného publika, no zároveň si sprievodcu stiahlo veľa veľkých technických firiem, akademikov a dizajnérov. V tomto roku zažívame mnoho kríz a uvedomení, takže nás teší pozitívna odozva,“ dodala.

Pohľad „zo zákulisia“

„Teoreticky sú to veci, o ktoré sa zaujímate, ale možno tento algoritmus funguje proti potrebám spotrebiteľa. Vysiela podprahové signály a tlačí vás do kúpy určitých produktov…“ Alica Robertová

Alica Robertová pracuje pre start-up predávajúci personalizovanú umelú inteligenciu, ktorá pomáha firmám zvýšiť predaj. „Vždy si kladieme otázku, či je dobré, že technológie, ktoré poskytujeme online predajcom, budú pomocou reklám ukazovať produkty potenciálnym klientom, ktorí si ich prezerali na stránkach obchodníka.“ tvrdí Robertová. „Teoreticky sú to veci, o ktoré sa zaujímate, ale možno tento algoritmus funguje proti potrebám spotrebiteľa. Vysiela podprahové signály a tlačí vás do kúpy určitých produktov, čo môže z dlhodobého hľadiska viesť k závislosti od nich.”

Robertová tiež tvrdí, že o etike sa u nej na pracovisku veľa nediskutovalo. Väčšina jej kolegov sa sústredila na svoje každodenné úkony a nevnímali situáciu zo širšej perspektívy. Dodáva, že obavy v oblasti etiky v rámci firmy boli „komplikované“, keďže je „veľmi ťažké brániť sa z pozície zamestnanca v závislosti na záujmoch firmy.“

„Mať finančné privilégium na to prehovoriť bez strachu z výpovede alebo zhoršenia si povesti v technologickom svete je nesmierne dôležité a zodpovedá za množstvo zamestnaneckého aktivizmu.“ – Emanuel Moss

Mnohí pracovníci v oblasti technológií sa cítia príliš ohrození na to, aby diskutovali o etickej problematike v práci, no sila trhu by im mala poskytnúť útočisko. Podľa štúdie z roku 2019, ktorá zozbierala dáta od 2300 pracovníkov v technológiách, sa platy v tomto odbore pohybovali na sume 125 000 € v USA, zatiaľ čo vo Veľkej Británii to bolo 74 000 €.

„Elitní pracovníci v oblasti technológií sú často vysoko platení, rýchlo získavajú seniorské pozície a môžu predávať svoje schopnosti akejkoľvek firme,“ tvrdí Moss. „Mať finančné privilégium na to prehovoriť bez strachu z výpovede alebo zhoršenia si povesti v technologickom svete je nesmierne dôležité a zodpovedá za množstvo zamestnaneckého aktivizmu.”*

Prostredie, ktoré podporuje etiku

„Pracovné prostredie spoločnosti Facebook spočíva hlavne v cenzúre samých seba.“ – Anna Williamsová

Nástroje ako etické príručky môžu byť užitočné, ale počítajú s otvoreným pracovným prostredím a stabilnými pracovnými vzťahmi, ktoré umožňujú diskusiu o etických problémoch s kolegami a vedúcimi. V dokumente Sociálna Dilema natočenom pre Netflix hovorí bývalý zamestnanec Instagramu Bailey Richardson o tom, že jeden z najväčších problémov v oblasti technológií „je zlyhanie schopnosti vedenia viesť otvorenú konverzáciu o nedokonalostiach.“

Anna Williamsová spomína na 9 mesiacov práce pre spoločnosť Facebook, známou svojimi týždennými zasadnutiami so zakladateľom* a na skúsenosti s veľmi uzatvoreným prostredím. „Pracovné prostredie spočívalo hlavne v cenzúre samého seba,“ vysvetľuje. „Všetci sa navzájom monitorovali, pretože vo firme fungoval systém vzájomného hodnotenia a silná kultúra spätnej väzby. Vôbec som nemala pocit, že by som sa mohla na niečo pýtať alebo sa otvorene rozprávať o etike.“

Firemný systém hodnotenia výkonu podľa siedmich stupňov vytvoril atmosféru, ktorá znemožňuje kritiku. Dosvedčili to viacerí bývalí zamestnanci Facebooku, ktorí sa v roku 2019 rozhodli o tomto probléme hovoriť verejne. Tento systém „rebríkového hodnotenia“ nie je výlučne záležitosťou Facebooku, keďže do roku 2013 ho využíval aj Microsoft.

Práca Williamsovej spočívala v sprevádzaní menších firiem v ich digitálnej premene a pomáhaní s reklamami na Facebooku formou workshopov. Napriek tomu podľahla dezilúzií. „Hlavný KUV (kľúčový ukazovateľ výkonnosti) v mojej práci nebol, či si firmy z mojich workshopov niečo skutočne odniesli, ale či som ich presvedčila, že to čo robí Facebook je dobré.”

…eticky založený systém hodnotenia by mal byť užitočným nástrojom na rozšírenie tých najlepších praktík v celej organizácii.

Najväčšou motiváciou na zamestnaneckej úrovni v technologickom priemysle sú ciele a kľúčové výsledky, no etický rozmer stále chýba v hodnotení jednotlivcov. Niektorí pracovníci sa vzdelávajú o etických problémoch vo svojom voľnom čase, ale táto práca nie je kompenzovaná. „Podľa mňa by sme mali takéto správanie odmeňovať alebo minimálne prísť na to, aké existujúce kompenzačné prostriedky by sme mohli použiť,“ tvrdí Moss. Verí, že systém hodnotenia postavený na etike by mohol byť užitočnou pákou na vytvorenie a rozšírenie tých najlepších praktík v celej organizácii.

Etické konanie

Súčasťou komplexnosti riešenia etických otázok je, že sa často týkajú aktivít a súčastí, ktoré by vylepšili kvalitu, no ktoré nie sú právne „nutné“. Znamenajú tak investíciu zdrojov na to, aby bol produkt „lepším“, čo môže byť pre firmy uviaznuté v obchodnom modeli, ekonomických stimuloch či tlaku akcionárov veľmi ťažké.

„Ako developer nemám právo na to dohovárať všetkým: počuj, mali by sme to robiť takto…“ – Nicolas Esneault

Za posledné roky začal Nicolas Esneault, front-end webový vývojár pre francúzsky start-up BlaBlaCar, tlačiť na vedenie pre niekoľko opráv produktu, ktoré by ich platformu sprístupnili slepým ľuďom a tým, ktorí nemôžu používať myš. „Niektorí kolegovia sa zaujímajú o [etickú problematiku, akou je napríklad prístupnosť] viac, niektorí menej. Ako developer nemám právo na to dohovárať všetkým: počuj, mali by sme to robiť takto…“

Esneault si veľmi rýchlo uvedomil, že prvým krokom ku zmene bude vzdelávanie kolegov pomocou workshopov a tutoriálov. Verí, že keď si zamestnanec uvedomí potrebu opravy chyby produktu, ktorá by danú technológiu urobila zodpovednejšou, mal by prehovoriť. „Je na zamestnancoch, aby zdieľali nápady na vylepšenie, presvedčili ostatných a správne argumentovali,“ vysvetľuje.

Esneaultovi sa podarilo získať podporu od manažérov a kolegov – jeho tím momentálne dokončuje detailnú analýzu nedostatkov prístupnosti ich služby.

Nájdenie zodpovednosti

“Zo spoločenského hľadiska nemôžeme od ľudí pracujúcich na úrovni programovania požadovať zodpovednosť za predaj, ktorý by sa mal riešiť na úrovni výkonných manažérov” – Emanuel Moss

Mediálny ruch okolo nedostatku etiky v technologických spoločnostiach rastie. Niektoré firmy v Silicon Valley, ako napríklad Salesforce, vytvorili novú pozíciu – tzv. “ethics owner” *– teda správcu etiky, aby sa vysporiadali so zatiaľ nevyriešenými etickými otázkami v oblasti techniky. Ich úlohou je rozšíriť a rozvíjať etické schopnosti a praktiky celej organizácie, vrátane radových zamestnancov.

Aj keď sa pracovníci čoraz častejšie potýkajú s etikou, existuje množstvo prípadov, napríklad Project Maven alebo Dragonfly od Googlu, v ktorých zamestnanci nevedomky pracovali na aplikáciách, ktoré nespĺňali ich vlastné morálne zásady.

„Ak pracujete na zrakovom počítačovom programe, nemôžete vedieť, že je určený pre armádu. Zo spoločenského hľadiska nemôžeme od ľudí pracujúcich na úrovni programovania požadovať zodpovednosť za predaj, ktorý by sa mal riešiť na úrovni výkonných manažérov.“ tvrdí Moss.

Nové etické pravidlá môžu zamestnancom pomôcť, no budú efektívne len vtedy, ak sú naozaj dodržiavané. Rovnako musia byť súčasťou širšej externej štruktúry zodpovednosti v technologickom priemysle. „Technologické spoločnosti samotné nemôžu kontrolovať samé seba. Potrebujeme nejaký externý druh mechanizmu skúmania zodpovednosti, ktorý by sa týkal etiky,“ vysvetľuje Moss.

„S vedomím toho, čo všetko je v hre, by mala byť odpoveď jednohlasná.“ – Emanuel Moss

Podľa nedávneho prieskumu medzi pracovníkmi technologického priemyslu vo Veľkej Británii takmer polovica (45 %) verí, že ich sektor nie je dostatočne regulovaný. Taktiež vysvitlo, že zamestnanci by uprednostnili vládne opatrenia pre zabezpečenie dopadu následkov technológií na ľudí a spoločnosť.

„S vedomím toho, čo všetko je tu vlastne v hre, mala by byť odpoveď jednohlasná,“ tvrdí Moss. „Všetci by sa mali zaujímať o [etické] otázky, a mali by sa ich snažiť odpovedať najlepšie ako môžu.“

Preložila Dorota Bachratá

Foto: Welcome to the Jungle

Sledujte Welcome to the Jungle na Facebooku, prihláste sa na odber noviniek a nechajte si posielať naše články každý týždeň.