La cuestión ética en la industria tecnológica: ¿qué papel juegan los empleados?

Los trabajadores de las empresas tecnológicas están cada vez más sensibilizados sobre el daño potencial que pueden causar los productos que diseñan a quienes los utilizan y a la sociedad, y son muchos los que han decidido hacerse oír y pedir una mejora del plan ético de su empresa. ¿Cuál es la mejor manera de abordar este asunto? ¿Qué medidas deberían adoptar las empresas para no desviarse del camino correcto y, en consecuencia, cómo deberían actuar sus empleados?

Todas estas cuestiones están ganando una importancia cada vez mayor entre quienes trabajan en el sector de la tecnología, el cual se ha visto sacudido por una serie de dilemas éticos y de concienciación en estos últimos años. Muchos han terminado poniendo el grito en el cielo ante una situación que se ha vuelto insostenible. Es el caso de Tristan Harris, antiguo empleado de Google, que dio la voz de alarma sobre la capacidad de la tecnología para manipular nuestra mente y nuestras decisiones. También se han multiplicado las peticiones y las protestas dentro de las grandes empresas tecnológicas, donde cientos de empleados se han unido para denunciar cuestiones como el uso de la inteligencia artificial con fines militares, el reconocimiento facial por parte de las fuerzas del orden e incluso ciertas prácticas internas discriminatorias.

La reacción contra el exceso digital

Emanuel Moss trabaja como investigador especializado en cuestiones de ética y responsabilidad a nivel individual y colectivo en Data & Society, un instituto de investigación sin ánimo de lucro centrado en los problemas sociales y culturales derivados de la explotación de datos en las nuevas tecnologías. “Existe un creciente interés, e incluso podría llamarlo activismo, entre los empleados de la industria tecnológica en torno a las cuestiones éticas relacionadas con su trabajo”, comenta Moss.

“Tengo las manos manchadas de sangre”, confesaba Sophie Zhang, científica de datos y antigua empleada en Facebook, en un impactante memorando interno sobre el abuso de la plataforma por parte de los líderes mundiales con el objetivo de manipular las elecciones, al tiempo que los trabajadores y dirigentes de la red social miraban hacia otro lado.

“Tengo las manos manchadas de sangre” - Sophie Zhang, antigua empleada de Facebook

Estas discrepancias dentro de las empresas tecnológicas han puesto de manifiesto una serie de cuestiones éticas, y demuestran que se ha dado un cambio en la forma actual de abordarlas. “Esta concienciación sobre la responsabilidad ética está afectando a todos los niveles jerárquicos del sector, no solo a las esferas habituales de responsabilidad, es decir, los altos cargos corporativos”, comenta Moss.

Cada vez más empleados en el sector tecnológico afirman que les gustaría poder conocer el impacto real de los productos de sus empresas en la sociedad y un número aún superior querría disponer de los recursos prácticos para poder analizar, por sí mismos, la influencia de las plataformas en las que trabajan.

“Esta concienciación sobre la responsabilidad ética está afectando a todos los niveles jerárquicos del sector y no solo a las esferas habituales de responsabilidad” - Emanuel Moss, investigador de Data & Society

La ética, un proyecto en curso

Omidyar Network, una empresa estadounidense centrada en el cambio social, es plenamente consciente de lo mucho que han cambiado las cosas. Recientemente, ha publicado la guía descargable Ethical Explorer Pack (el “pack del explorador ético”), un recurso práctico para los profesionales de la tecnología que tiene como objetivo “ayudar a crear un espacio de debate sobre temas difíciles o conflictivos, como la exclusión y los prejuicios”, tal y como afirma Sarah Drinkwater, directora del equipo tecnológico dedicado a la causa. En su interior encontramos un mapa parecido a los que salen en los libros de geografía. Sin embargo, en él no aparecen ni países ni accidentes geográficos, sino “zonas de riesgo”: adicción, desinformación, sesgo algorítmico y exclusión, por nombrar algunas. Se trata de un nuevo tipo de planisferio que permite al observador hacerse las preguntas correctas sobre la responsabilidad de la tecnología, por ejemplo: “¿Cuáles son los posibles efectos no deseados/inesperados de las soluciones tecnológicas que he ayudado a desarrollar?”. La guía es una continuación de un primer documento destinado a los directores generales, publicado por Omidyar en 2018.

Drinkwater describe esta nueva versión como una baraja de cartas, diseñada específicamente para “personas que trabajan en empresas demasiado pequeñas para disponer de un equipo interno dedicado a cuestiones éticas, sociales o medioambientales”, ya sean diseñadores, ingenieros, fundadores de empresas o colaboradores. “Con esta guía no solo hemos llegado a nuestro público objetivo, sino también a miles de interesados procedentes de las grandes empresas tecnológicas, del ámbito académico y del mundo del diseño. En un año como éste, marcado por las crisis y los cambios de perspectiva, nos entusiasma ver lo lejos que ha llegado la guía”, afirma complacida.

La cara oculta de las empresas tecnológicas

Alicia Roberts trabaja para una startup que ofrece a las empresas de venta en línea experiencias a medida para el cliente gracias a la inteligencia artificial. “Siempre me asalta la misma pregunta: ¿es normal que la tecnología que vendemos a los minoristas se emplee para bombardear a un cliente potencial con productos que previamente haya visto en un sitio web?”, se pregunta. “Podríamos excusarnos diciendo que solo mostramos cosas que interesan al consumidor, pero en el fondo es posible que nuestro algoritmo esté trabajando en su contra. Estamos enviando mensajes subliminales que claramente empujan a la compra de ciertos productos. *¿Quién dice que esto no puede crear una adicción a largo plazo?”, se plantea.

“Estamos enviando mensajes subliminales que claramente empujan a la compra de ciertos productos” - Alicia Roberts*, empleada de una startup centrada en inteligencia artificial

Según Roberts, lo cierto es que las cuestiones éticas no suelen tratarse en la oficina; la mayoría de sus compañeros están demasiado centrados en el trabajo como para pararse a considerar este tipo de problemas. Plantear en voz alta este tipo de cuestiones sigue siendo “un tema peliagudo, sobre todo cuando tu salario depende directamente de los intereses de la empresa”, considera.

Muchos empleados del sector tecnológico se sienten demasiado intimidados para hablar de ética en el trabajo, aunque algunos cuentan con un as en la manga: su valor en el mercado laboral. Según un informe llevado a cabo a finales de este año en base a casi 3.000 ofertas de empleo en España, el sueldo de un empleado de nivel medio/alto en el sector de la tecnología podría oscilar entre los 30.000 y los 45.000 euros anuales.

“Los mejores en su campo suelen estar muy bien pagados, ascienden rápidamente en la escala jerárquica y cualquier empresa estaría encantada de contratarlos”, afirma Moss. “Poder expresar una opinión sin miedo a ser despedido o puesto en la lista negra del sector tecnológico es un gran privilegio y permite que los empleados muestren un mayor compromiso con la causa”, señala.

“Poder expresar una opinión sin miedo a ser despedido o puesto en la lista negra del sector tecnológico es un gran privilegio y permite que los empleados muestren un mayor compromiso con la causa” - Emanuel Moss

La censura en el entorno laboral

Si queremos que herramientas como las guías éticas tengan un mínimo de utilidad para los empleados, es fundamental contar previamente con un ambiente de trabajo abierto al debate y en el que pueda producirse un diálogo tanto con los demás compañeros como con la alta dirección. En el documental de Netflix El dilema de las redes sociales, Bailey Richardson, una antigua empleada de Instagram, afirma que uno de los mayores problemas de la tecnología actual es “el fracaso real del liderazgo por no conseguir que la gente hable sinceramente no solo sobre lo que ha salido bien, sino también sobre lo que no es perfecto”.

Cuando Anne Williams rememora los nueve meses que pasó en Facebook, donde las sesiones semanales de preguntas y respuestas con el fundador de la empresa son bien conocidas, el primer recuerdo que le viene a la mente es el de un *ambiente totalmente hermético. “El ambiente de trabajo estaba dominado por la autocensura”, afirma. “Había un sistema de evaluación interna y una cultura del feedback muy arraigada, por lo que, al final, la gente se pasaba todo el día observando lo que hacían sus compañeros. En ningún momento me dio la impresión de que fuera posible hacer preguntas y hablar abiertamente sobre cuestiones éticas”, opina.

“El ambiente de trabajo [en Facebook] estaba dominado por la autocensura” - Anne Williams*, antigua empleada de Facebook

La forma en la que Facebook evalúa el rendimiento de sus empleados (les puntúa con una nota del 1 al 7, con una cuota que limita el número de personas que pueden recibir esta valoración) ha creado una cultura en la que se evitan los comentarios críticos, tal y como aseguran varios antiguos empleados de la empresa que decidieron manifestarse sobre el tema en 2019. Este sistema de “clasificación general” no es exclusivo de Facebook; hasta 2013, Microsoft estuvo empleando el mismo modelo.

La misión de Anne Williams era acompañar a las pymes en su transición digital y ayudarlas con la publicidad en Facebook, por lo que su trabajo consistía principalmente en organizar y dirigir talleres prácticos. Pero no tardó en darse de bruces con la realidad: “El principal indicador de rendimiento (KPI, por sus siglas en inglés key performance indicator) de mi trabajo no se centraba en si las empresas terminaban aprendiendo algo o no… *sino en que hablasen bien de Facebook”, se lamenta.

En la industria tecnológica, gran parte de lo que impulsa el trabajo diario de los empleados son los objetivos y los resultados clave de la empresa, pero el aspecto ético sigue siendo el gran ausente en los sistemas de evaluación individuales. A pesar de que ciertos trabajadores han tomado la decisión de formarse por cuenta propia sobre el tema, esta muestra de iniciativa no se valora lo más mínimo. “Creo que cualquier compromiso para mejorar la ética debería ser recompensado, o al menos integrarse en los objetivos y sistemas de primas existentes”, afirma Emanuel Moss. De hecho, está convencido de que “una métrica de evaluación basada en la ética podría ser una palanca eficaz para difundir las buenas prácticas dentro de las empresas”, explica.

“Una métrica de evaluación basada en la ética podría ser una palanca eficaz para difundir las buenas prácticas dentro de las empresas” - Emanuel Moss

Cómo abordar la cuestión ética en la empresa

Las dificultades a las que se enfrenta la cuestión ética a la hora de afianzarse a nivel empresarial se deben principalmente a que ésta no va acompañada de ninguna obligación de carácter legal. Además, supone invertir en mayores recursos para “mejorar” los servicios o productos desarrollados. Esto no está exento de dificultades para las empresas tecnológicas, las cuales están sujetas a un modelo de negocio bien definido, a la presión de los accionistas y a los incentivos económicos.

Desde hace unos años, Nicolas Esneault, desarrollador front-end de BlaBlaCar, ha estado trabajando muy duro para que la plataforma sea accesible a las personas ciegas y a las que no pueden utilizar un ratón de ordenador. “Algunos de mis compañeros están muy interesados en el tema de la accesibilidad y la ética en general, aunque a otros les da bastante igual. Como desarrollador, no tengo la legitimidad suficiente para imponerme y decirle a los demás que las cosas deben hacerse de otra manera”, comenta.

Nicolas Esneault se dio cuenta rápidamente de que el primer paso hacia el cambio era concienciar a sus compañeros mediante talleres y tutoriales. Tiene muy claro que, cuando un empleado es consciente de que una posible mejora de un producto podría hacer la tecnología más responsable, no debería dudar en hacerse oír. “Depende de cada empleado compartir su punto de vista sobre lo que se puede mejorar, convencer a los demás y proporcionar los argumentos adecuados”, afirma.

“Depende de cada empleado compartir su punto de vista sobre lo que se puede mejorar, convencer a los demás y proporcionar los argumentos adecuados” - Nicolas Esneault, desarrollador de BlaBlaCar

Esneault ha conseguido ganarse el apoyo de sus superiores y sus compañeros. De hecho, actualmente se está llevando a cabo un análisis completo de la interfaz, a fin de eliminar las lagunas en la accesibilidad de los usuarios.

¿Quién asume la responsabilidad?

A medida que la falta de ética en las empresas tecnológicas acapara cada vez más titulares de los medios de comunicación, algunas empresas de Silicon Valley, como es el caso de Salesforce, han decidido empezar a contratar un nuevo tipo de perfil de ethics owner, cuya función es gestionar las cuestiones éticas específicas en el sector tecnológico mediante la difusión y la mejora de las habilidades y prácticas éticas en todos los niveles de la empresa.

Sin embargo, y a pesar de que los trabajadores cada vez están más comprometidos con el aspecto moral de su trabajo, ha habido casos, como por ejemplo los proyectos Maven o Dragonfly de Google, en los que los empleados se han visto involucrados, sin saberlo, en aplicaciones con valores éticos muy diferentes a los suyos.

“Cuando trabajas en un programa de detección y análisis visual por ordenador, no tienes por qué saber necesariamente que éste podría acabar en manos del Ejército. Tal y como están organizadas las empresas, no es posible exigirles a quienes trabajan en el código de un producto que rindan cuentas por lo que ocurre en la alta dirección”, comenta Emanuel Moss.

“Tal y como están organizadas las empresas, no es posible exigirles a quienes trabajan en el código de un producto que rindan cuentas por lo que ocurre en la alta dirección” - Emanuel Moss

Por este motivo, poco a poco han ido surgiendo nuevas directrices éticas, con el fin de servir como guía para los empleados de la industria tecnológica. Pero atención, ya que solo serán efectivas si realmente se ponen en práctica, no solo vale con tacharlas de la lista de “cosas éticas por hacer”: el proceso debe llevarse a cabo con el respaldo de una autoridad externa, que sirva como referencia para toda la industria de la tecnología. “Las empresas no pueden autorregularse solas. Es necesario que exista un mecanismo de evaluación externa, de forma que todos asuman su responsabilidad en lo referente a la ética”, afirma Moss.

Aunque aún no hay suficientes datos sobre la situación en España, sabemos que existe un descontento cada vez mayor entre los empleados de Silicon Valley. En Reino Unido, casi la mitad (el 45%) de los trabajadores de empresas tecnológicas cree que el sector no está lo suficientemente regulado. De estos últimos, la mayoría preferirían que las decisiones se tomasen a nivel gubernamental, de forma que el impacto de la tecnología en la sociedad tuviera más posibilidades de tenerse en cuenta.

“A estas alturas y en vista de lo que está en juego, los empleados de la industria tecnológica no deberían ser los únicos en movilizarse. Todo el mundo debería interesarse y preocuparse por las cuestiones éticas en el entorno laboral, y tratar de responderlas lo mejor posible”, concluye Moss.

• -Los nombres han sido modificados

Traducido por Rocío Pérez

Foto de WTTJ

Sigue a Welcome to the Jungle en Facebook, LinkedIn, Instagram o Twitter y suscríbete a nuestra newsletter para recibir nuestros últimos artículos.