Los empleados de Google están exigiendo una mayor transparencia por parte de su empleador y confrontando a la gerencia con sus preocupaciones éticas sobre el proyecto Dragonfly, una controvertida aplicación de búsqueda censurada para el mercado chino.
Los empleados hicieron circular una lista de exigencias para la compañía en una carta que BuzzFeed News obtuvo (que se publica en su totalidad abajo), que llama a que haya una estructura de revisión ética con representantes de los empleados de base, el nombramiento de un defensor del pueblo y una valoración ética de los proyectos de Google, incluyendo Dragonfly y Maven, el contrato de Google con el Pentágono para crear una tecnología de drones asistida por inteligencia artificial.
"Muchos de nosotros creemos que Dragonfly representa una amenaza a la libertad de expresión y a la disensión política a nivel global y que viola nuestros principios de IA", escribieron dos empleados en un correo electrónico que distribuyó la lista de exigencias, denominada "Código Amarillo de ética y transparencia".
"No obstante, esto no tiene que ver específicamente con Dragonfly", continua el correo electrónico. "Aunque en lo relacionado a resistir este esfuerzo apoyamos y seguiremos uniéndonos a los empleados de Google que están preocupados, necesitamos ser claros: los empleados en lo individual que se organizan en contra del más reciente proyecto dudoso no pueden ser nuestra única salvaguarda en contra de decisiones poco éticas. Esto equivale a un juego de ética insostenible donde nunca te das abasto y supone que los empleados, para empezar, tienen conocimiento de un proyecto".
Dragonfly, del cual se enteraron la mayoría de los empleados de Google cuando The Intercept lo reportó a principios de este mes, marca la segunda vez en este año que información filtrada sobre proyectos en curso ha provocado una respuesta negativa entre la base de empleados de la compañía. Después de que el contrato de Google con el Proyecto Maven del Pentágono se hizo público en el mes de marzo, más de 4000 empleados firmaron una petición solicitando que la compañía lo cancelara. Una decena de ingenieros renunciaron como protesta y Google finalmente prometió no renovar el contrato.
Posterior al alboroto, Google publicó los lineamientos de ética de IA para la compañía. La carta que actualmente circula dentro de la compañía, y que hasta ahora han firmado más de 1400 empleados de Google, argumenta que esos lineamientos no son suficientes.
"Como compañía y como personas tenemos la responsabilidad de utilizar este poder para tener un mundo mejor, no para apoyar el control social, la violencia y la opresión", dice la carta. "Lo que queda claro es que los principios éticos en el papel no son suficientes para asegurar que se tomen las decisiones con ética. Necesitamos mecanismos de transparencia, supervisión y rendición de cuentas que sean suficientes para permitir que se tomen decisiones y se hagan deliberaciones éticas e informadas en toda la compañía".
Dragonfly ha reencendido el rencor interno en Google: esta carta representa a diversos grupos activistas al interior de Google que se están aglutinando para formar un solo movimiento alrededor de la transparencia.
"Las personas decían '¿Qué? ¡Así no es como nosotros hacemos las cosas!' Eso traiciona esta cultura de apertura y transparencia que les gusta fingir que tenemos".
"Las personas se preguntan '¿Qué diablos hacemos ahora?' Esto no puede seguir ocurriendo", dijo un desarrollador anónimo de Google. "Necesitamos algo esencial para cambiar la forma como ellos hacen negocios".
Un debate sobre ética
Dragonfly, en el cual ha estado trabajando Google durante un poco más de un año, sería un motor de búsqueda para usuarios chinos que censuraría ciertos términos y fuentes a partir de los resultados de búsqueda, incluyendo Wikipedia y algunos artículos noticiosos, de acuerdo con The Intercept. Google ya ha mostrado al gobierno chino una versión de la aplicación para Android que podría lanzarse dentro de unos seis a nueve meses, dice el reporte.
El debate sobre la ética de crear semejante herramienta ha durado más de dos semanas y ha abarcado más de 1000 comentarios en publicaciones internas, contaron empleados de Google a BuzzFeed News.
"Las conversaciones sobre Dragonfly están ocurriendo en los mismos espacios o listas donde ocurrieron las conversaciones sobre Maven; se están reciclando", dijo un segundo empleado anónimo. "Hay mucho enojo y apasionamiento".
Parte de esa frustración viene del hecho de que Dragonfly parece estar en conflicto con el propósito declarado de Google. "La declaración de misión de Google dice literalmente 'Organizar la información del mundo y hacerla universalmente accesible'. La censura contradice directamente la misión de hacer que la información sea accesible", dijo. "Es como si Google estuviera rindiéndose ante una organización opresora… Primero fue el complejo industrial militar; ahora es China".
"Hace algunos años, era un lugar en el que te sentías orgulloso de trabajar. ... La serie de incidentes que han ocurrido en los últimos años han hecho mucho más difícil mantener ese sentimiento".
Unos días después de que la noticia se diera a conocer, un empleado de Google que nació en Pekín y que ha estado con la compañía por más de una década entró a un foro interno para advertir a sus colegas sobre las potenciales consecuencias del proyecto. En la publicación, que se compartió de manera anónima con BuzzFeed News, dijo que los empleados que piensan que Google podría combatir la censura creando una presencia en China están siendo ingenuos.
El empleado, que trabajó para Google en China en 2006, dijo que China utiliza la tecnología para vigilar y controlar a sus ciudadanos, y argumentó que —dada la enorme popularidad del motor de búsqueda chino Baidu— las compañías chinas que podrían contemplar asociarse con Google tienen razones potencialmente nefastas.
"¿Qué es lo que ganan si nos permiten volver a entrar? Puedes tener la seguridad de que no tiene que ver con la facilidad de uso o con beneficiar a las personas", escribió. "No soy tan optimista de que Google, como una compañía tecnológica, pueda de algún modo facilitar el cambio político en China".
No todo mundo en Google está de acuerdo con eso. "Crear un motor de búsqueda censurado podría beneficiar a la población de China", dijo Allison Day, una gerente de programas en Google que ha estado con la compañía durante más de tres años. "Eso podría dar a las personas de ese país acceso a mucha mayor información".
Day dijo que la noticia de que Google estaba trabajando en ese proyecto no la había impactado. "Puedo ver que la esencia de cualquier corporación es el crecimiento y [China] representaba un mercado gigantesco", dijo. "El lema 'No seas malo' o como se llame, pues mira... no es una farsa; yo no iría tan lejos como para decir eso. No obstante, es una corporación enorme, y su esencia es hacer dinero".
El director ejecutivo de Google, Sundar Pichai, ha expresado en repetidas ocasiones su interés en que la compañía regrese a China, a la cual sacó ese país en 2010 por razones políticas. La clara decisión de Pichai de regresar, que no se abordó a nivel de toda la compañía antes del jueves, ha provocado que algunos empleados consideren dejar la empresa.
"Hay preguntas acerca de cómo se implementa [Dragonfly] que pudiera hacerlo menos preocupante o mucho más preocupante", dijo el segundo empleado anónimo de Google. "Eso seguirá estando en mi mente y en la mente de otros trabajadores de Google que están decidiendo si se quedan o no".
Mantener a Dragonfly en secreto
Gran parte del enojo actual hacia el liderazgo de Google por el asunto de Dragonfly tiene que ver tanto con la secrecía que rodea al proyecto como con la ética del proyecto mismo. Como lo expresó el segundo empleado anónimo de Google, "parece como si las lecciones que pensábamos que se habían aprendido de Maven no se aprendieron de la forma como pensábamos".
Dos empleados de Google que estaban trabajando en Dragonfly se molestaron tanto por la secrecía que dejaron el equipo por ese motivo. Poco después de que se dio a conocer la noticia sobre Dragonfly, un ingeniero radicado en Suiza que trabajaba en asuntos en contra del abuso escribió en una publicación que obtuvo BuzzFeed News: "Tal vez las personas con las que he trabajado muy de cerca notaron que me salí del equipo de abuso/identidad hace dos semanas. Esta es, en gran medida, la razón por la que lo hice… Tuve una reunión con mi vicepresidente acerca del proyecto antes de irme. Fue una reunión breve para mí porque mi vicepresidente se rehusó a proporcionar cualquier tipo de información si no se hacía un acuerdo verbal de no divulgación... Eso fue suficiente para mí para mandar a la chingada a esa organización".
En una segunda publicación que también obtuvo BuzzFeed News, el colega de ese empleado anunció que estaba planeando dejar Google por completo, en parte porque se le había pedido que mantuviera Dragonfly en secreto, no solo para el público, sino también para sus compañeros de trabajo.
"La parte que me afectó más no fueron los detalles mismos del proyecto, sino la secrecía que había alrededor de él. Parte de la razón por la que me uní a Google de tiempo completo fue debido a la cultura abierta que había experimentado durante mis periodos de prácticas", escribió este empleado, cuya publicación se compartió de manera anónima. "Sin embargo, con DragonFly todo eso se acabó".
Google no ha respondido a preguntas específicas acerca de Dragonfly por parte de The Intercept, ni de Bloomberg ni de BuzzFeed News, y solo ha dicho en una declaración: "No hacemos comentarios sobre especulaciones acerca de planes futuros". Pasaron dos semanas antes de que la reunión con todo el personal, que se llevó a cabo el día de hoy, ofreciera a los empleados la oportunidad de hacer preguntas. Antes de eso, los empleados no habían "escuchado ni una sola palabra", según el desarrollador anónimo de Google.
Todavía más molesto para algunos empleados es el hecho de que la compañía ha bloqueado el acceso interno al código de Dragonfly. Los gerentes también han desactivado el acceso a ciertos documentos que pertenecen al proyecto, de acuerdo con The Intercept. (Google es famoso por dar "acceso a los ingenieros a casi a toda nuestra base de códigos el primer día que llegan", lo cual hace que el bloqueo resulte todavía más alarmante para ellos).
"Hicieron lo mismo con Maven, y eso movió a la acción a muchísimas personas. Las personas decían '¿Qué? ¡Así no es como nosotros hacemos las cosas!' Eso traiciona esta cultura de apertura y transparencia que les gusta fingir que tenemos", dijo el desarrollador anónimo de Google.
Y después de la filtración se ha vuelto evidente que algunos empleados de Google no estaban conscientes de que su trabajo se estaba utilizando para Dragonfly o, siquiera, de que el proyecto existía.
"Esa es una forma especial de traición y explotación de un empleado", dijo.
Erosión de la confianza
Comparado con sus colegas en otras partes en la industria de la tecnología, los empleados de Google tienen expectativas inusualmente elevadas en cuanto a la transparencia, en gran parte debido a que la compañía les dice que pueden estar seguros de que la hay.
"Hablan y actúan como diciendo 'Una vez que estás en Google, puedes buscar el código en cualquier parte en la base de códigos y verlo por ti mismo'. 'Nos enorgullecemos de tener una cultura abierta y transparente'", dijo el desarrollador anónimo de Google. "Definitivamente hay empleados en la compañía que se sienten muy frustrados porque eso claramente no es verdad".
El segundo empleado anónimo secundó ese punto de vista. "Google habla de que las personas pueden abrirse totalmente en el trabajo y que pueden tener conversaciones abiertas y transparentes y que hay un nivel de respeto entre los trabajadores ordinarios de Google y quienes toman las decisiones", dijo. "Siento que mucho de eso es ahora más débil de lo que solía ser".
Los debates internos sobre la ética de tecnologías como Maven y Dragonfly no son los únicos desacuerdos que han sembrado discordia entre la gerencia de Google y los trabajadores ordinarios en los últimos años. Los empleados de Google han sido abiertamente críticos hacia la forma como la compañía manejó la respuesta negativa por el manifiesto sexista del exingeniero de Google James Damore que circuló ampliamente por toda la compañía, en el cual él afirmaba que existen razones biológicas por las que los hombres son mejores ingenieros que las mujeres.
Damore fue despedido, pero algunos empleados de Google dijeron que sus simpatizantes los acosaron y el área de recursos humanos en la compañía los sometió a escrutinio e incluso injustamente los sancionó por hacer declaraciones antirracistas.
El manejo equivocado del incidente de Damore, seguido por la debacle del Proyecto Maven y, ahora, de Dragonfly, "parece un patrón", dijo el segundo empleado anónimo de Google.
"Hace unos años era un lugar en el que te sentías orgulloso de trabajar, orgulloso de tus compañeros de trabajo, orgulloso de lo que estábamos contribuyendo al mundo. La serie de incidentes que han ocurrido en los últimos años ha hecho todavía más difícil mantener ese sentimiento".
Un movimiento de los trabajadores en la tecnología
Los empleados de Google no son los únicos trabajadores en el área de la tecnología que han estado batallando con la responsabilidad que tienen por las herramientas que están creando y que están hablando sobre consolidar el poder en el lugar de trabajo como resultado. Siguiendo el éxito de los empleados de Google con Maven, empleados en Microsoft, Amazon y Salesforce solicitaron a los ejecutivos que cancelaran los contratos con el Servicio de Inmigración y Control de Aduanas (ICE) y con la Oficina de Aduanas y Protección Fronteriza (CBP), agencias gubernamentales con las cuales algunos empleados se oponen a trabajar debido a la separación forzada de familias inmigrantes que está ocurriendo en la frontera entre Estados Unidos y México. Juntos, estos esfuerzos constituyen una verdadera explosión de activismo entre los trabajadores técnicos calificados.
Liz Fong-Jones, una empleada de Google que ha estado en la compañía más de una década y ha sido una defensora abierta de temas de diversidad e inclusión, considera que los empleados de Google están abriendo caminos. "Cuando las personas ven esfuerzos exitosos por parte de los trabajadores les parece más probable intentar organizarse dentro de su propia compañía", dijo. También dio crédito a organizaciones como Coworker.org, que ha estado albergando talleres para trabajadores técnológicos de Bay Area y de la Tech Workers Coalition, un grupo creciente de defensoría laboral, para que las personas conozcan sus derechos. (Fong-Jones no representa a Google).
Y dentro de Google algunos empleados están mostrando un mayor interés en "tener estructuras y participación en el trabajo de la compañía", que el segundo empleado anónimo dijo sería bueno para la moral y para reconstruir la confianza.
"Definitivamente me estoy sintiendo impulsado a tener un mayor interés en ello", dijo el segundo empleado anónimo. "Siento que muchas personas en la compañía tienen el mismo sentimiento".
Miles Brundage es un investigador de políticas de inteligencia artificial a quien recientemente contrató OpenAl.
"Ha habido un tema común en muchas de las recientes controversias en las compañías tecnológicas: un contrato gubernamental se toma o se considera... y una gran porción de la compañía se entera solo a través de filtraciones", dijo Brundage a BuzzFeed News. "Si este tipo de cosas siguen ocurriendo con la suficiente frecuencia (y quizá Maven + Dragonfly es suficiente), en algún momento los trabajadores van a querer resolver el muy importante problema de la transparencia en lugar de reaccionar constantemente al más reciente proyecto filtrado".
Tal vez Google pueda eliminar futuras filtraciones de productos al hacer concesiones significativas a los empleados, pero las acciones de los empleados de Google y de otras compañías siempre han perturbado la ilusión de una fuerza laboral tecnológica totalmente complaciente saciada con cerveza y refrigerios gratis.
"Los trabajadores tecnológicos comienzan a darse cuenta de lo que está ocurriendo", dijo el desarrollador anónimo de Google. "Aunque muchos de nosotros tenemos empleos verdaderamente buenos, podemos ver que la diferencia entre nosotros y el liderazgo sigue siendo astronómica. La visión que ellos tienen para el futuro no es nuestra visión".
Lee la carta completa de los empleados de Google abajo.
Firma esta carta
Para tomar decisiones éticas, los empleados de Google necesitamos saber lo que estamos creando. En este momento, no es así. Así pues, los que firmamos al calce estamos solicitando un código amarillo(1) sobre ética y transparencia en Google.
Nuestra industria ha entrado a una nueva era de responsabilidad ética: las decisiones que tomamos importan a escala global. No obstante, la mayoría de nosotros nos enteramos del proyecto Dragonfly a través de informes noticiosos a principios de agosto. Se dice que Dragonfly es un esfuerzo por proporcionar a China el servicio de búsqueda y noticias personalizadas para teléfonos móviles de conformidad con la censura por parte del gobierno chino y con los requisitos de vigilancia. Hace ocho años, después de que Google sacó de China la búsqueda en internet censurada, Sergey Brin explicó la decisión, diciendo: "En algunos aspectos de la política [gubernamental], particularmente con respecto a la censura, veo algunas señales de totalitarismo en lo que se refiere a la vigilancia de los disidentes". Dragonfly y el regreso de Google a China plantean problemas morales y éticos urgentes, cuya esencia estamos discutiendo en todas partes.
Aquí lo que estamos abordando es un problema estructural subyacente: actualmente no contamos con la información que se requiere para tomar decisiones éticamente informadas sobre nuestro trabajo, nuestros proyectos y nuestro empleo. Que la decisión de crear Dragonfly se tomara en secreto y siguiera adelante incluso mientras se implementaban los principios de IA, deja claro que los principios por sí solos no son suficientes. Necesitamos urgentemente más transparencia, un lugar en la mesa y el compromiso de aclarar y abrir los procesos. Los empleados de Google necesitamos saber lo que estamos creando.
Frente a estos importantes asuntos, nosotros, los que firmamos al calce, estamos llamando a que haya un código amarillo que aborde el tema de la ética y la transparencia y pedimos a los líderes que trabajen con los empleados para implementar un proceso concreto de transparencia y supervisión, incluyendo lo siguiente:
Una estructura de revisión ética que incluya a representantes de los empleados ordinarios
El nombramiento de un defensor del pueblo con una aportación importante por parte de los empleados para su elección
Un claro plan de transparencia que sea suficiente para permitir a los empleados de Google tomar una decisión ética individual acerca de aquello en lo que están trabajando, y
La publicación de "casos de prueba éticos"; una valoración ética de Dragonfly, Maven y Airgap GCP en relación con los principios de IA, y comunicados y valoraciones regulares, oficiales e internamente visibles en relación con cualquier nueva área de preocupación ética sustancial
Firman,
(1) Un código amarillo es un proceso estandarizado en ingeniería para abordar problemas nuevos o de mucho tiempo atrás cruciales para la empresa, que abarque a múltiples grupos. Un código amarillo incluye: a un ejecutivo responsable del proceso, a un encargado general, una lista clara de objetivos a ser resueltos antes de cerrar el código amarillo y actualizaciones semanales (o más frecuentes) dirigidas a las partes interesadas.
Este post fue traducido del inglés.