Descontento en Google: empleados renuncian por el uso militar de la IA

Un número significativo de empleados de Google ha manifestado su descontento en relación con el uso de su tecnología de inteligencia artificial para fines militares. La BBC ha tenido la oportunidad de dialogar con varios trabajadores que han renunciado recientemente a Google DeepMind, la división de inteligencia artificial de la compañía, o que están próximo a hacerlo, debido a sus inquietudes sobre los contratos militares que ha suscripto la empresa. Sofia Liguori, ingeniera de investigación ubicada en Londres, es una de las voces disonantes. Esta semana, decidió abandonar su cargo en Google DeepMind y, a pesar de que su contrato contiene una cláusula de confidencialidad, eligió compartir sus preocupaciones de manera abierta. “Al darme cuenta de que mi empresa está impulsando cada vez más el uso de sistemas de IA en operaciones militares, me avergüenza trabajar en Google”, comentó Liguori, enfatizando que su opinión es personal. Ante estas declaraciones, un portavoz de Google manifestó: “Trabajamos con organizaciones del sector público en todo el mundo y seguimos un proceso coherente para revisar y formalizar estos contratos, incluido el cumplimiento de nuestras políticas de uso aceptable y los principios de IA”. Además, el representante aseguró: “También contamos con canales específicos para que los empleados puedan plantear de forma segura cualquier inquietud, desde ética empresarial hasta mala conducta, y tenemos políticas laborales estrictas para evitar represalias de cualquier tipo”. Google forma parte de un grupo de empresas tecnológicas que, a principios de este año, establecieron contratos con el ejército estadounidense para integrar la inteligencia artificial en entornos militares clasificados. El secretario de Defensa de los Estados Unidos, Pete Hegseth, ha puesto como prioritaria la integración de la IA en las fuerzas armadas, afirmando que la administración Trump se comprometió a convertir las fuerzas en una “fuerza de combate basada en la IA”. La preocupación entre los críticos del uso militar de la IA radica en el rápido avance de esta tecnología y en su fiabilidad para ser implementada en conflictos bélicos sin una supervisión adecuada, pruebas exhaustivas y medidas de seguridad robustas. Tras haber trabajado durante tres años en Google, Liguori expresó que su decisión de dimitir fue impulsada por el incremento del trabajo de la empresa con los ejércitos de los Estados Unidos e Israel. “No estoy de acuerdo con esta dirección y esto me ha llevado a perder la fe en que mi empresa sea fiel a los valores éticos que proclama”, afirmó. De acuerdo con los Principios de IA de Google, estos valores incluyen la implementación de la inteligencia artificial con “supervisión humana” y el compromiso de alinear la tecnología con el “derecho internacional y los derechos humanos”. Sin embargo, tanto exempleados como trabajadores actuales de la compañía, además de expertos consultados por la BBC, han manifestado su preocupación acerca del nivel de supervisión humana en momentos críticos. Los trabajadores del sector tecnológico han expresado un particular desasosiego frente a los contratos militares que se firmaron este año, al considerar que amplían considerablemente la gama de usos que el Pentágono podría otorgar a esta tecnología. Un caso similar es el de Andreas Kirsch, otro investigador de inteligencia artificial que optó por renunciar a Google DeepMind a principios de este mes. Kirsch enfatizó que “la gobernanza y la supervisión de Google no son lo suficientemente robustas como para desplegar la inteligencia artificial de forma segura y responsable en entornos militares y clasificados” ni para “desarrollar una superinteligencia artificial de forma segura en el futuro”. Añadió que Google parece no tener el derecho a controlar o vetar la manera en que el Pentágono utiliza su tecnología de IA, además de tener una visibilidad limitada sobre su implementación. En los últimos años, el ejército estadounidense ha desplegado múltiples tecnologías de inteligencia artificial para mejorar sus capacidades bélicas. Un ejemplo notable es Maven Smart Systems, la principal plataforma de software del Pentágono para la organización de inteligencia y datos. Este sistema, desarrollado por la empresa de defensa Palantir, utiliza inteligencia artificial para ayudar al personal a seleccionar e identificar objetivos. Palantir ha incorporado tecnologías de diversas empresas líderes en IA a Maven, lo que ha permitido acelerar notablemente algunos procesos. El teniente general retirado Jack Shanahan, quien fue el director del Proyecto Maven, aseveró que la “filosofía” detrás de su implementación es: “Implantar [la tecnología de IA] lo más rápido posible y de la forma más amplia posible, potencialmente a expensas del rigor y la disciplina de las pruebas y la evaluación”. Sin embargo, el Pentágono sostiene que la adopción de tecnologías de IA es esencial para lograr victorias en conflictos bélicos. “La velocidad define la victoria en la era de la inteligencia artificial”, declaró Emil Michael, subsecretario del Departamento de Defensa de EE.UU., en un comunicado recientemente. En enero pasado, Google suscribió un contrato con el Pentágono que habilita el uso de su tecnología de IA para tareas militares clasificadas. El acuerdo estipula que los modelos de inteligencia artificial de Google pueden ser utilizados para “cualquier fin gubernamental legítimo” y que “no deben ser empleados para la vigilancia masiva interna ni para armas autónomas (incluida la selección de objetivos) sin la supervisión y el control humanos adecuados”. Al mismo tiempo, otras empresas como OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia y la startup Reflection también han formalizado contratos similares que permiten el despliegue de tecnología de IA en diversos ámbitos militares, como el transporte, la planificación y las operaciones en el campo de batalla. A medida que la tecnología avanza a pasos agigantados, aumenta la preocupación por el uso de la IA en escenarios bélicos. Sarah Shoker, exdirectora del equipo de Geopolítica de OpenAI, señaló que “la IA reduce el tiempo que tiene un operador para tomar una decisión, porque trabaja mucho más rápido que una persona, y eso es especialmente arriesgado en un entorno de alto estrés”. Explicó que, en situaciones donde se gestionan cientos de objetivos seleccionados por IA y el tiempo es limitado, es casi imposible que un operador humano pueda revisar de manera efectiva los resultados de la IA en busca de errores. Internamente, empleados de Google han señalado que hay un clima de miedo y desconfianza que impide a muchos pronunciarse sobre la seguridad de la IA y su uso en contextos bélicos, dado que sus contratos laborales prohíben criticar públicamente a la empresa. “En principio, no tengo permitido criticar a Google durante el resto de mi vida”, declaró Sofia Liguori. Sin embargo, argumentó que tomó la decisión de hablar porque considera “que es importante que estas cuestiones se conozcan” y que “hablar de hechos no es criticar”. Liguori añadió que dentro de Google “la gente siente temor a las represalias y a poner en riesgo su carrera. Se percibe una vigilancia constante, lo que dificulta la libertad de expresión”. Un empleado actual de Google DeepMind, que prefirió permanecer en el anonimato por miedo a represalias, confirmó que “muchos empleados motivados que se unieron a la misión original de la empresa podrían marcharse, pero también hay una nueva generación de personas al inicio de sus carreras que podrían cubrir esos puestos. Podría tratarse de un relevo generacional”. Otro miembro del personal de Google DeepMind, que también optó por el anonimato, enfatizó que “muchas personas han abandonado la empresa porque tienen una opinión muy firme sobre cómo ha cambiado la postura ética de Google DeepMind”. Este empleado concluyó: “Algunos se resisten a esta transformación, mientras que otros piensan: ‘Es una gran empresa. ¿Qué esperas que cambie?'”. Los acuerdos de Google con Israel también han sido motivo de controversia. En 2024, la empresa fue criticada por sus empleados debido a un contrato conjunto con Amazon por un monto de US$1.200 millones conocido como Proyecto Nimbus, que proporciona al gobierno y al ejército israelíes tecnología de IA e infraestructura de computación en la nube. Google afirmó en ese momento que el Proyecto Nimbus “no está dirigido a cargas de trabajo altamente sensibles, clasificadas o militares relacionadas con armamento o servicios de inteligencia”. Las capacidades de inteligencia artificial de Israel en el conflicto bélico también han sido objeto de discusión, particularmente tras su representación en el reciente documental Naza, que explora el uso de sistemas de puntería basados en IA durante el bombardeo de la Franja de Gaza, lo cual resultó en un elevado número de víctimas civiles. Un ministro del gobierno israelí descalificó las afirmaciones presentadas en el documental como falsas y distorsionadas. Kirsch, el exempleado de Google, enfatizó que la tecnología de IA aún no está lista para ser aplicada en el campo de batalla. “Los modelos de IA actuales no son lo suficientemente robustos, y no creo que hayan sido entrenados para este tipo de tareas”, concluyó.