Empleados de Google exigen a Sundar Pichai prohibir el uso secreto de IA militar

Un nuevo conflicto interno está estallando en Google en torno a la aplicación militar de la inteligencia artificial: más de 600 empleados han exigido al CEO Sundar Pichai que impida el uso de los modelos de la empresa en proyectos clasificados del Pentágono. No se trata de contratos públicos o declaraciones formales, sino del escenario más sensible, en el que las tecnologías podrían ser utilizadas dentro de tareas militares cerradas sin transparencia para los propios desarrolladores. Para una empresa que ha pasado años intentando equilibrar intereses comerciales, contratos gubernamentales y sus propias promesas en el campo de la IA responsable, esto se convierte en otra prueba de dónde termina la cooperación permisible con el sector de defensa.

Según The Washington Post, los empleados enviaron una carta directamente a Pichai y exigieron que bloqueara el acceso del Pentágono a los modelos de Google para tareas clasificadas. Los organizadores afirman que muchos de los firmantes son empleados de DeepMind—el laboratorio clave de IA de Google—así como más de 20 empleados de nivel principal, directores y vicepresidentes. Esto importa no solo por las 600 firmas.

Las cartas internas de esta escala rara vez aparecen sin una tensión significativa, y cuando personas en posiciones de liderazgo se unen, muestra que el conflicto ha ido mucho más allá del activismo de ingenieros individuales y se ha convertido en un problema de gestión. El argumento principal de los autores de la carta se reduce al control y al riesgo reputacional. Según el relato del Post, escriben que la única forma de garantizar que Google no será asociado con posibles daños es rechazar completamente las tareas clasificadas.

Si no se establece tal prohibición, creen los empleados, tales aplicaciones podrían ocurrir sin su conocimiento y sin posibilidad alguna de influir en la situación. Para una gran empresa, esta es una formulación dolorosa: señala no simplemente un desacuerdo con un cliente particular, sino desconfianza en los mecanismos internos de supervisión. Cuando los desarrolladores no confían en que puedan ver hacia dónde va su tecnología, la conversación sobre los principios de la IA rápidamente se convierte en una conversación sobre responsabilidad corporativa.

Una capa separada del conflicto se relaciona con el estado de DeepMind dentro de Google. Es ahí donde se concentra una parte significativa de la experiencia investigadora de la empresa, y si los organizadores tienen razón sobre el número de firmantes del laboratorio, la señal para el liderazgo se vuelve aún más fuerte. DeepMind históricamente ha sido asociada con investigación a largo plazo, seguridad de la IA y un enfoque más cauteloso hacia los riesgos que lo común en los ciclos corporativos ordinarios de ventas.

Por lo tanto, el descontento desde este ambiente se percibe no como ruido externo, sino como una advertencia de personas que construyen directamente modelos fundamentales y entienden mejor los posibles escenarios para su uso. En este contexto, cualquier respuesta de Pichai será considerada no solo como una decisión de personal, sino también como una declaración sobre la política real de Google en relación a la IA de defensa. La historia encaja en una tendencia más amplia: las mayores empresas de IA se encuentran cada vez más entre la presión de gobiernos, las expectativas de inversores y las limitaciones éticas internas de sus equipos.

Los militares y las agencias de inteligencia quieren acceso a modelos de vanguardia porque pueden acelerar el análisis de datos, automatizar la búsqueda de patrones e incrementar la eficiencia de procesos cerrados. Pero es precisamente la naturaleza cerrada de tales proyectos la que provoca mayor resistencia entre los empleados. Cuanta menos transparencia hay, más difícil es verificar dónde está el límite entre el apoyo de infraestructura permisible y la participación en sistemas que podrían ser utilizados para vigilancia, orientación u otras operaciones sensibles.

Incluso si se trata solo de computación o modelos de propósito general, para algunos miembros del equipo esto es ya suficiente para exigir un rechazo completo de aplicaciones clasificadas. Para Google, este conflicto es importante por dos razones. Primero, muestra que la era en la que el liderazgo podría simplemente firmar un contrato gubernamental importante y luego explicarlo con posterioridad ha terminado: los empleados quieren el derecho de influir en tales decisiones por anticipado.

Segundo, el conflicto plantea la pregunta de si las empresas de IA pueden mantener la confianza de sus propios equipos de investigación si comienzan a profundizar en el sector de defensa. Si Pichai ignora la carta, la empresa corre el riesgo de profundizar la división interna. Si accede a limitaciones, establecerá un precedente para todo el mercado: el acceso a modelos poderosos podría ser determinado no solo por la ley y los ingresos, sino también por si los desarrolladores están dispuestos a responder por las consecuencias de su uso encubierto.