Bengio pide a los empleados de los laboratorios frontier que se marchen por la seguridad de la IA

Yoshua Bengio, uno de los tres «padrinos» del aprendizaje profundo y premio Turing 2018, ha publicado en Transformer una columna con un llamamiento directo. A quienes consideran que la seguridad de la IA es de verdad una prioridad, les aconseja abandonar las empresas frontier. El titular suena a ultimátum, y el avance precisa a quién va dirigido: los empleados de los principales laboratorios, a quienes Bengio invita a sumarse a la lucha por un futuro más seguro. No tenemos el texto completo de la columna, solo el titular y el avance. Por eso, a continuación ofrecemos el contexto y la lógica del debate, no un resumen de los argumentos del autor.

Qué se sabe de la declaración

Los datos publicados permiten reconstruir el siguiente panorama:

• Autor: Yoshua Bengio, profesor de la Universidad de Montreal y uno de los científicos más citados en el campo de la informática.
• Medio: Transformer News, una publicación que cubre la política y la industria de la IA. La columna se escribió en exclusiva para ella.
• Destinatarios: empleados de laboratorios frontier, es decir, de las compañías que entrenan los modelos más potentes.
• Tesis principal según el titular: dar prioridad a la seguridad y trabajar en esas empresas son cosas poco compatibles.
• Fecha de publicación: 8 de octubre de 2026.

Solo con el titular no se puede saber si Bengio cita empresas concretas ni si propone alternativas, como la academia, las organizaciones sin ánimo de lucro o las instituciones públicas. Conviene comprobarlo en el original.

Por qué sus palabras pesan más de lo habitual

Hace tiempo que Bengio pasó de la ciencia pura a una postura pública sobre los riesgos de la IA. En 2023 firmó la carta abierta que pedía detener el entrenamiento de los sistemas más potentes. Después encabezó el informe internacional sobre seguridad de la IA avanzada, cuya primera edición salió en enero de 2025. En junio de 2025 puso en marcha LawZero, una organización sin ánimo de lucro con una financiación de unos 30 millones de dólares. Su objetivo es desarrollar sistemas que no actúen como agentes autónomos y que, por ello, sean más fáciles de controlar.

Es decir, Bengio no se limita a comentar la industria desde fuera. Está construyendo una plataforma institucional alternativa y, a juzgar por la columna, invita a la gente a unirse a ella. Se pueden ver ahí tanto una posición de principios como una agenda de talento: los especialistas en seguridad son pocos y cada uno cuenta.

El debate «desde dentro o desde fuera»

Este debate tiene historia. En 2021 un grupo de investigadores dejó OpenAI y fundó Anthropic, en buena parte por discrepancias sobre la seguridad. En mayo de 2024 abandonaron la compañía Ilya Sutskever y Jan Leike, y Leike escribió públicamente que la cultura de seguridad había cedido el paso a los productos brillantes. En junio de 2024, empleados actuales y antiguos de OpenAI y Google DeepMind publicaron la carta «Right to Warn», sobre el derecho a advertir a la sociedad de los riesgos. Geoffrey Hinton dejó Google en 2023 para poder hablar con libertad.

La postura de «quedarse e influir» tiene un argumento sólido. Solo dentro de un laboratorio se ven los modelos reales, los resultados de las evaluaciones y las decisiones internas sobre los lanzamientos. Marcharse priva a la persona de acceso y de palancas, y su puesto lo ocupará alguien a quien la seguridad preocupe menos. La postura de Bengio parte del argumento contrario: la presión comercial sobre el laboratorio es más fuerte que la influencia de cada empleado, y la investigación independiente, la regulación y el control público avanzan más rápido cuando los mejores especialistas no están atados por acuerdos de confidencialidad.

Conclusiones prácticas

Para ingenieros e investigadores, la columna es un motivo para evaluar con honestidad qué decisiones de seguridad pueden cambiar realmente desde su puesto y si tienen garantías de poder hablar públicamente de los riesgos. Los responsables de los laboratorios deberían revisar cómo funcionan los canales de escalado, las condiciones de despido y la política hacia los whistleblowers. De lo contrario, llamamientos como este empezarán a afectar a la contratación y la retención de personal.

Inversores y reguladores deberían vigilar si a estas palabras le sigue una salida notable de especialistas en seguridad. Si ocurre, será una señal más fuerte que cualquier columna. Mientras tanto, lo razonable es leer el original completo en Transformer para separar los argumentos de Bengio de un titular que, por su naturaleza, es más tajante que el texto.