Ética de la IA en el MIT: el filósofo Brian Hedden intentará inculcar conciencia a los algoritmos

Mientras Silicon Valley avanza a toda velocidad con el lema «rompe todo lo que veas», el MIT ha decidido que es hora de añadir a esa mezcla algo de sensatez adulta. El nombramiento de Brian Hedden como codecano de ética y responsabilidad social en el Schwarzman College of Computing no es simplemente otra línea en la plantilla. Es el reconocimiento oficial de que el código puro, sin brújula moral, se está convirtiendo en una herramienta con consecuencias impredecibles. Hedden, filósofo de profesión, llega a SERC (Social and Ethical Responsibilities of Computing) para poner orden en cómo interactúa la tecnología con la sociedad.

Durante mucho tiempo, la ética en el sector IT fue algo parecido a una asignatura optativa: un complemento agradable, pero no obligatorio, de un curso de estructuras de datos o de arquitectura de procesadores. A los programadores se les enseñaba a optimizar bucles, pero rara vez se les pedía que se preguntaran si su modelo de reconocimiento facial discrimina a ciertos grupos de personas. Ahora las reglas del juego han cambiado.

Después de que los algoritmos empezaran a influir directamente en procesos políticos, diagnósticos médicos e incluso en si una persona obtiene un crédito, ignorar el «factor humano» se ha vuelto sencillamente peligroso. El MIT Schwarzman College, creado en 2018 con dinero del multimillonario Stephen Schwarzman, se planteó desde el principio un enfoque interdisciplinar, y el nombramiento de Hedden es una continuación lógica de esa estrategia.

Brian Hedden se especializa en epistemología y racionalidad. Puede sonar a libro de texto polvoriento, pero es justo lo que hace falta para depurar las redes neuronales actuales. ¿Cómo tomamos decisiones? ¿Qué es la objetividad en un mundo donde los datos nacen sesgados? ¿Cómo construir un sistema que no sea solo «eficiente», sino también justo? En el MIT entendieron que estas preguntas no se responden únicamente con parches y actualizaciones de bibliotecas de Python. Hay que cambiar la forma de pensar de quienes crean esas bibliotecas.

Junto con su colega Nikos Trichakis, Hedden incorporará módulos éticos directamente en las disciplinas técnicas. La idea es sencilla y ambiciosa a la vez: lograr que un estudiante que escribe código para un dron autónomo o un sistema de scoring vea de inmediato las señales de alarma. Es un intento de formar a una nueva generación de ingenieros que dejen de encogerse de hombros y de decir: «Yo solo escribo código, no me hago responsable de cómo se use». Hedden tendrá que explicar a los técnicos por qué el «rendimiento» no es el único KPI que importa hoy, ni de lejos el más importante.

Todo el mundo observa ahora la carrera armamentista entre gigantes como OpenAI y Google. Con tantas prisas, las consideraciones éticas se sacrifican a menudo a la velocidad de lanzamiento y a la captación de inversión. Nombrar a un filósofo en un cargo directivo de la principal universidad técnica del planeta es una señal contundente para toda la industria. El MIT quiere ser referente no solo en potencia de sus clústeres de cómputo, sino en cómo esa potencia servirá a las personas en lugar de perjudicarlas. Si la mejor universidad técnica del mundo apuesta por la filosofía, la era del tecnooptimismo irresponsable llega oficialmente a su fin.

Por supuesto, cabe señalar con escepticismo que un solo filósofo en el decanato no frenará los apetitos corporativos ni resolverá el problema de las «cajas negras» de la IA. Aun así, el enfoque sistémico del MIT puede sentar un precedente importante. Si las grandes empresas empiezan a exigir a sus empleados no solo conocimientos de algoritmos, sino también comprensión de la responsabilidad social, el panorama del desarrollo cambiará para siempre. Podríamos ver más transparencia y menos fe ciega en la infalibilidad de las máquinas.

La clave: ¿se convertirá la ética en un filtro real para las tecnologías peligrosas o se quedará en un bonito escaparate para los reguladores?