Por qué Microsoft, OpenAI y Anthropic piden no confiar en su propia IA

El mes pasado, los medios TechCrunch, TechRadar y PCMag destaparon una paradoja escandalosa: las mayores empresas de IA reconocen de hecho, en sus Términos de Servicio, que sus modelos son demasiado poco confiables para el trabajo real. Al mismo tiempo, venden activamente esos mismos modelos como una herramienta revolucionaria para sustituir a los trabajadores.

Microsoft: entretenimiento disfrazado de productividad

Microsoft afirma directamente en la sección «Código de conducta» de sus Condiciones de uso de Copilot: «Copilot está diseñado exclusivamente con fines de entretenimiento. Puede cometer errores y funcionar de forma distinta a la prevista. No confíe en Copilot para tomar decisiones importantes».

Además, la sección «Advertencias y divulgaciones importantes» exime por completo a Microsoft de responsabilidad. Los usuarios deben aceptar no presentar reclamaciones contra la empresa por ningún daño causado por la herramienta, incluidas las pérdidas comerciales. Si usa Copilot como asistente profesional y no como entretenimiento, pierde el derecho a cualquier compensación.

Esto genera una situación absurda: un producto que la empresa vende como la próxima gran revolución de la productividad profesional es, al mismo tiempo, declarado inseguro para tareas reales.

OpenAI y Anthropic: camuflaje legal

OpenAI sigue un camino similar, pero lo disimula mejor. Sus Condiciones incluyen un extenso apartado sobre la precisión insuficiente de ChatGPT y de Gemini integrado. Exigen que los usuarios «evalúen los resultados en cuanto a precisión e idoneidad» y realicen «una revisión humana antes de usar o distribuir los resultados de los Servicios». Al mismo tiempo, la empresa se exime por completo de responsabilidad por daños indirectos, incidentales y especiales (y lo escribe EN MAYÚSCULAS para darle más dramatismo).

Anthropic, que se presenta como un actor más ético dentro de la industria de la IA, en realidad actúa de forma aún más cínica. En sus Condiciones señala que los servicios están destinados «únicamente a uso no comercial» (al visualizarlos desde una IP europea). Pero lo más relevante está en la limitación de responsabilidad: Anthropic se compromete a pagar un máximo de 100 libras (unos 8.000 rublos) por cualquier daño causado por Claude, Claude Code o cualquier otro de sus modelos. Cien libras es la cifra con la que la empresa valora el daño máximo posible que puede causar su IA.

Por qué esto es un reconocimiento del peligro

Nada de esto es casual. Las empresas de IA simplemente reconocen lo que confirman investigaciones independientes.

La Universidad de Melbourne demostró que la IA es demasiado poco confiable como herramienta de productividad porque la microgestión (detectar y corregir errores) requiere tanto tiempo que no se produce ninguna ganancia real de productividad. Un estudio de Carnegie Mellon encontró que incluso las mejores IA «agénticas» fracasaron en tareas realistas de trabajo freelance debido a alucinaciones y fallos totales.

La propia OpenAI publicó una investigación que mostró que aumentar la potencia de cómputo y el volumen de datos no puede reducir la tasa de alucinaciones (frecuencia de errores) por debajo del umbral actual. El trabajo de Vishal Sikka y su hijo Varin Sikka confirmó que estos modelos están condenados a seguir siendo poco confiables y no podrán ejecutar tareas computacionales y agénticas complejas.

Una burbuja económica en lugar de innovación

Ahí está la esencia de la paradoja. Las empresas de IA saben que sus modelos son peligrosamente inexactos. Saben que no habrá una mejora significativa. Y saben que todas las promesas sobre sustituir trabajadores y revolucionar la productividad son pura exageración.

Sin embargo, en lugar de detener esta locura, se protegen activamente a nivel legal mientras siguen inflando la burbuja y atrayendo cientos de miles de millones de dólares en inversión. Esto permite a las grandes tecnológicas (hyperscalers) invertir sumas astronómicas en la construcción de centros de datos cada vez más grandes y en la compra de capacidad de cómputo.

La estrategia es clara: mientras siga fluyendo la inversión, se puede vender la revolución y, al mismo tiempo, protegerse legalmente de sus consecuencias. Los Términos de Servicio de Microsoft, OpenAI y Anthropic demuestran que las empresas de IA son conscientes de la brecha entre el hype y la realidad. Pero en lugar de reconocer el problema, prefieren las ganancias, y dejan escrito en letra pequeña lo que todos ya saben.