La startup Probably capta 9 millones de dólares para que la IA sea tan precisa como el código convencional

La startup estadounidense Probably ha cerrado una ronda semilla de 9 millones de dólares. El dinero se destinará a desarrollar sistemas de IA que eviten las alucinaciones y los errores factuales antes de que la respuesta llegue al usuario. El objetivo principal es lograr una precisión comparable a la de los sistemas deterministas, es decir, el código de software convencional.

Por qué las alucinaciones son más que una molestia

Los grandes modelos de lenguaje "alucinan" con regularidad: afirman con seguridad datos falsos, citan estudios inexistentes e inventan citas. Según diversas estimaciones independientes, incluso los modelos comerciales más avanzados se equivocan en el 10–20% de las afirmaciones factuales concretas. Además, al usuario le resulta extremadamente difícil distinguir cuándo el modelo acierta y cuándo se inventa las cosas, porque suena igual de seguro en ambos casos. Esto crea un riesgo sistémico que limita la aplicabilidad de la IA en escenarios empresariales reales.

Las empresas se ven obligadas a elegir entre dos malas opciones: contratar personas para verificar cada respuesta de la IA o limitar el uso de los modelos a tareas en las que un error no es crítico. Para la medicina, la abogacía, el cumplimiento normativo financiero y el sector público, esto significa en la práctica que los sistemas de IA autónomos no son utilizables: el coste de un error es demasiado alto.

Un nuevo listón: precisión determinista

Probably se fija un listón nada trivial: alcanzar la precisión de los sistemas deterministas. Es una diferencia fundamental con el funcionamiento de los LLM actuales. Un programa determinista siempre da el mismo resultado ante los mismos datos de entrada: una calculadora nunca "decidirá" inventarse la respuesta a 2 + 2. Un modelo de lenguaje funciona de otra manera: genera texto probabilístico que puede sonar convincente, pero no tiene por qué ser correcto.

El equipo de Probably construye una arquitectura en la que la IA no se limita a generar una respuesta, sino que la verifica antes de enviarla. Principios clave:

• Separación clara entre el conocimiento fiable y las suposiciones del modelo
• Verificación de cada afirmación factual antes de que llegue al usuario
• Un "no lo sé" explícito en lugar de un dato inventado
• Transparencia: el sistema explica la fuente de cada afirmación
• Tolerancia cero a los errores factuales en la respuesta final

Este enfoque es el opuesto al que han seguido la mayoría de los desarrollos de LLM en los últimos años. Los modelos se ajustaban con énfasis en la "utilidad" y la "capacidad de persuasión", algo que a menudo chocaba con la precisión.

Mercado y competencia

La IA fiable atrae ahora mucho capital riesgo. En este nicho trabajan Vectara, Cohere con su apuesta por las arquitecturas RAG empresariales, varias startups en modo sigiloso y proyectos académicos de grandes universidades. Los grandes actores, OpenAI, Anthropic y Google, también invierten en reducir las alucinaciones, pero para ellos la precisión es solo una de las muchas características del producto, no el principal elemento diferenciador. Probably lo construye todo en torno a una sola idea.

Los 9 millones de dólares de la ronda semilla dan al equipo entre año y medio y dos años para demostrar que la arquitectura funciona y captar la siguiente financiación. El nombre de la compañía es una ironía deliberada sobre la naturaleza probabilística de los modelos de lenguaje y, a la vez, una declaración de intenciones de superarla.

Qué significa

Si Probably logra resolver de forma convincente el problema de las alucinaciones, abrirá a la IA el camino hacia sectores regulados, como la sanidad, los servicios jurídicos y el cumplimiento normativo financiero, donde hoy los sistemas autónomos resultan inaceptables por su imprecisión. Para las empresas, supondría la posibilidad de eliminar la costosa capa de verificación humana y delegar de verdad tareas de responsabilidad en una máquina, no de palabra, sino con garantías medibles de precisión.