MarkTechPost→ original

Liquid AI lanzó LFM2.5-8B: un modelo MoE compacto con contexto de 128K

Liquid AI lanzó LFM2.5-8B-A1B, un modelo MoE que activa solo 1.5B de 8.3B parámetros. Funciona en una PC ordinaria, admite un contexto de 128K tokens, puede…

Procesado por IA desde MarkTechPost; editado por Hamidun News
Liquid AI lanzó LFM2.5-8B: un modelo MoE compacto con contexto de 128K
Fuente: MarkTechPost. Collage: Hamidun News.
◐ Escuchar artículo

La empresa Liquid AI lanzó el nuevo modelo LFM2.5-8B-A1B, que puede ejecutarse directamente en una computadora personal sin requerir un servidor en la nube ni suscripción.

Cómo funciona la arquitectura MoE

Este modelo utiliza la arquitectura Mixture of Experts (MoE), que se convirtió en una tendencia en 2024-2025. LFM2.5 tiene un total de 8.3 mil millones de parámetros, pero solo 1.5 mil millones se activan simultáneamente. Es como una biblioteca grande: en lugar de releer todos los libros uno tras otro, toma solo los que necesita para la tarea actual.

Este enfoque ofrece dos ventajas. En primer lugar, se ahorran memoria RAM y potencia computacional: el modelo se ejecuta más rápido. En segundo lugar, en un solo GPU se puede ejecutar un modelo de tamaño físico más pequeño. El rendimiento sigue siendo alto, pero los requisitos de hardware son menores.

Capacidades y características

LFM2.5-8B-A1B admite un contexto de 128 mil tokens, aproximadamente cien páginas de texto impresas con fuente de 12pt. El modelo es capaz de razonamiento: resuelve tareas complejas paso a paso, mostrando resultados intermedios. También puede invocar herramientas, como buscar en Internet, realizar cálculos o acceder a APIs externas.

  • 128 mil tokens de contexto para documentos largos
  • Razonamiento lógico paso a paso
  • Invocación de herramientas y funciones
  • Funcionamiento en una PC de consumidor sin la nube

El modelo está dirigido a desarrolladores que desean integrar IA en sus aplicaciones sin depender de servicios en la nube.

Ejecución local: la principal ventaja

La diferencia de LFM2.5 respecto a los modelos en la nube es que funciona completamente en el dispositivo del usuario. La solicitud no se envía a un servidor; la respuesta se genera localmente. Esto significa latencia mínima y privacidad total: los datos no abandonan tu computadora.

Para los desarrolladores, esto significa no hay suscripciones ni dependencia de la API de Liquid AI. Simplemente descargan el modelo e lo integran en su producto. No hay límites en la cantidad de solicitudes, no hay cargos por cada llamada. Ideal para aplicaciones móviles, sistemas embebidos y software que necesita funcionar sin conexión.

Qué significa esto

El mundo de los modelos de IA está pasando gradualmente de servicios en la nube a soluciones locales. Si antes solo las grandes corporaciones (OpenAI, Google, Meta) podían servir a millones de usuarios, ahora cada desarrollador puede integrar un modelo poderoso directamente en su software. LFM2.5-8B-A1B es un paso más en esta dirección. Esto es especialmente útil en aplicaciones donde se necesita privacidad, respuestas rápidas o funcionamiento sin conexión.

*Meta ha sido reconocida como una organización extremista y está prohibida en la Federación Rusa.

ZK
Hamidun News
Noticias de AI sin ruido. Selección editorial diaria de más de 400 fuentes. Producto de Zhemal Khamidun, Head of AI en Alpina Digital.

¿Quieres dejar de leer sobre IA y empezar a usarla?

AI News es un feed curado de noticias de IA. Hamidun Academy te enseña a usar la IA en tu trabajo.

¿Qué te parece?
Cargando comentarios…