La startup alemana Penemue capta 1,7 millones de euros para su plataforma de IA contra el odio en internet

Penemue apuesta por uno de los segmentos más delicados del mercado de la IA: proteger a personas y organizaciones del odio en internet, las amenazas y la violencia digital. La startup, con sede en Friburgo (Alemania), ha captado más de 1,7 millones de euros para acelerar el desarrollo de su plataforma, que vigila en tiempo real contenido tóxico y potencialmente delictivo en 89 idiomas. La compañía no ha revelado los nombres de los inversores, pero sí ha dejado claro a qué dedicará el dinero: al desarrollo del modelo, a nuevas alianzas dentro y fuera de Europa y a una integración más profunda con las instituciones públicas.

Fundaron la empresa Jonas Navid Mehrabanian Al-Nemri, Sarah Egetemeyr y Marlon Lückert. Penemue opera en la categoría TrustTech, que agrupa soluciones a medio camino entre la seguridad, la moderación y la aplicación de la ley. Sarah Egetemeyr, cofundadora y directora general, subraya que las víctimas no son únicamente quienes reciben el ataque, también lo son todos los que leen esos mensajes: aficionados, comunidades y un público joven que normaliza rápidamente este tipo de conductas.

El sistema supervisa los comentarios en redes sociales y los mensajes privados, y reconoce el discurso de odio, las amenazas y otras formas de comunicación dañina, incluidas las formulaciones veladas, la jerga local, los dialectos e incluso los emojis. Para los clientes, la herramienta va más allá del análisis a posteriori: la plataforma envía alertas instantáneas y permite ocultar o eliminar el contenido problemático con un solo clic, o bien preparar directamente una denuncia para su posterior tramitación judicial. Conviene destacar que Penemue no vende una abstracta «ética de la IA», sino una herramienta práctica con un mercado ya definido.

Según la empresa, entre sus clientes hay clubes de la primera y la segunda Bundesliga, políticos federales, empresas, grupos de comunicación, artistas e influencers de Alemania y otros países europeos. La eficacia de su enfoque, según se afirma, la respalda un estudio de la Universidad de Mannheim, que constató un efecto positivo en la lucha contra la violencia digital. Esto da peso al proyecto: en este ámbito, a los clientes les importa tanto la novedad tecnológica como la prueba de que el sistema reduce realmente el daño, en lugar de limitarse a clasificar mensajes con elegancia.

Otra particularidad de Penemue es que trabaja tanto con clientes comerciales como directamente con fiscalías, policía y centros oficiales de denuncia. Esta conexión ayuda a que los casos de delitos digitales lleguen a una persecución más coherente, en vez de quedarse en la moderación manual de las redes sociales. La startup tiene un modelo de negocio doble: SaaS para organizaciones y licencias para organismos públicos, que después pueden ceder la herramienta a políticos, ONG y otros colectivos vulnerables.

En Europa, el momento es especialmente oportuno por la Digital Services Act: las nuevas normas exigen a los operadores de canales digitales que adopten medidas de protección frente al contenido dañino, de modo que la demanda de este tipo de plataformas responderá cada vez más a requisitos de cumplimiento normativo, además de a motivos reputacionales. Penemue destinará el nuevo capital a seguir desarrollando sus modelos de IA, ampliar su red de socios europeos e internacionales y estrechar la colaboración con las instituciones públicas. La empresa ya forma parte del programa TechBoost de Deutsche Telekom, participa en la iniciativa #NoHateSpeech y ha sido reconocida anteriormente como AI Champion del estado de Baden-Wurtemberg.

Para un actor joven, es una señal importante: la startup aspira a ser algo más que otro servicio de monitorización de redes sociales y busca convertirse en una capa de infraestructura entre las plataformas, las víctimas de acoso, las marcas y el sistema judicial. La conclusión principal es que el mercado de la moderación con IA madura rápidamente y evoluciona de los «filtros inteligentes» hacia una infraestructura con relevancia jurídica. Penemue demuestra que las herramientas de detección del discurso de odio pueden venderse a la vez como producto de seguridad, como solución de compliance y como servicio de protección ciudadana.

Si la compañía logra mantener la calidad de detección en decenas de idiomas y escalar su trabajo con el sector público, tiene opciones de convertirse en un actor destacado del segmento TrustTech europeo.