La startup allemande Penemue a levé €1,7M pour une plateforme IA contre la haine en ligne

Penemue parie sur l'un des segments les plus sensibles du marché de l'IA : protéger les personnes et les organisations contre la haine en ligne, les menaces et la violence numérique. La startup allemande de Fribourg a levé plus de 1,7 million d'euros pour accélérer le développement de sa plateforme, qui surveille en temps réel le contenu toxique et potentiellement criminel dans 89 langues simultanément. L'entreprise n'a pas divulgué les noms de ses investisseurs, mais la direction dans laquelle les fonds seront dirigés est claire : développer le modèle, de nouveaux partenariats en Europe et au-delà, ainsi qu'une intégration plus profonde avec les institutions gouvernementales.

L'entreprise a été fondée par Jonas Navid Mehrabanian Al-Nemri, Sara Egetemeier et Marlon Lukert. Penemue opère dans la catégorie TrustTech — des solutions à l'intersection de la sécurité, de la modération et de l'application de la loi. Sara Egetemeier, cofondatrice et directrice générale de l'entreprise, souligne que les victimes ne sont pas seulement celles visées par l'attaque, mais aussi tous ceux qui lisent ces messages : les fans, les communautés et le jeune public, pour qui une telle norme s'enracine rapidement.

Le système surveille les commentaires sur les réseaux sociaux et les messages privés, reconnaît le discours de haine, les menaces et d'autres formes de communication nuisible, y compris les formulations voilées, l'argot local, les dialectes et même les emoji. Pour les clients, ce n'est pas seulement une analyse post facto : la plateforme envoie des notifications instantanées et permet aux utilisateurs de masquer ou de supprimer le contenu problématique en un clic, ou immédiatement de déposer une plainte pour les procédures légales ultérieures. Il est particulièrement important que Penemue ne vende pas une « éthique de l'IA » abstraite, mais un outil tout à fait pratique avec un marché déjà clair.

Selon l'entreprise, ses clients incluent des clubs de première et deuxième divisions de la Bundesliga, des politiciens fédéraux, des entreprises, des maisons de médias, des artistes et des influenceurs en Allemagne et dans d'autres pays européens. L'efficacité de l'approche, selon ce qui est affirmé, est confirmée par une recherche de l'Université de Mannheim, qui a documenté un effet positif dans la lutte contre la violence numérique. Cela ajoute du poids au projet : pour les clients dans de tels domaines, la nouveauté technologique est importante, mais aussi la preuve que le système réduit réellement les dégâts, plutôt que de simplement bien classer les messages.

Une autre caractéristique de Penemue est qu'elle travaille non seulement avec des clients commerciaux, mais aussi directement avec les procureurs, la police et les centres officiels de plaintes. Cette combinaison aide à amener les cas de crimes informatiques à une poursuite plus cohérente, plutôt que de les laisser au niveau de la modération manuelle sur les réseaux sociaux. La startup dispose d'un modèle commercial double : SaaS pour les organisations et solutions de licence pour les agences gouvernementales, qui peuvent alors fournir l'outil aux politiciens, aux ONG et à d'autres groupes vulnérables.

Pour l'Europe, c'est particulièrement opportun compte tenu du Digital Services Act : les nouvelles réglementations exigent que les opérateurs de canaux numériques introduisent des mesures de protection contre le contenu nuisible, ce qui signifie que la demande pour ces plateformes sera de plus en plus motivée non seulement par des considérations de réputation, mais aussi par les exigences de conformité. Penemue orientera les nouveaux fonds vers le développement supplémentaire de modèles d'IA, l'expansion de son réseau de partenaires européens et internationaux, et l'approfondissement de la coopération avec les institutions publiques. L'entreprise fait déjà partie du programme TechBoost de Deutsche Telekom, participe à l'initiative #NoHateSpeech et a précédemment reçu la reconnaissance d'AI Champion du Bade-Wurtemberg.

Pour un jeune acteur, c'est un signal important : la startup tente de s'établir non pas comme un autre service de surveillance des réseaux sociaux, mais comme une couche d'infrastructure entre les plateformes, les victimes de cyberharcèlement, les marques et le système judiciaire. La conclusion clé ici est que le marché de la modération de l'IA mûrit rapidement et passe des « filtres intelligents » à une infrastructure juridiquement significative. Penemue démontre que les outils de détection du discours de haine peuvent être vendus simultanément comme un produit de sécurité, comme une solution de conformité et comme un service de protection publique.

Si l'entreprise peut maintenir la qualité de la reconnaissance dans des dizaines de langues et adapter son travail avec le gouvernement, elle a une chance de devenir un acteur notable dans le segment TrustTech européen.