La start-up allemande Penemue lève 1,7 M€ pour sa plateforme d'IA contre la haine en ligne

Penemue mise sur l'un des segments les plus sensibles du marché de l'IA : la protection des personnes et des organisations contre la haine en ligne, les menaces et les violences numériques. Basée à Fribourg, la start-up allemande a levé plus de 1,7 M€ pour accélérer le développement de sa plateforme, qui surveille en temps réel les contenus toxiques et potentiellement illégaux dans 89 langues. L'entreprise n'a pas dévoilé le nom de ses investisseurs, mais l'usage des fonds est clairement défini : développement du modèle, nouveaux partenariats en Europe et au-delà, et intégration plus poussée avec les institutions publiques.

L'entreprise a été fondée par Jonas Navid Mehrabanian Al-Nemri, Sarah Egetemeir et Marlon Lückert. Penemue opère dans la catégorie TrustTech, qui regroupe des solutions à la croisée de la sécurité, de la modération et de l'application de la loi. Sarah Egetemeir, cofondatrice et directrice générale, souligne que les victimes ne sont pas seulement les personnes visées par une attaque, mais aussi tous ceux qui lisent ces messages : supporters, communautés et jeunes publics, chez qui ce type de comportement s'installe vite comme une norme.

Le système surveille les commentaires sur les réseaux sociaux et les messages privés. Il détecte discours de haine, menaces et autres formes de communication nuisible, y compris les formulations voilées, l'argot local, les dialectes et même les emojis. Pour les clients, il ne s'agit pas d'une simple analyse a posteriori : la plateforme envoie des alertes instantanées et permet, en un clic, de masquer ou supprimer un contenu problématique, ou de rédiger directement un signalement en vue de poursuites judiciaires.

Point important : Penemue ne vend pas une « éthique de l'IA » abstraite, mais un outil concret sur un marché déjà identifié. Selon l'entreprise, ses clients comptent des clubs de première et deuxième Bundesliga, des responsables politiques fédéraux, des entreprises, des groupes de médias, des artistes et des influenceurs en Allemagne et dans d'autres pays européens. L'efficacité de l'approche aurait été confirmée par une étude de l'Université de Mannheim, qui a constaté un effet positif dans la lutte contre les violences numériques.

Un argument de poids : sur ces sujets, les clients attendent non seulement de l'innovation technologique, mais aussi la preuve que le système réduit réellement les dommages, au lieu de se contenter de classer élégamment les messages.

Autre spécificité de Penemue : l'entreprise ne travaille pas uniquement avec des clients commerciaux, mais aussi directement avec le parquet, la police et les centres officiels de signalement. Ce lien permet de mener les affaires de cybercriminalité vers des poursuites plus systématiques, plutôt que de les laisser au stade de la modération manuelle sur les réseaux sociaux. Le modèle économique de la start-up est double : du SaaS pour les organisations et des licences pour les institutions publiques, qui peuvent ensuite mettre l'outil à disposition de responsables politiques, d'ONG et d'autres groupes vulnérables.

En Europe, le timing est particulièrement favorable avec le Digital Services Act : les nouvelles règles imposent aux opérateurs de canaux numériques de mettre en place des mesures de protection contre les contenus nuisibles. La demande pour ce type de plateformes relèvera donc de plus en plus d'exigences de conformité, et pas seulement d'enjeux de réputation.

Penemue consacrera ces nouveaux fonds au développement de ses modèles d'IA, à l'extension de son réseau de partenaires européens et internationaux et au renforcement de sa coopération avec les institutions publiques. L'entreprise fait déjà partie du programme TechBoost de Deutsche Telekom, participe à l'initiative #NoHateSpeech et a été distinguée comme AI Champion du Land de Bade-Wurtemberg. Pour un jeune acteur, le signal est fort : la start-up ne cherche pas à être un énième service de veille des réseaux sociaux, mais une couche d'infrastructure entre plateformes, victimes de harcèlement, marques et système judiciaire.

À retenir : le marché de la modération par IA mûrit rapidement et glisse des « filtres intelligents » vers une infrastructure à valeur juridique. Penemue montre que les outils de détection des discours de haine peuvent se vendre à la fois comme produit de sécurité, comme solution de conformité et comme service de protection du public. Si l'entreprise parvient à maintenir la qualité de détection sur des dizaines de langues et à étendre sa collaboration avec l'État, elle a une chance de devenir un acteur notable du segment TrustTech européen.