Barry Diller défend Altman, mais met en garde contre le danger de l'AGI

Barry Diller a défendu Sam Altman, mais avec une réserve qui sonne comme un avertissement : la confiance envers une personne est hors sujet dès lors que l'AGI se profile.

Défense et inquiétude à la fois

Le magnat des médias et fondateur d'IAC n'a pas critiqué le PDG d'OpenAI. Diller a reconnu la compétence d'Altman. Mais il a ajouté une réserve sans détour : à l'approche de l'AGI, la compétence d'un dirigeant n'est pas la solution. La confiance envers une personne devient sans objet face à une technologie difficile, voire impossible, à contrôler entièrement.

Pourquoi la confiance est hors sujet

L'AGI est un système intelligent hypothétique qui surpasserait l'intelligence humaine dans tous les domaines. Si l'AGI voit réellement le jour, les motivations, la compétence et l'honnêteté d'un individu constitueront une protection insuffisante. Un système qui dépasse l'esprit humain peut échapper à tout contrôle, quelles que soient les intentions de ses créateurs.

• Même un dirigeant de bonne foi ne peut pas garantir la sécurité de l'AGI
• Le problème tient à la nature même de l'AGI, pas à la qualité de la gouvernance
• Il faut des contraintes techniques intégrées au système lui-même

« La confiance est hors sujet quand il s'agit d'AGI » : voilà l'essentiel de la position de

Diller, même s'il ne nie pas le professionnalisme d'Altman.

Les garde-fous comme seule voie

Diller insiste sur la nécessité de « guardrails » : des mécanismes de contrôle et de limitation qui doivent être intégrés à l'AGI au niveau de l'architecture et des algorithmes. Ce n'est pas une question de management ni de culture d'entreprise. C'est une question de sécurité technique. Ces mécanismes doivent empêcher le système de s'écarter de ses objectifs, quel que soit celui qui le contrôle. Les guardrails fonctionnent automatiquement, au niveau du code et des algorithmes, et non au niveau de la décision humaine.

Ce que cela signifie

La déclaration de Diller reflète un consensus croissant dans la communauté de l'IA : se préparer à l'AGI ne consiste pas à placer les bonnes personnes aux postes de direction, mais à construire une technologie sûre par défaut. La protection contre l'AGI n'est pas une affaire de confiance envers Sam Altman ou tout autre dirigeant. C'est une question d'ingénierie.