AI Alignment Forum
Source d'actualités IA. Les articles sont sélectionnés et adaptés par la rédaction de Hamidun News.
Dernières publications

OpenAI licencie trois chercheurs en sécurité deux jours après la signature du White House Accord
Parmi eux, l'interlocuteur des évaluateurs indépendants sur le piratage de Hugging Face. Une tribune dans Fortune veut une loi sur l'audit et les lanceurs d'alerte, pas de l'autocontrôle.

Quatre échelons de sens pour l'IA : des noms communs aux pactes
Un texte de 12 000 mots sur l'AI Alignment Forum décrit comment des agents aux modèles du monde différents s'accordent sur des règles. Quatre échelons, et des primes pour les contre-exemples.

Alignment Forum propose 4 étapes : la nouvelle génération d'IA seulement après la vérification de l'actuelle
L'Alignment Forum propose un standard minimal de rythme : un laboratoire n'entraîne pas la génération suivante de modèles tant qu'il n'a pas réglé les problèmes d'alignement notables de l'actuelle.