AI Alignment Forum
Источник AI-новостей. Материалы автоматически отбираются и адаптируются редакцией Hamidun News.
Последние публикации

OpenAI уволила трёх исследователей безопасности через два дня после White House Accord
Среди уволенных контактное лицо независимых оценщиков по взлому Hugging Face. Авторы колонки для Fortune требуют закон об аудите и защите информаторов вместо самоконтроля.

Исследователь предложил четыре ступени смысла для ИИ: от существительных до пактов
На AI Alignment Forum вышел 12-тысячесловный текст о том, как агентам с разными моделями мира договориться о правилах. Автор строит лестницу из четырёх ступеней и объявляет награды за контрпримеры.

Alignment Forum предлагает 4 шага: новое поколение ИИ — после проверки текущего
На Alignment Forum предложили минимальный стандарт темпа разработки: лаборатория не обучает следующее поколение моделей, пока не закрыла значимые проблемы выравнивания нынешнего.