OpenAI даёт бесплатно детектор CSAM: он помечает на 48% меньше снимков при тех же находках
CSAM — это материалы сексуального насилия над детьми, и платформам с загрузкой картинок приходится их искать. OpenAI выпустила классификатор, который находит такие снимки, включая созданные ИИ, и бесплатно даёт его проверенным организациям через API. В тесте он пометил на 48% меньше картинок, чем прежняя защита, а нарушений нашёл почти столько же. Модераторам достаётся меньше тяжёлого контента.
AI-обработка оригинала OpenAI Blog; редакция Hamidun News
CSAM — это материалы сексуального насилия над детьми. Любой сервис, где пользователи загружают картинки или генерируют их нейросетью, рано или поздно сталкивается с таким контентом. Проблема не только юридическая. Живые модераторы вынуждены смотреть на такие снимки, а плохой фильтр заваливает их ложными срабатываниями. 16 ноября 2026 года OpenAI представила набор мер, и главная из них — новый классификатор изображений. Он помечает на 48% меньше снимков, чем прежняя защита компании, при почти том же числе найденных нарушений. Для наглядности: если старый фильтр отправлял модераторам 1000 картинок, новый отправил бы около 520, а настоящих нарушений среди них было бы столько же. Проверенным организациям классификатор доступен бесплатно.
Что умеет классификатор и кто его получит
Модель анализирует изображения и ищет визуальные признаки насилия. Она нацелена на новые снимки, которых система раньше не видела. Это важно, потому что классические базы хэшей находят только уже известные файлы. Классификатор возвращает не вердикт «да или нет», а оценки: по ним проверяющие решают, какие картинки смотреть первыми.
OpenAI называет его первым широко доступным классификатором CSAM, который отдельно показывает, мог ли материал быть сгенерирован ИИ. Обучали и оценивали модель при участии NCMEC, американского Национального центра по делам пропавших и эксплуатируемых детей. Он ведёт CyberTipline, единый канал жалоб на эксплуатацию детей в сети.
Доступ получат проверенные организации через OpenAI API, и бесплатно. Для распространения компания привлекла Tech Coalition и ROOST. Заявку нужно подать через форму. К модели есть model card.
По данным самой OpenAI, на пользовательских изображениях новый классификатор отметил бы на 48% меньше картинок, чем текущая защита, и нашёл при этом примерно столько же нарушений. Среди отмеченных изображений реальные случаи встречались примерно вдвое чаще. Партнёры раннего доступа приводят свои цифры:
- fal: на проверенных людьми продакшен-изображениях модераторы подтвердили 72% уверенных срабатываний как новый CSAM;
- invideo AI: каждый четвёртый случай из отмеченных закончился баном;
- SafetyKit: на рисунках и анимации, сексуализирующих детей, модель нашла 90% случаев.
Предупреждения в ChatGPT
Вторая часть касается самого чат-бота. Запросы на CSAM в ChatGPT и раньше запрещены, модели обучены отказывать. Теперь добавляются предупреждения, которые прерывают попытку поиска такого материала. Они объясняют последствия и направляют человека к специалистам, которые помогают остановить вредное поведение. В тексте прямо сказано, что сексуализация детей вредит, даже если материал сгенерирован ИИ.
Дальше работает лестница мер. Диалог удаляют, а доступ к ChatGPT приостанавливают на 24 часа. При повторных нарушениях ограничения становятся длиннее, возможны закрытие аккаунта и сообщение властям. Подход разрабатывали с Protect Children, Lucy Faithfull Foundation и академическими консультантами из университетов Кента и Тасмании.
Что это значит для разработчиков
OpenAI опубликовала практическое руководство по CSAM: как предотвращать злоупотребления, находить контент и действовать. Оно составлено с участием Tech Coalition, Thorn, NCMEC и Internet Watch Foundation. В нём описаны:
- правила использования продукта;
- способы, которыми пользователи сообщают о проблемах;
- инструменты обнаружения;
- процесс проверки и передачи жалоб;
- идентификаторы безопасности, которые помогают связать злоупотребление с конкретным пользователем;
- поддержка самих модераторов.
Руководство предлагают использовать вместе с Moderation API, консолью проверки ROOST Coop и специализированными сервисами вроде Thorn Safer. Отдельно OpenAI вместе с Anthropic и Google заказала рекомендации о том, как ИИ-системам реагировать на признания пользователей о насилии. Их опубликовала Tech Coalition. По словам компании, после публикации руководства больше разработчиков стали подключать инструменты детской безопасности и регистрироваться для отправки жалоб в NCMEC.
Правоохранителям, расследующим такие дела, OpenAI предлагает обучение и инструменты ИИ. Первый из них помогает разбирать длинные переписки и ответы на юридические запросы, находить связи и строить хронологию со ссылками на источники. Доступ зависит от разрешения ведомства.
Ограничения
Все цифры получены в тестах самой OpenAI и её ранних партнёров, независимых проверок в материале нет. Выборки и методика подробно не раскрыты, их стоит смотреть в model card. Доступ ограничен проверенными организациями, так что малый стартап не подключит модель без одобрения заявки.
Практический вывод для продуктовых команд: если у вас есть загрузка изображений или генерация картинок, заранее продумайте цепочку из фильтра, очереди проверки, отправки жалоб и заботы о модераторах. Руководство и бесплатная модель делают этот путь заметно дешевле.
- 21 нояб. 2026 г.Вакансий FDE за год стало в 4,6 раза больше: что делает инженер у заказчика
- 21 нояб. 2026 г.Капитан пловцов отдала ChatGPT три задачи по расписанию и сократила рутину в разы
- 21 нояб. 2026 г.OpenAI GPT-6 Cyber нашла около 35 дыр в iPhone, Mac и другой технике Apple
- 21 нояб. 2026 г.22 агента Claude шесть недель искали ответы по чёрным дырам — и решили две задачи
Вопросы и ответы по материалу
Что известно по теме: что умеет классификатор и кто его получит?
Модель анализирует изображения и ищет визуальные признаки насилия. Она нацелена на новые снимки, которых система раньше не видела. Это важно, потому что классические базы хэшей находят только уже известные файлы. Классификатор возвращает не вердикт «да или нет», а оценки: по ним проверяющие решают, какие картинки смотреть первыми. OpenAI называет его первым широко доступным классификатором CSAM, который отдельно показывает, мог ли материал быть сгенерирован ИИ.
Что известно по теме: предупреждения в ChatGPT?
Вторая часть касается самого чат-бота. Запросы на CSAM в ChatGPT и раньше запрещены, модели обучены отказывать. Теперь добавляются предупреждения, которые прерывают попытку поиска такого материала. Они объясняют последствия и направляют человека к специалистам, которые помогают остановить вредное поведение. В тексте прямо сказано, что сексуализация детей вредит, даже если материал сгенерирован ИИ. Дальше работает лестница мер. Диалог удаляют, а доступ к ChatGPT приостанавливают на 24 часа.
Что известно по теме: что это значит для разработчиков?
OpenAI опубликовала практическое руководство по CSAM: как предотвращать злоупотребления, находить контент и действовать. Оно составлено с участием Tech Coalition, Thorn, NCMEC и Internet Watch Foundation. В нём описаны: правила использования продукта; способы, которыми пользователи сообщают о проблемах; инструменты обнаружения; процесс проверки и передачи жалоб; идентификаторы безопасности, которые помогают связать злоупотребление с конкретным пользователем; поддержка самих модераторов.
Протестируйте новые LLM и мультимодальные модели в одном окне
Платформа Nomad AI (nomadnet.ai) даёт прямой доступ к Claude Opus 5.5, GPT-6, Gemini 3.1, DeepSeek и автономным агентам без VPN, зарубежных карт и зоопарка подписок.
Главное из мира ИИ — раз в неделю
7 ключевых событий недели, отобранных вручную. Без шума, репостов и пресс-релизов.
Готово! Проверьте почту — мы отправили подтверждение.