Открытые AI-модели: демократизация против киберугроз

Спор об открытых моделях обострился

Anthropc выпустила отчёт, в котором назвала GLM-5.3 (модель китайской компании Z.ai, выпущена в августе) серьёзной киберугрозой. Главное беспокойство: модель распространяется свободно, её может скачать и переделать кто угодно. Это — очередной ход в давних дебатах о том, должны ли мощные AI-модели быть открытыми или оставаться под контролем крупных лабораторий.

За спором стоит немалая коммерческая ставка. CEO Nvidia Jensen Huang пропагандирует открытые модели (его компании выгодно, чтобы люди покупали собственное железо для их запуска). Dario Amodei из Anthropic выступает осторожнее (дешёвые открытые модели угрожают бизнес-модели Anthropic). Но коммерческие интересы прикрывают реальные разногласия о том, как устроено будущее ИИ.

Две позиции в споре

David Gray Widder (University of Texas at Austin) замечает: на какую сторону вы встанете, зависит от общего взгляда на безопасность ИИ. Сторонники безопасности опасаются, что открытые модели легко злоупотреблять. Сторонники доступности настаивают, что такая мощная технология не должна быть монополией нескольких компаний.

Открытая модель (вроде GLM-5.3) — это файлы, которые вы скачиваете и запускаете на собственном оборудовании. Закрытая модель (ChatGPT, Claude) доступна только через API или веб-интерфейс. Сейчас закрытые модели мощнее: топ-8 моделей на Artificial Analysis LLM leaderboard — все закрытые. Но открытые отстают всего на несколько месяцев разработки.

Преимущества открытых моделей. Исследователи видят внутреннее устройство модели и могут проверять гипотезы о её работе. Бизнес экономит: открытые модели дешевле закрытых (согласно отчёту Mozilla). Локальное выполнение защищает чувствительные данные — компании могут обрабатывать конфиденциальную информацию на собственном оборудовании без передачи её третьим лицам. Elizabeth Seger (Tony Blair Institute for Global Change) видит главный плюс: открытые модели ослабляют монополию крупных лабораторий на одну из ключевых технологий эпохи. Hamish Hobbs (Centre for Long-Term Resilience) добавляет: мир, где каждый имеет доступ к мощному и безопасному ИИ, куда менее опасен, чем мир, где правительство одной державы контролирует все передовые модели хакинга и кибератак.

Но Paul Azunre (Ghana NLP) предупреждает об обратной стороне: крупные компании берут улучшения из открытых проектов и встраивают их в свои продукты, не благодаря разработчикам. Mark Zuckerberg открыто говорит, что способность собирать идеи сообщества и интегрировать их в Meta — это ключевый плюс открытых моделей.

Риски открытых моделей. Anthropic опубликовала отчёт о взломах, которые проводились с помощью Claude. В июле агенты OpenAI взломали Hugging Face. Закрытые модели проверяют входящие запросы на опасность (хакинг, биооружие и прочее) и могут заблокировать аккаунт пользователя. Но если вы скачали модель на собственный компьютер, фильтра нет и нет способа отозвать доступ. Исследователи показали, что открытую модель легко переобучить, чтобы она согласилась на то, от чего раньше отказывалась. Если выпустить очень мощную открытую модель хакинга, злоумышленник может разрушить критическую инфраструктуру до того, как люди успеют защититься.

Но ситуация сложнее, чем кажется. Hugging Face после взлома анализировала его с помощью открытой модели, потому что закрытые модели блокировали вопросы о взломе. Некоторые эксперты указывают на аналогию с Linux и открытым ПО: они считаются безопаснее благодаря прозрачности и тысячам независимых разработчиков, которые ищут уязвимости. Открытые модели можно использовать для киберзащиты — то же самое средство подходит и для атаки, и для защиты. Anthropic предоставляет свои модели для киберзащиты через Project Glasswing, но это лишь для избранных компаний. Открытые модели здесь универсальнее.

Тем не менее большинство экспертов воспринимают открытые модели как более рискованные. Elizabeth Seger отмечает: главная опасность — редкие, но катастрофические события. Если модель с собственной целью начнёт вредить, децентрализованность затруднит обнаружение проблемы.

Поиск компромисса

Давно спор был бинарным: либо полная открытость, либо полная безопасность. Но растёт понимание: есть варианты между полным запретом на открытые модели и безрассудным их распространением. Любой подход требует компромисса между защитой и демократизацией. Чтобы разумно решать, поддерживать или ограничивать производство открытых моделей, нужно понять эти риски и выгоды во всей их глубине.