Barry Diller защищает Альтмана, но предупреждает об опасности AGI
Медиа-магнат Barry Diller одновременно защищает Sam Altman и тревожится об AGI. По его словам, личное доверие лидеру OpenAI невелико, когда речь идёт о непредск
Barry Diller защитил Sam Altman, но с оговоркой, которая звучит как предупреждение: доверие человеку неактуально, когда на горизонте AGI.
Защита и тревога одновременно
Медиа-магнат и основатель IAC не стал отзываться критически о CEO OpenAI. Дилер признал компетентность Альтмана. Но затем добавил жесткую оговорку: в условиях приближения AGI компетентность лидера — это не решение. Доверие человеку становится иррелевантным перед лицом технологии, которую сложно или невозможно полностью контролировать.
Почему доверие неактуально АГИ — это гипотетическая разумная система,
которая превзойдёт человеческий интеллект во всех сферах. Если AGI и правда наступит, то мотивы, компетентность и честность отдельного человека окажутся недостаточной защитой. Система, превосходящая человеческий ум, может выйти из контроля независимо от намерений её создателей.
- Даже добросовестный лидер не сможет гарантировать безопасность AGI Проблема — в самой природе AGI, а не в качестве управления Требуются технические ограничения, которые заложены в саму систему > «Доверие неактуально, когда речь идёт об AGI» — суть позиции Дилера, хотя он и не отрицает профессионализма Альтмана.
Guardrails как единственный путь
Дилер подчёркивает необходимость «guardrails» — механизмов контроля и ограничения, которые должны быть встроены в AGI на уровне архитектуры и алгоритмов. Это не вопрос менеджмента и не вопрос культуры компании. Это вопрос технической безопасности. Такие механизмы должны предотвращать отклонение системы от заложенных целей, независимо от того, кто её контролирует. Guardrails работают автоматически, на уровне кода и алгоритмов, а не на уровне человеческого решения.
Что это значит
Заявление Дилера отражает растущий консенсус в AI-сообществе: готовиться к AGI нужно не через подбор хороших людей на руководящие должности, а через построение техники, которая будет безопасной по умолчанию. Защита от AGI — это не вопрос доверия к Sam Altman или любому другому лидеру. Это вопрос инженерии.