Иасон Габриэль: как философ из Google DeepMind пытается сделать ИИ безопасным

В 2017 году политический философ Иасон Габриэль пришёл в Google DeepMind с вопросом, который большинство технологических компаний предпочитают не задавать: чем на самом деле является искусственный интеллект — и что произойдёт, когда он станет достаточно мощным?

Путь из

Оксфорда в DeepMind Иасону Габриэлю было 33 года, когда друг предложил ему подать заявку в DeepMind — лондонское подразделение Google, где сосредоточена значительная часть исследований компании в области ИИ. Предложение звучало совсем не очевидно. Габриэль был типичным академиком — увлечённым, но погружённым в себя.

Фелло колледжа Сент-Джонс в Оксфорде, он читал курсы политической теории и писал статьи о слепых пятнах эффективного альтруизма и моральных противоречиях «яппи-этики». Старший сын греческого профессора менеджмента и британской документалистки, он делил время между преподаванием и международными проектами в сфере развития. В свободное время — медитация Випассана и, по словам брата, «энтузиастическое» скалолазание.

Между лекциями Габриэль успевал участвовать в кризисных программах ООН — в Судане и Ливане. Такое сочетание академической теории и жёстких полевых реалий, видимо, и сформировало его профессиональный темперамент: думать о последствиях прежде, чем они наступят.

Этик внутри машины В

DeepMind Габриэль занялся тем, чего прежде практически не существовало как отдельной дисциплины: систематически анализировать, к чему может привести развитие ИИ — и выстраивать этические рамки до того, как проблемы станут необратимыми. Это не просто философия ради философии. DeepMind — лаборатория, создавшая AlphaGo и AlphaFold, системы, радикально изменившие представления о возможностях машин. Вопрос «что такое ИИ на самом деле» здесь не абстрактный академический спор, а рабочая задача.

«Здесь есть глубокая тайна в том, чем эта вещь является на самом деле», — так Габриэль описывает природу современных AI-систем.

Среди направлений, которыми он занимается: Моральные рамки для автономных систем принятия решений Прозрачность и объяснимость ИИ для общества и регуляторов Геополитические риски технологической гонки между США и Китаем Взаимодействие с гражданским обществом и законодательными органами * Вопросы идентичности потенциально сознательных систем ## Коммерческое давление и границы влияния По мере того как AI-лаборатории превращаются из исследовательских центров в коммерческие двигатели, роль этиков внутри них становится всё более неоднозначной. Такие специалисты, как Габриэль, участвуют в реальных внутренних дискуссиях — о дизайне систем, о допустимых данных, о жёстких ограничениях. Но они остаются наёмными сотрудниками компаний, которые отчитываются перед акционерами и конкурируют за то, чтобы не отстать от OpenAI, Meta и китайских разработчиков.

Этот вопрос — о реальном, а не декларативном влиянии этиков внутри технологических гигантов — становится центральным по мере того, как ИИ перестаёт быть лабораторным экспериментом и превращается в инфраструктуру, определяющую жизнь миллиардов людей.

Что это значит

История Иасона Габриэля — индикатор: насколько серьёзно крупные AI-компании относятся к этике не на уровне пресс-релизов, а в реальной культуре принятия решений. Если философы внутри DeepMind способны что-то изменить — это важнее очередного технологического прорыва. Если нет — нам стоит это знать. *Meta признана экстремистской организацией и запрещена в РФ.