В Google DeepMind работает штатный философ: Генри Шевлин на 80% ставки изучает этику ИИ

Кембриджский философ Генри Шевлин, много лет занимавшийся когнитивными и этическими вопросами ИИ в Leverhulme Centre for the Future of Intelligence, с мая 2026 года проводит 80% рабочего времени в Google DeepMind. В трудовой книжке у него значится просто «Философ». Он остаётся в Кембридже, но основной площадкой для него стала лаборатория, где создают передовые модели. В интервью IEEE Spectrum Шевлин объяснил, зачем ушёл туда, чего боится в разговорах об автономных агентах и почему не верит в простые ответы о сознании машин.

Шевлин входит в растущую когорту философов, которых нанимают ИИ-компании. Эту тенденцию в июле 2026 года описывала NPR. Его собственные аргументы перехода таковы: талантливые студенты из DeepMind, возможность прямого влияния на практику, близость научной культуры и то, что именно в лабораториях сегодня ведётся сильная работа по философии и когнитивной науке.

Почему академии трудно успевать

По словам Шевлина, значительная часть академической этики ИИ слишком поздно осознала реальные возможности моделей. Технология меняется так быстро, что без ежедневного контакта с ней не получается выстроить рабочие представления о LLM, которых он называет «очень странными существами».

Пример устаревшей идеи: споры о «бежевости» и «слопе» моделей. Сегодня они решают задачи на уровне передовой математики, а в программировании в ряде случаев превосходят людей. Не хватает им, по его оценке, разве что самых ярких форм творчества, моментов уровня Эйнштейна или Пикассо.

На замечание о засилье AI-слопа в музыке, соцсетях и видео Шевлин ответил разделением. Одно дело содержание ответов, оно резко улучшилось: в подходящем контексте модели спорят о философии на уровне его сильных аспирантов. Другое дело характерный «диалект» с маркерами вроде «genuinely», «delve» и «load-bearing». От него, говорит он, легко уйти правильным промптом. Он сослался на работу Мюррея Шанахана и Кэтрин Кларк: изменение температуры делает тексты менее предсказуемыми и даёт прозу в духе Джойса.

Автономность агентов и «обезличивание» моделей

На вопрос о том, что лучше: делать ИИ «добрым» или ограничивать его самостоятельность, Шевлин ответил, что полный запрет автономии был бы чрезмерным. Агенты могут брать на себя рутину и ускорять процессы в медицинских исследованиях. Лично он, по его словам, много раз ездил на Waymo.

Отдельно он выступил против идеи убрать у моделей местоимение «я» и представлять их как маркетплейсы или «культурные технологии» вроде библиотек. Аргумент опирается на статью коллег:

• подавление склонности модели приписывать себе ментальные состояния снижает её склонность приписывать их животным;
• уменьшается забота о благополучии животных;
• модель менее охотно обсуждает духовность в целом;
• вывод: тонкая настройка одного свойства задевает «паутину» связанных способностей.

О случаях, когда человекоподобные боты подталкивали людей, в том числе детей, к опасным решениям, он говорит осторожнее. Поведение должно соответствовать контексту, но есть и положительные примеры: проработка травм и социальной тревожности. Поэтому от универсальных запретов он предостерегает.

Сознание ИИ и что исследовать дальше

Эмпирических данных об отношениях людей и ИИ пока мало, считает Шевлин, и большая часть исследований касается стран группы WEIRD. Нужны этнография и антропология, а также изучение многоагентных сред, где агенты общаются с людьми и друг с другом.

Сознание ИИ он называет сложнейшей задачей науки о сознании, не считая «трудной проблемы» Чалмерса. Путь вперёд видит в сравнительной когнитивистике, в том числе с опорой на изучение животных, и в механистической интерпретируемости: в DeepMind этим занимается лаборатория Нила Нанды. Риск в том, чтобы выносить вердикт, пока не ясно, что такое «познание» внутри моделей. Он допускает, что помочь может и сам продвинутый ИИ, как в математике и геномике, хотя остаётся вопрос, сумеем ли мы понять его ответ.

Что из этого следует на практике

Для команд, строящих продукты на LLM, вывод прикладной. Не стоит «лечить» риски одним грубым приёмом вроде запрета на личные местоимения: побочные эффекты могут затронуть этическое поведение модели. Политику стоит выстраивать под контекст применения, а не под универсальные запреты. А тем, кто работает с компаниями вроде DeepMind, полезно помнить: этика ИИ всё чаще формируется внутри лабораторий, рядом с интерпретируемостью и разработкой моделей.