Регулирование ИИ: грань безопасности экзистенциального риска
Когда фантастика становится повесткой
Ещё несколько лет назад разговоры об экзистенциальном риске, связанном с искусственным интеллектом, воспринимались как удел футурологов и авторов антиутопий. Сегодня эти дискуссии вышли на уровень парламентских слушаний, международных договоров и экстренных совещаний глав центральных банков. Верховный комиссар ООН по правам человека Фолькер Тюрк в 2026 году прямо заявил: «Нынешняя гонка, связанная с созданием все более мощных систем ИИ, означает качественный скачок в сторону усиления экзистенциальных рисков для всех аспектов нашей жизни»-1. Регулирование ИИ превратилось из технической задачи в вопрос выживания.
Но что именно стоит на кону? И главное — успевает ли регулирование за технологиями, которые оно призвано обуздать?
Что такое экзистенциальный риск в контексте ИИ
Экзистенциальный риск — это угроза, способная привести к вымиранию человечества или необратимому подрыву его потенциала. В контексте ИИ такие риски варьируются от моделей, способствующих созданию биологического оружия, до автономных агентов, выходящих из-под человеческого контроля-7. Бывший сотрудник Anthropic Джейкоб Коксон, выступая перед городским советом Нью-Йорка в 2026 году, сформулировал это без обиняков: «На текущем пути более вероятно, чем нет, что человечество потеряет контроль над этими ИИ, и это может закончиться вымиранием человечества»-21.
Джеффри Хинтон, лауреат Нобелевской премии и один из «крёстных отцов» глубокого обучения, оценивает вероятность того, что продвинутый ИИ выйдет из-под контроля в течение следующего десятилетия, в 10–20%. Сэм Альтман признаёт, что риск уничтожения человеческой цивилизации «не равен нулю». Стюарт Рассел, один из ведущих исследователей ИИ, идёт дальше, утверждая, что текущие системы опаснее приемлемого уровня в 100 тысяч — миллион раз.
Эти заявления — не абстрактные рассуждения. Фолькер Тюрк предупреждает, что сбои автономных систем ИИ могут привести к перебоям в предоставлении жизненно важных услуг, дестабилизировать критически важную инфраструктуру и нанести удар по основам демократических институтов-1. Люди могут лишиться доступа к чистой воде, отоплению и финансовым услугам-1. Автономный ИИ уже ускоряет темпы войн и ослабляет защитные механизмы, предотвращающие применение оружия массового уничтожения-1.
Регулирование в Европейском союзе: амбиции и отсрочки
Европейский союз стал первой крупной юрисдикцией, принявшей всеобъемлющий закон об ИИ. EU AI Act вступил в силу 1 августа 2024 года и должен был применяться поэтапно. Однако реальность внесла коррективы. В июле 2026 года вступил в силу AI Omnibus — пакет поправок, существенно скорректировавший сроки-11.
Обязательства для систем высокого риска из Приложения III (критические области — трудоустройство, образование, уголовное правосудие) перенесены на 2 декабря 2027 года-11. Для высокорисковых систем, встроенных в физические продукты — лифты, игрушки, машинное оборудование — срок сдвинут на 2 августа 2028 года-11. Первоначально планировалось, что эти правила заработают уже в августе 2026 года. Аналитики DLA Piper отмечают, что отсрочка стала «признанием» сложности реализации закона на практике.
При этом AI Omnibus не только отсрочил, но и ужесточил отдельные нормы. Введён запрет на «нудификационные» приложения, генерирующие неконсенсуальный сексуально откровенный контент-11. Расширены полномочия AI Office по надзору за системами на основе моделей общего назначения-11. За нарушение обязательств для высокорисковых систем предусмотрены штрафы до 20 миллионов евро или 4% глобального оборота.
Соединённые Штаты: федеральный приоритет против штатов
Американский подход к регулированию ИИ претерпел драматические изменения. В декабре 2025 года президент Трамп подписал исполнительный указ №14365 «Обеспечение национальной политической основы для искусственного интеллекта», который фактически лишает штаты возможности самостоятельно регулировать ИИ-33. Указ предписывает генеральному прокурору создать «Целевую группу по судебным искам в области ИИ» для оспаривания законов штатов, несовместимых с федеральной политикой-33.
Однако указ содержит важные исключения: рекомендации не должны препятствовать законам штатов, касающимся защиты детей, инфраструктуры вычислений и данных, а также государственных закупок ИИ-33. Это означает, что штаты сохраняют возможность ужесточать правила в этих сферах.
На местном уровне города берут инициативу в свои руки. Городской совет Нью-Йорка в октябре 2026 года провёл беспрецедентные слушания с участием руководителей OpenAI, Meta, Google и Anthropic-21. В 2025 году совет уже создал Управление алгоритмической подотчётности для проверки использования ИИ городскими агентствами-21. Спикер совета Джули Менин заявила: «Когда федеральное правительство бездействует, города берут на себя инициативу»-21.
Китай: прагматизм и «малые шаги»
Китай строит модель управления ИИ, сочетающую технологическую поддержку с риск-ориентированным регулированием. В 2025 году Национальное управление интернет-информации скорректировало требования к доступу на рынок генеративных моделей: если сервис лишь вызывает уже зарегистрированную базовую модель через API, достаточно регистрации на провинциальном уровне-23. В марте 2025 года введены обязательные требования к маркировке сгенерированного контента — как видимой, так и скрытой, в метаданных-23.
В октябре 2025 года поправки в Закон о кибербезопасности добавили статью о поддержке развития ИИ и одновременно об усилении мониторинга рисков безопасности. Регулирование постепенно распространяется на конкретные отрасли: в июне 2025 года приняты правила для ИИ в метеорологии, в декабре подготовлен проект правил для «антропоморфных» интерактивных сервисов-23.
Китайские исследователи в открытом письме, опубликованном в ноябре 2025 года, выразили обеспокоенность: в течение 10–20 лет ИИ заменит большинство рабочих мест и радикально изменит социальную структуру. Технологические компании призывают взять на себя моральную ответственность за масштабную трансформацию.
Международные инициативы: первые договоры
Глобальное управление ИИ перестало быть благим пожеланием. В 2024 году Совет Европы открыл для подписания Рамочную конвенцию об искусственном интеллекте, правах человека, демократии и верховенстве права — первый юридически обязывающий международный договор в этой сфере-43. К 2025 году его подписали 15 стран, включая Канаду, Швейцарию и Уругвай-43.
Однако существуют и более радикальные предложения. В октябре 2025 года сотни общественных деятелей, включая нобелевских лауреатов и ведущих исследователей, подписали «Заявление о сверхинтеллекте», призывающее к глобальному запрету на разработку продвинутого ИИ до достижения широкого научного консенсуса и общественной поддержки. Machine Intelligence Research Institute предложил конкретный механизм: международное соглашение, запрещающее тренировочные запуски выше определённого порога вычислений (например, 10²⁴ FLOP) с обязательной верификацией и мониторингом.
Россия: в поисках национальной модели
Россия также движется к формированию рамочного законодательства об ИИ. В декабре 2025 года межфракционная рабочая группа Госдумы объявила о планах подготовить структуру единого законопроекта к концу января 2026 года. Вице-премьер Дмитрий Григоренко провёл первое совещание по регулированию ИИ, поручив Минцифры представить предложения.
Обсуждаются два подхода: маркировка ИИ-агитации и обязательная маркировка видеоконтента, созданного нейросетями. Сенаторы предложили создать российские технические стандарты ИИ и проект модельного закона для стран СНГ. Президент Владимир Путин подписал перечень поручений по итогам конференции AI Journey, включая разработку национального плана внедрения ИИ в экономику, социальную сферу и госуправление.
Почему саморегулирование не работает
Ключевой вопрос любого регулирования — кто и как обеспечивает соблюдение правил. Верховный комиссар ООН Тюрк назвал добровольное саморегулирование компаний «совершенно недостаточным» для предотвращения существующего вреда и того, чтобы продвинутые автономные модели ИИ не обходили человеческие защитные механизмы.
Исследование Future of Life Institute, опубликованное в декабре 2025 года, подтверждает эти опасения: ни одна из восьми ведущих компаний, разрабатывающих ИИ, включая OpenAI, Meta, Anthropic и DeepSeek, не имеет надёжной стратегии контроля систем, превосходящих человека по интеллекту. Макс Тегмарк, соучредитель FLI, отметил, что в США «ИИ регулируется меньше, чем сэндвичи».
Аарон Кляйн и Аниша Сингхал из Brookings указывают на финансовый сектор как на показательный пример: банки — одна из самых регулируемых отраслей, и уже звучат призывы к экстренным мерам. В апреле 2026 года министр финансов Скотт Бессент и председатель ФРС Джером Пауэлл созвали руководителей крупнейших банков на экстренное совещание для проверки готовности к угрозам, связанным с ИИ-7.
Заключение: регулирование как вопрос выживания
Регулирование ИИ перестало быть технической деталью. Это — политика, экономика, безопасность и, в конечном счёте, вопрос о том, какое будущее мы выбираем. Европа создала всеобъемлющий закон, но отсрочила его применение. США движутся к централизации, подавляя инициативы штатов. Китай сочетает поддержку инноваций с риск-ориентированными «малыми шагами». Международное сообщество подписало первый обязывающий договор, но радикальные предложения о запрете сверхинтеллекта остаются на уровне деклараций.
Фолькер Тюрк напоминает: «Мы находимся на пороге необратимых изменений, которые затронут не только нас, но и будущие поколения»-1. Время, отведённое на регулирование, ограничено. И от того, насколько эффективно мир сможет договориться о правилах игры, зависит не просто технологический прогресс — зависит то, останется ли у человечества контроль над собственной судьбой.
Dim_Su
