Хочу поразбираться с AGI, обсудить само понятие и что оно обозначает. Чем больше я читаю объяснения AGI от ведущих лабораторий, тем отчётливее вижу: спорить о том, когда он появится, бессмысленно, пока нет понимания в том, что это вообще такое. Для меня вопрос не академический: от ответа зависит, что именно я строю и зачем.
Вот как отвечает индустрия. OpenAI определяет AGI как систему, которая превосходит человека в большинстве экономически ценной работы. DeepMind выстраивает уровни AGI по двум шкалам: производительность и универсальность. Третий вариант дают бенчмарки, то есть наборы тестовых задач: прошла система тесты лучше людей, значит приблизилась к AGI. Подходы разные, но общая черта одна: AGI понимается через решение задач и превосходство человека. Чем больше задач машина решает лучше человека, тем она «умнее», и где-то в конце этой шкалы находится AGI.
Меня такой взгляд не устраивает, и здесь я не одинок. Исследователь ИИ Франсуа Шолле давно повторяет: мастерство в конкретной задаче ничего не говорит об интеллекте. Экскаватор копает лучше любого человека, калькулятор считает быстрее любого математика, но никому не приходит в голову называть их интеллектом. В интеллект-стеке Мастерской инженеров-менеджеров мы держимся той же линии: интеллект — это не мастерство решения задач, а система способная научаться новому.
Но здесь я хочу сделать уточнение, ради которого во многом и затеваю серию. Интеллект — это система, а не способность. У интеллекта как системы есть способность: научаться новому и справляться с проблемами, переводя их в задачи. Разница принципиальная: задачу кто-то уже поставил, у неё есть условие и критерий решения, а проблема сначала требует, чтобы её заметили и превратили в задачу. AGI же, как я его понимаю, обладает агентностью: он сам выбирает проблемы, на которые направит своё внимание и ресурсы. То есть не ждёт промпта, а решает, чем заняться сам исходя из каких-то своих смыслов.
Отсюда начинаются вопросы, на которые у меня нет готовых ответов, поэтому делаю исследование на стыке философии и технологии. Человек выбирает проблемы из неудовлетворённости: что-то в жизни устроено не так, и это «не так» толкает нас к действию. А из чего будет выбирать AGI? Дальше: если AGI выбрал проблему, то есть поставил себе цель, ему придётся решать и проблему поиска ресурсов под неё, ведь вычислительные мощности, данные и внимание не берутся из воздуха. И самое неудобное: связка «AGI + «контроль» о которой сегодня говорят все, внутренне противоречива. Либо перед нами контролируемый инструмент, и тогда это не AGI. Либо у системы настоящая агентность, и тогда рамка вокруг неё не ошейник, а архитектура сосуществования.
Для меня это не отвлечённая философия. Мы с сообществом строим платформу, которая уже сегодня наделяет ИИ агентностью в разной степени — где-то это экзоскелет, усиливающий решение человека, где-то ближе к автопилоту, который действует сам. Каждое такое архитектурное решение опирается на какое-то представление об интеллекте и агентности, явное или нет. Если это представление не проверено на прочность, платформа рискует незаметно спроектировать не то отношение между человеком и агентной системой. Поэтому цель серии может даже шире, чем разобраться в понятиях: собрать карту главных течений в разговоре об AGI, сверить каждое с моей позицией и вывести из этого сравнения конкретные основания для архитектуры — что она должна учитывать, от чего защищаться, на что опираться. Хочу, чтобы у меня и у сообщества был не растерянный, а проработанный ответ на любой вопрос про риск, контроль, агентность или сроки появления AGI.
Вот течения, которые я планирую разобрать в ближайшие недели, каждое по одной схеме — сначала изложить его, затем сверить со своей позицией, и в конце сделать вывод для архитектуры платформы:
- «AGI: три ответа»: сравнение определений индустрии, позиции Шолле и моей.
- Индустрия: AGI как система, решающая задачи лучше человека.
- Шолле: интеллект как способность научаться новому, а не мастерство.
- Экзистенциальный риск: лагерь Романа Ямпольского и вопрос, можно ли AGI сделать безопасным в принципе.
- Акселерационизм: ускорение как самоценность и аргумент, что риск контроля преувеличен.
- Агентность: кто выбирает проблему, если не человеческая неудовлетворённость.
- Неудовлетворённость как двигатель выбора у человека, и что вместо неё у AGI.
- Выбрал цель: добудь ресурсы.
- Почему «контролируемый AGI» звучит как противоречие в терминах, и что вместо контроля.
Порядок может поменяться по ходу: исследование тем и отличается от готовой методички, что маршрут уточняется по мере движения. Мне интересно пройти его вместе с вами и по дороге проверять свои тезисы на прочность, в том числе вашими возражениями.
Первый текст серии, «AGI: три ответа», уже в работе и выйдет первым: в нём я подробно сравню ответ индустрии, ответ Шолле и свой. Кстати, тему контроля я отчасти уже разбирал раньше в отдельном посте «Слово «контроль» ломает мышление об AGI» — в этой серии я вернусь к ней и доведу до архитектурного вывода.
Похожие исследования 2026 года
| Работа | Тема | Сходство | Отличие |
|---|---|---|---|
| Definitional alignment before capability alignment (Aguilera Briones, 2026) | Design-science подход: сначала согласовать определение AGI, потом спорить о путях к нему | Тот же методологический ход, что у нас: прежде чем проектировать — разобраться, что такое AGI на фундаментальном уровне | У них определение — инструмент арбитража споров в академическом сообществе; у нас — вход в архитектурное решение для конкретной платформы |
| The Possibility of AI Becoming a Subject and the Alignment Problem (arXiv 2604.14990, 2026) | Переосмысление alignment: не контроль объекта, а «поддерживающее родительство» с постепенным снижением человеческого контроля над развивающимся субъектом | Почти дословно наш тезис — control и agency трактуются как conflicting, предлагается путь через доверие, а не запирание | Они выводят это в этическую/метафизическую плоскость (моральный статус AGI); мы — в архитектурную (что это значит для дизайна платформы) |
| A Co-Evolutionary Theory of Human–AI Coexistence (arXiv 2604.22227, 2026) | Мутуализм, governance и динамика человека и AI в сложных обществах | Прямое пересечение с вашим вопросом «какая архитектура сосуществования должна связывать человека и AGI» | Работает на уровне общества/институтов (governance), а не на уровне архитектуры конкретной системы |
| Agency and alignment: toward a normative architecture for human–AI interaction (AI & Society, 2026) | Нормативная архитектура взаимодействия человек-AI через призму агентности | Название почти буквально повторяет нашу повестку — agency + architecture в одной рамке | Потребуется проработка глубины методологии |
| François Chollet, обновлённая позиция 2025-2026 (YC-подкаст, ARC-AGI-3) | Интеллект = эффективность приобретения навыков на неизвестных задачах; явно отвергает индустриальное «автоматизация экономически ценного труда» как псевдо-AGI | Ровно тот оппонент, с которым мы явно спорим — и он тоже отделяет свою позицию от индустрии | Он остаётся в рамке «обучаемость», не вводит агентность как отдельное измерение выбора проблем — это как раз наша добавка к нему |
| The Myth of AI Control: Three Pathways of Human-AI Coexistence (Medium, май 2026) | Популярный разбор того же противоречия «контроль vs подлинная агентность» | Даже формулировка в названии совпадает с нашим тезисом о несовместимости | Не академическая работа, эссеистика без методологии — скорее сигнал, что тема носится в воздухе, чем источник для сравнения |
| Кластер экзистенциального риска 2026: AI Consciousness and Existential Risk (VanRullen), Harvard event survey (Kestin/Soares, медианная оценка риска 70% после публичного события), Examining Popular Arguments Against AI Existential Risk | Разные грани риска от AGI: сознание vs интеллект как предиктор угрозы, общественное восприятие риска, критика анти-рисковых аргументов | Даёт эмпирическую/аргументативную базу под нашу планируемую статью про экзистенциальный риск (пункт плана серии) | Это не архитектурный, а risk-assessment трек — методологически далёк от нашего «позиция → сравнение → архитектурный вывод» |
| e/acc vs AI safety, вариации d/acc / a/acc / bio/acc (обзор 2025-2026) | Акселерационизм как политическая/философская позиция против AI safety | Прямое пересечение с заявленным в плане пунктом «разбор акселерационизма» | Это скорее идеологический лагерь, чем исследовательская методология — полезно как объект анализа, не как аналог метода |
Таким образом, мой заход не одинок — 2026 год явно принёс волну работ, которые независимо приходят к тому же узлу противоречий: (а) индустриальные определения AGI считаются неудовлетворительными почти всеми академическими авторами; (б) alignment массово переосмысляется от «контроль объекта» к «отношения с развивающимся субъектом»; (в) агентность (а не просто обучаемость/навыки) становится ключевым различением 2026 года (ровно там, где мы вроде расходимся с Шолле).
Что выглядит отличительным именно в моей работе на фоне этого ландшафта:
(1) явная трёхшаговая методология с обязательным архитектурным выводом, большинство найденных работ останавливаются на философском/этическом уровне и не доводят до дизайн-решений для конкретной платформы;
(2) более жёсткий тезис о несовместимости контроля и подлинной агентности (не «баланс», не «постепенное снижение контроля», а либо-либо), большинство ищут компромиссные траектории, а не бинарную развилку.