Ключевой темой в системной инженерии в её свежем изводе “непрерывного всего” становится evolvability – способность системы быть развиваемой (“эволюционная способность”, “способность к эволюции”). Скажем, статья Evolvability – это 1998 год, https://www.pnas.org/doi/10.1073/pnas.95.15.8420, где обсуждается модульность генома. Начинается с упоминания Дарвина: Darwin based his origin of species theory on heritable variation and natural selection, although he conceded that “our ignorance of the laws of variation is profound”. Да, реально законы разнообразия пока описаны из рук вон плохо. В software engineering речь идёт о evolvable architectures, в строительной архитектуре это же будет adaptive architecture (архитектура с возможностью эволюции), в организациях – adaptive organizational resilience, в биологии просто обсуждается идея evolvability. Там надо бы отследить несколько разных линий и вставить это в наши курсы. Мне не хочется делать отдельную теорию “эволюция” в интеллект-стеке, хотя образцы этого есть. Тот же Дэвид Дойч предлагал эволюцию как одну из четырёх объяснительных нитей, у него интеллект-стек крутится вокруг идей эволюции, квантов, теории познания (опять-таки эволюционной эпистемологии) и computer science. Я склоняюсь к более прагматическому подходу: если признать, что всё на свете эволюция, то выходим на ответственного за то, чтобы эта эволюция не прерывалась, “чтобы наш вид не вымер” – чтобы мы не убили бы в ходе изменений какой-то “ген”, который даёт возможность развиваться дальше. Это, конечно, ответственность архитектора – поэтому я бы вставлял эти материалы в evolvable architectures. Другое дело, что эти идеи появляются в самых разных предметных областях, терминология крайне разнится, область исследований огромна, но “базовый курс эволюции для архитектора” должен быть. Пока у меня идея в том, чтобы вставлять это не столько в интеллект-стек (а в нём – это ж “исследования”), сколько в “Системную инженерию” (хотя в интеллект-стеке она вроде как тоже есть, это ж общий заход на изменение мира к лучшему в ходе техно-эволюции). В любом случае, становится понятным, почему так трудно разговаривать про adaptability, evolvability, почему resilience и antifragility становятся труднопонимаемыми идеями: они все изводы труднопонимаемого набора идей разных теорий эволюции. “Методы” (кавычки тут, ибо в эволюции вселенной, в дарвиновской эволюции довольно трудно говорить об агенте, чьи это “методы”) довольно плохо понимаются, хорошие объяснительные теории эволюции появляются, но медленно. В бытовом сознании эволюция сводится к тому, что сказал Дарвин, а что наука и инженерия уже давно от этого понимания отъехала – вот это не учитывается. Может, надо будет ещё дополнить материал по главным образом техноэволюции в “Методологии”. В “Системной инженерии” надо будет больше рассказать в разделе по архитектуре и непрерывному всему как минимум по вот этим направлениям:
– само появление идеи evolvability в эволюционной биологии, там интересный таймлайн. Open-endedness как удержание evolvability. Модульность – как условие для evolvability, огромная дискуссия о модульности (генов, сетей реакций, организмов и т.д.) в биологии, а также модульность в инженерии, а также всякие отсылки к теориям сложности как абстрагирование от предметной области. Тут огромное число метрик модульности, связанных с метриками evolvability – поиск оптимумов. Эволюция типов архитектур и консервативность архитектурных идей как раз тут. Системный подход с его многоуровневостью (многоуровневость модульной организации) тоже тут, и тут же выход в модульность сетей и сетевых архитектур (Network theory - Wikipedia – там необъятно, но метрики центральности именно там, и все эти разговоры про централизацию-децентрализацию компьюнинга, а также в организационном строительстве и даже государственном строительстве – тоже там). Модульность в коннекционистских архитектурах – она тоже тут.
– связь трёх уровней “обучения”: генетическая эволюция, развитие организма (и связь этих уровней – Eve-Devo, evolutionary biology и developmental biology), культурная эволюция (и тут работы по линии Hinton and Nowlan “How Learning Can Guide Evolution”, 1987, работы группы Ванчурина-Кацнельсона-Вольфа-Кунина, и такое свежее как “Evolution Evolving. The Developmental Origins of Adaptation and Biodiversity”, обобщённое в книжке Kevin Lala и ещё четырёх соавторов, октябрь 2024). Идёя: там ведь есть гены, рулящие собственно развитием, и они консервативны. И, конечно, есть гены, рулящие обучением – и вот тут пока маловато известно. При этом, конечно, закон Конвея – это отражение именно этих идей. smart mutations, неэргодические системы и техноэволюция тоже тут. Эволюция эпистемологии (включая транзит от гносеологии к эпистемологии, далее к эволюционной эпистемологии, далее к идеям контрфактических объяснительных теорий) тоже тут. И идеи об эволюции самой эволюции – тут. В принципе, это всё идеи “новых синтезов”, https://en.wikipedia.org/wiki/Modern_synthesis_(20th_century) (их ой сколько).
– идея экосистем как создание ниш (niche construction), то, что виды меняют окружение в ходе своей эволюции. Там главный Kevin Lala, но это как раз линия и active inference, и много чего другого. Главное, что сюда попадает разговор про всяческие маркетплейсы и бизнес-экосистемы, разговор о платформенности как раз тут. Разговор о том, что “проблема в open-endedness не в том, что не можем создать агента, а в невозможности создать достаточно богатую среду для его развития” – он тоже тут. Взаимоэволюция хозяев и паразитов, эволюция щита и меча (co-evolution, подробный списочек в третьем абзаце lytdybr: ailev — LiveJournal) тоже тут. Всяческие идеи разнообразия/diversity, они тоже тут (хотя и в предыдущих пунктах они тоже есть, идея “роста сложности” в том числе). Epigenetics как идея о том, что среда меняет способы, которым проявляется работа генов – она тоже тут.
Интересно наблюдать, как попсеют ведущие блогеры по AI-системам. Раньше у них были обзоры того, что выходило даже не в виде статей на конференциях, а в препринтах – и мы узнавали, как нейронные сетки становились всё умнее и умнее. Потом сетки таки поумнели так, что с ними можно стало разговаривать. И что мы видим? Видим пока плохое, а именно – массовое опопсение техноблогосферы в сфере AI:
– про архитектуру AI-cистем посты закончились, последние всплески были про mamba (архитектуру уровня LLM), и это уже давно было. [UPDATE: стоило вчера мне это написать – а в gonzo-обзорах вышло рассуждение про make softmax great again, Telegram: Contact @gonzo_ML] Посты о том, что “развитие архитектур LLM для AGI пошло не туда” с указанием того, что “надо продолжать заниматься архитектурами” тоже закончилось. Архитектура аппаратуры – удел совсем уж нишевых ресурсов, Два десятка команд накормят чипами весь мир, по самое не балуйся. Архитектуры уровня выше LLM – всё, это коммерческие проекты, речка ушла под гору, а с другой стороны горы не вышла, всё под NDA, а идеи в области piplines или “как заставить нейросеть подумать восемь раз и обратиться к пяти экспертам” вдруг резко оборвались в обсуждении, CoT вроде есть – и всё, обзоров происходящего нет, ибо происходит всё в очень небольшом числе мест, где хватает вычислительных ресурсов на эксперименты.
– спортивные репортажи про гонку мегапикселей, тьфу, закон Мура, тьфу полную победу горького урока Sutton. Главная тема – обсуждение того, когда закон Мура, тьфу, горький урок Sutton перестанет действовать (ну, мы помним про гонку мегапикселей, про закон Мура, и то же будет про горький урок). Ищутся ограничения: на пропускную способность между вычислителями (и переход на оптическую связь), на энергию, потребную на вычисления (и очередной ренессанс атомной энергии), на производство ускорителей. Мемы про то, что “не хватает компьюта”. А архитектуры? Ничего этого нет, увы. Выражается в том, что "вышла вот такая-то сетка, неважно что там внутри, работает вот так быстро и влезает в такую-то память, а теперь давайте поглядим в пузомерку). Иногда вспоминают про данные, но идея синтетических данных захватила мир – и всё, подробностей мы уже не знаем.
– риски от того, что нейросеть поведёт себя как человек и захватит мир. Правда, в последнее время это ещё и риски галлюцинаций, и риски “социальной напряжённости” (все потеряют работу, все-все!), и риски захвата корпорациями “интеллектуальной собственности” через обучение AI и вообще много ещё чего. Поэтому пишем о законодательстве в области AI, его уже хватает. И немножко ссылки на разные обзоры этих рисков (по счастью, там уже нет призывов бомбить датацентры), ещё немножко про то, как алармисты из самых разных служб безопасности меняют свои места работы – иногда сами, а иногда по настоятельному совету. В любом случае понятно: рубрика “происшествия” и “катастрофы” у блогеров как-то автоматически поднимается в приоритетах.
– дублирование постов про новые фичи в коммерческих продуктах. Вот ровно как “впервые в нашем ноутбуке появился оптический дисковод” или “это первый телефон на Android пятой версии”. Ну, или “сравнение текстовых редакторов и спредшитов” в журнале Byte в 90е годы, когда всех в конечном итоге победил MS Office и эти сравнения закончились. Крутейшие эксперты, разбирающиеся в кишках AI стали комментаторами UX коммерческих продуктов. Тут ещё цены обсуждают иногда.
– и ещё новый жанр: блогеры ссылаются на блоги друг друга, обмениваются читателями. И там везде одно и тоже – во всех блогах “ура, новая версия от Anthropic”, изо всех этих уже утюгов (бывших техноблогов). Боже, первые годы блогерства: профи в разных областях знаний вдруг пошли писать блоги и осваивают азы профессии.
Тем не менее, главная новость таки пришла: AI довольно быстро пришёл и там продолжаются два прорыва в неделю, только это теперь коммерческая история, а не исследовательская. И, похоже, AI таки реально меняет структуру занятости. Я не пишу, что “оставит всех без работы”, я пишу “меняет структуру занятости” – будут крутейшие “межотраслевые переливы капитала”, в том числе капитала в виде тренированных человечьих мозгов. Что делать в этой ситуации? Повышать собственную evolvability/adaptability/antifragility/resilience: вбухивать ресурсы в поддержание здоровья, наращивать своё мыслительное мастерство (поддержанное техникой, включая дополнительными вычислительными ресурсами – умными друзьями и теми же AI). В любой момент быть готовым радикально сменить работу на какую-то новую, сменить место жительства, потерять накопления, изменить круг общения (но останутся “накопления в себя” – здоровье, близкие, интеллект и готовность действовать). Можно ли что-то в текущей ситуации сделать проактивно? Я считаю, что всё новое придёт сбоку – непонятно, на что надо сейчас реагировать, так что надо просто становиться умнее и как-то мониторить происходящее, чтобы успеть реагировать чуть быстрее соседей. И надо помнить, что этот “приход сбоку” будет экспоненциальным, крайне быстрым. Прогнозы Tony Seba таки пока сбываются, а ведь у него там много чего ещё было и по линии биологии и пищевой промышленности.
Постоянно встречаю “ценности” в речи – это идёт и из “ценностей” по линии культурологии-социологии-психологии, а в менеджменте ещё из 1985 года, когда Michael Porter ввёл value chain (Value chain - Wikipedia) для процессного описания работы фирмы в целом примерно такого же, как в те времена делали описания своих “жизненных циклов” инженеры – это, напомню, было примерно во времена, когда появлялись все эти спиральные модели и hump diagrams, то есть переходили к пониманию, что этапность не уложишь в одномерную “колбаску”, и сбоку появлялись всякие “сквозные процессы” типа “управления проектами”. У него была красивая диаграммка, которая пошла “на-ура” – и существенно поддержала идею “управления процессами” с ориентацией на повторяемость в противовес “управления проектами” с ориентацией на результат. Отсылка там была к value как measure of the benefit provided by a good or service to an economic agent, and value for money represents an assessment of whether financial or other resources are being used effectively in order to secure such benefit. А поскольку value переводилось повсеместно иногда как “стоимость”, а иногда как “ценность”, но никогда не как экономическое понятие “пользы” (скажем, “субъективная теория полезности”, Subjective theory of value - Wikipedia, а по-русски там сразу проблемы: статья про полезность Полезность — Википедия тут же в первых же строках отсылает к ценности, Ценность — Википедия, которая отсылает как раз к … полезности, “Це́нность — важность, значимость, польза, полезность чего-либо”). И вот по линии “важности” эта переведённая “ценность” поэтому тут же смешивалась с “национальными ценностями”, патриотическими ценностями", “духовными ценностями”, “вечными ценностями” и всем подобным бла-бла-бла. Менеджерский язык разговора о полезности замусорился окончательно. В менеджменте любят поговорить о “ценностях” как в плане корпоративной культуры, так и в плане “цепочек создания ценностей” (которые отнюдь не всегда даже переводят как “цепочки создания стоимости”). Я рекомендую всегда переводить value как “польза” – и тут же шелуха будет отваливаться. Так, в современном сленге “value delivery” будет “поставка ценности” (ибо “поставка стоимости” язык не повернётся сказать, хотя и так наверняка где-то говорят). Менеджеры ведь операционные менеджеры, поэтому будут требовать от инженеров ускорить поставку ценности! Так понимаемая “поставленная ценность” при этом инженерами будет не измерима, а у менеджеров будет прокси-метрика – цифра денег, которую клиент даст за “поставку ценности”. Совмещать разные понимания “ценности” придётся на уровне бла-бла-бла, тем более, что там ведь будет работать “субъективная теория полезности”, договориться будет сложно, будет вечный торг всех со всеми. Но со словом “ценность” как переводом value так и вижу: килограмм ценности (цифра в табличке) и её поставка. Всё-таки value надо переводить всегда как “польза” – и каждый раз оказывается, что “поставка ценности” для 10 результатов на слух хорошо звучит, а вот “нанесение непоправимой пользы” из этих 10 результатов оказывается только парочкой, а не всеми десятью. Остальное – “ценность есть, пользы нет”, как в “привёз из отпуска статуэтку из ларька на пляже – прикольно, использована в целях привезения из отпуска, других использований не было, всё, отстаньте”. Ценность у статуэтки вроде есть, а вот пользы – нет. Немедленно найдите в своих текстах слово “ценность” и замените на “пользу”. А если заменить не получится, то это всё благие пожелания и неконкретный разговор – заземлитесь на какую-то пользу. Не смогли заземлиться – измените что-нибудь в проекте. Не можете изменить – бегите из этого проекта, добром не закончится, ибо ценность будет, а пользы – нет, проект по торговле статуэтками в курортном городке, “вот вам наши системы на память, сувенирная продукция”.
В чате поддержки курсов второго-третьего семестра (Telegram: Contact @systemsthinking_course) довольно долго шло обсуждение материала второго семестра (системное мышление и методология), до материалов третьего семестра (системная инженерия, инженерия личности, системный менеджмент) редко доходили. Теперь иногда доходят – и радует, что это не общий трёп случайно проходящих мимо людей, а именно поддержка курсов. Вот сегодня обсуждали постоянное и непостоянное закрепление сотрудников на проектные места в разработке. Это называется internal talent marketplace, легко гуглится (например, What is a Talent Marketplace: How It Works & Why You Need It). В свежих текстах у меня поминается, например, в Многоуровневый кадровый резерв: образование и обучение: ailev — LiveJournal — “В разных agile процессах talent pipeline, talent supply chain, personalized career journey, internal talent marketplace и прочих со всеми этими кадровыми (талантов!) “пулами” и “сообществами” можно готовить людей к новым работам, в том числе подучивать. В литературе, конечно, огромное число вариантов всех этих agile процессов работы с кадрами”. Дальше там развитие в гиг-экономику (люди прихватываются для коротких внешних работ из каких-то внешних людских маркетплейсов, а не нанимаются “навечно”). Конечно, там есть и критика у этих подходов, но сами подходы динамического перераспределения людей в организации по рабочим местам в условиях “непрерывного всего” вполне появились.
Ответ на часто встречающийся вопрос: будут ли наши курсы выходить в варианте аудиокниги.
