LLM: на Аллаха надейся, но верблюда – привязывай
После семинара дискуссии в закрытом чате участников не утихли (а там больше 80 человек), продолжаем обсуждать FPF и первые принципы. Одна из тем, которая была отражена на слайде и даже которую я немного обсудил – это тема “с чего начать”. Удивительно, но ответ там – с прохождения программы рабочего развития, а затем и исследовательского развития. Почему? Потому что без них вы не получите от FPF+LLM пользы: не сможете задать правильные вопросы, не сможете откорректировать ответы, будете множить печаль окружающего мира. Ибо для использования какой-то “библиотеки программ мышления” неплохо бы соображать, что такое “библиотека”, что такое “программа”, что такое “мышление”, иметь хоть какой-нибудь опыт пользования хоть какой-нибудь библиотекой, хоть каких-нибудь программ и хоть какого-нибудь мышления. LLM нельзя доверять, но можно рассчитывать, что она натолкнёт на какие-то свои мысли. LLM надо проверять, для этого надо хоть что-то уже знать самому!
Вот парочка примеров последних двух дней:
- Без FPF запрос про “что такое холархия” даёт ответ чисто по “созвучию”, чистые фантазии: “холархия (холакратия) - система самоуправления и организации, в которой …” – и дальше можно не читать (заканчивается там волшебно как “холон … обозначает круги, на которых строится вся система”). С FPF ситуация меняется и появляется текст “Холархия - это способ описать мир как систему целых, состоящих из целых. Каждое целое называется холон, который одновременно часть чего-то большего и целое, состоящее из своих частей. В отличие от иерархии, где сверху “главное”, а снизу “мелкое”, в холархии каждый уровень важен и целостен сам по себе”. Вы ещё не напряглись? Да, это не “холакратия”, но что это за “сверху главное, а снизу мелкое”? Сверху тёплое, а снизу шершавое? Сверху важное, а снизу зелёное? Это поэзия, вызывает эмоции, но ответ неверный! Причём это цветочки, ибо ягодки у “умной и поэтичной нейросети” дальше, она решила дать пример: “Кофе и утро. Зёрна кофе - часть кофейного напитка. Кофейный напиток - часть утреннего ритуала. Утренний ритуал - часть твоего дня. День - часть твоей жизни. Каждый уровень - самостоятельное целое, но и часть большого процесса. Вот и получилась холархия “от зёрен до жизни””. Поэт ликует, бенчмарк на какой-нибудь LLM-арене, где главное – понравиться, а не быть верным (то есть быть политиком-популистом, “соврать, но вкусно!”) зашкаливает. Часть кофейного напитка — ни разу не зёрна! Ритуал это что, “процесс в его развёртке во времени”? Напиток — это не часть ритуала! Ритуал также — не часть “дня” (это что такое – “день”? период времени? Тогда “мой день” это что за тип и чем отличается от “их дня”?). Поэзия чистой воды, и от этой поэзии только чуть-чуть начинает отходить GPT-5 Pro, сетки поглупее (включая GPT-5 без “Pro”, а хоть и в режиме многодумающей) просто все такие. В конце там даже указано “часть большого процесса”, но тогда что делаем с зёрнами и напитком?! И что, процессы – они из систем, уровней, частей? Написано ведь, что “уровень часть большого процесса”, ах. Ещё и не “целое”, а “большой процесс” (а маленький — это как, уровень или нет?). И ещё не замечено, что это не просто иерархия по part_of, но и integrity invariant, и emergent behavior across scales.
Поэзия, очень убедительно, и это полное враньё. Беда в том, что на входе в программу рабочего развития большинство стажёров ровно такие: а) они не видят вот эти проблемы в тексте, ибо не воспринимают тексты буквально, а воспринимают “общее ощущение от текста”. В ощущении, конечно, никакого строгого рассмотрения нет, идёт сверхсжатие информации, из картинки 10*10 содержательных пикселей остаётся один пиксель, 1%. Так сказать, “поэтическое ощущение от красиво переданного смысла”. Да, красиво переданного 1% смысла. И нужно уже довольно много знать и уметь, чтобы это заметить. Поэтому FPF сам по себе вас не спасёт. Надо всё-таки перед полезной ездой на велосипеде немного научиться ездить – если вы раньше с этой “ездой на велосипеде” не сталкивались, вас ждёт много сюрпризов на первых же пяти метрах, а асфальт придётся разглядывать с высоты не ездока на велосипеде, а с высоты нескольких сантиметров, носом прямо в этот асфальт. Чудес не бывает. FPF – это инструмент для мышления, и нужно некоторое умение, чтобы им овладеть. Это умение даёт программа рабочего развития, без неё трудно.
- В чате семинара фраза про XML-теги по образу и подобию инструкции промптинга из GPT-5 (вот она: GPT-5 prompting guide): “древовидная структура стиля XML разметки подсвечивает «холон» понятий над которым выполняется операция”. “Понятия” — это не холоны. Может, речь идёт о единицах знаний, эпистемах? Они да, холоны. Аккуратнее с холонами, где только один тип отношений в иерархии — части-целого. И ещё надо проверить, что в XML-нотации означает вложенность, ибо вложенность в тексте может означать и генерализацию (is_a), и часть-целое (is_partOf) и много что другого, в том числе винегрет из всех типов отношений, а также вообще попытку выразить не иерархию, а какой-то граф.
Опять спотык идёт на слове “холон”, где ухватывается основная идея на уровне “ощущения”, но не более. Когда LLM или даже мокрая нейронная сетка стажёра глюкует в своих ответах с использованием FPF, тренированные на руководствах люди будут замечать эти глюки, а нетренированные — продолжать работать с глюками. В итоге вместо x10 умственной производительности имеем x10 увеличение скорости порождения и распространения ошибок. Как при любой “автоматизации” без понимания, что и как автоматизируешь.
FPF это не “следующая версия руководств МИМ”, там всё сложнее
Руководства по трём программам развития – это не просто “разжёванный FPF предыдущего поколения”, “флогистон, а вот FPF – это круто и SoTA”. Нет, руководства эти сегодня – ступенечка к “неразжёванному FPF текущего поколения”. И для человеческого мозга полезны сначала руководства, а уже потом текущий FPF и автоматизмы применения. Опять же, FPF ещё не закончен и уж тем более там пока не было шагов “разжёвывания”. Но они вполне могут быть. Как и обратный ход: изложение текущих руководств в виде наборов паттернов (там тоже ведь первые принципы, и во многом они ровно те же самые, разница в формулировках не должна смущать).
Ещё неверны рассуждения про “руководства в целом” и “FPF в целом”. Это просто два описания похожих первых принципов, самых общих принципов мышления. Они на разном языке (русский и английский, не очень формальный и “формальный канцелярит”, учебный и “сразу для профи”), и набор первых принципов там чуток разный. Но 80% там пересекаются. И, замечу, в FPF нет многого полезного, что уже есть в руководствах, вот прямо начиная с руководства по рациональной работе – в FPF про рациональность кое-что есть, и про работу уже есть, но вот “рациональная работа” там отсутствует, разгрести рабочую ситуацию вы не сможете, не дотянете трансдисциплинарное знание до “жизни”, до рабочего проекта. А на стажировке – дотянете. Но зато FPF скажет, что есть операторы (из конструктивной математики!) для формального обсуждения работы/work, а в руководстве по рациональной работе этого нет. А зачем вообще конструктивная математика? Это уже вопрос исследовательской программы развития, а для этого надо как-то ещё “дорасти”, “доразвиваться”.
Ещё одно соображение про “в целом” – это что будет момент, когда можно будет сказать “хорош exploration, давай exploitation”. То есть можно говорить о “выпуске продукта в целом”, и тогда уж впрыгивать в “освоение трудного мышления в целом – по самой современной версии”. У разработчиков руководств для людей и не очень людей цикл open-ended evolution “взять проблему полегче, попробовать решить, затем брать проблемы потрудней, решать их, и так до бесконечности”. В open-endedness там эволюция, причём по частям, а не целиком, так что а) момента “окончательной публикации” не будет по принципу, будет вечный поток PR (pull requests) в репозиторий, и это не “вечное хранение” типа arxiv, а “всегда временное”, вроде GitHub или HuggingFace репозитория LLM-моделей. Ужас в том, что тут как в судостроении: если меняем 15% комплектующих на новые, это считается новой моделью судна. В FPF да, только 15% первых принципов новые, а 85% тех же, что в руководствах. Это не “принципиально другой, новый, современный текст”. Нет, тут как в физике: в 2010 году была одна физика, в 2025 году – другая, ибо довольно много физиков породили довольно много нового знания. Но это не “выкинуть всё, поставить вместо новое”. Нет. В геноме человека довольно много генов, которые общие у человека и каких-то простейших одноклеточных. Эволюция сохраняет и преумножает, а не заменяет что-то полностью.
Почему “сначала руководства, потом FPF”, но не “подожду FPF, и сразу FPF”
Про руководства по рабочему развитию у меня на семинаре по FPF был слайд в презентации, и я там ещё устно дал пояснения:
— текст в FPF это как literacy programming у Кнута: текст программы пишем не так, чтобы только машина поняла (тогда и машинный код сойдёт), но прежде всего, чтобы человеку было понятно. Поэтому FPF написан как “псевдокод” в плане формальности: это очень сложный код, описывающий мышление по первым принципам, но который всё-таки понятен человеку. Ровно так же, как текст на каком-нибудь Go или Rust понятен программисту, а не только компилятору.
— чтобы читать FPF, вам надо “уметь читать”. Это означает, что в голове уже должен быть минимальный объём понятий, который позволит понять, что в тексте FPF интересные и важные знания про мышление, а не что-то другое. Ровно так же текст, выполненный по нормам literacy programming будет нечитабелен, если вы не понимаете этого самого Go или Rust, но и если вы не понимаете, зачем вообще написана программа, какие проблемы она решает. Надо подучиться.
И вот тогда понятно:
— если у вас в голове уже есть рабочее мышление инженеров-менеджеров (которое описано в руководствах по программам рабочего и исследовательского развития МИМ), то берём кофе, читаем, наслаждаемся, имеем собственные инсайты. Зачем нужно? Это исследование, то самое место, которое добывает новые концептуализации (в том числе и в вашем проекте, но и для науки тоже). А в вузе и школе вам про исследования ничего не говорили, учили пользоваться результатами готовых исследований (“разделов физики, математики, менеджмента, инженерии”). А тут — можно поглядеть, что там за мышление у людей, которые предлагали совсем новые эти самые “разделы” или “теории”.
— если пришли понюхать FPF, и вы “с улицы”, то проходите мимо, ничего не поймёте. Но если вам кажется (на уровне ощущений, интуитивно: смотрим как на художественное произведение, “отклик в душе” тут самое главное), что это что-то интересное и полезное, то идём на следующий шаг:
— есть программы рабочего и исследовательского развития МИМ, там есть руководства, есть стажировки, есть наставники, и надо (вот тут больше похоже на обучение как первый шаг бесконечного развития, но слово “обучение” не хочется произносить, у него плохая репутация и денег на него не дают, и оно одноразово, и вообще всё плохо) …подучиться. После освоения мышления по нашим руководствам рабочего и исследовательского развития текст FPF становится так же понятен для “людей с улицы”, как текст на Haskell становится понятным для “людей с улицы” (даже очень умных, с двумя высшими образованием и ещё MBA сверху) после прохождения обучения программированию на языке Haskell.
Поэтому отвечаю на частый вопрос: “с чего начать?”. С освоения мышления по нашим руководствам (и сразу предупреждаю: без наставника мало что получится, ибо просто намертво заучите свои ошибки), затем идёте работать с FPF и узнаете про себя и мир много нового и интересного, будете на фронтире, будете понимать, в чём фишка Эйнштейна и почему не учат “на Эйнштейна” выпускников физфаков (учат применять уже имеющееся знание, а не учат физическому мышлению, как “порождающему новую физику”). Ну, или что там с мышлением инженеров или менеджеров в той части, где они про что-то новое, а не применение уже известного. Если сразу идёте в FPF, то увидите там полностью непонятный текст сомнительного не очень живого автора, не проверенный, без убедительных историй внедрения и т.д. (кстати, Дойч заметил, что у Эйнштейна сейчас при получении грантов не было бы шансов с его теориями, и его ещё и никто не понимал, только критиковали. Но надо же, у него всё получилось!).
Поэтому а) руководства сначала, б) FPF потом. А можно “FPF утром, а вечером руководства”? Ответ классический: “Можно, но руководства вперёд”.
Старт стажировки с наставниками по програме рабочего развития: уже в эту субботу
Так что совет желающим разобраться с First principles: в субботу начинается стажировка с наставниками по рациональной работе (“рациональная” – это тема моделирования, онтологии, объяснений и т.д., а “работа” – это операционный менеджмент, ибо если вас придавила на работе бетонная плита, то надо отмоделировать вокруг себя кусочек работы и разгрести завалы, чтобы появилось пространство манёвра и хотя бы час в день для “доспать, а то мозг не соображает уже на постоянку, вечный недосып”). И уже после этого системное мышление, потом методология, потом системная инженерия и так далее. Это не так уж всё недостижимо, по опросу пришедших на семинар оказалось, что знакомых с нашими руководствами инженеров-менеджеров там большинство. И совсем немного людей, которые заинтересовались и пришли “с улицы”. Да, подтверждаю: если вы заглянете в файл и поглядите problem frame и problem разделы тамошних паттернов, то для знакомых с нашими руководствами разделы solution будут интересны, а для незнакомых – в чём там суть problem и зачем вообще нужно иметь solution – вот это так и будет непонятным.
Как записаться:
– идти в чат группы Telegram: Join Group Chat
– в субботу 11 октября 2025 будет первое занятие онлайн, участвовать (наставники: Анна Лубенченко, Прапион Медведева). Будет немного тесно, ибо в чат попадают в том числе и “любопытствующие”, которые могут потом и не оплатить.
– потом из чата удалят всех неоплативших, и группа будет проходить стажировку примерно до нового года. Основная тема стажировки: первые принципы, на которых устроено рациональное (объяснят, что это такое, но главное – не “поэтическое”) мышление, с акцентом на рациональное мышление о работе как предмете операционного менеджмента. Но, конечно, это не “полный набор первых принципов”. Но это и не совсем “детский сад”, ибо с двумя высшими техническими образованиями и MBA за плечами – идите, получите максимальную пользу. С другой стороны, были примеры гуманитариев, которые тоже получали огромную пользу (хотя бы за счёт того, что у них появлялся шанс мыслить не только “поэтически”, но и рационально).
