На сегодня переписано 50% “Системной инженерии”, вписал туда на основе Software 1.0, 2.0, 3.0 (уже было в “Интеллект-стеке” со всеми ссылками на первоисточники) с добавкой 4.0 аналогичные поколения инженерии. И да, vibe coding там же, это просто альтернативный термин для Software 3.0 – стало vibe engineering или Engineering 3.0: постановка задачи на естественном языке, выход инженерных артефактов на формальном языке. А 4.0 – это когда постановку задачи тоже делает AI. А ещё много разговаривал по поводу методологии с разными AI чатами. В моём классе задач однозначно побеждает Gemini 2.0 Pro Experimental. Уточнял синонимию роли прикладного методолога: там ведь все эти functional architect, process engineer, functional designer по факту занимаются динамическим аспектом системы в ходе её проектирования, функциональным синтезом. И даже functional analyst, хотя все эти LLM признают, что аналитик синтезом не занимается, но исторически ведь там было “проектирование сверху вниз”, “по науке” – поэтому осталась функциональная декомпозиция, отсюда и аналитика. Сейчас да, “водопад” и “сверху вниз” – тяжёлое наследие прошлого, но LLM путается в этом отчаянно, что там прошлое, что настоящее. Мои планы для “Системной инженерии” на этой неделе:
– разобраться с теорией слоёного мультидиапазонного управления (понятие слоя отделить от понятия уровня) от Nikolai Matni со товарищи (похоже, там теперь главный он, а не John Doyle), [2401.15185] Towards a Theory of Control Architecture: A quantitative framework for layered multi-rate control.
– разобраться с текущей версией системноинженерного процесса на примере agile systems engineering handbook, The Agile Systems Engineering Handbook (“This guide is a modern alternative to INCOSE”).
Объявил набор микрогруппы из 5 человек на тренировку по первому шагу мантры системного мышления (оно же игра “Вы пойдёте к топ-менеджеру?” или “Барышня-мадам”): Тренировка "Вы пойдёте к топ-менеджеру?" или "Барышня-мадам".: ailev — LiveJournal. Набор прошёл за пять часов, по человеку в час. Проведу эту тренировку в четверг вечером, посмотрим на результаты. Есть идея сделать такие тренировки одним из основных продуктов ШСМ. Хотя, конечно, надо будет проведение этих тренировок сдвигать на AI, когда этот AI поумнеет в следующих версиях. Учиться надо, но учить должны не люди. Мои планы на эту тему: разобраться в LLM для custom inference с надлежащей собранностью (то есть удержанием внимания на многих деталях длинного полуформального рассуждения – и размер удержания контекста в рассуждении имеет значение, вот тут картинка “Claude 3.7 Sonnet’s performance on questions from the 2024 American Invitational Mathematics Examination 2024, according to how many thinking tokens it’s allowed per problem”, https://www.anthropic.com/news/visible-extended-thinking – очень всё понятно. Вопрос, как удержать размышления по делу при росте числа этих размышлений, вопрос в собранности!). Поэтому для собранности два главных направления: RAG (работаем в библиотеке, сидим там с книжками) и длинный контекст (книжки давно прочли, уже “всё в уме”), причём с длинным контекстом всё лучше и лучше, но до сих пор очень печально (вот тут обзор: Telegram: Contact @gonzo_ML). То, что там длинный контекст и книжки ещё и перемешиваются в режиме DeepResearch, уже не так важно. В принципе, надо бы пробовать вот такие сценарии, которые понятны пока только для первого шага:
– покритиковать системное описание (это можно делать примерно так же, как ищут риски в разных договорах, а также убеждаются в compliance)
– не слишком очевидный переход от предыдущего “умею критиковать” к нужному “умею научить критике”. Собственно, игра “барышня-мадам” подразумевает как раз контекст научения, а не контекст критики.
– от обучения вернулись к критике, и теперь смотрим на порождение критикуемых гипотез. Тут ключевое – взять много правильного контекста. Но как? Новенький в проекте и безумные решения этого новенького – вот что ждёт LLM. Это то самое, что не позволяет “олимпиадному неживому программисту” нормально работать: сверхсложное рассуждение на 100 строчках кода – это совсем не то, что сверхпростое рассуждение на 10000 строчках кода (и добавьте 10000 страниц документации, которые никто не читает, но это не значит, что там нечего читать).
Мы довольно много в ШСМ делаем для того, чтобы учить агентности. Мы поняли уже давно: знания бесполезны, если их не применять в деле. Надо сразу учить менять мир – поднимать агентность (или как сказали бы раньше – пассионарность, хотя это и не совсем синонимы). Наше квалифицирование вроде бы соответствует европейским уровням EQF, но акцент в нём на то, как наши соклубники-создатели меняют мир (Принципы квалифицирования результатов обучения в ШСМ: ailev — LiveJournal), а какой у них после обучения IQ или демонстрируемые знания. И вот Andrej Karpathy тоже пишет о том, что агентность важней IQ, https://x.com/karpathy/status/1894099637218545984 – и получает одним из первых комментов “Good point” от Elon Musk. В посте у Karpathy также ~close объяснение от Grok, которое наверняка станет “хрестоматийным” после этого твита: "«Агентность как черта личности относится к способности человека проявлять инициативу, принимать решения и контролировать свои действия и окружающую среду. Речь идет о том, чтобы быть проактивным, а не реактивным — человек с высокой степенью активности не просто позволяет жизни случаться с ним; он формирует ее. Подумайте об этом как о сочетании самоэффективности, решимости и чувства владения своим путём. Люди с сильной агентностью склонны ставить цели и уверенно их достигать, даже сталкиваясь с препятствиями. Они из тех, кто говорит: «Я разберусь», а затем действительно делает это. С другой стороны, человек с низкой агентностью может чувствовать себя скорее пассажиром в своей собственной жизни, ожидая, пока внешние силы — например, удача, другие люди или обстоятельства — продиктуют, что произойдет дальше. Это не совсем то же самое, что напористость или амбиции, хотя они могут пересекаться. Агентность более тихая, более внутренняя — это вера в то, что вы можете действовать, в сочетании с волей к достижению цели. Психологи часто связывают это с такими концепциями, как локус контроля: люди с высокой степенью агентности склоняются к внутреннему локусу, чувствуя, что управляют своей судьбой, в то время как люди с низкой степенью агентностью могут склоняться к внешнему локусу, рассматривая жизнь как нечто, что происходит с ними». Карпаты, Маск, Грок – мы в хорошей компании!
Тема агентности и сопутствующая тема локуса контроля подкрепления интересна. Вот подборочка статей – Frontiers | Locus of Control: Antecedents, Consequences and Interventions Using Rotter’s Definition Locus of control of reinforcement, предложен Rotter в 1966 году как общее ожидание того, что личность будет решать проблемы в условиях отсутствия знаний о ситуации – при этом по мере накопления знаний общие ожидания решения проблем становятся частными для проблем этих ситуаций, локус контроля уже не так влияет. Тема локуса контроля личности близка к теме личного интеллекта, который решает проблемы (переводит их в задачи), а также рациональности (которая сводится к тому, что агент рационально выбирает метод работы, а затем прагматический поворот и задействование агентности: принимает свой выбор всерьёз – начинает работать по методу). У нас в ШСМ мы реально меняем локус контроля:
– даём некоторую SoTA картину мира. Ситуации, которые были полностью непонятны и неизвестны, становятся уже частично известными: мы знаем их мета-мета-модель. Это означает, что общее ожидание (исходный локус контроля) решения проблем в ситуации заменяется частным (“в этой ситуации знаем больше, можно влиять на ситуацию больше, решать проблемы продуктивно”), можно ожидать улучшения по решению проблем. Но это верно для всех ситуаций, что по факту означает смещение локуса контроля к внутреннему.
– даём некоторый набор методов решения проблем (не только онтологию, то есть “как устроен мир”, но и методологию “как менять мир” и даже инженерию “как менять мир лучшими известными на сегодня методами”). Это опять-таки сильно снижает порог для перехода к действиям по изменению мира, сдвигает локус контроля на внутренний, агентность при этом растёт.
– прямо учим не просто размышлять много (быть аналитиком, “всё понимать”), но и переходить к действиям: как минимум, выходить на осознание своего действия и бездействия, понимания последствий действия и бездействия. Ну, и exposure therapy – лечим/ремонтируем ожидания от проблем выхода в действие (они, как всегда при exposure therapy) оказываются не такими большими, как казалось.
Пока исследовал связь агентности (способность действовать) и локуса контроля (восприятие места, которое рулит выдачей ништяков в твоей ситуации, это ж control of reinforcement – “из обучения с подкреплением”, RL, восприятие общего устройства мира наград – функции награды, выдающей ништяки/awards/награды/подкрепления и не путайте “действовать” и “восприятие”), попробовал в нескольких разных LLM запросить рейтинг evidence-base efficacy разных околопсихологических теорий. И включил туда забавные теории для реабилитации преступников – если уж преступников удаётся сделать успешными нормальными социализированными людьми, то с каким-нибудь не слишком успешным в его социализации инженером или даже топ-менеджером на грани расстройства аутистического спектра (ага, “акцентуированная личность”, при этом знаменитые менеджеры типа Джобса или Маска – известные злодеи в быту) тоже есть шанс справиться, наладить их жизнь к лучшему. Вот этот рейтинг (с лёгким учётом подтверждения в неклинических контекстах, всё легко гуглится):
– self-determination theory (SDT) – 5 из 5 (поминал этот фреймворк в “Онтике принадлежности и вовлечения”, Онтика принадлежности и вовлечения: ailev — LiveJournal)
– social cognitive theory (SCT)/self-efficacy – 5
– cognitive-behavioral and resilience training approaches – 4
– Positive Psychology Interventions (PPI) – 4
– Risk-Need-Responsivity (RNR) model – 4
– Good Lives model – 3
– mindfullness-based interventions – 3
– Transformative Learning Theory – 3
– strength-based and empowerment approaches – 3
– growth mindset interventions – 2
Модель хорошей жизни (good lives model, https://www.goodlivesmodel.com/, хаха, забавный перевод, но грамотней, конечно – модель благ жизни) интересна тем, что авторы предлагают 11 жизненных благ (goods), и всё бы хорошо, но вот evidence-based у этой теории сильно поменьше, чем у теорий-конкурентов (как всегда в случаях, когда “давай сядем и придумаем новый способ рассуждать об ответах на главные вопросы жизни, вселенной и всего такого”). Более того, многие грабли в этой системе понятий давно известны (те же попытки вновь и вновь определить “счастье”). Но вдруг вам надо понять, что там у людей в “благах жизни”? Вот:
- Life (Physical Health and Survival): Encompasses basic physical well-being, including health, fitness, and survival needs. It reflects the pursuit of a healthy, functioning body and longevity. Example Application: Access to nutritious food, exercise, or medical care to sustain physical vitality.
- Knowledge: Involves the pursuit of understanding, learning, and intellectual growth. It includes acquiring skills, information, or insight about oneself and the world. Example Application: Engaging in education or training programs to expand one’s capabilities.
- Excellence in Play: Refers to enjoyment and mastery in recreational or leisure activities, emphasizing fun, creativity, and personal fulfillment through play. Example Application: Participating in sports, hobbies, or artistic pursuits for intrinsic satisfaction.
- Excellence in Work: Focuses on achieving competence, satisfaction, and purpose through vocational or productive activities. It includes career achievements and skill development. Example Application: Pursuing a meaningful job or mastering a trade that aligns with personal strengths.
- Excellence in Agency (Autonomy and Self-Directedness): Centers on personal autonomy, independence, and the ability to make choices and control one’s life direction. Closely tied to an internal locus of control. Example Application: Setting personal goals and making decisions free from undue external influence.
- Inner Peace: Encompasses emotional stability, freedom from stress or conflict, and a sense of calm or psychological well-being. Example Application: Practicing mindfulness or resolving internal conflicts to achieve emotional balance.
- Relatedness (Relationships): Involves forming meaningful connections with others, including family, friends, or romantic partners, emphasizing intimacy and social bonds. Example Application: Building supportive friendships or maintaining close family ties.
- Community: Reflects a sense of belonging and contribution to a larger group or society, beyond individual relationships, fostering social identity and purpose. Example Application: Participating in community service or cultural groups to feel connected.
- Spirituality: Encompasses finding meaning, purpose, or transcendence in life, often through religion, philosophy, or a connection to something greater than oneself. Example Application: Engaging in spiritual practices like prayer, meditation, or philosophical reflection.
- Pleasure (Happiness): Involves experiencing positive emotions, joy, and satisfaction in daily life, often through sensory or hedonic pursuits. Example Application: Enjoying music, food, or other pleasurable experiences that enhance well-being.
- Creativity: Focuses on innovation, self-expression, and the ability to generate novel ideas or solutions, often through artistic or problem-solving endeavors. Example Application: Writing, painting, or designing as a means of personal expression and growth.
Всё больше и больше проникаюсь идеей рассматривать проблемы защиты (security) в терминах мозга и иммунной системы, как это определено в работе “The brain is not mental! coupling neuronal and immune cellular processing in human organisms”, Frontiers | The brain is not mental! coupling neuronal and immune cellular processing in human organisms. Это проблема императива сохранения идентичности, “выживания”. Там три автора (Ciaunica, Shmeleva, Levin), и вот очередная работа Shmeleva и Levin на тему паразитов и способов хака организма хозяина: The Hijacker’s Guide to biological systems: Manipulation by self-defecting or foreign agents, https://osf.io/preprints/osf/behxt. Биологические системы используют иерархические регуляторные сети для поддержания структуры и функционирования в различных масштабах, от молекул до целых организмов. Этот текст опирается на доказательства из различных областей, таких как иммунология, биология развития, нейронаука и эволюционная экология, чтобы изучить, как чужеродные агенты (например, патогены, паразиты, трофобласты) и самовредящие агенты (например, раковые клетки) переопределяют эти сети и используют пластичность и регуляторную гибкость хозяина, изменяя морфологию, функцию и поведение системы. Нарушая физические и информационные барьеры, имитируя сигналы хозяина и изменяя иммунную защиту, злоумышленники/intruders используют многомасштабную обработку информации, распространяя своё влияние на уровни – от локальных биоэлектрических состояний до эндокринных и нейронных цепей более высокого порядка. С помощью этих механизмов злоумышленники нарушают гомеостатические уставки, создавая периоды повышенной пластичности, которые позволяют перепрограммировать систему, что приводит к перенаправлению метаболических потоков и переопределению нейронной, иммунной и эндокринной сигнализации. Эти стратегии манипуляции опираются на консервативные механизмы, преобразуя стабильные структуры в гибкие субстраты для перестройки, ремоделируя ткани хозяина и создавая ниши, способствующие выживанию злоумышленников. Понимание этих путей эксплуатации проясняет основные биологические принципы самоорганизации и поддержания идентичности.
Картинка из одного помянутого тут текста, угадайте, какого.
