О чём думать в ноябре-декабре 2023

Мои большие работы ближайшего времени (в порядке приоритетов, наиболее приоритетное обычно получает статус “важной” работы, а не “срочной” – и на неё тратится не меньше двух третей от full time занятости, остальное получает не более трети full time. Ибо стараюсь делать всегда важное, а не срочное, в текучке не вязну):

  1. Облегчение текущих материалов (литературная правка). Это означает, что я как минимум хочу упростить текст “Системного мышления” чуть ли не до нового года. Заодно в этой работе я буду пробовать AI как помощника (и уже провёл некоторое время в общении с gpt-4-1106-preview, известной в народе как GPT-4-turbo). Конечно, с умным человеком общаться лучше, ибо нейросеть относительно тупа. Но общаться с нейросетью много дешевле, чем с умным человеком. Поэтому можно считать, что текст пишет не один я, а команда из меня и AI – грубо говоря, полтора человека. При этом начальная мысль была, что текст можно при помощи автоматизации переписать быстрее, но текущая мысль – что текст при помощи этой автоматизации станет лучше для восприятия, и даже без утери содержания, без упрощения. Это сейчас приоритетная работа: повысить КПД текущего курсового конвейера, снять все возможные барьеры на пути сильного мышления в мозг студента. Но речь не идёт об упрощении содержания, “попсовом курсе”. Отнюдь. “Сделайте систему настолько простой, что ей сможет воспользоваться любой дурак – и только дурак захочет ей воспользоваться”. Другой вариант того же самого: “буду попроще и люди ко мне потянутся? А можно я не буду попроще, и ко мне перестанут тянуться люди, которые попроще?”. Даже тогда, когда основным собеседником “не попроще, а поумнее” становится AI, хотелось бы и людей вокруг себя иметь поумней. Вот пример работы этой самой GPT-4-turbo (абзац брал в Aisystant), сразу там утеряно понятие “системный уровень”, терминология “верхних” и “нижних” уровней и прочие мелкие детали, которые не получат шанса прописаться в нейронной сетке студента. “Чтение” системной диаграммы вдруг заменено на “анализ”. Указание на надсистему/более высокий/объемлющий системный уровень даётся через термин “широкий”, как будто речь идёт о “широких значениях” терминов, а не системах в физическом мире. Утеряно вставленное определение элемента, как далее неделимой подсистемы. Но да, сам текст стал попроще, но чему он научит студента? Вот (и это не с первого промпта, конечно. Это лучший результат, который был получен, а время генерации – примерно 70 секунд каждая попытка. Я вспомнил ну очень давнее время, когда правка запятой в программе давала примерно такое же время перекомпиляции):
Изначальный текст:

“На схеме не показан системный уровень эко-системы, а потом ещё биосферы (они выше уровня организмов) и атомов и элементарных частиц (они ниже уровня молекул), но это не означает, что их нет: посылка открытого мира, «что не сказано, то просто не сказано». Вот так и нужно читать системные диаграммы: любой верхний уровень на них не самый верхний (всегда можно найти какую-то надсистему, в конечном итоге все системы являются частью вселенной). Молекулы показаны на этой диаграмме элементами (далее неделимыми подсистемами) клеток, но это тоже подсистемы, их неделимость условна, она просто не рассматривается в тех деятельностях, для которых была составлена эта схема. Так что и снизу всегда можно найти какие-то части вроде как «элементов». Это для текущего проекта внизу системной иерархии могут быть далее неделимые «элементы», но в пределе деление идёт до уровня суперструн — тех мельчайших физических объектов, из которых состоят кварки по одной из теорий, из кварков состоят элементарные частицы, из которых состоят атомы и т.д. до самого верхнего уровня: всей вселенной или даже мультиверса (множества вселенных, согласно Эвереттовской интерпретации квантовой механики).”

Улучшенный текст:

"На схеме отсутствуют более широкие системы, такие как эко-система и биосфера, которые находятся выше уровня организмов. Также не показаны более мелкие составляющие, вроде атомов и элементарных частиц, которые лежат ниже уровня молекул. Однако их отсутствие на диаграмме не означает, что они не существуют. Мы просто не рассматриваем их в текущем контексте.

При анализе системных диаграмм важно помнить: любой уровень, который вы видите, не является крайним. Всегда существует более общая надсистема, и, в итоге, все системы являются частью более широкой вселенной.

На данной схеме молекулы изображены как неразделимые компоненты клеток. Однако в действительности любая подсистема может быть детализирована дальше. В контексте этой схемы мы просто не углубляемся в такие детали.

Внизу системной иерархии, для целей нашего текущего проекта, могут быть элементы, которые мы рассматриваем как неделимые. Тем не менее, на фундаментальном уровне возможно дальнейшее разделение до суперструн. Суперструны — это теоретико-физические объекты, из которых, согласно одной из теорий, состоят кварки. Кварки, в свою очередь, формируют элементарные частицы; из них образуются атомы. И так далее, до самого масштаба вселенной или даже мультиверса — множества вселенных по Эвереттовской интерпретации квантовой механики."

Все эти работы AI очень красивы и убедительны, пока не приглядываешься. Вот типичная иллюстрация, свежесгенерил в GigaChat (Telegram: Contact @gigachat_bot, это бот нейронной сетки Сбера в телеграм), шикарная картинка, ласкающая взгляд – пока не приглянешься внимательней. А потом замучаешься перечислять, что же там надо исправлять, чтобы картинка хоть как-то соответствовала хоть какой-то реальности. Печаль в том, что люди и AI тут для меня абсолютно одинаковы, S2 не включают, режим самокритики и проверки “догадок” в целом по популяции экземпляров мокрых и сухих нейросеток не работает:

  1. Помощь организму под высокой нагрузкой, это вопросы нулевого и третьего семестра — там функциональная медицина (медики сами говорят, что занимающихся ей несколько человек на страну, и там ещё и маскировка под “нутрициологию” идёт на русском – What is Functional Medicine? | IFM, Nutritional genomics - Wikipedia, Nutritional epigenetics - Wikipedia, Orthomolecular medicine - Wikipedia, всего такого много, и “принимаемое вовнутрь” в этой нутрициологии это отнюдь не только и даже не столько пища, сколько БАДы в количестве, пригоршнями) и anti-aging (тут оказывается примерно то же самое, но превентируется “программируемая смерть” главным образом, та же биохимия и генетика, в крайних их проявлениях – “биохакинг”, который по факту зонтичный термин для очень много чего: Biohacking - Wikipedia), системный фитнес (это требует доделки как инженерии мастерства управления телом/body control, “интеллекта движенца”), валеология и всякое подобное, что надо бы уточнять. Ибо когда ты умнеешь, ты начинаешь вывозить, а кто везёт — на того и наваливают. И под увеличившейся нагрузкой сдаёт организм, так что надо знаниево поддержать вот этот момент. Мы очень много говорили о том, что “меняйте прошивку вашего мозга, знания устаревают быстро, вы же меняете прошивку телефона”, но как-то молчали о том, что сам телефон тоже надо регулярно менять и не ронять в унитаз или с пятого этажа (ремонт тут только одно из возможных инженерных мероприятий), с организмом/телом тоже надо бы что-то делать, равно как с его продолжением в экзотело и экзокортекс. Тут ещё и собственность как зона влияния, “собственность – это продолжение тела”. То есть честнее надо быть с 4E, разворачивать поддержку не только того, что происходит в мышлении чисто с мозгом. Доучивать нужно до того момента, когда студент сможет поговорить с профильным врачом или каким другим спецом (телесником). Тут тот же заход на медицину как инженерную дисциплину.

  2. Написание (ибо текущее содержание уже разбежалось по самым разным курсам, там надо не переписывать, а писать заново) “Образования для образованных”, там идеи инженерного спасения мира, плюс это помощь в маркетинге продвинутых курсов вроде интеллект-стека или объяснений с риторикой — типа как перед матаном рассказать, что потом будет вам много прикладных знаний, а пока занимайтесь непонятным, но важным. Предыдущее “Образование для образованных” читалось как детектив, призывало к спасению мира путём усиления интеллекта, а затем улучшения мира к лучшему разнообразной инженерией – вот это хотелось бы сохранить. Я боюсь, что люди до сих пор слабо понимают происходящее. Интеллект уже невероятно усилился на планете через те же социальные сети (Элон Маск недаром свой X-твиттер считает прообразом гипермозга), а также корпоративные экзокортексы, мощнейший софт с изобилием моделеров в его составе. И это даёт технический прогресс, который взорвёт всё. Вот тут очередная презентация Тони Себа, которую он давал (по иронии судьбы) месяц назад арабским шейхам – https://www.youtube.com/watch?v=7eJKTYc_v-I. Это даже не линия искусственного интеллекта (там отдельная история: “решим проблему AI, а AI решит остальные проблемы”), это чистая инженерия и её последствия – через призму экономики. Вот тут кратенько о том, что он говорил: 😮 The naive Tony Seba has been more right than anyone else (so listen to what he says now).

  3. После этого ход на общества-сообщества, как и планировалось. Теория, курс, отслеживание результатов курса. Но мне кажется, что там теорию надо будет не отдельным курсом давать (хотя это тоже надо будет потом сделать), а лить во все курсы. Собственно, всё фундаментальное должно быть сразу про все системные уровни — личности, организации, сообщества, общества. А прикладное — про каждый конкретный уровень. И тут тоже интересно, всё ведь становится дико сетевым, поэтому старинные представления конца 20 века к современному обществу плохо применимы. Природа человека таки поменялась: человек с книгой стал другим существом (техно-эволюция получила носитель), человек с печатной книгой – ещё одним (shared экзокортекс, коллективно редактируемый мемом), а человек с теми же социальными сетями и Гуглем – третьим. А если добавите LLM вместо “простого гугла”, то и четвёртым. Так что “лучшие учёные социологи” тут мало помогут.

  4. Искусственный интеллект в инженерии, а также опыт Software 3.0 (и это будет использовано при переписке курса системной инженерии на версию 2024 года, эта переписка когда-нибудь обязательно будет). В том числе тут надо интересоваться большими визуальными моделями, ибо без связи формы и описаний в железной инженерии – никуда, например, GitHub - THUDM/CogVLM: a state-of-the-art-level open visual language model | 多模态预训练模型. У меня доклад будет на эту тему 8 декабря 2023 на семинаре Huawei, но пока не планирую этим заниматься full time. Но тема важна, никуда от неё не деться.

  5. У меня до чёртиков уже материалов по танцевальному интеллекту (“системный мультиданс”, сотни страниц заметок в Системный мультиданс | VK), но это будет явно прикладной курс по прикладному интеллекту – поэтому ставлю довольно низким приоритетом. И всё-таки хочу доделать. Из этого пет-проекта приходит довольно много интереснейших идей, которые потом оказываются сверхполезными для основной программы усиления 4E (extended, embedded, embodied, enactive) интеллекта, а также обучения инженерному подходу изменения мира к лучшему: стиль и культура раскапывались там, выделение системы вниманием (а не взрыв-диаграммой) там, стек практик пришёл оттуда (интеллект-стек был вторым отмоделированным стеком, по образу и подобию стека телесных практик), модель COIN оттуда, внимание к телу (второй пункт в списке) и системный фитнес оттуда, и ещё много чего пришло оттуда. Так что я бы по остаточному принципу, но в какой-то момент таки сосредоточился и выдал полноценный курс. Когда-то мы уже выпустили пару пробных наборов курса мультиданса, но я лично не смог тащить этот проект, а команда не справилась с продолжением. Очень жаль. Идеально, конечно, если этим проектом буду заниматься не лично я, а нормальная лаборатория. Так что жду мультидансеров, которые пройдут нашу основную программу, не тащить же всё это в одиночку.

Из важных идей, которые требуют более-менее срочного решения для всего вот этого:
– способы использования доступных AI для методологической и методической работы. Это prompt engineering с одной стороны, но не только. Вопрос примерно такой же, как “вам дали студента-третьекурсника, стажёром – куда и как вы его задействуете?”. Я в жизни попадал несколько раз в ситуацию, когда мне давали стажёра-человека, которого я не знал куда деть: работу никакую поручить вроде нельзя, ибо квалификации не хватает, учить – времени нет, но это ж разумное существо, поэтому должен же быть способ его как-то использовать! Поэтому в подобных ситуациях довольных обычно мало (а когда этим люди довольны, то это “ошибки выжившего” – об этих редких удачах все рассказывают, а вот о частых неудачах – нет). С AI тут ровно такая же задача, квалификация там – студент-третьекурсник с ложным ощущением, что он всё может, но на практике исправлять его ошибки чуть ли не дольше, чем сделать всё самому. Но это мейнстрим, через год это будет студент-пятикурсник, все те же проблемы, только вменяемость студента чуть побольше. И без задействования этой полубесплатной рабочей силы конкуренции уже не выиграть.
– раскапывать идею, что наши текстом рассказа на естественном языке выраженные онтики/онтологии высокого уровня (foundation ontology, upper ontology и даже middle ontology) в литературе называются frameworks, что мы переводили как “подход”, “как думать о”. Вычислительные онтологи это не считали своим, ибо это не формальное/строгое выражение догадок о нарезке мира на объекты. Но с учётом моего доклада на ontolog forum (OntologForum--Levenchuk--beyondOntology_8nov23.pptx — Яндекс Диск) – это как раз оно. Тем самым наши курсы дают framework. Может, надо говорить о третьем поколении системного мышления как о framework, а не онтике (может стать чуть понятней).
– докручивать идею со стилями (более мелкие практики) и культурами (практики, которые плохо документированы, но весьма распространены по какой-то популяции). Вообще, понятие практики очень плохо понимается, только после второго-третьего прохождения наших курсов. Хорошо бы “Методологию” как-то подкрутить, чтобы понимание приходило быстрее.
– докручивать курс “Объяснения и риторика”, ибо в “доказательную медицину” равно как “доказательное образование” без такого курса ходить нельзя (Перл прямо говорит, что все эти “клинические испытания” выеденного яйца не стоят, ибо их методология гнилая, я неоднократно это писал у себя в блоге, но выясняется, что это только небольшая часть критики). Всё там в этих “доказательных медицинах” и “доказательных образованиях” прогнило насквозь по линии нормальной эпистемологии, поэтому сначала надо учить объяснениям, исследованиям/познанию и (этичной и эстетичной) риторике, чтобы разобраться со всеми этими медицинскими сектами (скажем, функциональная медицина в России замешивается в одно с восточными практиками под названием интегративная медицина – тот ещё букет, типа “астрологического матана”). Знания только книжки Джуды Перла (про причинный вывод, Ложь, наглая ложь и причинный вывод (causal inference): ailev — LiveJournal) не хватает, в проекте текущего курса это просто один из четырёх разделов. Причинная революция ещё идёт, и знания о её фронтире надо сразу тащить в ту же самую функциональную медицину, которая начинает с системного подхода к рассмотрению организма и пониманию причин-следствий, объясняемых многоуровневостью. А без этого приходят на этот зов функциональщиков о “целостном организме” холисты разных сортов (в лице адептов восточной медицины, а также гомеопатов), и с ними плохая эпистемология. Вот от этого нужно иметь надёжную защиту: от ошибок холистов-восточников и редукционистов-мейнстримщиков.
– тема коллективного мышления (думающее человечество, общество, сообщество) и вообще популяций как агентов. Вменяемость и прочие характеристики. Тут очень, очень мутное место. Печень, диктующая организму, что ему делать, клетка, диктующая печени, что ей делать – а дальше просто поднимаем уровень разумности печени и клеток, пробуем получить безмасштабное описание. Тут же идеи Дойля и Левина про многоуровневое управление, а также нементальный мозг и иммунные защиты. Без этого никаких клубов, обществ-сообществ.
– по прежнему огромная дыра в ритмике и разговоре о времени: нет того самого фреймворка по паттернирование во времени. Идея “повторяемости” паттерна поведения (изменений в их развёртке по времени), задающая ритм в его отличии от пульса (и переход к работе по опросу вместо работы по прерыванию).
– важнейшая задача роста агентности и просвещения. Наши выпускники радостно используют материалы курсов для того, чтобы наладить жизнь вокруг себя в конкретных проектах (доходят до уровня “мастер”), но вот интенции на рост их проектов и выход в статус “реформатора” пока особо не видно. Реформаторы появляются, но не на потоке. А нам нужно этому учить.

Для сравнения: пост “Куда думать в первом квартале 2023” – Куда думать в первом квартале -- 2023: ailev — LiveJournal

4 лайка