Войны – следствия незнания, незнание – следствие неумности. Надо массово делать людей и AI умнее
Пока в мире идёт ползучая мировая война, я продолжаю работать: я уже довольно много провёл времени (десятки лет) в разных проектах в попытках изменить мир к лучшему какими-то хаками, и понял, что ничего из этих хаков не работает: все попытки сделать что-то по уму и выдать какие-то аргументы для этого смываются в унитаз банальным “А чё такова?!” – и аргументы банально игнорируются (я писал пару лет назад про это в Пока слышим "а чо такова?", обучения практикам мышления не будет: ailev — LiveJournal. А ведь никакие разговоры про этику (включая этику и политэкономию, этику и религию, этику и войну) не пойдут, пока не будет получаться хоть как-то массово удерживать в голове длинную причинно-следственную цепочку, в которой звенья хоть как-то обоснованы. Так, у экономистов все дискуссии австрийцев со всеми представителями других экономических школ через две минуты превращаются в дискуссию о методе, то есть проблемы предъявляются к способу рассуждений, по факту – к интеллекту собеседника. Нет интеллекта – всё, в любой предметной области пролетающая мимо популистская птичка сманит к тебе всех твоих сторонников, они все будут на пять минут сторонниками, ибо их удерживает не логика, а страсть. S1 в риторике наше всё, и ужас в том, что это таки работает: в тестах убеждение прямым обманом лучше работает даже для машин, а машины уже убеждают лучше людей, GPT-4 в эксперименте (по-русски: Telegram: Contact @seeallochnaya, статья [2403.14380] On the Conversational Persuasiveness of Large Language Models: A Randomized Controlled Trial) достигла вероятности согласия оппонента с её позицией на 81,7% больше, чем если бы это делал человек – ей только надо сообщить какую-то персональную информацию об этом человеке. Люди не учитывают персональную информацию, нейросеть учитывает – и убеждает. Надо, чтобы это срабатывало не на всех.
Надо, чтобы люди (и, кстати, те же нейросети ближайшего будущего) массово могли вести дискуссию о методе, и затем (договорившись о методе) договаривались друг с другом, как изменить мир к лучшему. Я не понимаю, как этого добиться, если не сделать трёх шагов:
– понять, как людей сделать умнее, чему их для этого надо научить. Тут вроде как разобрался: учить надо интеллект-стеку, заодно там определение, что такое “изменить мир к лучшему”, а не, например, “потрепаться о мире к никакому” или “накосячить в мире к худшему”. А ещё надо научить трудовому кругозору как основным методам изменения систем к лучшему, в том числе инженерии организаций (менеджменту) и инженерии сообществ, ибо в одиночку ничего достаточно масштабного не изменишь.
– с ужасом обнаружить, что нет никаких курсов по тому, чему надо бы учить. Часть курсов начать писать самому, часть курсов – попробовать организовать тех, кто сможет написать. Тут более-менее продвинулись, курсы написаны в достаточной мере, чтобы понять, о чём там вообще речь.
– развернуть Школу, которая попробует образовывать (не просто обучать – обучать это прикладным методам работы, а вот фундаментальным методам мышления – образовывать, другое слово) массово, то есть дёшево. По факту мы ещё ничего не развернули, ибо по предыдущему пункту только-только сделали MVP. Тут можно много ещё писать про ресурсную сторону, про конкуренцию по линии культуры/контркультуры (у нас, конечно, контркультура), про конкуренцию денег налогоплательщиков с частными вложениями по линии образования, но оставим это на потом.
Без этого массового образования будут продолжаться все проблемы (войны, локдауны для победы над ковидом, религиозная промывка мозгов, допотопное образование, очень плохая наука, феномены типа биг фармы в медицине, несть этим бедам числа), которые вроде как требуют немедленной с ними борьбы, хотя эта борьба оказывается вполне тщетной. Я считаю, что не хватает знаний (оптимизм по Дойчу), чтобы прорваться, для знаний нужны просто неглупые люди, а их можно взять – и научить. Надо только (возвращаюсь к предыдущему пункту из трёх шагов):
– знать, чему учить
– иметь материалы курсов,
– развернуть инфраструктуру дешёвого качественного обучения
Все текущие войны – это рябь на воде, ибо приходит AI, и без массового поумнения с войнами может стать много хуже
В свежем подкасте с Dario Amodei (CEO Antropic) (https://www.youtube.com/watch?v=Gi_t3v53XRU, транскрипт https://archive.ph/gZjFk, по-русски обсуждение Telegram: Contact @seeallochnaya, Telegram: Contact @seeallochnaya, и главное – Telegram: Contact @seeallochnaya) глава одной из самых мощных в мире AI фирм говорит, что все эти войны текущего времени – рябь на воде, ибо появилась технология, к которой надо готовиться специально:
– понимать происходящее и самому хорошо разбираться в каких-то предметах, “научите своих детей адаптироваться, быть готовыми к миру, который меняется очень быстро”. Для меня это означает: дайте хорошее образование, то есть научите трансдисциплинарным методам мышления, в том числе стратегированию как методу выявления метода, который будет решать проблему, когда вообще непонятно, что делать. Я вот всю жизнь был консультантом по стратегии: когда мало понятно, что делать и за что хвататься, у меня всегда находились какие-то осмысленные ходы. Всё, что изменилось – это я сегодня примерно понимаю, что и как надо делать в таких случаях, а также имею наглость этому учить (грубо говоря, в консалтинге я кормил рыбой, а тут учу ловить рыбу). Так что тут я полностью согласен с Dario Amodei. Учить, конечно, надо не только детей, а вообще всех. “При разгерметизации салона сначала наденьте кислородную маску себе, а потом ребёнку”, как учат инструкции по безопасности в самолётах. Вот этим и занимаюсь.
– вторая мысль не так уж и тривиальна, это какие книжки надо почитать. И тут, удивительно, это книжки про то, как случаются войны и какие решения принимают люди, когда мир резко меняется – а источники раздоров остаются, все эти геополитические, религиозные, политэкономические, расовые и прочие разборки. Это "1. «The Making of the Atomic Bomb»: «Просто посмотрите на персонажей и то, как они на реагировали на разработку. Как люди, которые по сути были учеными, постепенно осознали невероятные последствия своей технологии, а также то, как она приведет их в мир, который сильно отличается привычному им миру». 2. Серия книг «The Expanse»: «Мир в этой вселенной очень продвинут. Люди уже осваивают космос. Но они по-прежнему сталкиваются с некоторыми из тех же геополитических вопросов, вопросов неравенства и эксплуатации, которые существуют в нашем мире сейчас. Вот такой фон истории. И суть в том, что в этот мир привносится какой-то принципиально новый технологический объект и как все на него реагируют, как на него реагируют правительства, как на него реагируют отдельные люди и как на него реагируют политические идеологии. Когда я прочитал это несколько лет назад, я увидел много параллелей». 3. «The Guns of August»: «Это, по сути, история Первой мировой войны. Основная идея заключается в том, что кризисы происходят очень быстро, почти никто не знает, что происходит. Просчетов много, потому что в центре всех процессов находятся люди». Мой опыт показывает, что чтение книг в разы и разы полезней, ежели перед чтением помочь разобраться в том, что же там рассказывается – поместить содержание этих книг в общую картину мира. Понятно, что эти все книжки прежде всего про этику. На мой взгляд, сначала надо таки разобраться в этике (например, я написал про системную/многоуровневую этику целый раздел “13. Этика” (Aisystant). А потом уже читать эти книжки, будет много, много полезней. Мы примерно так же даём читать книжки разных авторов в ходе курсов системного мышления, системной инженерии, системного менеджмента: они укладываются в голову сразу на нужное место, понятно что с ними делать, какое место они занимают в общей картине мира. Проблема тут одна: интеллект-стек – это курс шестого семестра. Если перед ним не пройти содержания наших остальных курсов, то это “умная книжка, оторванная от жизни”. Если пройти – то оказывается, что рассуждения там вполне “руководство к действию”. И оказывается, что линейке курсов не хватает “инженерии сообществ” (и тем более “инженерии обществ” – даже если говорить, что тамошний метод “самоорганизация”, каждый из шагов которого сделан, впрочем, самими людьми, которые что-то там придумали и учудили). Вот этим и занимаюсь, иначе никакие книжки про войны и сами войны в жизни не будут никакими уроками, разве что образцом для подражания – “наши деды добывали огонь трением, а земли вместе с тамошними крепостными – войнами, вот и мы так будем делать, история – наш профильный предмет, как в кадетских училищах”.
А ведь есть интересные идеи типа демократии как средство бескровного исправления ошибок назначения правителей во власть, есть идеи айкидо (против идей самбо – “нет человека с первого удара, значит нет проблемы”), много каких интересных ходов есть – но это сегодня размышление маргиналов, а не мейнстрим. Ходы на “дать сдачи так, чтобы обидчик сдох” вроде как уже плохо – но ответа на вопрос, а что будет, если сдачи вообще не давать и обидчик просто забьёт тебя до смерти – их нет. Вряд ли кто-то настроит нейросетку и заплатит за решение именно таких проблем, причём это ж не только “продвинуть методы этики, продвинуть методы социологии, продвинуть методы риторики”, но и дать массам людей образование в этих продвинутых версиях методов мышления и действия.
Тот же Dario Amodei в 2025-2026м году предвидит обучение моделей стоимостью $5-10 млрд., это предел частных возможностей, а деньги налогоплательщиков пойдут явно не на то, чтобы миру было лучше (надсистема) или гражданам лучше (подсистема), но чтобы какому-то государству в лице чиновников этого государства было хорошо – вот это точно. Далее смотрим на то, что эти суммы пойдут на “предвыборные кампании”, тут всё будет абсолютно демократически, не придерёшься.
Чтобы люди были устойчивы к религиозной, государственной, расовой, национальной и прочей пропаганде, надо обучить их критике, то есть сделать умнее.
Как это предотвратить? Мне кажется, что единственный способ – сделать людей умней, чтобы они могли быть устойчивыми к религиозной, государственной, расовой, национальной и прочей пропаганде. Для этого надо уйти из царства порождающих фантазийных нейросетей, работающих с быстрым мышлением S1, в царство поддающихся критике формализмов S2 (смотри схему системного творчества в курсе “Системного мышления”, Aisystant). Я не хочу называть это “критическим мышлением”, ибо порождение догадок тоже очень важно – но приём чужих догадок всё-таки должен быть не через “голосование сердцем”, а в том числе через логику.
Тут хорошо может помочь fun-критерий от Дэвида Дойча, https://www.youtube.com/watch?v=idvGlr0aT3c и https://www.youtube.com/watch?v=uQ2GHzFYxaI, там начинается с уточнения: fun – это когда процесс эволюции идей идёт без “дребезга” в совмещении явных (формальных, проговариваемых, S2 – логика и критика как раз тут), неявных осознанных (понимаемых интуитивно в S1) и совсем уж неосознанных идей (которые есть, но их влияние на свои рассуждения не осознано – внимания на них ещё не было направлено) в рассуждении. Я писал об этом в lytdybr: ailev — LiveJournal, пару лет назад. Но фишка в том, что следование этому критерию подразумевает высокий уровень интеллекта, это будет работать с образованными людьми, для остальных это будет – “А чё такова?”, никаких ведь проблем, что тебе говорят про нерациональность твоего поведения: “если нельзя, но очень хочется, то – можно!”, и дальше это самое “А чё такова!?”, я писал про это в Пока слышим "а чо такова?", обучения практикам мышления не будет: ailev — LiveJournal. Тут замкнутый круг: пока слышим “А чё такова?!”, обучения мышлению не будет, оно и не надо, в нём не признаётся ценности, вон кошки и морские свинки живут вообще без мышления!
Человек и без хорошо поставленного мышления проживёт не хуже кошки или морской свинки, это ж очевидно! А если ты уже образован – то ты понимаешь, что нехорошо в некоторых случаях говорить “А чё такова?”. Нехорошо применять готтентотскую этику (когда у нас – доблестные разведчики, а у них – мерзостные шпионы, когда мы-то – за родину помираем, а они дохнут непонятно за что). Если нет правильного образования (неправильное-то вот оно: одиннадцать лет школы и пяток лет вуза есть у всех, толку-то?! Учат ведь не тому, чтобы быть умнее, и даже наоборот – часть предметов как раз должна надёжно вырубить критику в мозгу!), то решения будут приниматься идиотские, “мы поливали во время пандемии землю хлоркой для того, чтобы показать серьёзность наших намерений”. Ага, можно ещё молебен было бы устроить, чтобы показать серьёзность намерений (и ведь устраивают же!).
Я поглядел на свой давнишний “программный пост” про Worldchanging, “Десятка topics, которые часто крутятся у меня в голове” (Worldchanging: ailev — LiveJournal), уже 18 лет прошло – на какие-то вопросы там получены за это время ответы, на какие-то ответы продолжают искаться, но в целом, удивительно, эта десятка тем продолжает крутиться в моей голове. И я продолжаю всем этим заниматься и сегодня:
- Как улучшить мышление?
- Как улучшить свое ментальное устройство?
- Как лучше развивать/образовывать/учить людей?
- Как улучшить общество?
- Как улучшить организацию?
- Как адаптироваться к информационному обществу (или как использовать информационные технологии)?
6.1. Собственно информационные технологии
6.2. Информационное общество
6.2. Вебстроительство вообще и социальный софт в частности.
6.3. Куча мелких трендов. - Как достичь баланса поиска и придумывания?
- Как улучшить здоровье?
- Как русскоязычным школам/сообществам/community of practice интегрироваться в мировую культуру?
- Как инвестировать/сохранять деньги в условиях близости точки сингулярности?
Удивительно, 18 лет прошло с момента формулирования такого списка, а всё это для меня довольно свежо. Если поглядеть в тот пост, то там и искусственный интеллект в темах интереса, и много чего ещё – и ведь огромное число ответов на поставленные там вопросы получено, закрыты довольно большие тупики развития, дальше можно продолжать работать, не тратя много времени на всякую чепуху, всякие “теории флогистона”, которые оказались модными поветриями, не более.
Так что вместо того, чтобы волноваться и переживать (а поможет?) по поводу всех новых и новых войн (AI к ним, боюсь, в текущей ситуации только добавит), я буду продолжать:
– делать людей умнее, чтобы они могли как-то ориентироваться в мире, где правят популисты и их нейросети, которые польстят каждому – и нужно будет иметь не столько железные нервы, чтобы устоять, сколько железную логику, чтобы не “проголосовать сердцем”, а принять разумное решение
– делать людей деятельнее. Выяснилось, что маловато быть умным аналитиком. Это мир к лучшему не изменит. От специалиста-аналитика надо вырасти до человека, который хоть как-то может организовать в работе себя (практик), до человека, который как-то может организовать в работе организацию (мастер оргразвития), а уж дальше – организовать сообщество (реформатор). Про революционеров молчу, это продукт штучный, но он тоже должен быть.
И дальше уже с этими умными людьми можно обсуждать, что можно сделать такого, чтобы все эти войны перестали быть необходимыми, а конкуренция осталась мирными средствами (ибо в эволюции конкуренция нужна, без неё не будет никакого прогресса).
Что удалось сделать за год после прошлой нашей отчётно-перевыборной конференции и неамбициозные планы.
Поэтому в разгар этих военных действий я размышляю над своими выступлениями на нашей восьмой конференции на следующей неделе (Восьмая ежегодная конференция ШСМ "Современный системный менеджмент и инженерия-2024": ailev — LiveJournal, заявляйтесь на доклады, слоты ещё есть), я внутри себя называю эти конференции “отчётно-перевыборными”. Говорим про планы: насколько выполнены текущие планы и объявляем о новых крутых планах. Отчётная часть планов в этом году вполне ОК:
– в менеджменте у нас явные успехи и в открытых группах, и в корпоративных группах (о которых объявили как раз на конференции). Появился опыт, появились новые ходы. Часть этих ходов (например, ход на квалификацию на основе агентности – линейка специалиста, практика, мастера, реформатора) отражена в тексте про трудности цифровой трансформации, который показывает, какие вопросы надо ставить перед топ-менеджерами в отличие от “простых менеджеров проекта”, Трудности цифровой трансформации реального сектора: ailev — LiveJournal. И ещё в корпоративных группах обсуждали пару-тройку ходов на операционную часть: отслеживание причинно-следственных отношений между тем, что делается службой оргразвития и тем, как это повлияет на выпуск/проход/throughput предприятия. Ибо часто берут “любимое”, а не “нужное” — но и для “нужного” не могут обосновать, почему занимаются именно им, а не сотней дел рядом. Тут берём целевую систему, добиваемся её определения (это нелегко!), а затем замеряем throughput – вместо Голдратта используем TameFlow, а также работу с методами, работами, предметами метода, декомпозицией, уделяя особое внимание концепции использования и аванпроекту (технико-экономический проект), на который уходит сейчас довольно много времени.
– год назад на конференции объявили о шестисеместровой программе “Организационное развитие”, заявили, что не торгуем россыпью курсов, а работаем “вдлинную”, зато результативно. Отработали это сначала на корпоративных группах, оказалось – успешный успех, переписали нашу продуктовую линейку. Перелопатили существенно содержание курсов. Год назад на конференции объявили о переписке курсов, за год написали “Инженерию личности” (новый), собрали из двух курсов и затем переписали “Моделирование и собранность”, переписали “Интеллект-стек”, переписали “Системное мышление” (ну, почти переписали, 92% переписано, но зато радикально), существенно продвинули переписку “Системного фитнеса”.
– наш Aisystant как AI на основе RAG как раз был запущен к конференции (28 марта 2023), с тех пор мы реализовали страшно кривой омнибокс с этим ботом, но не слишком продвинулись. Зато учебная часть Aisystant продвинулась в софте сильно: разработка курсов перешла на принципы “непрерывного всего”, добавлено несколько “ачивок” за систематичность в учёбе, по факту во многом ушли из телеграма в клуб (появился общий логин) и добавлены ачивки клуба (скажем, за комментирование – у меня там тоже есть ачивка). Ещё Aisystant задействован как корпоративный моделер. У нас регламенты ШСМ оформлены в Aisystant как курсы, а шаблоны чеклистов оформлены как домашние задания по моделированию к этим регламентам: каждое прохождение чеклиста начинаем с “добавить строчку к таблице”, колонки – прохождение состояний предметов регламента". Есть регламенты и чеклисты запуска группы, регламенты и чеклисты работы куратора корпоративной учебной группы от администрации предприятия.
– решили огромное число онтологических проблем, которые висели годами, главным образом разобрались с методом и его предметами (это уже отражено в “Системном мышлении”), который сделали первым синонимом в длиннейшем синонимическом ряду, и который оказался синонимом и к культуре, и к стилю, и даже к стратегии (стратегия и стратегирование при этом стали методологической работой). Теперь надо это отразить в наших инженерных курсах.
– разобрались более-менее с программой “Новая грамотность”. Курсы там по большей части переписаны, плюс появился “входной самоэкзамен”, с которым все согласились (подробней в четвёртом пункте тут: lytdybr: ailev — LiveJournal): если студент понимает, что способен выполнить задачу девятого класса средней школы, а именно – одолеть за учебную четверть (у нас семестры примерно такие) роман “Война и мир”, то есть прочесть полностью и написать несколько сочинений на эту тему, уметь отвечать на вопросы к роману, то ему можно идти на нашу основную программу. Если студент понимает, что он деградировал и прочесть толстую книжку не в состоянии (по совокупности причин, например, половина машинописной странички ему кажутся “многабукаф ниасилил” – но он помнит, что когда-то такое мог), то ему надо сначала “новую грамотность”, даже если он работает каким-нибудь топ-менеджером.
Какие есть неамбициозные планы:
– обновить все наши курсы. Летом к переписанному моделированию в “Моделировании и собранности” появится переписанная собранность, работа идёт, просто пока черновики не публикуются. Закончить “Системное мышление” – это дело недели, закончить “Методологию” – это месяц. Надёжность выучивания поднимется существенно, все студенты проседают не на содержании инженерных курсов (системная инженерия, инженерия личности, инженерия организаций), а вот на этой самой “базе” – неумение отделить метод от работы, путаница системы и её поведения, путаница системы и её описаний, путаница термина и понятия, этот ряд можно продолжать бесконечно. В результате “смотрят в книгу, видят фигу”, буквально – курсы инженерии не идут впрок.
– провести исследование на тему знаний/теорий/объяснений по линии инженерии сообществ и выдать курс “Инженерия сообществ”, давно назрело. Это надо для много чего, от разбирательства с “корпоративной культурой” (лидерство-то современное shared, а это тоже сообщества) до “Инженерии клиентуры” и “Инженерии инвестуры”.
– переписать курсы “Системная инженерия”, “Инженерия личности”, “Системный менеджмент”, уже ведь понятно, что там можно улучшить, начиная с посадки этих курсов на продвинутую сегодняшнюю онтологию и заканчивая учётом появившихся за последнюю пару лет с момента написания этих курсов знаний. И ещё надо переписать “Интеллект-стек”, там ведь тоже всё стало понятнее.
– заняться продвижением текущих курсов. Ибо MVP уже есть, нанести непоправимую пользу людям уже можем – ну, надо брать, и наносить. Брать ту самую “Инженерию сообществ”, и делать сообщество/клуб образованных людей, которые могут коллективно наработать немаленькие ресурсы для решения самых разных задач изменения мира к лучшему, в том числе и задач массового качественного образования.
Амбициозные планы, обратимся к первым принципам
Но это не так интересно. Выглядит, как “сделали MVP, теперь будем развивать” – и да, это оно и есть. С этого момента мы никому особо не интересны (кроме студентов), и даже себе не так интересны. Новое MVP – интересно, а дальше неинтересно, и только когда уже развитая система захватила мир – тогда опять интересна, “всё большое интересно, а маленькое – только если оно совсем новое”. Интересно всегда – перетряхнуть то, что ты делаешь, из первых принципов. Я уже интересовался тем, что означают слова “из первых принципов”. Они означают “оставь функцию/метод, только декомпозируй её/его по-другому, а для новых подфункций/подметодов выдай новые аффордансы” (последний абзац в lytdybr: ailev — LiveJournal, Уровни Марра и первые принципы: это всё системное мышление: ailev — LiveJournal). Как это было бы для моего проекта? Например, сделать несколько ходов на оптимизацию:
-
Ход, который мы делали до сегодняшнего дня – это продолжение попытки выучить системных инженеров, давая объяснения на огромнейшем понятийном расстоянии, оптимизация прохождения огромных понятийных дистанций (ответ на шестой пункт “проблем обучения методологическим дисциплинам”, текст 2019 года, Проблемы обучения методологическим дисциплинам: ailev — LiveJournal):
– сходу выучить не удалось, нашли ограничение – системное мышление, начали учить с него. Потом выяснили, что проблемы с моделированием (онтология, семантика). Добавили его. Потом выяснили, что системноинженерный менеджмент тоже важен (второе же поколение системного мышления), добавили менеджмент как “ещё одну инженерию”, потом – инженерию личности, как “ещё одну инженерию”. Потом – идеи эволюции и вписанность в мир – дорастили всё до интеллект-стека. Дальше нашли, что хорошее знание материала ещё не приносит изменений в мир – и начали развивать агентность. По этой линии надо и дальше находить, что не позволяет в объяснениях преодолеть далёкое понятийное расстояние – и продолжать убирать препятствия. Курс будет становиться немного длиннее, но зато в нём не будет огромных дыр в понимании.
– перейти как можно быстрее от exploration к exploitation, то есть выполнить работы “неамбициозных целей”, в том числе последний пункт перехода к продвижению-маркетингу. Иначе зачем это всё было, зачем было тратить где-то 12 лет (с 2012 года попытки вести курсы системной инженерии) на работы по линии этого хода на преодоление большого понятийного расстояния? -
Ходы, которые возможны по методологической линии, возврат к теме “чему учим”:
– у нас в курсах уже изложен неплохой метод мышления, но он очень “пушистый”, там не очень понятно, что абсолютно важно, а что не так важно. Можно взять текущее содержание курсов и оптимизировать на предмет минимальности содержания. Грубо говоря, выполнить блочное изложение (на выходе – справочник, а не учебный материал), это будет очень короткий текст, если сделать его как синопсис, без объяснений и примеров (по типу раздела онтологии системного мышления третьего поколения в курсе “Системного мышления”). Дальше приоритизировать, что там самое важное для образования. Оставить minimum minimorum – и оставить только его в основной программе. Всё остальное убрать в прикладные курсы по выбору. Минимализм наше всё. Возражения: поскольку это всё “лексика мышления”, то рулит как раз “длинный хвост” – разговаривать на словаре Людоедки Эллочки можно, но даже уровень A1 владения иностранным языком (“как пройти в библиотеку”) явно недостаточен, чтобы мыслить, а уровень C2 будет содержать множество слов, каждое из которых будет пригождаться раз в год. Тут есть над чем подумать, тут тоже оптимизационная задача: что там фундаментальное знание, которое “приложимо каждый день”, что “фундаментальное знание редкого словаря”, что “прикладное знание, которое у профи встречается часто, а больше не нужно никому”.
– внимательно инвентаризовать содержание курсов на предмет SoTA. Выполнить исследование, что там по каждому разделу текущая SoTA. Это делалось с “Системной инженерией” – и нашли переход к “непрерывному всему”, а также исчезновение инженерии требований. Это делали с системным мышлением – нашли третье поколение, теорию создателей. Вот этот ход просто взять, и сделать его ещё раз, отдельным проходом. По большому счёту, это можно делать с использованием современных LLM, которые начитались научных статей и инженерной и менеджерской литературы. -
Ходы, которые возможны по методической линии, возврат к теме “как учим”. Тут сильное пересечение с идеями по методологической линии, ибо “чему учим” и “как учим” существенно связаны, “как учим” обсуждать возможно только после того, как становится понятно, чему учим.
– в студента вставляем кусочек препода, это прямо прописано в курсе “Инженерия личности”. По ссылке в третьем абзаце lytdybr: ailev — LiveJournal есть ещё один вывод: надо вставлять как можно быстрее ещё и критика, после чего будет толерантность к обучению на мусорных данных. В принципе, все результаты показывают, что нейросетки обучаются даже на ахинее. Суцкевер со товарищи в последней работе получили результат, что глупая сетка вполне может научить сетку умнее себя – Weak-to-strong generalization, работа [2306.11644] Textbooks Are All You Need показала, что качественный учебник – это наше всё, но вот раннее обучение критике в существенной мере смягчает проблему, обучение идёт быстрее и качественнее даже на мусорных данных. Если убрать гордыню и принять, что студент учится не только у нас, но и у мира в целом (книги, статьи, блоги, коллеги и т.д.), то мы можем сделать его умнее за счёт того, что вставим в него качественного критика. Не хочу поминать термин “критическое мышление” (оно стало мёртвым учебным предметом, как латынь, об этом у меня в курсах даже есть отдельный подраздел), но, может быть, надо поднять это на щит и переопределить. Место критики в системном творчестве я давал, но тут критика оказывается полезной для обучения. Конечно, это из методики сразу становится методологическим вопросом: чему учить, чтобы получился критик, полезный для последующего обучения?
– поработать с sample effectiveness, у нас курс работает на кучах повторений, и непонятно, сколько из них надо. Общая идея – недоучиваем в этом плане, и существенно. Учитываем, что речь идёт о нейросетке, и поэтому “повторение” – мать учения. Далее повторения бывают “из оригинальных данных” (скажем, берём наш синопсис – смотрит в книгу, видит фигу, zero-shot learning тут не проходит), “из синтетических данных” (генерим по ходу дела, я так пишу свои учебники, получается “Война и мир” вместо пятидесяти страниц плотного текста), из “собственных данных” (решение задач, генерирование догадок) – и там засада, что собственные данные могут быть мусорными, и всё обучение идёт дальше дико медленно, хотя идёт. Я писал об этом в третьем абзаце lytdybr: ailev — LiveJournal. Тут можно вспомнить ещё Алана Кея с проектом FUNC (Papers from Viewpoints Research Institute - Viewpoints Intelligent Archive) и тамошними рассуждениями о том, что на сверхсложном языке возможно освоить один томик кода, аналогичного по функциям MS Windows за жизнь одного человека, а на каком-нибудь языке низкого уровня – нельзя освоить, ибо не удастся даже прочесть. И дальше там проблема с оптимизациями: когда начинаешь оптимизировать, то код резко начинает пухнуть (скорость торгуется на память, в том числе память для кода). Тут ещё можно использовать переменное число повторений для “трудных” и “нетрудных” тем – основываясь на [2404.07965] Rho-1: Not All Tokens Are What You Need (и русскоязычный пересказ с Telegram: Contact @seeallochnaya – если “уже выучил с первого раза”, то и не надо, если “что-то не получается” – надо менять метод обучения, бесполезно повторять, а если “трудно, но получается”, то надо добавить повторений).
– Можно ещё поработать с собственно обучением, ответом на вопрос “как учить”, тут до чёртиков ведь всякого overhead. Вдохновляющей тут является текущая работа Karpathy, который несколько миллионов строк PyTorch заменяет для одного частного случая на примерно 1000 строк на Си (https://twitter.com/karpathy/status/1778153659106533806, https://twitter.com/karpathy/status/1778841713605525889 и базовая работа Horace He Making Deep Learning go Brrrr From First Principles). Это очень близко к идеям Алана Кея про “компьютерная революция ещё не началась”, я писал об этом ещё в 2007, Опять ссылки. The Computer Revolution Hasn't Happened Yet: ailev — LiveJournal, и там в конце ещё The Accretion Model of Theory Formation Дугласа Лената.
– поработать с идеей Алана Кея про “берите пример сложности строительной единицы из биологических систем”, она прямо противоположна (хотя как поглядеть) идее “иметь кусок знания попроще и поменьше”. Он говорил, что клетка является строительным материалом организма, и она дико сложно устроена, она самодостаточна во многом. И дальше мелкая функционализация этой универсальной конструкции даёт нам дикое разнообразие и клеток организма, и разнообразие клеток организмов во множестве видов. Сам организм – он тоже дико сложен, сложнее клетки, и тоже самодостаточен и универсален. Вот мастерство тоже можно делать вот таким многоуровневым. Это то же самое, что мы говорим сейчас, что есть ядро трансдисциплинарных методов мышления интеллект-стека, а дальше многочисленные вариации прикладных методов работы, но вот Алан Кей предупреждает, что это ядро (интеллект-стек) надо делать достаточной сложности, это результат очень долгой эволюции, долгого обучения, простым решением тут не отделаешься. Это, конечно, прямо противоположно идее иметь “максимально короткий курс”, и что тут можно сделать по этой линии – отдельный вопрос. Главное, что это методический вопрос: нагло долго учить интеллекту и только потом чему-то прикладному, или таки как-то перемежать (школьное и вузовское образование говорит: “конечно, сначала общее образование, потом прикладное” – но хорошо бы тут тоже оттолкнуться от первых принципов).
– всё-таки поработать с AI, пусть работает не на основе мусорных знаний человечества (главным образом нынешние LLM учились не на SoTA результатах мышления), а на знаниях наших курсов. Непонятно, как это сейчас сделать на нынешних технологиях и нынешнем уровне цен на вычисления, но это направление ещё не стоит сбрасывать со счетов. Мы делаем агентов умнее, а не только людей умнее.
На конференции у меня доклады в субботу и в воскресенье. Перед ними я ещё подумаю над этими проблемами.
А так-то я регулярно пишу, что при очередных мировых катаклизмах я флегматично замечаю, что не этот катаклизм, так следующий – и кто-то должен думать над лечением не симптомов, а болезни. Надо лечить от глупости, массово. Вот этим и занимаюсь. Мне же пишут, что я должен всё бросить и работать над текущими политическими задачами. Ну, я много лет работал над текущими задачами – а совок вернулся, как никуда не уходил. А в некоторые страны совок ещё и пришёл, хотя раньше его особо там не было. Так что я это осознал – и ещё я понимаю, что каждому новому поколению придётся объяснять то, что уже хорошо понимает поколение постарше, так что задача делать людей и AI умней не разовая, она будет всегда, пока будут рождаться люди, и делаться новые AI.
