Пишу в “Интеллект-стек” раздел “Эстетика”, дело идёт с огромным скрипом. Но это уж как всегда. С другой стороны, в версии 2021 года была буквально одна страница текста про эстетику, а тут будет пяток страниц со множеством новых идей, которые потом можно не спеша разрабатывать. Это впятеро больше, чем в предыдущей версии!
Меня довольно много людей спрашивают, что я делаю, чтобы размножить Левенчука, ибо многое в ШСМ упирается в меня – я тут бутылочное горлышко. Первое, что я делаю – это отчуждаю свои знания, explicit knowledge: я не должен буду выдавать в разговоре каждому новому человеку (а новых людей в ходе роста клуба должно быть много) всё то, что я знаю и думаю. Как минимум часть я оформляю в виде курсов, поэтому много пишу. Тут я вижу свои работы:
– передача знаний по линии системной инженерии и менеджмента, это почти выполнено (курсы второго семестра вроде как готовы, дальше их можно улучшать, но и это уже можно делать не всё моими собственными силами. Продукт есть, его можно посмотреть, пощупать – Второй семестр программы "Организационное развитие", хотя там есть пререквизит, но этот пререквизит делал не я, и он тоже более-менее готов: Первый семестр программы "Организационное развитие"). Более того, тут уже готова раскладка курсов по шестисеместровой программе “Организационное развитие”, и это всё уже опубликовано: https://system-school.ru/, Шестисеместровая программа "Организационное развитие" - YouTube. Дальше студентам, а потом и преподам и авторам новых курсов можно разговаривать а хоть и с нашим AI-ботом вместо меня, он уже работает в поиске. И, конечно, я поддерживаю это всё в чатах поддержки курсов.
– курс “Интеллект-стек” даёт общую картину мира, непрерывно меняющегося в ходе дарвиновской эволюции и техно-эволюции, учитывая и появление AI. Там изложена “теория всего” как литературный обзор современных исследований по фундаментальным дисциплинам мышления, их оказывается много. Уже почти полгода у меня на это уходит основное время, занимаюсь этим курсом прямо сейчас (пишу про основные идеи эстетики) и буду заниматься минимально до конца июля. Этот курс описывает “по диагонали” то, чему учим в курсах усиления интеллекта, даёт целостное представление о “практиках умности” и выводит на фронтир. Без этого курса будет трудно готовить преподавателей и авторов курсов, ибо курс направлен не столько на прикладное мастерство, сколько на фундаментальное мыслительное мастерство, усиление интеллекта.
– стажировка преподавателей в моих очных группах. Пока стажируется один преподаватель, этого, конечно, мало. И создание новых прикладных курсов, например, курса по администрированию.
– продвинуть работы по инженерии личности (Коннективистские концепции агентов, коннективистские архитектуры агентов: ailev — LiveJournal). Без этого уже нельзя, и тут потребуется моё участие full-time (из этих работ следует множество самых разных курсов, из которых для себя я вижу пока только обновление курса “Мастерство обучать образованных”). Тут потребуется много оргработы, ибо пока в этом месте психологический разброд и шатания, а нужен инженерный подход к делу.
Ввязался в длинную дискуссию с John Sowa в ontolog forum по поводу LLM в их отношении к онтологиям. У John Sowa идёт реклама его системы, представляющей собой Prolog фреймворк, где вызов LLM – это примитив. Грубо говоря, то же, что все питоновские фрейворки вызова LLM, но только прологовский, чтобы логический вывод там был “из коробки”. Для меня это просто ещё один фреймворк, ибо есть же Toolformers и много чего другого, с чем сравнивать. У нас и свой AI-бот в эксплуатации, сочиняет ответы по нашим курсам. Я же задаю вопрос про работу с полным спектром формальности: common logic, Bayesian inference, quantum-like inference – и говорю, что интересна онтология в распределённом представлении. На эту тему пока все спорщики молчат. Но позицию John Sowa (он вынес дискуссию из попечительского совета в общий форум) уже поддержали несколько человек. Я им ответил законами Кларка: если пожилые учёные говорят, что что-то возможно, то скорее всего именно так. Если говорят, что невозможно – вот это уже не факт. И дал много-много ссылок про текущие работы по нейронным сетям. Дискуссия вот тут: https://groups.google.com/g/ontolog-forum/c/pdyAEmeD_lA/m/j3YTdZIqBQAJ.
Ровно год назад (15 июля 2021) я написал большой пост “Слушал Хассабиса, много думал”, Слушал Хассабиса, много думал: ailev — LiveJournal. За этот год много чего интересного произошло, например, публикация GPT-4. И продолжает происходить. Исследователи LLM заинтересовались происходящим в стане diffusion models. Обсуждают, например, Classifier-Free Guidance – Stay on topic with Classifier-Free Guidance — Teletype (а работа, где про всё это написано формальным языком – https://arxiv.org/pdf/2306.17806.pdf). Утверждается, что LLAMA-7b оказывается круче PaLM 540B на бенчмарке LAMBADA (LAMBADA Benchmark (Language Modelling) | Papers With Code). Вообще, там в стане всех этих diffusion models жизнь устроена интересно и немного непохоже на привычный мир GPT-4 и похожих на неё моделей (конечно, там где-то внутри mixture-of-experts, но это как-то всё невнятно описано и не отдано пользователям в руки). Вот тут про жонглирование моделями для Stable Diffusion (а я смотрю на это и понимаю, что в области текстов всё может быть через годик устроено похожим образом):
– понятие модели: https://stable-diffusion-art.com/models/ (и там модели checkpoint, LoRA, hypernetworks, textual inversions)
– что такое LoRA модели (https://stable-diffusion-art.com/lora/)
– LoRA модели (библиотечка, поглядите на разнообразие, там их полторы тысячи): lora Stable Diffusion AI Models | Civitai
Кстати, вышла нейросеточка Kandinsky 2.2 – Kandinsky 2.2. Как водится, я сразу попросил нарисовать по промпту “Системный мыслитель”, no style. Вот две первых картинки по этому промпту, народный образ, первая ассоциация:
1.
2.
Посмотрел какие-то мои материалы месячной давности, и удивился: субъективно кажется, что это было всё очень давно, в незапамятные времена, а не месяц назад. Что, у меня субъективно темп жизни увеличился? Стал жить, как в молодости – в эпицентре каких-то событий, когда за год происходило столько всего разного, сколько последние годы набиралось за пяток лет? Очередная “перестройка” и “ускорение”, когда вдруг всё сорвалось с места и понеслось вскачь (период с 1985 по примерно 1994 год, удивительное время)? Тут ещё август наступает, обычно в августе много чего интересного происходит: то путч, то дефолт. Сейчас даже это происходит как-то с опережением – путч в июне, падение рубля в июле. Но и это как рябь по воде, быстро-быстро – и “всё, проехали, бежим дальше”.
Интересное замечание Марка Свиткина (Mark Svitkin - Внезапно пришло в голову объяснение... | Facebook): “Внезапно пришло в голову объяснение популярности горных лыж. В том числе, среди меня самого.)) В первую очередь, это удовольствие от управления большой энергией. К собственной мощности человеческого тела в 100-200 Вт добавляются киловатты потенциальной энергии. Если спускаться на 1000 метров за 100 секунд, то каждый килограмм собственного веса даёт дополнительно около 100 Вт потенциальной мощности. На какое-то время, взрослый с лыжами и одеждой получает в управление 5-10 КВт. Думаю, подобный эффект лежит в основе почти всех видов активных развлечений - спорт, автогонки, пилотирование и т.д. Похоже, что в нашей природе заложена тяга к совершенствованию управления энергией. В конце концов, жизнь это использование накопленной информации для управления энергией”. Я тут добавил бы, что если речь идёт об управлении вычислениями, то тут тоже такой же эффект: прихватить в своё пользование десяток мозгов или десяток датацентров, загрузить своими проблемами – это должно приносить огромное удовольствие! Конечно, это всё можно объяснять разными изводами active inference: прихват энергии из среды, прихват информации, прихват вычислительных мощностей и вообще постановка под собственное управление куска внешнего мира должны вызывать в организме огромный позитивный отклик, давать отличный гормональный фон! Ну, и в разных контекстах разные организмы будут получать разное счастье от разных прихватов.
Антон Климат обсуждает образовательные программы на базе стека танцевальных практик, предлагает “спираль” как “жизненный цикл танцора”: Спираль танцевального мастерства... | Anton Klimat | VK. А ещё я предлагаю нейрохореографа на базе двух разработок по машинному обучению: Нейрохореограф: отделяем хорео от танцора и.. | Системный мультиданс | VK. Сам я продолжаю танцевать, и довольно много – всё танцевальное я пишу в моей ленте ВКонтакте: Anatoli Leventsjoek | VK.