Семинар “ОдО летом 2023” прошёл отлично, хотя я перебрал время на примерно час – не было кофе-брейков, да и потом задержал. В офисе собралось аж пятеро участников, один прилетел из СПб, как в старые добрые времена. Вопросов по ходу семинара почти не было, зато после семинара его чат вполне живой. Видео записано и отдано участникам, а не успевших на семинар и желающих получить доступ к видео я отсылаю к Церену Церенову, он всё устроит (у нас был похожий опыт после прошлого семинара полгода назад). Я изложил более-менее развёрнуто идеи об интеллекте, который можно “выучить” и о составе SoTA знаний мыслительных практик интеллект-стека, которые и дают сильный интеллект современного человека-киборга (ибо современное мышление уже не обходится без технических средств, хотя бы ручки-бумажки, но сейчас это компьютеры с универсальными моделерами).
Огромное количество вопросов в кулуарах – про физику и математику. Счастье, что тексты по этим практикам уже написаны, с материалом можно ознакомиться уже в опубликованном пререлизе курса “Интеллект-стек”.
Одна из красных нитей, которые проходили через весь семинар – что у интеллекта кроме привычного уже свойства “общности” (для всех типов проблем, причём ещё не встречавшихся ни учителям агента, ни самому агенту) есть и другие свойства, связанные с ToM (Theory of Mind, умение отмоделировать поведение другого человека и понять его причины), а также вменяемость/persuadability. И если мы берём какую-нибудь пустую нейронную сетку (кремниевую или ребёнка), то интеллекта как способности решать разные проблемы там не так много: способности-то есть, но их недостаточно даже для вменяемости. Вменяемость часов низкая: их для изменения их поведения надо разобрать, изменить детали, собрать заново. Кошка более вменяемая, её можно дрессировать для изменения её поведения. Человека можно тоже пересобирать (хотя плохо понятно, как), уж точно можно дрессировать (огромная литература на эту тему – весь маркетинг планеты это эксплуатирует), а также можно воздействовать на него рациональными аргументами (чего нет у кошек). То есть объяснил что-то, а человек понял – и сделал. Беда в том, что даже взрослые люди оказываются недоученными и не понимают рациональных объяснений – слабый интеллект включает только S1 по Канеману, “мышление нейросетки” без подключения эмулируемого этой нейросеткой медленного логического вычислителя S2. Если у человека в голове нет логики и понимания того, зачем логика нужна (и нет понимания онтологии, ибо логический вывод делается над какими-то мыслительными объектами, и нет семантики, ибо связь мыслительных/математических объектов, объектов физического мира и знаков их обозначающих – это всё семантика, и понимания, что речь идёт не о знаках, а понятиях – то есть нет в голове понимания теории понятий, и т.д.), то человек оказывается слабо вменяемым. И его нельзя учить быстро! Так что нужно:
– сначала дрессировать как кошку, но эту дрессировку посвящать освоению лучших практик умности, то есть дрессировать на мышление по практикам интеллект-стека
– когда получаем надрессированного хоть на какой-то уровень вменяемости человека (это медленно и трудоёмко!), то начинаем учить его рациональными объяснениями. Это быстро и просто.
– но не забываем, что по мере роста вменяемости надо возвращаться к “надрессированному” и давать рациональное объяснение этому “надрессированному”! У меня был большой текст про “Осознанность против зеркальных нейронов”, его положения до сих пор мне кажутся правильными: Осознанность против зеркальных нейронов: ailev — LiveJournal. Там вводится понятие learning debt как раз для того, чтобы показать отсутствие понимания того, что ты умеешь делать после дрессировки (включая дрессировку “обезьянниченьем”, через зеркальные нейроны). А не понимаешь – не можешь рационально изменить, улучшить, научить кого-то ещё.
Какие мои планы по крупным работам, которые я обсуждал на семинаре? Они не изменились:
– первым делом надо закончить переписывание “Интеллект-стека”. Следующая мыслительная практика там – логика, вот и займусь. Там всего-то страниц двести осталось!
– потом надо будет пройти развилку: сделать такт работ по курсу “инженерия личности” (как минимум, организовать лабораторию – а оргрежим это очень времязатратно), или наоборот – “мастерство обучать образованных”, а потом уже “инженерия личности”. Есть аргументы в пользу и одного варианта, и другого.
– и много-много разной другой текучки.
После семинара встретились с нашим мастером из Новосибирска, обсуждали вузовское образование по нашим программам (акция Предложения для вузов и преподавателей до 1 сентября 2024 года, действует до 1 сентября 2024 года). Речь в этом вузе шла о трёхсеместровой программе (примерно 70 “контактных часов”, то есть часов с преподом), это примерно равно по объёму одному нашему семестру. Моё предложение было – честно брать “Моделирование и собранность”, и идти по этому курсу. Вот несколько соображений:
– никакой курс не должен быть последним. Тут мы просто начинаем образование, ибо у нас всего три не очень больших по часам вузовских семестра. Но хорошо понятно продолжение: уже есть курсы второго семестра, можно пройти их, если вуз выделит дополнительные часы. Можно пройти их потом, в ШСМ (даже и самостоятельно в режиме “самоучителя”, или в составе study group, или в составе каких-то других вариантов, главное – “Моделирование и собранность” будут уже пройденным пререквизитом к продолжению образования).
– материал курса приносит непосредственную пользу. Так в части моделирования студенты готовят онтологию предметной области на работе (см. отзыв о части “Моделирование” в "Моделирование" - результаты - #3 от пользователя airat). И ещё налаживается экзокортекс. Как во всех курсах Школы, будет ещё и польза для работы (в этом новосибирском вузе “система физтеха”, когда студент где-то работает и одновременно учится), ибо требуются рабочие проекты – нет учебных заданий, есть задания по поводу работы.
– оправдания, что у студентов нет кругозора, они ещё не способны проходить “взрослые курсы” не принимаются. Можно ещё поверить, что какая-то адаптация нужна будет для школьников, но для студентов надо брать курс в том состоянии, в каком он сейчас. Опыт обучения по материалам наших курсов для студентов есть, и он положительный (взять хотя бы техпредов МФТИ, там всё ОК с обучением студентов!). Проблемы с обучением студентов как раз были ровно по тем темам, которым учит курс “Моделирование и собранность”, поэтому просто берём и начинаем не с “Системного мышления”, а с этого курса.
– если есть сомнения во вменяемости/persuadability студентов, то просто “дрессируем” (увеличиваем число повторений, предъявлений материала), не надеясь на “разовое однократное объяснение”. Но как раз по ходу прохождения курса вменяемость должна расти. Сам курс направлен на то, чтобы после начала “Системного мышления” по итогам студенты видели в тамошних текстах не фигу, а осмысленный текст с явной типизацией упоминаемых в нём объектов. Если “Моделирование и собранность” не пройдены нормально, то вменяемость оказывается в среднем не очень большой – и текст “Системного мышления” банально не понимается, равно как и многие другие сложные тексты. “Моделирование и собранность” – хорошая инвестиция во вменяемость студентов, она сильно ускорит их дальнейшее обучение!