Вывод/inference/обновление как прикладные рассуждения с уже имеющимися объяснениями: им занимается прикладное мастерство
Прикладные рассуждения/вывод/inference/обновление с использованием уже известных понятий как объектов внимания в вычислении. Хорошо бы избегать это называть «прикладным мышлением»: слово «прикладное» потеряется в речи, и опять всё вокруг интеллекта и мышления запутается в винегрет, познание и просто рассуждения типа 2*2=4 или более сложное контрфактуальное «если бы Пушкина не убили на дуэли, он бы написал ещё некоторое количество стихов» перестанут различаться от исследований как создания новых объяснений. Слова для более низкого уровня вычислений/рассуждений (не познания в целом с выдачей новых объяснений и новых понятий как результата, а рассуждения по правилам с уже имеющимися понятиями) будут другими.
Мышление/познание/исследование, конечно, более высокого уровня, ибо содержит в себе ряд более простых (с уже известными понятиями и правилами) рассуждений над догадками/гипотезами. Интеллект и его мышление мы считаем состоящим из других более простых вычислителей, и рассуждение/вывод/оценка/вычисление интеллекта происходят как некоторый набор рассуждений с уже имеющимися теориями/алгоритмами/моделями/дисциплинами/объяснениями. Чтобы познать что-то новое, нужно прежде всего применить уже имеющееся знание.
«Познавшие/исследовавшие какую-то предметную область люди затем делают прикладные выводы/обновления знаний/рассуждения» — очень странно и вычурно сказано, но зато точно. Сначала мы познаём (получаем новый набор понятий и объяснения с использованием этих понятий), а затем используем в других рассуждениях.
Вывод при этом чаще всего причинный (causal inference, причинное обновление знания, даже в английском иногда тут ставят update, имея ввиду обновление вероятностей в объяснениях, идущее при получении новых данных на каждом шаге рассуждений). Рассуждения у нас проектные, поэтому для планирования действий нам нужно понимать связь причин и следствий. У СМД-методологов вывод/рассуждения/оценки — это «мыследействие» (отдельный слой в их трёхслойной схеме мыследеятельности, а два других – «чистое» мышление и коммуникация).
Если познанием занимается интеллект, то выводом занимается порождаемые им приложения/applications, и вот эти приложения мы и называем «компетенциями», «мастерством» (с учётом того, что компетенции и мастерство мы понимаем не только как чистые прикладные вычисления, но и выходящие в изменения физического мира практики).
Является ли сам интеллект мастерством? В какой-то мере — да, в той мере, что интеллект является сам по себе выполнением каких-то уже выученных/исследованных практик онтологии, логики, научного мышления/эпистемологии, системного мышления и других практик мыслительного мастерства.
Мастерство/skills — это часть мозга, которая занимается прикладными рассуждениями/вычислениями/оценкой/inferenceдля реализации какой-то практики владельцем этого мастерства.
Интеллект занимается порождением/изготовлением/выучиванием/познанием мастерства/skills/компетенции. Функция мастерства — изменение мира с использованием прикладных рассуждений/вывода на базе имеющихся объяснений/теорий/дисциплин при задействовании собственного тела и инструментов (extended cognition).
Мы уже один раз менее подробно столкнулись с этим пониманием, когда обсуждали целевую систему учебного курса: там воплощением системы, которое изготавливал учебный курс было как раз мастерство!
Тут ещё может помочь (или запутать, для кого как) понимание того, что носителем мастерства является мастер: агент, который имеет в себе прикладной вычислитель, умеющий проводить вывод/рассуждения/вычисления согласно каким-то объяснениям/алгоритму. Мастерство при этом понимается и как программа/алгоритм выполнения практики/деятельности: с одной стороны это описание, которое требует носителя (мастера), с другой стороны это исполнение программы/алгоритма — физический процесс, разворачиваемый во времени. И вот условно можно считать, что мастер — это мастерство плюс тело плюс инструменты, и тем самым становится проще говорить про выход мышления, коммуникации и рассуждений в реальный мир. Мастерство обеспечивается кусочком мозга мастера, а мастер в целом (с телом) плюс ещё и его инструменты (экзотело) выполняет деятельность/практику, трудится, то есть меняет мир, достигая цели практики/труда.
В обыденной речи мы услышим всё это сильно перепутанное: мир будет менять и мастер, и мастерство, и мышление, и исследования, и знание — но общее рассуждение будет оставаться примерно тем же самым. Разобраться точнее, о чём говорится в каждом конкретном случае, поможет курс онтологии. Онтология отвечает на вопрос «что есть в мире?», то есть «какие объекты есть в мире?», заодно рассказывая и о том, как об этих объектах говорят. Вот на этом курсе (входит в состав курса онтологики и коммуникации[1], ибо классические фундаментальные дисциплины онтология, логика и эпистемология плохо разделяются между собой, и их назвали одним словом, а ещё в курс добавили тоже трудно отделимую от них коммуникацию) вы научитесь более точно говорить об интеллекте и мышлении, мастерстве и мастере, агенте и роли агента, целенаправленной деятельности и рассуждениях (хотя рассуждениями занимается уже не онтология, а логика — когда вы выделили из мира объекты, нужно начинать о них правильно рассуждать, и это уже предмет логики, равно как научное/рациональное познание предмет эпистемологии).Интеллект и мастерство неразрывны, мышление и рассуждение тесно переплетены
Интеллект и мастерство неразрывны, ибо в разных практиках/алгоритмах познания тесно переплетено мышление как поиск новых объяснений (более высокий уровень вычислений) и рассуждения по уже объяснённому материалу (более низкий уровень вычислений, подчинено целям входит в состав мышления).
В сложных когнитивных архитектурах[2] рассуждения/вывод/inference и познание/learn существенно переплетены в разных алгоритмах, они задействуются на разных уровнях мышления/вычисления. Например, в искусственном интеллекте на базе нейронных сетей часто используют сетку-учитель и сетку-студента, которые учатся по-разному и ещё и учат друг друга (учат — это значит не познают сами, а просто используют имеющиеся у них знания для рассуждений/вывода). В разных вариантах архитектур GAN (generative adversarial network, порождающая противоборствующая сеть) это две нейронных сети: сетка-генератор и сетка-дискриминатор, которые тоже вместе познают, но внутри они ещё и занимаются прикладным выводом на базе познанного на текущий момент — накапливают мастерство решения задачи порождения заданных объектов, мастерство творчества!
В эволюционных алгоритмах и алгоритмах обучения/познания с подкреплением в машинном интеллекте тоже в рамках всех вычислений есть и производимый текущим изготавливаемым мастерством прикладной вывод, и какая-то поисковая активность. Иногда об этой поисковой активности говорят как об исследованиях/exploration, противопоставляя эксплуатации/exploitation как использованию уже наисследованного.
Вот это разделение на exploitation и exploration относится не только к вычислениям и использованию уже известных знаний, чисто информационной работе без выхода в мир. Это полностью применимо и к действиям в мире, то есть возможности изменения вычислителем с датчиками и актуаторами окружающей вычислитель среды. Мы одновременно воспринимаем кусочек изменяемого мира нашими органами чувств/машинными датчиками, вычисляем/думаем/рассуждаем и изменяем окружающий мир нашими актуаторами.
Мы уже упоминали, что иногда разницу между вычислениями и действиями с их участием подчёркивают, а иногда наоборот, считают их едиными и неразделимыми — extended cognition, embodied mind другие подобные идеи). Поэтому интеллект и мастерство (в том числе мыслительное мастерство — мастерство в низкоуровневых вычислениях по материалам трансдисциплин, требуемых для познания) иногда относят чисто к «вычислениям» при выполнении практик, а иногда к «вычислениям и изменениям мира», то есть к самим практикам.
Ну, или выделяют особо «мыслительные практики», «практики рассуждений», «практики коммуникации» как имеющие дело строго с вычислениями и не затрагивающими реальный мир. Но тут нужно быть внимательным: никакие вычисления не производятся сами по себе, «в вакууме», из ниоткуда в никуда. Они всегда производятся с моделями, как-то отражающими мир абстракций и/или физический мир. Все вычисления привязаны тем самым в конечном итоге к практикам по изменению мира, они проводятся автономными агентами, имеющими какие-то цели.
Примеры самых разных низкоуровневых вычислителей (компетенций, мастерства разных видов) в составе высокоуровневых можно приводить и приводить, и каждый раз нужно помнить, что речь идёт о физических вычислителях, функционирующих в составе какого-то (разумного или не очень, например, кошки или AI) агента, который в свою очередь действует совместно с другими агентами в физическом мире, занимается деятельностью/практиками.
Вот ещё пример: три нейронных сетки/вычислителя в модели внимания и сознания Graziano[3] — воплощение мастерства восприятия, мастерства моделирования себя и мастерства коммуникации соответственно. Вместе же они управляют вниманием: заняты выделением из потока восприятия нужных для агента фигур из фона и позволяют агенту коммуницировать с собой по поводу текущей ситуации с вниманием и его объектами, управлять этим вниманием. Вместе все три нейронные сети, три мастерства (их тоже можно развивать! Можно обучать!) обеспечивают сознание, активно использующееся при исследованиях/познании. Но часть времени эти сети обучаются, а часть — используются, ведут прикладные вычисления на базе уже исследованного/познанного. Постановка надёжного, неотвлекаемого любым шорохом внимания (оно же — развитие собранности как мастерства управления вниманием) делается интеллектом в ходе мышления, собранность оказывается тоже мастерством, которое можно выучить!
Тут же можно обсуждать различия исполнителей и выполнителей в смысле из «Программирования для математиков» Кушниренко и Лебедева, первые два раздела первой главы[4], хотя для случая неимперативного программирования и тем более вычислений в распределённых представлениях нельзя применить тамошние идеи «в лоб», но если речь идёт о полнотьюринговых вычислениях, а все они таковы, что обсуждается у того же Дэвида Дойча, то различение «исполнитель-выполнитель» может оказаться очень полезным и очень похоже на различие между «мастерством» и «мастером», который задействует это мастерство. Аналогичные различения пытался ввести Алан Кей как chain of meanings, где у него прописана цепочка вычислителей, каждый из которых реализует какое-то «мастерство» в узкой предметной области, всё более и более низкоуровневое, пока это не становится «просто вычислением»[5]. Мысль тут в том, что информатика так или иначе обсуждает алгоритмы как правила вычислений, многоуровневость этих алгоритмов, алгоритмы создания алгоритмов — и возникает потребность выражения понятий, очень похожих на понятия интеллекта и познания/мышления, мастерства и рассуждений/вывода/вычислений по правилам, а также понятия агента как носителя/владельца/целого для интеллекта и мастера как носителя/владельца/целого для мастерства.
Есть ещё и проблема многоуровневости (одни вычисления внутри других) и цепочечности (одни алгоритмы/программы/правила/знания/объяснения изготавливаются по длинной цепочке вычислений другими алгоритмами/программами/правилами/знаниями/объяснениями в рамках одного и того же, или даже разных вычислителей). При выходе на уровень трансдисциплин это проявляется как плохое понимание прикладных рассуждений в рамках системного мышления как познающего мышления, это ж «вывод внутри познания», «простые рассуждения внутри работы интеллекта», признание того, что в составе интеллекта тоже есть мастерство! Это обычное дело в информатике: разобраться, что там «внутри», а что «снаружи» каких-то вычислений трудно (для разработчика прикладной программы операционная система вроде как «снаружи программы», но разработчики операционной системы считают, что программа как раз внутри их системы. Framework и library вроде как обозначают одно и тоже, но прикладной код вызывает library, но вызывается сам из framework. Так и тут в общем случае универсальных алгоритмов интеллекта и мастерства: при проблемах в рассуждениях в прикладном мастерстве вызывается интеллект, а при проблемах в познании в интеллект вызывается то или иное трансдисциплинарное (а иногда и прикладное) мастерство. И чтобы было что вызвать, этим мастерством нужно овладеть: или «импортом» от тех, кто им уже владеет и в состоянии внятно передать знания (в том числе через отчуждённые теории/модели/дисциплины/объяснения), или получить самостоятельно в результате исследований.
Интеллект и прикладное мастерство участвуют совместно в некотором цикле развития: ибо если нет проблем, то не нужно и познание, интеллект включать не нужно. А если проблема есть, то она будет решена, и цикл повторится — новая проблема обязательно появится, мир ведь не стоит на месте!
Проблематизация (обнаружение и «заострение», более строгая формализация противоречия) проявится как обнаружение невозможности рассуждений по правилам текущих лучших (SoTA) версий прикладных дисциплин, на понятийной базе объяснений которых идут эти рассуждения. И тогда подключается интеллект с входящим в него мыслительным мастерством рассуждения с набором понятий трансдисциплин/учений, чтобы преодолеть эту невозможность рассуждений из-за обнаруженных противоречий в прикладных дисциплинах, прикладном мастерстве.Бытовое использование терминов, которые мы использовали при рассказе об интеллекте и мышлении
Предложенные понятия и термины для них в нашем рассказе об интеллекте и мышлении, мастерстве и рассуждениях более-менее совпадают с традиционным «бытовым» словоупотреблением, они как-то представлены в культуре. Но это не означает, что с этой терминологией не будет ошибок. Нужно всегда помнить, что в словарях недаром у каждого слова приводится множество значений в разных словарных гнёздах, и смысл говоримого приходится уточнять не по словарям, а исходя из каждой ситуации использования в тексте или речи тех или иных слов. Смысл в использовании слов, а не в словарях!
Например, «познание» цепляет где-то в памяти ассоциации с когда-то (обычно много лет назад) читанными представлениями об эпистемологии/научном мышлении (а то и гносеологии, включающей ещё и религиозное, и художественное «познание»), «вывод» и «рассуждения по правилам» цепляет логику (и даже не современную математическую, а Аристотелевскую, с силлогизмами и всеми её уже сотню лет известными ограничениями). И ещё отечественные «знатоки русской научной терминологии» обязательно проявятся со своими претензиями на термины и их значения — причём они все будут предлагать каждый разное, приводя самые разные обоснования, ссылки на самые разные авторитеты. Но это нормально, мы всё равно будем использовать описанный тут набор понятий и терминов для обсуждения интеллекта и мышления: лучше иметь универсальный и маленький набор понятий, который позволяет делать объяснения/модели мира, чем много самых разных несовместимых друг с другом и никак не соотносящихся понятий из слабо связанных друг с другом объяснений/теорий/дисциплин/моделей. Универсальность и компактность объяснений рулят, в том числе в трансдисциплинах.Универсальность как свойство хороших объяснений особо подчёркивал Дэвид Дойч, когда обсуждал современную эволюционную эпистемологию.
Затруднения обычно возникают, когда мы говорим о частях интеллекта и частях мышления как частях его функциональности: о трансдисциплинарных практиках. Например, о системном интеллекте (когда вы обучаете свой мозг системному мышлению) и системном мастерстве (когда вы используете знание системного подхода для рассуждений). В бытовом языке тут используется понятие «системное мышление» как использование кем-то понятий системного подхода (система, системный уровень и т.д.) при рассуждениях.
Если бы мы давали какие-то имена сами, мы назвали бы системным интеллектом и его системным мышлением ту часть общего интеллекта, которая занимается познанием в части выделения из мира всех этих объектов: выделяет их из окружающего мира, строит гипотезы о том, каковы могли бы быть эти системы и как они должны быть выделены вниманием из окружающего мира самых разных объектов. А системным мастерством мы бы назвали реализованный в мозгу/вычислителе мастера подвычислитель, умеющий рассуждать по правилам с выделенными системами, системными уровнями, ролями, интересами, видами описаний и прочими понятиями системного мышления — эти рассуждения помогли бы найти противоречия, помогли бы использовать это знание для какого-то прикладного мастерства (например, для решения задач операционного менеджмента в предприятии).
Но мы не даём эти имена сами, мы не секта. Поэтому мы пользуемся историческим именем «системное мышление» и будем называть им и само системное мышление, и системное мастерство. В любом случае, мы будем считать, что владение трансдисциплинарным системным мастерством относится к мыслительному мастерству, потому как чаще всего трансдисциплинарное мастерство используется не непосредственно, а через выработку с его помощью какого-то прикладного мастерства. Один алгоритм/знание/дисциплина/модель/правила рассуждения используются для вычислений другого алгоритма/знания/дисциплины/модели/правил рассуждения, это обычное дело для информатики: одни вычислители как системы своими вычислениями обеспечивают/enable/проводят по жизненному циклу другие вычислители, которые потом что-то вычисляют. Цепочки обеспечения жизненного цикла каких-то систем, часто довольно длинные — это как раз изучается/познаётся при помощи системного мышления. Да, для понимания всего этого текста уже нужно владеть системным мастерством, в быту называемым «системным мышлением»! Это и есть проблема с трансдисциплинами: они используются для объяснений как в прикладных предметных областях, так и для объяснений самих себя! Онтологика используется для понимания и объяснения системного мышления, но и системное мастерство (в быту исторически называемое как «системное мышление») используется для понимания онтологики — ибо все вычисления (познающие-мышления, прикладные-рассуждения) многоуровневы сами по себе, да ещё и выстраиваются в цепочки по отношению друг ко другу.
Если мы определяем, что мышление — это задействование рассуждений с использованием трансдисциплин (объяснительных теорий/моделей, использующиеся для ускорения познания), то возникает вопрос: если дан набор понятий из учебника кулинарии, можем ли мы считать это «кулинарным мышлением"? Мы бы предлагали считать это не «кулинарным мышлением», а «кулинарным мастерством». Но если речь идёт о каком-то кулинарном трудовом кругозоре, общем понимании, как связаны друг с другом разные кулинарные практики (варка, жарка, приготовление десертов и т.д.), то тут можно допустить, что говорим о кулинарной трансдисциплине как основе для кулинарного познания — и тогда смело используем слово «мышление».
Так, для обзорных трансдисциплин, объясняющих происходящее в практиках менеджмента, инженерии, предпринимательства мы вполне можем говорить об менеджерском, инженерном, предпринимательском интеллекте и менеджерском, инженерном, предпринимательском мышлении, предполагая, что они помогают разобраться с прикладным каким-то менеджерским, инженерным, предпринимательским мастерством и прикладными рассуждениями этого мастерства.
Есть ещё примеры, как люди определяют «мышления». Программисты могут вспомнить Дейкстру, который вводил виды мышления (его интересовало программистское мышление/мастерство в его отличии от физического и математического мастерства) на примерах: «Хотя во времена, к которым относится наша история, человечество не знало ЭВМ, неизвестный, нашедший это решение, был первым в мире компетентным программистом. Я рассказывал эту историю разным людям. Программистам, как правило, она нравилась, а их начальники обычно сердились все больше и больше по мере ее развития. Hастоящие математики, однако, не могли понять, в чем соль.» — это знаменитая история о туалетах[6].
Помним, что «программирование» — это для Дейкстры практика «структурного программирования», то есть дисциплина/теория алгоритмики на императивном языке с простыми структурами данных. Но вот это «чем мышление программиста отличается от мышления математика» — это оказывается важно, Дейкстра пытался разобраться, чем рассуждения с объектами программистского интереса/внимания отличаются от таковых для математиков и физиков. «Хвост коровы Маргариты — это часть стада» для системного мыслителя неправильное высказывание (нет осмысленных операций в жизни для хвоста в стаде, а вот для хвоста в корове и для коровы в стаде — есть! Системные уровни важны, через них нельзя прыгать в мышлении!), а для математика, логика, физика — правильное. Системное мастерство по сравнению с математическим, логическим или даже физическим мастерством будут рассуждать по-разному, давать разные ответы на даже простые вопросы! Системный интеллект и математический/логический или даже физический интеллект породят разные варианты какого-то прикладного мастерства, ибо они мыслят по-разному!
Тут произошёл незаметный, но важный сдвиг в онтологическое трансдисциплинарное разбирательство: мы говорим уже не об интеллекте и мышлении, а также мастерстве и рассуждениях как таковых, а об их видах (специализациях), их экземплярах и примерах (классификациях), об их частях (композициях, именно это отношение между объектами-системами на разных системных уровнях), обеспечении (один объект как-то обеспечивает появление, помогает появиться другому объекту). Мы задаёмся вопросом отношений, в которых разные экземпляры и целые множества «интеллекта», «мышления», «мастерства», «рассуждений» могут находиться друг с другом. В онтологии вопрос выбора типа отношения в трудных случаях (например, выбор специализации, классификации или даже композиции) для создания компактной теории/модели/объяснений/онтологического описания зависит от тех проблем, которые вы пытаетесь решить. Для решения каких-то проблем удобно выбрать мир состоящим из одних объектов и отношений между ними, для других проблем — выбрать по-другому. Так что пока не будем обсуждать этот вопрос более подробно, пока вы сами не займётесь исследованиями интеллекта и мышления, мастерства и рассуждения. В любом случае помним, что речь идёт о работающих вычислителях (интеллекте, мастерстве, которые реализуются работающими мозгами, компьютерами и линиями связи) и разворачивающихся во времени в них физических процессах вычисления (мышлении, рассуждениях). Так что интеллект, мастерство выделяются в окружающих людях и их компьютерах и других инструментах вниманием, равно как происходящие в ходе протекания процессов мышления и рассуждений изменения/поведение тоже выделяются изо всех изменений в окружающем мире тоже вниманием. А вот куда направлено это внимание, это и определяется трансдисциплинами, занимающимися интеллектом и мастерством, мышлением и рассуждениями.
И, конечно, познание и рассуждение тесно связаны ещё и тем, что в машинном интеллекте обсуждается как «обучение/познание всю жизнь»/life long learning: все рассуждения оцениваются на то, насколько они оказались успешными, и эти результаты идут как входной материал для мышления. При этом времени на мышление (познание и обучение) не хватает в живой природе, и по итогам рассуждений при действиях во время бодрствования познание идёт ещё и во сне (мозг пересматривает записи того, что там происходило в ходе практики и использованных в практике рассуждений и доучивается: перестраивает мастерство, улучшает его).
Так же рассматриваем мышление и рассуждение в ходе творчества и импровизации (помним, что там обычно участвует какой-то генератор случайностей, меняющий рассуждения), познание с подкреплением, познание на основе принципа свободной энергии (есть и такие объяснения познания живыми существами)[7].
Конечно, мышление в его SoTA варианте (с выходом на осознанность в использовании каких-то новых понятий из новых полученных обучением или исследованиями объяснений/теорий/моделей) в мире встречается сильно реже, чем простые рассуждения. СМД-методологи любят говорить, что «чистое мышление» так же часто встречается в мире, как танцы лошадей. А как же люди занимаются какой-то деятельностью? Они мыследействуют!
Вычислений интеллекта, то есть мышления у человечества по объёму не так много. Это главным образом рассуждения с использованием трансдисциплин (логики, онтологии, системного мышления и т.д.). Но эти вычисления таки бывают. Основной объём «думания», прикладных рассуждений на планете — это мыследействование/вывод/рассуждение по правилам с использованием плодов интеллекта: обеспеченного/enabled интеллектом мастерства как прикладных теорий/дисциплин/моделей/объяснений по решению каких-то классов задач, для которых понятна понятийная структура. Нет затыков в (мысле)деятельности — мозг работает в режиме автомата, лёгкий режим с использованием быстрого интуитивного режима работы мозга-вычислителя S1 (как это было описано в книге Д.Канемана «Думай медленно… решай быстро»[8]). Случился затык, найдена проблема — включается медленный режим работы мозга S2, который за счёт падения скорости и вывода рассуждения в сознание (помним, что сознание управляет вниманием!) гарантирует выполнение правил рассуждения, то есть использование заведомо известных операций с заведомо известными объектами, которые определяются какой-то дисциплиной. Или же такое медленное осознанное рассуждение с использованием трансдисциплин будет в рамках мышления, занимающееся поиском правил для какой-то прикладной дисциплины, которую должен обеспечить интеллект.
У мыслителей, которые главным образом вырабатывают новые понятия (наука, да и существенная часть инженерии) мышления/learning много. А вот у каких-нибудь клерков среднего звена — понятийной работы ноль, сплошные «рассуждения на полном автомате», вот их и списывают за ненадобностью, заменяют компьютерами, это легко. Пока ещё плохо понятно, как заставлять заниматься мышлением компьютер, поэтому интеллект тут берётся у разработчиков софта со всем их искусством исследования рассуждений в ходе выполнения каких-то прикладных практик (методологическая работа) и пересадки найденных правил рассуждений в компьютер (программная инженерия). Но хорошо известно, как потом заставить рассуждать компьютер, когда его уже научили делать рассуждения (то есть «разработали софт»).
- [1] https://system-school.ru/united
- [2] «Болваны для искусственного интеллекта", https://ailev.livejournal.com/1356016.html
- [3] Краткий рассказ в https://selfawarepatterns.com/2019/09/29/a-standard-model-of-consciousness, полное изложение в https://yadi.sk/i/jNrkSyc-9ohRIA
- [4] https://yadi.sk/i/virGAvARqqtMhQ
- [5] http://www.vpri.org/pdf/tr2012001_steps.pdf
- [6] http://hosting.vspu.ac.ru/~chul/dijkstra/pritcha/pritcha.htm
- [7] https://en.wikipedia.org/wiki/Free_energy_principle
- [8] https://www.ozon.ru/product/dumay-medlenno-reshay-bystro-kaneman-daniel-240690039
Источник: книга А. Левенчука «Образование для образованных 2021».