Итак…
поехали.
как на свет появляются объяснения?
агент сам создает объяснение
прошел цепочку изменений состояний: испытал удивление от того что-то выделил вниманием из фона и это оказалось странным с точки зрения действующей картины мира агента (внутреннего представления о мире/реконструкции) → проявил интерес → навел внимание → начал наблюдать.
осознал что не может найти объяснение происходящему
создал модель ситуации, сохранил промежуточные результаты этой работы в экзокортексе.
протестировал адекватность и пригодность полученной модели.
отверг ее (модель бесполезная более чем полностью) или доработал/улучшил (модель приемлемого качества, что-то предсказывает, имеет потенциал для улучшений). и так несколько эволюционных циклов до того момента пока модель не будет выдавать требуемый результат проверяемого уровня качества.
объяснение было предоставлено внешним агентом.
в этом случае, прежде чем доверять объяснению и накатывать его в свою картину мира (пропатчить, улучшить, уточнить, скорректировать) надо удостовериться в адекватности агента-поставщика/источника объяснения, и обновить свои представления об эпистемическом состоянии этого агента (т.е. как-то проверить что и как он думает про окружающий мир - по каким понятиям живет). после этого принимается решение о степени доверия агенту с таким эпистемическим состоянием мира. если предложенное объяснение подходит агенту, то агент может его добавить его в свою картину мира. может начать применять полученные объяснения в повседневной деятельности и операциях в физическом мире. далее на практике можно будет удостовериться, улучшает ли это объяснение какие-то характеристики в деятельности агента или это объяснение со временем можно будет признать не годным для использования в контекстах агента.
агенты могут обмениваться готовыми объяснениями, описаниями, своими наблюдениями, своими убеждениями, своими предсказаниями.
все эти утверждения могут оказывать разное влияние на того агента которые принимает эти сообщения. он может им доверять, не доверять, анализировать, использовать не глядя, брать на временное тестирование, улучшать свои объяснения, пробовать провести реверс-инжиниринг допущений и объяснений агентов-поставщиков сообщений, чтобы оценить причины и путь создания/возникновения полученных объяснений. это больше относится к предсказаниям. так как это описание возможного мира, агенту хочется понимать какой из множества (которое есть у многих агентов) возможных миров наиболее вероятный.
существует заблуждение про то как устроен процесс исследования/создания объяснений. он описывается примерно так: “агенты просто наблюдают за внешним миром, наблюдения накапливаются, на основании накопленных массивов наблюдений агент порождает объяснения”.
такое объяснение слишком упрощено. оно опрощено до такой степени, что уже не является пригодным для использования.
наблюдения сами по себе не собираются в объяснения. из сырых наблюдений невозможно собрать объяснение. это объясняется тем, что наблюдения идут потоком и в этом потоке нет объекта исследования, который бы объединил бы все наблюдения вокруг себя. объект исследования и постановка проблемы управляют фокусом внимания агента. как только они появляются у агента возникает объект внимания и все вокруг этого объекта внимания что может оказаться полезным и пригодным для создания объяснения по поводу того самого необъяснимого в мире, что потребовало наведения внимания агента. Агент должен навести свое внимание на что-то необъяснимое, что он сможет выделить из фона.
Догадка - процесс экстренного создания объяснения, до того как будут собраны данные и свидетельства для построения хорошего объяснения. догадка создается сразу после того как возник вопрос про что-то необычное.
Догадка еще может называться гипотезой.
Практика исследований выполняется агентом.
Практика создания объяснений (она же практика исследований) состоит из следующих шагов:
- Формулировка вопроса / постановка проблемы
- формирование набора гипотез/догадок
- Доэкспирементальная аргументация (формирование гаммы вариантов объяснения)
- Постановка эксперимента и сбор наблюдений
- Оценка гипотез
- Возвращение к одному из более ранних шагов
Модель практики создания объяснений/метода исследований.
Заголовок следует осмыслить. на что он нам указывает?
есть практика создания объяснений.
есть практика создания метода исследований.
практика и есть метод.
работы практики выполняет агент. агент обладает агентностью.
метод создания метода.
агент выполняя работы по методу/практике создает в качестве рабочего продукта объяснение или метод исследований.
и в этой главе говорится о модели такой практики - т.е. выделяются важные объекты внимания и отношения между ними.
и это универсальная модель которая описывает все объяснения или методы исследований.
Модель объяснит какие объекты и какие отношения между объектами должны быть в реальном мире, чтобы агент понимал каким образом ему создать объяснение или метод исследований.
с заголовком разобрались.
в любом реальном исследовании следует искать объекты внимания из практики создания объяснений.
после выполнения агентом в роли работ по практике создания объяснений/метода исследований в качестве рабочего продукта должны получиться - объяснение или метод исследований (возможно его описание)
Получается, если какой-то части практики не обнаружено в реальности, необходимо это создать.
Итак.
1. Формулировка вопроса / постановка проблемы.
проблема/исследовательский вопрос появляется как бы ниоткуда. Нет такого одного физического места откуда этот вопрос вываливается.
Это тот самый вопрос который агент хочет решить. вопрос может быть из раздела “почему мир такой какой есть?”, “да что не так с этим миром?”, “да как так то?” или может быть про то “как это мир починить и не сломать в другом месте”?
прежде чем проблема будет замечена сознанием и внимание будет на нее наведено, в фоне, неосознанно будут накапливаться первые наблюдения за миром. они то и станут тем самым спусковым крючком, который активирует осознание наличия вопроса или проблемы.
в повседневной жизни невозможно (или крайне сложно) жить и постоянно/непрерывно фиксировать свои наблюдения и про каждое дополнительно думать: “какое у меня есть для этого объяснение?”, “если для этого у меня нет объяснения, то почему бы его не создать?”
в среднем рандомный агент живет очень просто - есть 2 крайних автоматических состояния:
или агент не задумывается о том как что-либо работает - не возникает любопытства и причины собирать данные, наводить внимание.
или агент думает что знает как что-то работает. при этом думание про свое знание не означает что если дойдет до необходимости такое объяснение провести, у него это успешно получится.
каким-то образом агент замечает что он что-то не знает. приходит понимание отсутствия понимания.
на этом понимании возникает интерес. может произойти удивление. может не произойти. все индивидуально. проблема непонимания может быть захвачена вниманием напрямую, без удивления. будет не удивительно что агент чего-то не понимает и не может объяснить. не происходит ничего необычного для агента.
после того как внимание наведено на проблему непонимания/незнания, внимание начинает выделять из фона объекты которые могут быть как-то ассоциированы с новой проблемой. начинается процесс накопления информации и фактов о мире через призму новой проблемы.
существует связь между убеждениями агента, картиной мира агента и выбором основных фундаментальных концептов из которых складывается картина мира.
процесс формирования картины мира агента хорошо объясняется теоретической теорией понятий (theory theory).
она объясняет что человек выделяет объекты и отношения между ними из фона опираясь на какую-то теорию мира, которая у него уже есть на момент такого выделения. эта теория описывает объекты в мире, других людей, взаимодействия людей, объектов, причин и следствий и т.п. человек не мыслит и не моделирует просто путем наблюдения за миром.
человек не может моделировать мир с чистого листа без опоры на какую-либо теорию.
к этой теории теорий у агента есть еще представления (догадки, гипотезы) про то на каких теориях основано мышление внешних агентов с которыми он взаимодействует.
на основании этих теорий агент просчитывает свои шансы на успех коммуникации или взаимодействия.
2. Поиск гипотез
после того как проблема/вопрос сформулирован, из фона выделены все необходимые объекты, наступает фаза генерации гипотез/догадок.
тут гипотеза (в данном конкретном контексте) - это элементарное объяснение содержащее в себе:
- гипотетическую причину ситуации которая вызвала удивление или привлекла внимание агента.
- гипотетическое утверждение о наличии причинно-следственных связей
объяснение могут оказаться на данном этапе не верным или не правильно понимаемым.
главное на данном этапе - поиск подтверждения гипотезы.
[продолжение]
на этой стадии необходимо решить какие наблюдения собирать/регистрировать/наблюдать, куда наводить внимание, на какие аспекты, какие отношения и взаимосвязи искать между объектами внимания. Не бывает в жизни такого, что агентом ведется наблюдения за всеми объектами одновременно из того подмножества которое было выделено вниманием на этапе постановки проблемы, без цели и без причины.
на этом шаге так же ведется работа с объяснениями которые были уже известны из прошлого. они уже есть в голове агента и просто так их подавить и отбросить нельзя.
такие объяснения можно опровергнуть, уточнить или улучшить/модифицировать. объяснения практически никогда не создаются с нуля, а базируются на старых объяснениях. новые объяснения побеждают старые объяснения. новые объяснения закрывают пробелы/дыры/сомнительные места в старых объяснениях.
новые объяснения сменяют старые объяснения.
набор догадок можно пополнить если начать расспрашивать других агентов про то как работает то, что интересует агента. такой способ пополнения массива догадок тоже может работать для наполнения набора догадок.
вне зависимости от того насколько незнакомая область интересует агента, у него может сформироваться совершенно фантастическая догадка про интересующую агента тему. эта догадка далее начинает оказывать влияние на дальнейший процесс. те новая догадка какой бы безумной она не была, сразу попадает в ментальное пространство и начинает применяться в работе.
а возможным такое становится для агента по той причине, что даже если область для агента кажется новой и неизведанной, все равно где-то в чертогах разума агента могут быть какие-то интуитивные соображения про эту область. и явления в этой области тоже могут наводить на какие-то ассоциации (“что на что похоже”) и агент может и грубо, но как-то такие явления мог объяснить. это и становится основой для формирования фантастических догадок у агента на этом этапе.
на этом этапе обнаруженные или созданные гипотезы необходимо прогонять через фильтр, который тестирует гипотезы на
удовлетворение принципу опровержимости (то же что и принцип фальсифицируемости).
Для любой гипотезы агент должен сформулировать при каких условиях или с какими данными данная гипотеза может быть опровергнута. если таких данных не существует, или такие условия сформулировать невозможно, т.е. гипотеза сделана из брони и ничего ее не берет, то такую гипотезу исследовать далее бессмысленно. она ничего не объяснит.
но почему? (Qwen3.8-Max + FPF)
Почему нефальсифицируемая гипотеза бесполезна: объяснение через FPF
Канонический цикл рассуждений FPF (B.5)
FPF формализует это требование через контрольный вопрос абдукции:
«Если эта гипотеза истинна, какие наблюдаемые следствия из неё логически вытекают?»
Если вы не можете представить данные, которые опровергли бы гипотезу, значит:
- Гипотеза не порождает проверяемых предсказаний (нарушение фазы Deduction в цикле Abduction→Deduction→Induction)
- Невозможно спроектировать зонд (probe) для проверки
- Гипотеза остаётся на
AssuranceLevel:L0(Unsubstantiated) навсегда — её нельзя ни подтвердить, ни опровергнуть
Антипаттерн: «Untestable Grand Conjecture»
В спецификации FPF это зафиксировано как явный антипаттерн:
«Кандидат звучит глубоко или всеобъемлюще, но не создаёт допустимого следующего шага для проверки, зондирования или дедукции» (CC-B.5.2-6).
Правило FPF:
Гипотеза, не способная поддержать downstream deduction,
probe design или evidence-acquisition relation,
НЕ ДОЛЖНА представляться как соответствующий абдуктивный результат.
Почему это требование фундаментально
1. Эпистемическая пустота
Нефальсифицируемая гипотеза совместима с любым состоянием мира. Она ничего не объясняет, потому что объясняет всё.
Пример: «СЭД и УС не синхронизированы из-за космического излучения». Какие данные могли бы это опровергнуть? Никакие — любое расхождение можно списать на излучение, любое совпадение — на «излучение не помешало». Это не гипотеза, это эпистемический щит.
2. Разрыв цикла рассуждений
Abduction (гипотеза)
→ Deduction (проверяемые следствия)
→ Induction (сбор evidence)
→ Assurance Level повышается
Если Deduction не может породить проверяемые следствия, цикл обрывается. Гипотеза остаётся U.Episteme на L0 — неопровержимой, но и неподтверждённой.
3. Отсутствие evidence path
По FPF (A.10, B.3), любое утверждение требует evidence path — цепочку от наблюдаемых данных к утверждению через явные отношения. У нефальсифицируемой гипотезы нет evidence path, потому что нет evidence carrier, который мог бы её опровергнуть.
«В неё можно поверить» — но это эпистемически ничего не весит
FPF различает:
| Статус | FPF-интерпретация |
|---|---|
| Вера | Личное эпистемическое состояние (U.Episteme наблюдателя), не требующее evidence path |
| Знание | U.Episteme с AssuranceLevel ≥ L1, подкреплённое evidence, проверяемое, опровержимое |
Антипаттерн Explanation as Evidence: «Плавное или связанное с источником объяснение цитируется как доказательство, одобрение, прохождение гейта, разрешение на релиз».
Вера в нефальсифицируемую гипотезу — это именно этот антипаттерн: объяснение выглядит убедительно, но не несёт evidence weight.
Практические последствия в проектах (СЭД ↔ УС)
Плохой сценарий:
Команда выдвигает гипотезу: «Миграция данных сломалась из-за фундаментальной несовместимости парадигм СЭД и УС».
- Можно ли это опровергнуть? Нет. Любая проблема списывается на «несовместимость парадигм», любой успех — на «нам повезло».
- Результат: Команда застревает в
L0, не может спроектировать зонд (какие конкретно маппинги проверить?), не может принять решение (выбрать другой инструмент? переписать маппинг?). - Итог: Проект парализован, потому что гипотеза не даёт actionable next move (CC-B.5.2-6).
Хороший сценарий:
Команда выдвигает гипотезу: «Миграция сломалась, потому что статус “На согласовании” в СЭД маппится на статус “Draft” в УС, теряя информацию о текущем согласующем».
- Можно ли опровергнуть? Да:
- Проверить маппинг в таблице соответствий
- Найти документы, которые потеряли согласующего
- Сравнить
Loss Notesмежду контекстами
- Результат: Команда может спроектировать зонд (выбрать 10 документов, проверить маппинг), собрать evidence, повысить
Assurance LevelдоL1или опровергнуть гипотезу и перейти к следующей.
В такие гипотезы можно лишь поверить. процесс принятия гипотез на веру - это другой процесс познания (процесс познания = эпистемологический процесс). у такой гипотезы никогда не будет эпистемический статус = “гипотеза подтверждена в результате исследования” .
Навеяло ...
из рекламы: “наши исследования подтвердили”.
“ведущие собаководы рекомендуют использовать корм х …”
“ассоциация стоматологов подтвердила эффективность Х …”
фальсифицируемость будет обсуждаться далее в руководстве.
как минимум хорошо иметь минимум 2 конкурирующих гипотезы-кандидата в объяснение. это необходимо для того чтобы собранные данные помогли провести различия между этими гипотезами.
3. Доэкспериментальная аргументация
на этом этапе начинаются действия и операции с гипотезами и догадками. здесь агент может априорно дать каждой гипотезе неформальную оценку опираясь только на имеющиеся знания.
агент может выдвинуть гипотезу об оценке гипотез. без проверок, без эксперимента, “без регистраций и смс”.
современное поклонение количеству данных и страсть к их накоплению, пока уровень развития техники позволяет это делать обескураживает. больше данных богу данных.
вера в то что из данных можно выжать новые знания удивляет.
догадки и гипотезы следует проанализировать на предмет того на какие допущения они опираются. массив догадок и гипотез разделяется на 2 группы:
- те которые опираются на допущения приемлемые для агента (допущения не противоречат убеждениям агента, выполняющего такое разделение)
- те которые опираются на допущения не приемлемые для агента (допущения противоречат убеждениям агента, выполняющего такое разделение)
просто следует запомнить какая гипотеза и догадка в какую группу попали.
временно внимание следует навести на группу гипотез которые опираются на приемлемые для агента допущения.
объяснения которые агент придумал и сформулировал так или иначе опираются на элементы сформированной внутри агента картины мира. у любого действия агента связанного с выделение объектов из фона и построения объяснения имеют теоретические предпосылки. так это объясняет теория теорий.
у агента есть внутри набор допущений относительно мира, объектов в нем, других агентов, отношений между агентами, взаимодействий между агентами, причин и следствий. и на этой модели агента внутри его головы строится до экспериментальная аргументация.
уже на этапе доэкспериментальной аргументации может оказаться что картина мира агента нуждается в ремонте и рефакторинге. требует частичного пересмотра. но если выяснится что пересмотра не требуется и картина мира агента пригодна для работы с данными данными, то можно работать дальше. в этой ситуации какие-то из догадок на основании предварительных аргументов покажутся агенту более привлекательными и симпатичными.
таким образом отбираются на момент гипотезы для первоочередной проработки. все догадки получают свой рейтинг/приоритет в группе догадок.
далее можно пробовать строить схемы причинно-следственных связей, которые могут быть сформированы еще на этапе формирования гипотез.
для составления первых вариантов графов причинности агенту достаточно использовать картину мира, априорные знания, логические представления и взаимосвязях и отношениях между объектами и явлениями.
уже на этом этапе агент может пробовать убедить других агентов в верности своих догадок. но это будет требовать доказательства и обоснования - что объяснение построенное на одном наборе догадок чем-то лучше чем альтернативное объяснение построенное на другом наборе догадок.
Постановка эксперимента и сбор наблюдений
вот тут агент уже начинает осознанно наводить внимание на объекты, наблюдать, отслеживать важные связи между объектами. пробовать на этом этапе вмешиваться в процесс, влиять на переменные процесса, воздействовать не объекты, наблюдать за результатами таких воздействий и вмешательств.
на этом этапе более важно в первую очередь найти данные которые опровергнут гипотезы, придуманные агентом до начала реальных экспериментов. это важно потому что в мозге существует баг под названием ошибка подтверждения. это склонность человека игнорировать те свидетельства которое не согласуются с теми объяснениями с которыми агент уже подсознательно согласился. те агент неосознанно наводит внимание не те свидетельства которые поддерживают выбранную гипотезу и не наводит внимание на те свидетельства которые противоречат выбору.
причин по которым агент еще до проверки подсознательно выбирает гипотезу много. там могут быть следующие основания:
- это популярная версия объяснения
- это выгодное для агента объяснение
- оно звучит логично
- оно просто красивое
- на календаре вторник
- номер автомобиля агента начинается с четной цифры
- агента зовут Олег
- это простое объяснение
- это сложное объяснение
- это современное и молодежное объяснение
и чтобы такого не происходило, или происходило пореже, хорошо если у агента будет минимум 2 объяснения которые конкурируют между собой.
и пока агент будет искать опровержение нескольким объяснением, он получит защиту от работы такого бага. это дополнительный метод предотвращения ошибки подтверждения.
5. Оценка гипотез
данный этап работы с гипотезами будет проходить понятно (возможно) если на предыдущих этапах (формулировка вопроса/ постановка проблемы, поиск гипотез, доэкспериментальная аргументация, постановка эксперимента с сбор наблюдений) агентом были проведены работы с необходимым уровнем качества и необходимым уровнем качества рабочих продуктов на выходе. легкость прохождения этого этапа ничем не гарантирована.
создание объяснения не сводится к анализу полученных данных в ходе предыдущих этапов. задача сводится к проверке работы цепочек причин и следствий.
тут такой расклад: полученное объяснение точно будет считаться не качественным если в полученных данных не будет обнаружена статистически достоверная закономерность (данные это подтверждают). нет статистически достоверных подтверждений основанных на собранных в ходе эксперимента данных будет означать (знак) не верную догадку.
но и сами закономерности в данных выявленные статистическими способами без схемы причин и следствий не будут являться надежным доказательством качественного объяснения и не сами не будут являться объяснением.
тут возможен исход когда у агента будет несколько схем причинно-следственных схем, каждая из которых подтверждается собранными данными. в этой ситуации агент может выбрать о объяснение которое наиболее достоверно согласно статистикам полученным из данных.
но и в этой ситуации можно (или нужно) применять критерий “простое объяснение предпочтительнее сложного объяснения” (Бритва Оккама).
6. Возвращение назад
с первого раза получить хорошее объяснение может не получиться. точнее так - то что будет получено может не устроить агента по разным причинам.
можно откатываться назад по процессу создания объяснений.
если получен не тот результат который устроил, то можно откатиться на любой шаг назад и начать новую итерацию создания объяснения уже с учетом накопленного опыта и полученных знаний.
если процесс создания объяснения провалился в пути и не был доведен до рабочего продукта, то так же можно откатиться на предыдущий шаг и выполнить повторно шаги с учетом полученных знаний и накопленного опыта.
можно создать новые предсказания, найти новые объекты внимания, поменять схему эксперимента, поменять метод обработки данных.
и делать так можно много раз, так как процесс исследования и создания объяснений - это итерационны процесс.
но может так получиться что нужно будет откатиться до уровня постановки проблемы и переформулировать ее на этом уровне, так как иначе объяснение не будет получаться, как ни меняй догадки, не создавай гипотезы - пасьянс не будет сходиться.
исследования - это итерационный процесс.
такие дела.
спасибо за внимание.
время мышления : ( 30 + 30 + 35 + 30 + 30 + 30 + 30) минут.