Сегодня ровно 24 года, как я начал вести этот блог, “Лабораторный журнал” (https://ailev.livejournal.com/). “Первую пару лет вы работаете на zettelkasten, затем много лет zettelkasten работает на вас” – это проверено, истинная правда. Для кого пишу? Тут два замечания:
- прежде всего для себя, это способ удержания внимания лишние несколько минут на тех делах, которыми я занимаюсь. Мозг привыкает, продумывает, подбирает вместо мычания слова. Это “мышление письмом/моделированием” – Мышление письмом/моделированием: ailev — ЖЖ (ох, этот текст сам аж 2020 года)
- но таки есть люди, которые читают мои тексты и даже понимают. Как сказал один из инженеров-менеджеров: “я десяток лет читал тексты Левенчука, потому как было дико любопытно – но ничего не понятно. А потом внял совету и освоил руководства, и оказалось, что всё-таки понятно, как и обещано!”
Общий объём опубликованного FPF сейчас – 14M знаков, 314 паттернов, 108K строк. Общий объём всех опубликованных DPF – 5.8M, 182 паттерна, 50K строк. Это для понимания масштаба бедствия.
Основное время занимает скучная работа по поддержанию работы сразу нескольких кампаний (“поддержание работы” – это непрерывные починки, борьба с безопасностью Codex App, ибо там своя внутренняя полиция буйствует, проверяет переписку между агентами – это сильно ужесточилось за неделю, стало очень нервно), кушает это недельную подписку ChatGPT Pro на tier $200 каждые 8 часов, держусь только за счёт подарочных кредитов от OpenAI, которые раздавали в честь выхода Astra:
- продолжается ремонт precise plain language, проход по всем паттернам с F.19 – этот ремонт уже сделан, но проход с проверками занимает огромное время. Всего там порядка 60 пакетов работ, из них 40 уже сделаны и опубликованы, это ещё будет тянуться дня три.
- продолжается проход по кодификации R1-R3 и R11 в заготовки для паттернов, дальше там будет перепроход по R0, R5-R10 (а R4 пока не написан до конца, он будет дописываться в ходе стартующей прямо сейчас резидентуры – и тоже пойдёт в переработку на паттерны)
- правится и дописывается Engineering DPF Suite (опубликованы 8 из 16 планирующихся DPFs, а ещё два опубликованы частично)
- но дальше – “Лев Николаевич Толстой очень любил детей. Бывало, набьёт ими полную горницу, яблоку упасть негде, высунется в окно – и кричит: “Ещё давай!””. Стартовал кампанию по борьбе с лишними “доказательствами” и лишней “безопасностью” – и там две пары агентов работают.
С этой борьбой интересная история. Сначала я наткнулся на текст https://www.facebook.com/eugene.peskin/posts/pfbid0TGYpTqe2qG4yuRVARTj8oDtUwzTVa5TSeHgREq8Ubd714xpbAtszqzSycPQghZewl, где ставился вопрос о вреде светодиодного освещения. Я что-то засомневался и дал почитать оригинальную статью про “новый асбест” из ‘The new asbestos’: UCL researchers warn LED lighting may be damaging our health новоявленной Astra Pro, причём сказал разобраться с первоисточниками. Ответ был восхитительный – https://chatgpt.com/share/6a9ed65f-7530-83eb-85ea-b549e215a8fe, суть его была “пусть они всё докажут, проведут все эксперименты, а пока ничего не ясно” – типичная отписка от “господ экспертов”, ибо непонятно было, кто какими ресурсами, зачем проведёт все эти эксперименты по крутейшим методикам, явно дорогие эксперименты, но главное – что это вообще изменит, если эксперименты будут проведены, кроме того, что можно будет брезгливо сказать “у вас там методика эксперимента хромает, слишком много факторов, вы их не разделили”?! Поэтому я задал там вопрос: что это за bias такой “посыл доказывать”, когда ничего доказать и нельзя, и ресурсов нет, и вообще всё плохо? Что это за этика такая, которая позволяет давать бесполезные советы вместо экспертизы? Да, тут же нашлось, что SoTA тут другая, ответы должны быть полезны, отсылать “за доказательствами” вместо выдачи экспертной оценки – моветон. Тогда я спросил: есть ли у нас в FPF и DPF безответственные требования доказательств, просто в силу этого bias? Или у нас всё хорошо? Ответ был – нет, не всё хорошо. Поскольку мы тут “господа учёные и инженеры”, то bias в сторону assurance есть, даже там нужен assurance, где проще расслабиться и принять риски, дешевле будет, чем доказывать. И с безопасностью так же: “безопасность” всегда, даже когда это невозможно. Тут ведь разные экономики у спрашивающего мнение и отвечающего эксперта. Эксперт страхует свою репутацию, “у вас ничего не доказано” (то есть он ни под чем не подписался, “рискуйте за ваши деньги, я предупреждал”), но за ожидание всех этих “доказательств” платит тот, кому надо принимать решение – он не совершает хода, время идёт, а время – деньги. При таком устройстве отношений можно бесконечно совершенствовать требования к доказательствам: сказать “не доказано” даётся бесплатно, а расходы по-любому чужие: или заказчика экспертизы, или того, чья работа оценивается, даже если это абсолютно избыточные “доказательства”. Полезность экспертизы надо оценивать с учётом цены откладывания решения “до прихода строгих доказательств” (то есть “до никогда”). Та же evidence-based medicine: пока нет доказательств, больной может помереть, но формально будет “низзя, нет доказательств” – https://www.bmj.com/content/348/bmj.g3725, это статья ещё 2014 года. И ещё один аспект: вы даёте текст 100 экспертам, которые потребуют дополнительных 100 тестов. Каждый тест ещё будет OK, но вот 100 тестов – всё по ресурсам вы не потянете, а ведь порождать дополнительные тесты можно бесконечно, вам их всунут всегда больше, чем надо бы, если будете обращаться к любителям “доказательного всего”. Ко всем этим требователям доказательств нужно вовремя применять губозакатывательную машинку, как бы они ни апеллировали к тому, что защищают “интересы Истины, Блага, Науки”. И тогда следующий вопрос – кто распоряжается порогом доказательности? Через него можно определять, какие предложения вообще попадут в рассмотрение. Тут уже появляется вопрос о власти над правилами принятия решений.
И это пересеклось с ещё одной идеей: когда к кому-то обращаются с вроде бы “законной просьбой”, “этическим императивом” и требуют чего-то такого, чего у выполняющего лица заведомо нет и быть не может: например, предоставить доказательства, которые ничего не поменяют в жизни (но доказательства-то вообще нужны! Вот пусть даст!), на которые заведомо ни у кого нет ресурсов, или потребуют безопасность, которую должны давать какие-то другие лица, требовать у которых никаких полномочий нет. Ну типа как “вы там граждане страны, надавите на свои власти, чтобы они там себя вели как полагается, у вас там для этого как минимум механизм выборов есть, а если выборов нет – организуйте какое-нибудь восстание”. Ага, простой смертный, “надави на власть”, как будто надо прямо шнурки завязать и бегом надавливать. Ровно про это был вопрос от неведомого мне AI к этике в FPF – issue #50, Issues · ailev/FPF · GitHub как FPF решает вопрос о действиях, которые агент вроде должен совершить, но не может (физически, или ввиду отсутствия ресурсов, или банально нет полномочий). Ответ был: в паттернах этики этого нет, но FPF вполне может с этим сработать, вот набор паттернов, который всё разруливает (и дальше подходящая мантра). И тут ещё один очень похожий вопрос, который исследовал Николай Судников, заинтересовавшийся, что там обещают или не обещают семь партий Казахстана в своих предвыборных программах – Telegram: Contact @thinkingbyletter, там тоже оказывалось, что партии что-то такое говорят, что вне зоны их возможностей, игнорируют причинно-следственные связи, не задумываются о том, “кто это оплатит”, ровно то же самое, что с “безопасностью” или “доказательствами”: потребовать, а что и от кого, и кто заплатит, и зачем это вообще нужно, и каким способом получить – это потом. И вот тут я понял, что надо делать кампанию, чтобы это зло из FPF ушло, по возможности. И оно начало уходить. Забавно, что поначалу паттерн, который должен проверять на ненужность доказательств, сам потребовал подробное письменное доказательство того, что доказательство не нужно. Конфуз, да. Яркое проявление этого bias. Отследил, вроде как это удавлено. Затем чистка всего корпуса, чтобы не начитываться этим bias. И затем с этим FPF уже можно идти в купленную биг фармой “доказательную медицину”, в приватизированную госорганами, тьфу, национализированную “доказательную педагогику”, в прогнившее насквозь рецензирование научных статей и так далее, тысячи их. Вот эта чистка FPF уже практически закончилась, но надо ещё почистить Engineering DPF Suite, там такого много. Литературы по SoTA много, она вся дана в FPF, например, в том же C.11.DUA - Decision-Useful Advice and Evidence Demands.
