О пользе ненаучного знания

Этот пост, первый в моем блоге ШСМ, ожидаемо является выполнением домашнего задания к первой главе курса "Системное саморазвитие" и посвятить его я хотел бы теме в околонаучных кругах провокационной: о пользе ненаучного знания. (Если уж начинать мышление письмом, так с расшатывания основ! ;) )

Научный метод - крупнейшее достижение цивилизации, я точно не буду c этим спорить. Однако популяризаторы науки часто весьма пренебрежительно отзываются обо всем ненаучном, и я думаю что зря. Мне согрела душу фраза из курса "Ненаучные картины мира – мифы, легенды, верования – тоже сыграли важную роль в развитии человечества." Однако дальше "картины мира должны были создать уверенность, спокойствие или доставить наслаждение" - и все? Так просто и мало? А как же роль христианства в гуманизации общества, в изменении общественных норм в отношении убийства, рабовладения? (Ни то, ни другое не исчезло, конечно, а где-то отцы церкви и сами отличились, но тренд-то сменился). А небесполезные социальные институты (в том числе толкнувшие науку), наработанные психопрактики, практики бытовой жизни, протестантская этика способствовавшая развитию капитализма?

Я бы разделил всякое ненаучное знание на две группы:

  1. Стремные маленькие теории легко опровергаемые экспериментально. Вроде астрологии или плоской земли. С ними все ясно - опровергли и забыли.
  2. Масштабные картины мира основанные на многолетнем опыте (в том числе многих поколений), практическая мудрость приправленная фантастическими идеями и кодифицированная в виде мифов и верований.

Со вторыми, я полагаю, не все так просто. Например, религия это не просто выдумка в которую поверили, но сложносоставной мем (в докинзовском смысле), который эволюционировал в конкуренции с другими картинами мира, давал своим носителям преимущества и сам факт его существования может являться признаком его ценности, хотя бы и контекстуальной. А значит эта штука, с которой по меньшей мере интересно разбираться.

А какая картина мира у нейросетки? Вопрос правомерный, она же умеет находить на картинках кошечек, значит кое-что знает об устройстве мира, значит мы можем говорить о картине мира. А если подумать о нейросетке как экзокортексте, так это и наша картина мира.

Картина мира нейросетки точно ненаучна - она не основана на причинно-следственных связях, в ней нет объяснительных теорий, это чистый опыт остроумно закодированный в уровнях, коэффициентах и связях между ними. Однако полезность такого рода картин мира, основанных на очень объемном чистом опыте (данных), сегодня очевидна. Отдельно отметим, что сама нейросетка не плод науки, но инженерии. Внятной теории о том, как нейросетка работает кажется до сих пор нет (помнится ЛеКун это утверждал, не знаю изменилось ли что-то с тех пор).

Давайте это зафиксируем громко: Некоторые ненаучные картины мира оказывются очень ползеными. Я бы даже сказал, только сейчас мы начинаем раскрывать их потенциал.

А кстати не напоминает ли религия на нейросетку? Ведь это тоже кодификация опыта многих поколений. Конечно, в этом "коде" достаточно избыточности и багов, он намного менее чист чем научный "код". Но я и не говорю что он лучше, скорее всего нет, но к нему стоит отнестись с уважением и интересом. Зачем же, если есть наука? Может быть, потому что религия предлагает ответы и на те вопросы, на которые наука внятного ответа не имеет? Может быть, потому что иногда стоить взять простое и неточное объяснение вместо сложного и абсолютно правильного? Точно так же, как иногда вместо точного вычисления прагматичнее выбрать эвристику? Это не утверждения, а приглашение подумать.

Те же нейросетки. Зоолог распознает кошку лучше, чем нейросетка. Но если кошку нужно распознать на миллионе изображений, то пускай нейросетка несколько раз ошибется, но выполнит работу за обозримое время. А иногда нейросетки оказываются лучше экспертов: уже не помню, какие-то диагнозы по снимкам они лучше врачей ставили. Т.е. бьют науку в практическом применении. Внимание: ненаучная картина мира переигрывает научную.

Но и не все так просто. Помните, нейросетка KataGo обыграла всех чемпионов в игре Го? Что преподносилось как невероятный результат, ибо Го на порядки сложнее шахмат? Буквально на днях группа ученых написала маленькую программку, которая ее обыгрывает (https://novynovgorod.substack.com/p/nks-252). При этом возникла интересная нетранзитивность: любой средний игрок может обыграть эту слабую программку, которая обыгрывает самую крутую нейросетку, которая обыгрывает всех людей. Да, нейросетку легко пофиксить, но в ответ на это достаточно лишь немного поменять программу, чтобы она снова начала ее обыгрывать. А все потому что нейросетка даже не знает правил игры Го, а руководствуется ограниченным опытом.

Картина мира, просто закодировавшая много-много опыта оказывается негодной в новом контексте, в новых условиях, в новом опыте. Опять напоминает религию, да? Научная теория, основанная не только на опыте, но и на глубинном понимании причинно-следственных связей, скорее окажется более надежной в более широком множестве контекстов. И все-таки нейросетки с теориями успешно конкурируют! А может стоит глянуть свежим взглядом на религии?

Собственно, выводы.

  1. При прочих равных науке стоит отдать приоритет.
  2. Однако в некоторых случаях ненаучная картина мира может оказаться вполне полезной. Во-первых, в тех областях, где нет ясного понимания причинно-следственных связей, но есть значимый объем опыта (опыта поколений или просто датасет, неважно). Например, в куче бытовых ситуаций, типа "Что делать, если тебя бросила любовь всей твоей жизни?". Принять что "все что не делает Бог - все к лучшему" вполне практичный ответ, если в него верить.
  3. В других ситуациях научное знание может оказаться труднодоступно, либо применить его сложно или дорого. Проще воспользоваться эвристикой. Да, менее надежной, но быстрой. Нейросетка или религия, может какая-то философия жизни или мудрость многочисленных гуру саморазвития иногда могут давать годные ответы. Не обжираться и не прелюбодействовать неплохо работает как заповедь без сложных научных объяснений и ссылок на литературу. Однако не стоит доверять слепо, стоит думать о границах применимости и возможных побочных эффектах.
  4. Обязательно нужно учитывать цену ошибки - чем она выше, тем меньше толерантности к неточности, тем больше стоит доказательство предпочитать эвристике, а научную картину мира ненаучной.
  5. К ненаучным картинам мира стоит относиться с уважением и критически. Взвешивая все ограничения, их не зазорно использовать, а некоторые и очень даже полезно.

По поводу религий и верований прошелся Нассим Талеб в “Антихрупкости” - причем в крайне позитивном ключе. И он есть в списке рекомендованной литературы к курсу :slight_smile:

О, приятная поддержка от классика!
Спасибо, до Антихрупкости дойдет очередь.

А почему Вы науку приравниваете к объяснению причинно-следственных связей?
Какая причина, например, для массы электрона? На данный момент она нам не известна. Но физика элементарных частиц не перестаёт же быть наукой.

Главное отличие науки в другом — в объективности знания и фальсифицируемости.
Измерения одной и той же физической величины объективны — значит вполне валидный научный метод.

Нейронная сеть это не наука, это специальный прибор для измерения характеристик, допустим, картинки. Прибор не обязан ничего знать об объекте, кроме того показателя, который он измеряет. И вряд ли можно говорить, что в приборе есть картина мира.
А науку — например, “анализ изображений”, — надо ещё строить вокруг таких приборов. В том числе добиваться фальсифицируемости — заменять устаревшие коэффициенты или сети новыми. И искать объяснения.

Это конечно один взгляд, естественно-научный.
Вычислительное мышление скажет, что нейронная сеть — это математическая функция многих переменных. И построит на этом какую-нибудь науку анализа таких функций.

Объяснения конечно тоже нужны, чтобы считаться наукой — тут согласен. Иначе любого аналитика данных можно было бы в учёные записать.

С другой стороны, религия тоже даёт много причинно-следственных связей — первородный грех, воля бога и т.д.
Но главная претензия к ней — субъективность опыта и переживания.
Это заставляет сомневаться, не находится ли религия внутри самого субъекта? Т.е. мы переходим к психологии и психоанализу. Бога нет, есть Супер-Эго.

А в целом с посылом согласен. Все методы нужны.
Два примера в коллекцию:

  1. Диагнозы, которые можно (научно) подтвердить только методом “вскрытие покажет”
  2. Само быстрое мышление. Если водить автомобиль научным методом, недалеко уедешь

Я даже выскажу аргумент в защиту астрологии. Её можно использовать в качестве генератора идей на определённом этапе жизни — когда своих идей не хватает, или, наоборот, их слишком много. Альтернатива инструментам “помощь зала” и “звонок другу”. Может помочь “выйти из коробки”, взглянуть на ситуацию с другой стороны или учесть какой-то фактор, о котором забыл. Конечно это далеко не SotA, есть более эффективные практики. Но всё же, м.б. лучше помощь астрологии, чем жизнь в позиции Буриданова осла.

Наука не просто устанавливает объективные факты, но оперирует теориями, а что есть теория если не объяснение основанное на причинно-следственных связях? (Кроме того, мы знаем что теории зачастую возникают до всех необходимых фактов и лишь позже находят факты их подтверждающие). Есть факт что Земля вращается вокруг Солнца и есть факт что предметы падают на землю с ускорением g. Введение некоторых новых понятий и моделей, вроде богини понятия Гравитации и законов Ньютона позволяет увязать эти факты и объяснить как падение предметов так и вращение земли. Удивительным образом такое объяснение оказывается применимо и к другим небесным телам, а еще помогает найти новую доселе неизвестную планету (хотя как считать, Плутон вроде разжаловали из планет, но недавно еще одну нашли, десятую).

Дэвид Дойч, философ науки, а вообще-то физик, пионер квантовых вычислений, в своей книге “Структура реальности” настаивает, что объяснительная составляющая научной теории даже важнее чем описательная и предсказательная. Теория должна не просто предсказывать, но приводить к пониманию, что бы это ни значило. Я полагаю хорошее объяснение делает теорию во-первых, компактной, а во-вторых, помогает ее развивать. И это то, чего не дает нейросеть - она умеет получать результат, но не умеет объяснить как она его нашла. Объяснение скрыто в уровнях и коэффициентах, но поди разберись!

Согласен, нейросетку можно назвать прибором, но это не простой прибор, который создан и откалиброван. Это прибор который обучен на значительных объемах данных и этот значительный объем данных каким-то образом увязан во внутреннюю картину миру прибора. Для контраста, можно было бы создать прибор с экспертной системой внутри, и вот о таком приборе можно было бы сказать, что его внутренняя картина мира научная. И, более того, такой прибор может понятно объяснять свои решения. Другой вопрос, что экспертные системы сильно проигрывают нейросеткам, что конечно примечательно.

Нейросетка слишком схожа с человеческим мозгом, чтобы это игнорировать, да и термин нейроны выбран был неслучайно. И тогда, а давайте мозг тоже назовем прибором. Ну да, нерукотворный, ну и что. Мозг умеет работать в том же режиме: если ему скормить много опыта, то даже не формализуя опыт в какие-то теории он научается адекватно принимать решения. Это еще называется интуицией. И это очень похоже на нейросетку. Разумеется формальное знание, да еще соответствующее научным критериям усиливает мозг значительно. И это очень похоже на экспертную систему. И тот и другой способ принятия решений - работают. Да, похоже что один лучше (сейчас) работает в компьютерах, а другой (сейчас) в мозгах. Но мой поинт в том, что давайте не сбрасывать со счетов ни один :slight_smile:

Думаю можно в принципе не разделять и любые «знания», считать как описаниями людей. Описания, которые люди создают. А там уже дальше идет то, что было проверено «научным» методом, или просто «придумано», но не проверено.

Конечно, можно верить что земля плоская, когда с этим утверждением никаких проектов не имеешь. Но когда строишь ракету, надо бы поточней описания реальности иметь. Так вероятности больше, что получится.