Системное мышление курс. Глава мышление

Посты студентов Cистемное мышление
, , ,
1

Прочитал первую главу из обновленного курса “системное мышление”

  • довольно много повторений из предыдущих курсов. Это хорошо, “интервальное повторение”, дополнительная “пропитка”
    • большой упор на объекты внимания
    • переключение между уровнями внимания
    • наведение внимания
    • важность воздействия на физический мир и бессмысленность дум без реального применения
    • еще раз прошлись на том, что агенты это не только люди. Агенты-организации существуют уже очень давно, но все равно как-то слишком большая разница была между организациями и человеками, а AI системы как-будто такой мостик-переход: уже точно все, агенты не только люди.

помощь LLM

В качестве эксперимента пробовал загружать прочитанные части в LLM и просить позадавать вопросы по пройденному материалу.
Времени на прохождение больше уходит, но, как мне кажется проработка получается более глубокой.

Однако особой глубины пока не получилось. Прогнать еще раз какие-то понятия, термины, обратить на них больше внимания и покопать глубже - да. Какой-то “интеграции”/“синтеза” еще нет. Буду экспериментировать. Может получится, а может и нет.

агенты и создатели

Сначала прочитал - вроде все понятно. А потом перестало быть. Начал разбираться

Вроде наблюдается смешение терминов. Агент в рамках ролей/проектов и агент в глобальном смысле.
Вроде как это одно и то же, а вроде и не совсем.

Пока я для себя думаю, что агенты и создатели это пересекающиеся множества. Т.е. могут быть агенты, могут быть создатели, а могут быть агенты-создатели.
Пользовался этими строками из учебника

Создатель — это система, которая выполняет всевозможные трансформации объектов физического мира
Агент — это создатель::система, выполняющий универсальные физические преобразования других систем.

Вроде звучит логично для меня, но я все еще чувствую какое-то свербение тут, что-то не так, я что-то не так понимаю. Но пока я не понимаю чего не понимаю.

Воспользуюсь советом из учебника

Мы не ожидаем, что вы вот прямо сейчас точно, как в математике, поймёте всё в этой небольшой онтологии — полное понимание придёт позднее, главное тут не застревать на каждом подразделе и упорно двигаться вперёд по курсам

и пойду дальше, ибо я и так уже кучу времени в этом разбирательстве закопал.

разделение мышления

Сразу возникла некая путаница
На одной странице

Мышление может пониматься в двух значениях (мы будем использовать оба):

  • В узком смысле — это вычисления интеллекта (то есть вычисления набора мастерств в методах интеллект-стека)
  • В широком смысле — вычисления агента-создателя по любому виду его мастерства (включая прикладное мастерство).

Итак, в узком значении — мышление это вычисление:: функция/процесс/метод работы интеллекта::«часть личности»::«набор мастерства по методам интеллект-стека»::«набор вычислителей, работающих по методам/практикам интеллект-стека».

На другой странице

Мышление может быть сильным/универсальным/общим (мышление интеллекта, не ограничивается предметной областью) и узким/неуниверсальным/прикладным — мышление об объектах какой-то узкой предметной области (выращивание масленичных культур в целом и подсолнечника в частности, проведение оптических вычислений, обучение верховой езде).

Почему-то сразу я подумал, что это разные dimensions в разделении мышления. Потом немного подумав я понял, что это об одном и том же. Узкое - вычисления с помощью прикладного мастерства. Широкое - вычисления с помощью прикладного мастерства + вычисления с помощью универсального мастерства для развития прикладного мастерства.

Не совсем нравятся конкретные слова, т.к. они эмоционально заряжены и узкое/неуниверсальное звучит как что-то так себе. Но с другой стороны, не смотря на то, что без узкого мышления никуда - все же его развитие в целом проще чем развитие сильного/универсального. Так что может так и хорошо?

интеллект стек

Почитал про фундаментальные методы, которые составляют интеллект-стек и как-то грустненько стало. Часть слов вроде бы знакомые, но как-то описать эти методы(за что они отвечают), в основном, сходу не получается. Так же непонятно а на каком уровне они у меня и как вообще им обучаться.
По некоторым есть понимание как их можно развить, а некоторые непонятные. Например инженерия/физика/математика. Они то ли огромны (нужно десятки тысяч часов инвестировать в изучение каждой области если говорить про все многообразие) и непонятно как вообще найти время если ты не школьник/студент, то ли разговор идет не про всю область, а про какие-то принципы(движок) который сам по себе не обязательно огромный и по времени вполне подъемный.
Версия с “движком”, конечно нравится больше т.к. и времени меньше и универсальность присутствует, с другой стороны я пока не нашел чего-то конкретного про “движки”. В разных местах упоминания есть, но без конкретики. Может я просто много хочу?

Например. В процессе чтения про интеллект-стек и фундаментальные методы вспомнил про first principles которые все никак не дойдут руки формализовать в своей голове: что это толком такое и как применять.

итог

В общем хорошая глава, бодрая. Подумать заставила. Опять же эксперименты с LLM. Будем посмотреть дальше

4 лайка
2

Прочитала твой пост и поняла, что я с этим девизом практически всю главу мимо прошла.
Вопросы возникали такие же, но я их отмела: “ну ладно потом разберусь наверно”, руководствуясь советом из учебника :sweat_smile:

1 лайк
3

narrow и strong – это устоявшиеся термины из предметной области AI, поэтому “нравится или не нравится – надо знать” )))

Да, интеллект-стек про “движок”, а вот состав “движка” обсуждается в “Интеллект-стеке”. В частности, мы беседовали в подкасте с выпускником МФТИ, и он признал, что его учили разделам физики и математики, но не “движку”, не физическому и математическому мышлению, и что из курса “Интеллект-стек” он довольно много узнал нового, что в МФТИ ему не давали, а ведь он считал физмат-образование МФТИ самым что ни на есть “базовым”, “фундаментальным”!

Увы, мышлению непосредственно мало где учат, чаще всего учат каким-то вариантам прикладного мышления, в надежде, что все нужные “движки” сами собой освоятся. Мы в ШСМ считаем, что у одного из десяти да, “сами собой”, а у девяти человек из десяти – нет, поэтому надо учить им явно. Вот и учим.

2 лайка
4

А есть примеры где учат физическим/математическим движкам в явном виде?

5

В этом-то и проблема, что нигде. Там же кроме физики и математики нужно понимать семантику, иначе непоняно “зачем это всё”. Ну, и появляются новинки типа Заметки по лекции Miles Cranmer "Следующая большая научная теория прячется внутри нейронной сети": ailev — LiveJournal – и это впрямую отсылает к двум семантикам, в локальных/символьных и распределённых представлениях (deep learning как раз про распределённые представления, но физика-математика там вполне уместны).

То есть надо учить “в контексте” сразу, а это означает знакомство с полным интеллект-стеком, математика-физика в его составе, они оттуда не должны выдираться.

6

Я для себя понял так, что агент это подкласс создателя. Как и написано в курсе:

Создатель — это система
Агент — это создатель::система

7

Наоборот. Создатель подкласс агента. Специализация. Агенты широкий класс

1 лайк
8

Я понял наоборот.
Создатель выполняет всевозможные трансформации объектов физического мира, как систем так и нет.
Агент выполняет универсальные физические преобразования других систем.
Т.е. создатель более широкий класс, а агент - подкласс.

9

Вот вы тоже сюда попались @natali-maximum @konstantin )) добро пожаловать, присаживайтесь)

4 лайка
10

Будем разбираться значит. Из ваших определений не понимаю, где там агент уже создателя.

Создатель меняет/преобразует объекты физического мира (системы и не системы).
Агент преобразует физически другие системы.

Для меня пока что создатель это функция/роль/функциональный объект. У агента может быть эта функция, а может не быть (в определённый момент времени). Если она есть мы говорим агент::создатель поменял что-то в физическом мире. Я агент::создатель посадила на грядку клубнику и ухаживаю за ней. Меняется что-то в физическом мире? Меняется, клубника растёт, цветёт, завязывает ягоды.
А вот пришёл другой агент - соседка. И давай мне советы давать, как надо клубнику выращивать. Если я её советы мимо ушей пропущу, в физическом мире ничего не поменяется. А если послушаю и что-то поменяю в своём поведении, то и она получается отработала, как агент::создатель. В мозгах моих изменила убеждение, как надо выращивать клубнику. Но мы как были обе в любой момент времени агентами, так и остались.

У меня поэтому агенты это все подряд, способные что-то поменять. А создатели это агенты, меняющие физический мир.

Добро пожаловать в кружок философии) Но вообще меня слушать не надо, я главу не дочитала ещё. Так пока, упражняюсь на нынешней версии нейронной сетки…

2 лайка
11

Так как всё-таки интерпретировать эти фразы? Агент - синоним создателя, или специализация? Если специализация - то по какому признаку?

12

Мышление в узком смысле - это сильное/универсальное/общее вычисление, работающее по практкам интеллект стека.

Мышление в широком смысле - любое вычисление, включающее и мышление в узком смысле, и прикладное мышление.

Но прикладное мышление ещё называется “узким сышлением”, и это совсем другое, чем “мышление в узком смысле”!

14

Мм. Мы конечно в рамках учебника рассматриваем интеллектуальных агентов (вынося за скобки природу их интеллекта). Но там в тоже время надо понимать, что создателем может быть живой агент усиленный какими-то инструментами, команда агентов с инструментами, команда агентов вперемешку (люди + нелюди) с инструментами и дальше по масштабам вверх. В одном из примеров стадион::создатель. У стадиона интеллект в наличии? Мне кажется так об этом думать не особо легче.

15

Вы успели ответить на удаленную реплику )) Я удалил, потому что лучше еще подумать.

1 лайк
16

Моё размышление по теме.

@natali-maximum Прошу критиковать