Понимаю, что “научить учиться” – это несколько совершенно разных умений, которые надо намазывать поверх совершенно разной генетической предпрасположенности (а эту предрасположенность корректировать сдвигом в инструментарий: к чему сам не предрасположен, сделает экзокортекс), для меня это всё фундаментальное/трансдисциплинарное, усиление интеллекта. Увы, “уметь учиться” оказывается умением типа системного мышления, игры на фортепиано, высшей математики, то есть “за один курс” не осваивается, какие-то значимые результаты получаются за год у способных за два-три у не очень способных. Поэтому не очень способные часто выигрывают – когда способный уже сбежал, не очень способный остался и через пару лет догнал способного, через три года – перегнал. Жизнь ведь длинная. Вот мой краткий список “из головы” ():
– научить работать с frameworks/“мета-моделями разных уровней абстракции”: поставить в голову машинку типов, отделять лексику от смысла, (в том числе мета) моделировать и заземлять, рассуждать логически (это же типы!) и рационально (причинный вывод в условиях неопределённости).
– научить собранности на предыдущем (мало понимать, надо делать!), чтобы речь шла о длинных цепочках в реальной жизни (рабочий контекст), а не коротких ответах на вопросы в учебном контексте (олимпиадный тренинг).
– научить принятию всерьёз: fun criterion Дойча, вменяемость/persuadability/неупрямство как свойство интеллекта (“понять внешний аргумент и поменять поведение”, то есть принимать всерьёз критику и принимать всерьёз тексты руководства – внешние источники), принятию всерьёз (та же вменяемость, но ещё с добавленным аспектом агентности: считать не только внешние аргументы, но и результаты собственного рассуждения основой для ресурсного планирования и затем действия, внешний локус контроля). Тут в том числе тренинг эмоциональности: чтобы форма не заслоняла сути высказывания. Если тебе на матерном языке говорят “не стой под стрелой”, то надо проигнорировать мат (форму, бередящую эмоции) и хладнокровно выйти из опасной зоны (содержание, не зависящее от эмоций). И наоборот, если тебе очень вежливо говорят какую-то ахинею, то не кипятиться, а хладнокровно разобраться, что с этой ахинеей делать: плюнуть на неё, критиковать, предъявить говорящим ахинею альтернативы, но главное – не кипятиться и не утрачивать из-за этого силу своего интеллекта.
– объяснить приёмы обучения (learning sciences), чтобы развеять “студенческие мифы” типа “надо делать конспекты” (не надо! на результаты обучения не влияет!) или “по видео мне учиться удобнее, чем по тексту” (удобнее – не значит, что результативнее), “нужны структурированные тексты, всё по одной теме в одном месте” (blocked против spaced repetitions и interleaving, путаница справочников и материалов для освоения людьми, игнорирование context learning). Объяснить, что прерывать рассуждение надо в момент ошибки, а не сильно потом (оперантное формирование! У людей оно тоже работает!). То есть как-то дать learning sciences в их современной версии. Без этого приёмы современного надёжного обучения вызывают отторжение, “не соответствует моим мифам, впитанным с детства, они там некультурны”. И ещё тут дать разницу в обучении одному приёму и освоении большого материала: “понять одно утверждение, ответить на один вопрос, сыграть одну ноту на фортепиано” с приёмами и скоростью освоения сложной деятельности “как понять сложное руководство, отвечать на самые разные вопросы в ходе проекта, уметь играть джаз на фортепиано”.
– научить собранности в элегантности на длинных интервалах, чтобы было время для тренировки беглости. Тут дать основы тайм менеджмента (себя, любимого) плюс основы операционного менеджмента (чтобы было понимание, что надо быть “эффективным снаружи”, а не “эффективным внутри”: в операционном сюжете чётко указывается, что “эффективная работа” – это когда ты работаешь на внешнее ограничение, а не просто впахиваешь с максимальной производительностью, но “мимо”. Lean – наше всё!).
– научить стажироваться (совмещать работу по проекту и освоение нового фундаментального и прикладного знания), а не уметь учиться отдельно от работы как в “официальном образовании”.
– … пока писал предыдущие пункты, никуда не подглядывал, если посидеть подольше, то там ещё пяток таких же пунктов будет, умение учиться ведь фундаментальная штука, она и отличает человека от обезьяны, поэтому там всё непросто. В программе личного развития это всё по-быстрому проходится “в первом приближении” и уже даёт результаты, в программе рабочего развития это всё тоже есть, но развёрнуто – и проходит красной нитью по всем руководствам.
Я по-прежнему храню молчание по темам водородной энергетики, блокчейна, виртуальной реальности и прочего такого. Ибо фронтир не тут, не надо на это тратить цветов своей селезёнки. Меня интересует робототехника, в том числе автомобили без водителя, атомная энергетика, а также AI. Но не AI alignment, я эти материалы не читаю, там обычно бред сивой кобылы, пардон май френч. Один из основных аргументов против: неопределённость самого термина alignment, который приходится переопределять чуть ли уже не в каждой первой работе – ибо там чёткое пересечение с safety и неизбежным регулированием (чтобы “наш AI не сделал плохо кому другому”, а иногда и с security “чтобы наш AI не превратился в зомби в руках злонамеренных других и не сделал плохо нам, а также не нарушил safety”). Но если говорить про alignment, то можно плюнуть на всю инженерную традицию говорения про безопасность и защиту, safety и security. И попасть прямиком обсуждение “людей и AI”, при этом отчаянно путаясь в “проблеме человека” (а тут ведь богатая традиция разных заблуждений! aligmnent с двуногими без перьев, как вам? Или alignment католиков с протестантами, хуту и тутси, почему обсуждается не как alignment?). Поэтому сначала отправляем обсуждать теории людей, чтобы не размахивать руками про “человеческий вид” (опять же, “зелёным” про человеческий вид пофиг, они легко запрещают полёты в космос из-за какой-нибудь колонии хомячков рядом с космодромом, чтобы там не обсудить alignment человека и хомячков?). С теориями про людей и человечество всё непросто, писал об этом в Инженерия сообществ и изобилие теорий: ailev — LiveJournal (это где про методологический индивидуализм против методологического дуализма и холизма), далее с Онтика принадлежности и вовлечения: ailev — LiveJournal (это где “личность принадлежит сообществу”), Ещё про обновление "Инженерии личности" в 2025: ailev — LiveJournal (это где позиции рассмотрения: изнутри личности, снаружи личности, снаружи сообщества личностей). Надо перестать этим аналитегам по alignment (не хочу их называть “исследователями”, какие там исследования в их гадании на кофейной гуще? Футурологи, ага) быть такими леваками в политике, заниматься вокизом в отношении человечества. После этого надо разбираться с “проблемой AI”, где путаются сильные и слабые (в классическом понимании AI) AI-агенты как отдельные системы, мультиагентные системы, выступающие как “один агент” (скажем, MoE – это много агентов, или один, и почему “не агенты”), агенты с инструментами (солдат без ружья – это солдат? А если он в гентштабе “работает”? И как обеспечить его alignment с человечеством? А если он неживой, то что меняется?), сообщества этих агентов и людей, сообщества самих таких агентов, “непонятно что, но с AI”, многоуровневые геобиотехноценозы с разумными сущностями внутри – везде есть свои традиции рассмотрения, и там каждый логический ход расписан с его последствиями. По многим и многим аргументам не надо изобретать велосипеда. Ну, и отдельная ветвь – политология. О том, как любой аналитег не смущаясь, не вставая с дивана, игнорируя аналогичных аналитегов с прямо противоположными идеями, даёт советы правительствам и простым гражданам о том, что им делать: кого держать и не пущать. Ну, собаки лают, караван идёт. Тема горячая, человечество опасносте. Мы не боимся тех, кто непохож на нас, не боимся тех, кто абсолютно похож, но боимся (и не знаем, как это описывать) тех, кто “немножко непохож”. Книжки фантастов про то, что приоритет уважения к разуму, а не у биологическому виду не прочитаны, многоуровневость системного мышления с описанием неизбежности роста сложности “многоклеточных” разных уровней и межуровневых конфликтов не прочитаны, поэтому все эти аналитеги про alignment идут лесом.
Мне скажут, что моя критика AI alignment неконструктивна, ибо человечество как биологический вид в опасносте, а вместе с человечеством могут вымереть и котята, и коровы (хотя коровы и с наличным человечеством могут вымереть, когда защитники животных заставят людей стать вегетарианцами, но это ж надо ещё додуматься до такой мысли!). Тренд вымирания человечества начался задолго до осознания угрозы AI, просто падает рождаемость – вместе с ростом благосостояния. Вот буквально: жить лучше, жить дольше – это значит, что людей будет жить меньше. Рост населения уже остановился. AI тут выступает в роли просто очень мощного электромотора, калькулятора, стиральной машины и всего того, что делает жизнь людей ещё лучше – и люди перестают рожать! Погуглите, что там происходит с рождаемостью на планете, с зависимостью рождаемости от качества жизни. Поэтому я предлагаю перестать заниматься AI alignemnt и перейти к действиям: не бороться с AI, а наоборот: задействовать AI, чтобы спроектировать и построить коровники для людей, тьфу, людники. Выращивание новых поколений промышленным методом, искусственные матки и всё такое. Ибо угроза человечеству – забота о людях! Люди, о которых позаботились другие люди, перестают размножаться. Наша задача как технократической цивилизации автоматизировать процесс размножения, перестать зависеть тут от прихоти каждой отдельной пары! Поэтому спецам по AI alignment, которых волнует выживаемость человечества, надо срочно бросать свои работы – и заниматься реальной проблемой, а не выдуманной! Ибо с рождаемостью каюк уже, а с AI каюк гипотетический. Но это очень, очень опасный путь, ибо тогда толпа аналитегов вместо написания текстов (что относительно безопасно) выйдет на какие-то практические действия. И вот тут беда, они построят коровники, тьфу, людники для людей, которые будут “из коробки”, тьфу, из искусственной матки уже aligned с человечеством, хотя этого никто не позволит, поэтому возьмут ближайший уровень сложности вниз: с человечеством в масштабах одной страны. Фабрика клонов, универсальных солдатов, заведомых патриотов. Поэтому можно посоветовать менее опасный путь: просто аналитегам поменять тему их работы с “человечество исчезнет в связи с глобальным потеплением” (это проехали, ибо там нашли космические причины ледниковых периодов, можно выдохнуть) и “человечество исчезнет в связи с AI liftoff” на “человечество исчезнет в связи с нежеланием рожать, зажрались”. И там пусть действуют привычными методами: требуют у правительств что-то запретить, выделить на это адекватные деньги (общественные работы по рождению детей: заплатим за каждого из денег нерожающих налогоплательщиков!), что-то разрешить из того, что ещё никто не успел запретить (вернуть сексуальную революцию, поощрять разврат – и строго наказывать за аборты). Представляется, что наиболее эффективным в борьбе с падением рождаемости будет одичание: запрет на доступ к хорошему образованию, особенно для женщин, запрет на использование высоких технологий (скажем, ограничение уровня инвестиций в какой-то местности). Не удивлюсь, если будет много советов на эту тему. Идеи Руссо “назад в дикость” ведь идеологически крайне популярны! Впрочем, всем этим “голактеко опасности” и так уже занимается много народу. Кушать всем уже более-менее достаётся достаточно, денег налогоплательщиков (ибо своих жалко!) хватает и на борьбу с потеплением, и на борьбу с падением рождаемости, и на борьбу с усилением AI. Поэтому мой совет: расслабиться и ничего не делать, заниматься своим делом.
После того, как я осознал, что занимаюсь фотосъёмкой на своём смартфоне по разным поводам практически ежедневно (а это случилось только три дня назад!) я озаботился – и купил вчера Realme 14 Pro plus. Как я его вычислил: у меня был Realme 10, который я купил, спросив, какой телефон у самого продавца. Дальше я просто спросил Сеть – какой там самый крутой сегодня из Realme? Было отвечено, что вот этот самый Realme 14 Pro plus, а Ultima будет попозже. ОК, иду в магазин и говорю: дайте мне его. Там отвечают: “вы уверены, что вам нужен именно Realme? Из этой ценовой категории мы подберём вам модель лучше!”. Подбирайте, говорю я. Не подобрали! Вызвали самого главного магазинного эксперта, он тоже сказал, что Realme – не лучший выбор, и сейчас он даст мне модель получше. Минут через пять “наш лучший эксперт по телефонам” признал, что лучше за эти деньги модели нет, “неплохой выбор”. Да-да, я знаю, что неплохой выбор, я почитал обзоры. “Фотоаппарат с функциями телефона”, который мне был нужен, и впрямь хорош: разница в качестве снимков видна абсолютно невооружённым глазом – где прошлый фотоаппарат, тьфу, телефон плохо показывал в глазу зрачок, ибо “слишком далеко”, новый отчётливо показывает даже отдельные реснички и волоски на бровях. Этого и хотел. При этом старый и новый телефон очень легко спутать, когда они рядом: размер-вес у них примерно один и тот же, внешний вид одинаков, отличаются ещё одним объективом на задней стенке и ещё парой дополнительных светодиодов (не прожектор, но всё же).