В самолёте из Москвы в Анталию я читал про solkattu как ритмическую систему южноиндийской музыки, более известную у нас как konnakol – только этот konnakol по факту концертное исполнение принципов solkattu. Tala там – это метр, который вводится жестами рук. А на обратном пути из Анталии в Москву на высоте 10 тысяч метров я читал общий обзор по ритмике, где упоминаются и разные другие ритмические системы. Например, The most important rhythm in nearly all flamenco music is the underlying metric pattern used, or compás as it is called in Spain, which is ofen played by hand clapping, and is always felt in an embodied manner by the musician or dancer, even when it is not sounded. These metric patterns play a similar role in flamenco music as timelines do in subSaharan African music, wazn in Arabic music, and talas in Indian music. Tala может быть 128 “счетов” длиной (то есть повторяющийся ритмический рисунок проходит через 128 точек возможных атак). Кстати, остинато в “Болеро” Равеля – это ритмический рисунок, укладывающийся в 32 счёта, так что более-менее длинные ритмы всем знакомы и в наших пенатах. Я всё жду, когда кто-нибудь из наших мастеров заинтересуется ритмикой всерьёз. Но, боюсь, быстрее я дождусь какого-то AI по этой линии, чтобы поговорить по душам. Пока же всё остаётся на уровне марта 2021 года, когда я писал “4D-системность: паттерны в пространстве и времени, формы и ритмы” (4D-системность: паттерны в пространстве и времени, формы и ритмы: ailev — LiveJournal), и даже ещё раньше, январь 2021, когда я писал про будущий курс “Системная ритмика в музыке и танцах”, О будущем курсе "Системная ритмика в музыке и танцах": ailev — LiveJournal. Там была куча ссылок и на работы по AI (ибо я ожидал и ожидаю основных прорывов в этом вопросе именно с этой стороны, AI-алгоритмы хорошо познают/learn паттерны, но ритмы – это паттерны во времени. Надо уметь об этом разговаривать).
Методы – это паттернирование деятельности. В переписке методологии думаю, не воткнуть ли туда обсуждение ритмики. С одной стороны, время и задействование ресурсов во времени – это работы, но с другой стороны алгоритмика (кек, алгоРИТМИКА как раз про паттернирование, это по Curry-Howard просто иной способ описания логики, другая сторона декларативного описания. Конструктивное описание – это ж про способы. Так что обсуждение ритмики в деятельности как таковой – это, конечно, должно быть в методологии, “рабочепроцессологии”.
Ещё хочу в методологию перенести теорию стратегирования из “Системного менеджмента”, ибо стратегирование – это ж выбор метода работы, когда метод неизвестен. А в системном менеджменте оставить орг-стратегирование (которое более чем похоже на личное стратегирование). Конечно, выработка policy – это всё про метод, достаточно почитать определения (Policy - Wikipedia ). В AI там тоже action это выбор действия/action (метода), чтобы получить какой-то выход/выхлоп, The agent’s action selection is modeled as a map called policy (Reinforcement learning - Wikipedia ) и дальше это упирается в разные теории решений (Рациональность в интеллект-стеке 2022: ailev — LiveJournal – но в “Интеллект-стеке” про это уже более структурированно и подробно, и обсуждать будем ещё вместе с проектированием курса “Рациональная работа”). Так что я не уверен, что текущий проход по “Методологии” будет чисто терминологической чисткой.
В Текирово (это деревня под Кемером, который под Анталией) я мало писал – с ноутбука писать как-то не с руки, а ещё там был ужасный интернет, “то быстро, то медленно, то вообще нет”. Так что я там сидел под мандариновым деревом, с любопытством смотрел на московский маябрь и отслеживал происходящие в мире презентации по AI. Все уже давно высказались, а мы пока не столько “высказались”, сколько “сделали”: теперь в нашем омнибоксе в Aisystant живёт GPT4o. Но всё-таки я выскажусь:
– ход от OpenAI радикальный. Да, GPT4o вовсе не круче GPT4 по многим и многим характеристикам. Она так же умна/глупа (стакан наполовину полон или наполовину пуст?). Радикальность в том, что 1. она имеет время отклика 0.3 секунды (при этом субъективное среднее время “мгновенности”, не вызывающего ощущения прерванного диалога – 0.2 секунды. Это означает, что для многих и многих людей ответы AI будут казаться мгновенными, режим реального диалога, “синхрон”). Как пользовательская фича это killer фича, об этом уже многие писали. Это даже не фича, это нормальная гигиена для всяких “ассистентов” и “копилотов”. Диалоги начинаются с примерно такого времени между вопросом-переспросом-уточнением-ответом. 2. Она вдвое дешевле для английского, но там ведь ещё и токенов потребуется в связи с новым токенизатором в 1.1 раза меньше, а для русского языка токенов потребуется в 1.7 раза меньше, так что для русского дешевле будет в 3.4 раза (https://openai.com/index/hello-gpt-4o/). Дальше надо понимать, что мы имеем дело с экспоненциальной технологией по Тони Себа, то есть там при экспоненциальном (разы в год) падении цены будет резкий рост числа экономически оправданных применений, резкий рост распространённости технологии. Вот это сильно поменяет мир: AI станет повсеместным/ubiquitous, а повсеместность – это инфраструктурность. Ход на инфраструктурность именно в этом: падение цены вдвое, а также предоставление ограниченного бесплатного (то есть оплаченного платными пользователями) доступа к AI.
– падение цены имеет огромное число следствий даже при том, что сама сетка осталась такой же умной/тупой без каких-то особых изменений. Текущий тренд тут – “сетка лучше сочиняет промпты, чем человек, правда это довольно дорогое удовольствие, ибо много проб и ошибок”. В какой-то момент падение цены будет достаточно сильным, чтобы сетка полностью вытеснила всех новоявленных “промпт инженеров”. Профессия закроется, едва открывшись, при текущих ценах, я думаю, уже к концу года. Но главное – становится коммерчески выгодным использование сетки для критики своих ответов, все эти варианты chain of thoughts (graph of thoughts, program of thoughts и т.д., имя этим подходам – миллион, сводятся к заданию сетке вопроса “а если подумать?” для каждого ответа, добавление критики к догадкам. Возможность много думать, выдвигая и критикуя догадки, драматически поднимает интеллект!).
– из OpenAI вытурили всю команду алармистов (ОК, они сами ушли “по несогласию с политикой компании”), которые говорили, что AI слишком быстро развивается и надо бы притормозить и выделить алармистам побольше ресурсов на исследования. Обсуждение этого вопроса идёт сейчас во всех лентах, например, в чате к Telegram: Contact @gonzo_ML с Telegram (и дальше несколько дней обсуждения). Мне в этом споре очень даже есть что сказать, но я не думаю, что это хоть кому-нибудь в дискуссии поможет. В любом случае, я как Айзек Айзимов: “Страшат ли меня компьютеры? Скорее, меня страшит их отсутствие”.
– всё это не должно заслонять многочисленные попытки преодолеть ограничения трансформерной архитектуры: SSM и xLSTM, а также KAN тут только начала больших историй. И, конечно, ходы типа extropic.ai с его “Ushering in the Thermodynamic Future”. Я это всё читаю через призму эволюционных многоуровневых (хардверные и софтверные уровни) оптимизаций, ведущих к неустроенностям (geometrical frustrations как в спиновых стёклах – речь идёт о поведении систем с памятью, неэргодических). Неустроенности – это когда есть множество очень близких примерно одинаковых локальных оптимумов, которые примерно одинаково далеки от глобального оптимума (типа как вы зашли в магазин телефонов и обнаружили там двадцать проводных телефонных аппаратов с примерно одинаковыми характеристиками у всех), но время от времени происходит эволюционный скачок – и локальных оптимумов будет так же много, но они будут чуть ближе к глобальному (пришли в магазин – а там сто моделей сотовых телефонов с примерно одинаковыми характеристиками). Вот с субстратом для AI примерно так же: множество почти одинаковых решений, но мне кажется, что эволюционный скачок будет если не в текущем году, то в следующем. Скачок – это когда можно будет цену одного умного ответа на какой-то класс вопросов уменьшить вдвое, а лучше бы – впятеро. Это означает, что для готовых заплатить текущую цену можно будет получить ответ впятеро умней, но кого устраивает текущий уровень умности сеток – те смогут заплатить впятеро меньше – и многие из них будут платить в первый раз, ибо раньше просто на такое не было денег, “слишком дорого”. Так что это всё только начало большой истории.
– смотреть надо ещё и на робототехнику. Вот это сейчас самое весёлое, карлик-антропоморф (вес 47кг или 35кг, тут данные расходятся, рост 127см, живёт на батарейках около 2 часов, бегает 2 метра в секунду) G1 от Unitree – https://www.youtube.com/watch?v=GzX1qOIO1bE. И тут то же рассуждение, что и про OpenAI: главное тут – цена, ожидается, что Unitree G1 Price from $16K (Tax and Shipping cost excluded), Unitree G1 - Humanoid agent AI avatar - Unitree, Flexibility beyond ordinary people, еxtra large joint movement angle space, 23~43 joint motors. Что тут самое главное? Вот эти самые шестнадцать тысяч долларов. Прототипы роботов (и чего угодно) создавать легко. Что нелегко – это создать массовое производство качественных дешёвых роботов (и любых других изделий). Как говорит Элон Маск, “ракету создать – это ерунда, а вот создать завод, который выпускает ракету каждые 72 часа – вот это сложно”. Не забываем, что в системном описании совокупная стоимость владения сейчас стала четвёртым обязательным аспектом описания системы. И жизненного цикла системы уже нет, ибо волнует не разовое его прохождение (это ж был “не жизненный не цикл”), а как раз цикличность выпуска новых и новых версий, “система как эволюционирующий вид, а не как экземпляр или даже промышленная серия”.
С удивлением выяснил, что довольно много людей не восхищено AI, а ровно наборот – испытывают экзистенциальный кризис, “AI меня заменит, что же я буду делать?!”. Врач говорит: “у меня девять лет обучения, чтобы стать врачом, потом 18 лет врачебной практики – а дальше железный робот будет делать то, что делает фельдшер, а очередная GPT будет делать то, что делаю я. А я, что я дальше буду делать, чем заниматься?”. Утешить тут нельзя, ибо я согласен, что значительная часть работы медиков уйдёт в компьютеры – и это счастье, потому как дешёвая медицина станет доступна тем, кому врача было вызывать дорого, и получат они услугу качеством часто даже лучше, чем от живого врача (как гордо сказал один разработчик мед-AI, “наша система ошибается очень часто, но всё-таки реже, чем живые врачи – поэтому её применение безопасней, чем применение живых врачей”. Ровно то же рассуждение, что с автомобилями без водителей: наезды были, есть и будут, но всё-таки с автопилотами аварий меньше, чем это происходит у живых водителей без автопилотов). В обществе обсуждают сейчас больше судьбу музыкантов и актёров (ибо там всё очевидно), но экзистенциальный кризис всей этой богемы мало кого волнует. Другое дело – медики. При этом пример программистов, которые становятся интерфейсом к своим “копилотам” мало кого волнует, их экзистенциальный кризис давно был описан Andrej Karpathy, его твит “Gradient descent can write code better than you. I’m sorry” был ещё в 2017 году (x.com). Интересно, что этот AI-экзистенциальный кризис у кого-то становится “кризисом среднего возраста”, а у кого-то “кризисом старшего возраста”, у кого-то вообще “кризисом молодого возраста”. Учиться чему-то становится глупо, ибо AI (в том числе и хардверный робот!) всё одно через пару-тройку лет станет круче. Что можно предложить для преодоления такого кризиса:
– не паниковать, уровень жизни не снизится, а повысится. То, что раньше было недоступно даже богачам, станет доступно даже беднякам. Ну, типа как сотовые телефоны раньше даже шпионы задорого не могли получить для своих миссий, а сейчас они есть вообще у всех даже в бедных странах.
– текущую работу придётся таки менять, а потом менять и следующую работу, и так далее. Каждый раз надо будет как-то подучиваться и втыкаться в какие-то совсем новые дела. Ну, это типа как перестройка в СССР, когда огромное число людей вдруг поняло, что заняты чем-то не своим и резко поменяли профессии. А это такая перестройка в масштабах мира, причём она будет вечной. Было трудно, но вроде никто не помер – хотя “кто был никем, тот стал всем, и наоборот”. Главное тут – чтобы государство не влезло со своим регулированием, свободный рынок всегда спасёт. Рынок нужен только для того, чтобы передавать информацию о потребном труде. Если рынка нет, то информация эта передаваться не будет, и можно будет тихо загнуться. Конечно, ещё нужно иметь стабильные деньги для рынка, но это всё равно не тот вопрос, которым будут заниматься люди, попавшие под раздачу. Им бы выжить и процветать, а не заниматься переустройством государства. Но хорошо бы им знать, откуда ждать подвоха. А подвох точно будет (типа как во время ковида улицы хлоркой поливали, так во время AI-перестройки что-то похожее по безумности будут делать, “чтобы показать людям серьёзность намерений правительства”), так что надо быть начеку.
– чтобы иметь возможность легко перестраиваться с одной деятельности/занятости на другую (с работы по одним методам, которым учились полжизни на работы по другим методам, которые вообще мало кому известны, ибо появились вот-вот), надо подучиться. Чему? Тому, чтобы стать умнее: получить хорошее фундаментальное образование, с которым не пропадёшь. В этом и есть секрет: надо сделать так, чтобы было привычно рассуждать о разделении труда (тот самый вопрос, “как делится работа на Земле между занятыми в разных ролях”, а виды труда – это ж методы, то есть надо подкачаться в методологии), о мышлении (а как иначе делить мышление между AI и людьми, если неизвестно, что это такое?!), о менеджменте (ибо придётся менять рабочие коллективы, как перчатки – и хорошо бы понимать, как вообще устроена коллективная работа, а это предмет менеджмента), а также научиться разговаривать и писать чуть менее поэтично и харизматично (харизма у нас будет у AI, который будет разговаривать выразительней, чем народные артисты и шутить не хуже стендаперов), но зато более точно, чтобы не терять время на переделку из-за ошибок в договорённостях для той работы, которая всё-таки перепадёт. То есть надо бы получить “подготовку к жизни” заново, хотя речь идёт о совсем других предметах, чем “подготовка к жизни” в официальных школах или даже вузах. Это примерно год по паре часов в день – причём через год ситуация “перестройки” уже будет достаточно очевидной, чтобы вместо переживания кризиса использовать свои новые навыки адаптации к новому. Адаптации к новому и надо учиться, у нас для этого сейчас как раз курсы и разрабатываются. Так что ШСМ – это Школа преодоления AI-экзистенциального кризиса, школа выживания в условиях AI-перестройки.
Я бы ещё много всего тут писал, но пока прервусь, а в качестве картинки – фото меня в Турции, сделано пять дней назад:
UPDATE: обсуждение в FreeFeed, Lytdybr -- от 16 мая 2024, в чате блога с Telegram: Contact @ailev_blog_discussion