"Интеллект-стек" в числе первых подразделов опубликован, и уже загружен в качестве материала для ответов нашего пока туповатого, но уже как-то разговаривающего чат интерфейса Aisystant, https://chat.aisystant.com/. Отношение к этому боту (он у нас на базе GPT-4) пока полоцательное: добра от него вроде как чуть больше, чем зла, но зло тоже немаленькое, ибо регулярно врёт-не-краснеет. Так что ждём там GPT-5 для поумнения, а пока терпим ботовое враньё. Но иногда бот не врёт, а ещё он даёт ссылки, и можно всегда проверить (хотя никто не проверяет, и вся ахинея сходит боту с рук, или ног, или с мозга, чёрт побери, у него ничего из этого нет!). Дальше "Интеллект-стек" будет публиковаться по мере готовности подразделов. Следующим завтра-послезавтра будет подраздел "Онтология". Дальше перерыв: я с четверга вечера еду в Бекасово на рабочую встречу по системной инженерии, а в воскресенье у меня шестой день 26 потока "Системного менеджмента и стратегирования". В понедельник стартую "Алгоритмику". Как я и ожидал, большого интереса эта публикация не вызвала, поглядели её 23 человека в первый день и 11 человек во второй день. Но это текст для нашей "аспирантуры", поэтому я не ожидаю массовости.
В чате блога никак не могу потушить трёп (ибо действий и принятых решений из этого обсуждения будет нуль, значит трёп) по поводу alignment. Желающих стать AI-эсхатологами не убавляется (их, думаю, примерно столько же, сколько становилось эпидемиологами и политологами: всегда есть желающие потрепаться на популярную тему). Я считаю, что в разделении труда у меня есть моя маленькая роль, и заботиться о безопасности AI (особенно путём запрета исследований сверхбольших нейросеток) надо точно не мне. Я на это повлиять никак не могу, у меня нет никакого доступа к нужным ресурсам. Кто хочет позаниматься координацией исследований в AI, тому и карты в руки. Только не просто мониторить написанное другими людьми, или писать какую-то свою художественную литературу, но выходить в организационный план, в действия, что-то реально делать. Так сказать, шкура на кону. А пока все вопросы об alignment считаю small talk, светскими беседами, примерно такими же, как разговоры про большую политику (типа "почему государственная измена -- это всегда когда ты изменяешь государству, а случай, когда государство изменяет тебе, не рассматривается", вот примерно так же можно обсуждать alignment, безо всякого влияния на ситуацию, "вроде как озабочены политикой и/или alignment", гуглим "пикейные жилеты"). Я пока дописываю "Интеллект-стек", и стараюсь на всё это не отвлекаться. Ехидно замечу, что читать мои тексты вполне могут и люди, но даже могут и не люди, а те самые AI (как минимум, наш Aisystant все мои тексты уже прочёл), и это моя роль в мировом разделении труда на ближайший месяц. На дела, влияние на которые у меня маленькое, я в лобовую атаку не иду, проблемой alignment не занимаюсь. "У нас с банком соглашение: я не выдаю кредиты, а банк не торгует семечками". План спасения человечества от разных напастей простой: я усиливаю интеллект своих выпускников, а уже они (их предполагается много! вместе они точно умней меня!) решают самые разные проблемы, в том числе делают сильный AI (меня страшит не AI, а его отсутствие -- так же, как Айзека Азимова страшили не компьютеры, а их отсутствие). Когда AI становится умнее, то он решает ещё больше проблем, включая проблемы мира во всём мире (хотя при взгляде на эволюцию можно чесать затылок, задумываясь, достижимо ли это), проблемы биологического бессмертия (вот тут вроде как достижимо) и т.д. Впахивать надо, а не цепенеть-бояться или трындеть за астероидную опасность и сценарий СкайНета.
Пока же есть очень милое исследование "Generative Agents: Interactive Simulacra of Human Behavior", https://arxiv.org/abs/2304.03442, показывающее в очередной раз, что самые опасные существа на Земле -- это люди (особенно люди, которые участвуют в разных механических турках и толоках). Взяли 25 агентов на базе LLM, добавили к ним память и рефлексию, и посадили жить в The Sims. Авторы пишут, художники рисуют, все готовят себе завтрак и кофе -- и поведение, которое они демонстрируют, признаётся более человеческим, чем поведение настоящих людей, играющих за агентов в этом мире.
Анекдот дня (https://t.me/lovedeathtransformers/5775):
Давно не постил своих танцевальных фото. Фотка меня, танцующего неделю назад ламбазук на весеннем фестивале Q-Fest в Подмосковье.Удалил госуслуги. Думаешь, что будешь счастлив. @ Сказали что будет рассылка через вк, ведь все давно знают кто с какого акка и фейка сидит. @ Удаляешь вк @ Начинает вибрировать Спутник V в левой руке
Оригинал поста в https://ailev.livejournal.com/1680927.html