ИИ-личность: новое исследование

Исследования
,
1

ИИ-агенты иследование
ИИ-агенты иследование1536×1024 262 KB

Вендоры ИИ отгружают всем одинаковых агентов: Claude, Kimi, Hermes, Codex. Их можно сравнить с новым ноутбуком из коробки: многое умеет сразу, но ещё не адаптирован под меня. В моей рабочей среде эти агенты за месяцы работы стали разными личностями, и я заметил, что мне всё труднее отвечать себе на простой вопрос: с кем именно я сейчас разговариваю?

Смотрите, как это выглядит у меня. Один и тот же Клод от Anthropic работает в четырёх местах: в редакторе кода на ноутбуке, на моём сервере, который трудится круглые сутки, в браузерном рабочем месте и в Telegram. Ядро одно, а поведение разное: у каждого своя память, свои правила, свой набор навыков и свой доступ к моей персональной информации. Рядом трудятся Кими, Гермес и Кодекс, у каждого тоже есть свои сильные и слабые стороны, своя накопленная история совместной работы. Это уже не инструмент, который берёшь с полки и кладёшь обратно. Это команда, в которой я пока единственный, кто не путается в участниках, да и то не всегда ))

Можно объяснить это еще через аналогию с авто. Два одинаковых автомобиля сходят с одного конвейера. Один год ездит в такси, другой у инструктора по вождению. Через год это две разные машины: разная память навигатора, разные настройки и доработки, разные потёртости и болячки, разные привычки хозяев, впечатанные в кресла и зеркала. Модель одна, а экземпляры разные, и опытный водитель это чувствует за первые пять минут. С ИИ-агентами происходит то же самое, только быстрее.

Отсюда главная мысль, с которой начинается новое исследование: личность ИИ-агента это не модель. Модель есть ядро, его делает лаборатория вендора, и оно у всех одинаковое. Личностью агента делает персональная информация, которая на этом ядре выросла. Недавно я писал, что у каждого человека есть четыре типа информации: универсальные знания, формализованные личные знания, рабочие записи и неформализуемый остаток. Так вот, у каждого моего агента есть ровно те же типы: правила и инструкции, которые я для него написал, память о нашей совместной работе, навыки, которые он накопил, и что-то трудноуловимое, что можно назвать «сработанностью». Два агента на одном ядре с разными наборами такой информации ведут себя как разные сотрудники. Значит, и относиться к ним стоит как к разным.

Мировая индустрия и наука уже движутся в эту сторону, просто с разных концов. Google придумал для агентов машиночитаемые визитки, Microsoft заводит агентам учётные записи в корпоративном каталоге, как обычным сотрудникам. Anthropic целенаправленно конструирует характер Клода и научился измерять дрейф характера прямо внутри модели. Исследователи из Оксфорда и MIT пишут: осмысленный идентификатор принадлежит экземпляру системы, а не модели вообще. А работы про долгие диалоги показывают неприятное: личность, заданная только промптом, без внешней памяти постепенно расплывается. То есть интуиция «личность = ядро + выросшая на нём информация» совпадает с тем, куда движется поле, но целостной практики «как жить с командой ИИ-личностей» я пока не нашёл.

Вот вопросы, которые я хочу разобрать в этой серии:

  1. Из чего состоит ИИ-личность. Где проходит граница между моделью, агентом, ролью и личностью. Что здесь онтология, а что удобная метафора.
  2. Кто есть кто. Перепись всех моих ИИ-личностей и паспорт каждой: имя, ядро, память, мастерство, каналы, полномочия. И отдельный вопрос: нужны ли им имена.
  3. Представление. Как в каждом канале сразу понимать, с кем говоришь. Сейчас я определяю это по косвенным признакам, как по почерку, и это неправильно.
  4. Непрерывность. Что переживает смену модели вендора и доступ к вычислениям. Вышло новое ядро, я обновился, но личность с её памятью и мастерством должна переехать без потерь. Как это устроить?
  5. Развитие ИИ-команды. Как растить личности осознанно: ревью работы, рост мастерства, профиль ошибок каждой и саморазвитие. И где граница: свежее полевое исследование BCG показывает, что отношение к агентам как к людям-сотрудникам ухудшает проверку их работы. Имена и паспорта да, а вот человеческие трудовые отношения, видимо, нет.

Зачем мне это практически. Во-первых, полномочия и безопасность: я обязан знать, у какой личности какие права и доступы к паролям, иначе рано или поздно не та личность сделает не то действие. Во-вторых, качество: исследования 2026 года показывают, что команда агентов эффективнее одиночки, но при этом сильнее отклоняется от намерений владельца, поэтому командой нельзя управлять вслепую. В-третьих, вложения: в каждую личность вложены месяцы совместной работы, и терять это при каждом обновлении модели непозволительно. В-четвёртых, независимость: я для себя уже решил, что интересы человека здесь выше интересов вендора, и если понадобится, должен суметь забрать личность вместе с её данными и уйти, а не остаться привязанным к чужой инфраструктуре. Ну и главное: я строю платформу, где персональный ИИ будет у каждого участника, а значит вопрос «кто есть кто в моей ИИ-команде» очень скоро станет бытовым для многих. Хочу прийти к этому моменту с проработанным ответом.

Таким образом, эта серия про умение видеть в своих ИИ-агентах не сменные инструменты, а выращиваемые личности, и управлять ими как командой. Следующий текст серии будет про состав ИИ-личности: из чего она собирается и что из этого главное. А пока простой тест: сколько ИИ-личностей уже живёт у вас? Если их не получается перечислить по именам, знакомство ещё впереди.

Главные исследования, на которые я обопрусь в серии:

Характер и персона:

Память и мастерство:

Команды агентов:

Идентичность: кто есть кто:

3 лайка