Чем больше работаешь рядом с языковыми моделями, тем настойчивее всплывают старые вопросы: что такое знание, понимание, мысль. Хочу разобрать их аккуратно, но не как противопоставление “живого” и “цифрового”, а через рамку: человек и ИИ как связка, у которой есть удачные и неудачные режимы работы.
- Интеллект — это мастерство, а не телесность
Сначала разберёмся, что такое интеллект. Распространённым ходом считается, что настоящее понимание “укоренено в теле”: слово “дерево” у человека стоит на айсберге опыта (царапающая кора, запах леса, страх упасть), а у модели — на других словах. Звучит красиво, но это скорее редукция.
Интеллект — это мыслительное мастерство, способность находить решения для проблем, которые раньше не встречались. Интеллект буквально переводит проблемы в задачи. Реализуется он обобщённым вычислителем: мозг + тело + экзокортекс (компьютер, программы, инструменты) в составе экзотела. Тело — один из носителей, а не источник смысла. Эйнштейн представлял луч света не потому, что у него была “телесная подложка”, а потому что у него была развитая трансдисциплина — физика плюс математика — и навык работы с моделями.
Иначе пришлось бы признать, что слепой от рождения математик понимает геометрию хуже зрячего, а это не так. И что человек, читающий о Марсе, понимает Марс хуже того, кто там не был, — но там никто не был. Из этого следует первый вывод: вопрос “может ли ИИ понимать без тела?” поставлен неверно. Правильный вопрос: что за вычислитель здесь работает и из чего он собран.
- “Шкура на кону” — про ответственность, а не про истинность.
Талебовское skin in the game — это мощная идея, но её часто кладут не туда. Цена ошибки калибрует поведение агента, а не истинность модели мира. Закон Ома не становится истиннее оттого, что меня может ударить током. Общая теория относительности проверилась затмением 1919 года не потому, что Эддингтон рисковал репутацией, а потому что теория сделала фальсифицируемое предсказание, и оно сбылось.
Здесь живут два разных вопроса, которые легко перепутать:
— эпистемологический — как отличить знание от мнения; ответ: научный метод, проверка предсказаниями, фальсифицируемость.
— мотивационный — почему агент действует осторожно; ответ: ставка, последствия, ответственность.
У ИИ нет шкуры на кону, и это означает, что ему нельзя поручать роль агента с ответственностью без человеческой контрольной точки, которая по дефолту включает ответственность. Это не означает, что выводы ИИ по построению хуже человеческого. Это разные утверждения.
- Главная единица анализа — это связка человек+ИИ, а не “ИИ сам по себе”.
Тут ключевой сдвиг рамки. Спор “что может ИИ без человека и что может человек без ИИ” — стерильный. Никто из них в практической жизни так не существует. Единица анализа — человек + экзотело, и ИИ в этой рамке не альтернативный субъект, а слой экзокортекса.
Вопрос “может ли блокнот помнить?” бессмысленный: помнит человек, использующий блокнот, и помнит лучше, чем без него. Точно так же бессмысленно спрашивать, “удивляется” ли ИИ. Удивляется человек, работающий с ИИ, — и в правильном режиме удивляется больше, чем без него, потому что модель быстро показывает несоответствия между ожиданиями и данными. Поэтому осмысленный вопрос — не про ИИ, а про режим связки.
- Два режима: экзоскелет и протез.
Для меня важно такое рабочее различение, без которого дальше ничего не получится. «Протез» заменяет функцию. Вход: “что мне делать?”, а выход: готовый ответ. Человек принимает или отклоняет. Задача решена, человек ничему не научился, при следующей такой же задаче снова идёт к ИИ. Навык видеть варианты постепенно атрофируется.
«Экзоскелет» усиливает функцию. Вход: “вот что я думаю по этому поводу”, а выход: дополнение, возражение, недостающий контекст. Человек думает сам, ИИ нагружает его мышление, хотя и забирает рутину, а не разгружает его полностью. Проблема решена, и человек вышел из взаимодействия компетентнее.
Тест простой: может ли пользователь объяснить и защитить полученный результат, не ссылаясь на “ИИ подсказал”? Если нет — это был протез. Если да — экзоскелет. Это различение операционально, а не риторично. Им можно пользоваться завтра.
- Откуда берётся новое знание в этой рамке.
Распространённый тезис: ИИ знает только то, что уже было сформулировано, а новое знание рождается из встречи с миром, поэтому ИИ принципиально упирается в потолок текстов. Мне представляется, что половина этого тезиса верная, а вторая половина — нет.
Верно, что петля “гипотеза → проверка в реальности → удивление от несоответствия → новая гипотеза” замкнута только через мир. Тексты её не замыкают. Но в этой петле ИИ будет мощным участником, а не наблюдателем. Модель ускоряет генерацию гипотез, помогает строить предсказания, замечает противоречия в данных, переводит результаты эксперимента в обновление модели. На входе и на выходе по-прежнему стоит человек со своими экспериментами, но скорость прохождения петли растёт на порядок. Это и есть смысл фразы “ИИ — экзоскелет интеллекта”: петля та же, но связка проходит её быстрее, чем человек в одиночку.
- Почему модель иногда выдаёт “среднее по корпусу знаний” — и что с этим делать.
Часто говорят: LLM обучена предсказывать следующее слово на корпусе человеческих текстов, поэтому её естественный режим — это среднее мнение, и на фронтире она слабеет.
Это правда, но но это свойство плохо настроенного взаимодействия, а не дефолтное свойство модели. Среднее по корпусу проявляется ровно тогда, когда пользователь не дал контекста: ни своей онтологии, ни своих критериев, ни своего материала. В этой ситуации модели остаётся только усреднять.
Лекарство — не “не пользоваться ИИ для серьёзных вещей”, а строить контекст и формализовывать опыт: своя структура понятий, свои рабочие документы, свои примеры, своя позиция, заявленная до запроса. Тогда модель работает не по своему среднему, а по вашему контексту. Это требует отдельной работы по развитию своего ИИ-инструмента (ИИ-рабочая среда), но это та же работа, которую серьёзный человек делает в любом случае: формулирует, структурирует, ведёт записи или даже обучает подчиненных. Только в этом случае накопительный эффект происходит намного быстрее и довольно скоро ваша ИИ-рабочая среда знает в деталях ваши проекты и ваше окружение намного лучше вас.
- Что остаётся за человеком.
Не “удивление, риск, чувство, поступок” — это слишком общо и романтично. За человеком в связке остаются, как минимум, три конкретные функции, которые ИИ выполнить не может в принципе.
— Постановка или выбор проблемы. Решить, на что обращать внимание и что вообще стоит делать (выделяя ресурсы), — это акт агентности, опирающийся на неудовлетворённость, ценности и контекст жизни. ИИ может помочь сформулировать задачу, но не может её поставить себе.
— Принятие ответственности. За результат отвечает тот, кто несёт последствия. У человека есть тело, репутация, время жизни, отношения; у модели нет ничего из этого. Ответственность не делегируется по определению.
— Контрольная точка (human gate). В стратегических решениях или там, где мышление пользователя является частью результата, нужна точка, в которой человек смотрит на предложение модели и решает: принять, скорректировать, отвергнуть. Без этой точки экзоскелет схлопывается в протез.
Всё остальное — поиск, обзор, рутина, оформление, проверка ссылок, генерация альтернатив — можно и нужно делегировать. Это не предательство мышления, а его правильное распределение по носителям.
Сухой остаток.
Интеллект — это мастерство, реализуемое связкой “мозг + тело + экзокортекс”. Тело здесь носитель, а не источник смысла.
“Шкура на кону” — критерий ответственности агента, а не истинности знания. Эти вопросы не надо смешивать.
Главная единица анализа — связка человек+ИИ, а не каждый по отдельности. Вопрос “что может ИИ без человека” пустой.
Связка работает в одном из двух режимов: экзоскелет (человек становится компетентнее) или протез (атрофируется). Тест: можешь ли ты защитить результат, не ссылаясь на “ИИ подсказал”.
Среднее по корпусу не свойство плохо настроенного взаимодействия, а не модели. Лекарство здесь такое: строить контекст, а не отказываться от инструмента.
За человеком остаются три функции, не делегируемые@ по определению: выявление проблемы, ответственность за результат и контрольная точка в стратегических решениях.
ИИ не отменяет человека, он переопределяет, где человек заканчивается, а где начинается его экзокортекс. Граница теперь проходит не по черепу, а по тому, где у проблемы или задачи нужен human gate.
Жить, рисковать, ошибаться, чувствовать и нести ответственность — да, по-прежнему за человеком. Но не потому, что ИИ “не настоящий”, а потому, что это и есть собственно человеческая часть связки. Остальное — инструмент, и его надо использовать в полную силу.