итак …
поехали
когда мы хотим разобраться в том как устроен процесс толкования описания в самом общем виде, то что нам делать и как про это думать? ранее мы уже затрагивали вопросы того как толкуются простые знаки - короткие фразы, слова, группы слов которые произносятся или записываются на натуральном языке. тот язык на котором мы ежедневно коммуницируем с окружающими. даже затронули сценарии когда нам надо разобрать фразу на родном языке, с выражениями которые ранее нам не попадались и их смысл и значение с ходу не определить.
к нам попалась информация. фрагмент информации. на первый взгляд она похожа на знак. так же она похожа на модель описывающую некоторую ситуацию. оба предположения выглядят правдоподобно. как их различить и отвергнуть ту версию которая ложная. какие у нас есть варианты действий и ходы для того чтобы истолковать данный фрагмент информации?
агенты мыслят и принимают решения с использованием моделей. эти же (или такие же) модели управляют всем физическими действиями которые агент совершает в физическом мире с физическими объектами. те агент деятельно меняет окружающий мир. эти модели, так же придуманы и созданы самим агентом.
в таком случае то описание которое попадает в руки агента должны быть как-то загружено в голову агента в его текущей моделью мира которая выполняется прямо моменте. и полученная модель должна быть каким-то образом развернута интерпретирована и как-то состыковаться с моделью мира агента. в результате такого действия агент может получить на выходе несколько исходов: новая модель может быть сопоставлена с существующей моделью в голове агента. а может такая модель повлиять на текущую модель мира агента и даже оказать не нее влияние. что в свою очередь может оказать влияние на поведение агента в мире.
интерпретатор - машинка которая берет знаки из одной системы или языка и преобразует их в знаки другого языка или системы. но более важная способность этой машинки - интерпретатора - способность таким же образом преобразовывать описания и модели. вот такую сущность мы введем в оборот для удобства.
интерпретатор реализует операцию интерпретации.
операция интерпретации выполняется агентом для того чтобы преобразовать модель к виду который удобен агенту чтобы можно было далее эту модель удобно толковать.
вот набор вариантов объясняющих примеров как может в жизни выглядеть операция интерпретации:
- описание вычисления с естественного языка мы описываем на языке программирования который может быть интерпретирован компьютером (одной из программ исполняемой компьютером).
- мы переводим текст написанный на одном естественном языке на другой естественный язык.
- для того чтобы разным агентам в разное время было удобно понимать друг друга при чтении диаграммы разрабатываются описания нотаций в форме стандартов и соглашения о моделировании.
таким образом на этом этапе можно сделать вывод что толкование агентом описания (это отношение которое возникает между описанием и агентом) реализуется через интерпретацию этого самого описания агентом (суть этой операции заключается в переводе знаков описания из одной системы знаков в другую систему знаков).
когда люди работают с описанием на естественном языке, то оно в процессе интерпретации переводится в распределенную систему внутренних представлений агента об идеях и объектах из описания. можно сказать что в этих операциях происходит процесс формирования новой коннекционисткой модели на основании символьной модели или эта коннекционисткая модель модифицируется новыми представлениями агента об идеях и объектах из описания. такая внутренняя работа с коннекционистской моделью является пониманием мозгом текста или речи.
если есть перевод в одном направлении - описание → распределенные представления, то есть и обратное преобразование из распределенных представлений → описание (текст или речь).
это преобразование выполняется из нейросети в текст или речь. тут так же выполняются операции интерпретации и преобразования между разными представлениями символов.
что важно отметить, так это то, что интерпретации завязанные на распределенные представления не такие же как интерпретаций и преобразования текстовых символов и графических символов в другие символы.
все что описано про мозг и распределенные представления также справедливо и для LLM-ок.
ИИ работает над установлением закономерностей в символах или образах. она так же во время своей работы использует механизмы извлечения неявных знаний и механизмы обучения.
такие дела
спасибо за внимание.
время мышления письмом: ( 30 + 37 ) минут