Понимание треугольника Фреге и референции
Теоретически тема понятна: необходимо понимать треугольник Фреге и при коммуникации отслеживать контекст, знаки, объекты, на которые ссылаются знаки, и идеи, которые знаки представляют. Нужно понимать, какие идеи необходимо донести до адресата, на какие объекты сослаться и какие знаки для этого выбрать.
Для письменной и заранее подготовленной устной коммуникации более или менее понятно, что и как делать. Однако для спонтанной устной коммуникации непонятно, как это делать. Было бы полезно увидеть какие-то упражнения для тренировки способности отслеживать контекст, оставаться в роли, успевать подумать и сделать референцию в реальном времени устной коммуникации.
Значимость идей для собеседника
Не раскрыт вопрос как определять значимость идей для собеседника. Если в процессе коммуникации для референции будут выбираться незначимые для собеседника идеи и/или объекты, то даже если собеседник проведет референцию именно так, как и предполагалось, в итоге получится провал коммуникации. Эти идеи не приведут к тому, чтобы собеседник принял мою объяснительную теорию.
Здесь уже выход в этику, вероятно будет далее рассматриваться в курсе или в других курсах.
Исследование о переубеждающей способности LLM
В связи с этим представляет интерес недавняя работа On the Conversational Persuasiveness of Large Language Models: A Randomized Controlled Trial, в которой показана способность LLM переубеждать человека. Причем эта способность резко возрастает, если модель получает персональные данные собеседника:
We found that participants who debated GPT-4 with access to their personal information had 81.7% (p < 0.01; N=820 unique participants) higher odds of increased agreement with their opponents compared to participants who debated humans. Without personalization, GPT-4 still outperforms humans, but the effect is lower and statistically non-significant (p=0.31).
Можно предположить, что модель с помощью персональной информации гораздо точнее классифицирует семантическое поле человека и строит более действенную референцию в коммуникации.
Дальнейшие направления мысли
Здесь возникают дальнейшие возможные направления ходов мысли на дальнейшее обдумывание:
- Как научиться подобному явным образом?
- В общем случае модель всегда превзойдет человека?
- Экзокортекс в виде подобных моделей для подбора референций при коммуникации с кем-то.
- Экзокортекс в виде подобных моделей для противодействия подбора референций при коммуникации со мной.
- Некое подобие личной/общественной иммунной системы против вредоносных мемов.
В интересное время живем.