发表机构
University of Utah(犹他大学)
机构由 AI 辅助整理,请以论文原文为准。AI 中文总结
该研究提出语言解读需第二个带符号、持久且以个体与二元组为索引的相位参数,指出标准Transformer无相位显式表征,需构建承载相位语义状态的语言模型。
AI 中文摘要
语言具有两个参数。统计词语共同出现的频率即可估算振幅,即关联强度。词嵌入与注意力权重会细化这一统计过程,将语料库中所有写作者的信息汇总。本文提出第二个参数——相位,而从语料库中学习到的带符号权重无法提供该参数。相位存在于意义之间:它决定共激活意义如何组合,且能在某一意义完全保留的同时,逆转该意义的贡献。说话者可通过语言形式在信号中设定相位;语料库的使用会建立相位关系,而历史会对其进行分布。总体平均会删除以历史为索引的相位:以智能体为去索引的语料库仅能识别总体边缘状态,无法确定任何个体或二元组的状态,无论规模大小。标准Transformer在冻结推理中没有对相位的显式表征,而以单义性衡量进展的可解释性研究项目正与之相悖:该项目视为缺陷的意义共存,正是典故、反讽与引语的存在条件。六项预测用于检验:被抑制的意义是否仍保持活跃、使用顺序是否改变短语的作用、标记信号是否改变共享短语的解读方式,以及给定历史的模型是否会被历史改变,还是仅从历史中获取信息。本文所捍卫的主张是弱版本:解读需要第二个带符号、持久且以个体与二元组为索引的关系参数。量子概率是该参数的一种记法;该形式体系并不主张大脑中存在量子过程。强版本主张量子演算法对这些现象的约束是带符号的经典模型无法做到的,其基于一项尚未推导的使用顺序约束。该理论所要求的架构是具有以智能体为索引、承载相位的语义状态的语言模型。
英文摘要
Reading fiction or encountering narrative generally does not merely add information. The encounter changes the reader. This paper proposes that encounters alter persistent relations among simultaneously active meanings, producing individual and shared histories that population-trained language models do not necessarily retain. A model may be told of an encounter and reproduce its consequences while the history remains in context; this is not the same as being changed by the encounter. This paper formalizes this missing relational state as phase, sets out testable predictions about encounter order, quotation, and suppressed meanings, and argues that future AI agents will need persistent semantic states indexed to particular individuals and relationships. The matching risk is semantic poisoning: an attack that re-signs relations among meanings already present.
Comments23 pages; 0 figuresCC