Accumulating Context Changes the Beliefs of Language Models
专题命中 长上下文与记忆 :language model(title,abstract);分类 cs.CL、cs.AI
AI 大模型
大语言模型、预训练、指令微调、后训练和语言模型应用。
专题命中 长上下文与记忆 :language model(title,abstract);分类 cs.CL、cs.AI
机构 * Dept. of Computer Engineering(计算机工程系) ; SIES Graduate School of Technology(SIES技术研究生学院) ; Bharatiya Vidya Bhavan's Sardar Patel Institute of Technology(巴哈里亚·维达·巴万学院萨达尔·帕特尔技术学院)
专题命中 长上下文与记忆 :large language model(abstract);language model(abstract);分类 cs.LG
机构 * Quantinuum Cambridge, UK(Quantinuum剑桥)
专题命中 长上下文与记忆 :language model(abstract);分类 cs.CL、cs.AI、cs.LG
Comments Clarified expectation-value-based readouts and made minor text edits
机构 * Department of Electronic Engineering, Tsinghua University(清华大学电子工程系) ; School of Computer Science, Beijing University of Posts and Telecommunications(北京邮电大学计算机学院) ; College of Computer Science and Technology, Xinjiang University(新疆大学计算机科学与技术学院)
专题命中 长上下文与记忆 :language model(abstract);分类 cs.AI
机构 * Drexel University(德雷塞尔大学) ; Dataminr
专题命中 长上下文与记忆 :pretraining(abstract);分类 cs.AI