What is Wrong with Perplexity for Long-context Language Modeling?
机构 * State Key Lab of General Artificial Intelligence, School of Intelligence Science and Technology, Peking University(一般人工智能国家重点实验室,智能科学与技术学院,北京大学) ; MIT CSAIL(麻省理工学院计算机科学与人工智能实验室) ; Alibaba Group(阿里巴巴集团) ; TUM CIT, MCML, MDSI(技术大学(TUM) CIT、MCML、MDSI) ; MIT EECS, CSAIL(麻省理工学院电子工程与计算机科学系,计算机科学与人工智能实验室) ; Institute for Artificial Intelligence, Peking University(人工智能研究院,北京大学)
专题命中 长上下文与记忆 :language model(title,abstract);large language model(abstract);分类 cs.CL、cs.LG