Scaling Laws for Code: Every Programming Language Matters
代码的缩放定律:每种编程语言都至关重要
机构 * Beihang University(北京航空航天大学) ; Ubiquant
AI总结 本文首次系统研究了多语言代码预训练的缩放定律,通过大规模实验揭示不同编程语言在模型大小和数据量上的差异影响,并提出比例依赖的多语言缩放定律以优化训练资源分配。
高校专区
代码的缩放定律:每种编程语言都至关重要
机构 * Beihang University(北京航空航天大学) ; Ubiquant
AI总结 本文首次系统研究了多语言代码预训练的缩放定律,通过大规模实验揭示不同编程语言在模型大小和数据量上的差异影响,并提出比例依赖的多语言缩放定律以优化训练资源分配。
AIR:通过注意力头影响进行推理的后训练数据选择
机构 * Beihang University(北洋大学) ; Independent Researcher(独立研究者)
AI总结 AIR通过注意力头影响机制,提升大语言模型推理能力的后训练数据选择效率。
Comments 19 pages
Pet-Bench: 评估大型语言模型作为社交网络服务中电子宠物的能力基准
机构 * Fudan University(复旦大学) ; Xiaohongshu Inc.(小红书公司) ; Beihang University(北航) ; Zhejiang University(浙江大学) ; Singapore University of Technology and Design(新加坡科技设计大学)
AI总结 Pet-Bench是一个评估大型语言模型作为电子宠物在社交网络服务中能力的基准测试,通过多样化的任务和7500多个互动实例,评估模型在自我进化和人际互动方面的表现,揭示模型大小和能力对性能的影响,推动情感沉浸式人-宠物互动的发展。
GCoDE: 通过架构映射联合搜索实现高效的设备-边缘协同推理
机构 * School of Software, Beihang University(北京航空航天大学软件学院) ; School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院) ; Qingdao Research Institute, Beihang University(北京航空航天大学青岛研究院) ; School of Computer Science and Engineering, Peking University(北京大学计算机科学与工程学院) ; School of Integrated Circuits and Engineering, Beihang University(北京航空航天大学集成电路与工程学院)
AI总结 GCoDE通过架构映射联合搜索实现高效的设备-边缘协同推理,提升GNN推理效率与能耗表现。
Comments accepted by IEEE Transactions on Computers
通过可变形时频变换器方法进行机场乘客流量预测
机构 * School of Electronic and Information Engineering and State Key Laboratory of CNS/ATM, Beihang University(电子信息工程学院和 CNS/ATM 国家重点实验室,北京航空航天大学) ; Department of Information and Technology, Beijing Capital International Airport Co., Ltd.(信息与技术部,北京首都国际机场有限公司) ; College of Information and Electrical Engineering, China Agricultural University(信息与电气工程学院,中国农业大学) ; State Key Laboratory of Multimodal Artificial Intelligence Systems, Institute of Automation, Chinese Academy of Sciences(多模态人工智能系统国家重点实验室,中国科学院自动化研究所) ; School of Artificial Intelligence, University of the Chinese Academy of Sciences(人工智能学院,中国科学院大学)
AI总结 本文提出DTSFormer模型,通过可变形时频变换器方法提升机场乘客流量预测精度,有效捕捉异质趋势和周期性波动。
Comments 14 pages, 10 figures
Journal ref IEEE Transactions on Intelligent Transportation Systems 2026