arXivDaily arXiv每日学术速递 周一至周五更新

AI 大模型

语言大模型 / LLM

大语言模型、预训练、指令微调、后训练和语言模型应用。

共收录 2014 信号源:cs.CL, cs.AI, cs.LG

1. 效率与部署 2014 篇

2607.20860 2026-07-24 cs.CR 新提交 78%

Which Model Is Actually Serving You? IRIS: Budgeted Black-Box Auditing of Model Substitution and Routing Dilution in LLM Gateways

哪个模型真正在为你服务?IRIS:大语言模型网关中模型替换和路由稀释的预算黑盒审计

Yuewei Zhang, Zhi-Hai Zhang, Hanzhang Qin

专题命中 效率与部署 :LLM(title,abstract)

AI总结 研究大语言模型网关中模型替换和路由稀释问题,提出IRIS审计方法,仅需返回文本,能结合多种检测与估计,通过实验验证其在不同场景下的有效性,相比其他审计方法有优势,还进行了多方面拓展实验。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.17208 2026-07-21 cs.CV 新提交 78%

Induce to Empower: Improving Lightweight Baselines via Foundation Model Induction for Generalized Polyp Segmentation

诱导赋能:通过基础模型归纳改进轻量级基线以实现广义息肉分割

Shivanshu Agnihotri, Snehashis Majhi, Deepak Ranjan Nayak, Dwarikanath Mahapatra, Debesh Jha

机构 * Malaviya National Institute of Technology Jaipur(斋浦尔马尔维亚国家技术学院) Côte d’Azur University(蔚蓝海岸大学) Khalifa University(哈里发大学) Biomedical Perception & Intelligence Lab, University of South Dakota(南达科他大学的生物医学感知与智能实验室)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 针对结肠镜息肉分割难题,提出Lite-Polyp Inductor框架,通过基础模型归纳生成特定原型表示并语义对齐,引入Transformer融合突出相关表示,显著改进轻量级基线,以低计算开销实现卓越泛化性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.16892 2026-07-21 cs.NI 新提交 78%

Robust KV Cache Management for LLM Serving under Output Token Length Uncertainty

输出令牌长度不确定情况下用于大语言模型服务的鲁棒键值缓存管理

Jiaming Cheng, Duong The Do, Duong Tung Nguyen

专题命中 效率与部署 :LLM(title,abstract)

AI总结 针对大语言模型服务中键值缓存管理难题,提出鲁棒框架,联合优化多项配置,纳入延迟SLO约束。开发DRO公式及算法应对输出令牌长度不确定等问题,分析出关键分位数结构,经评估比基线成本降56%,保持相关性能。

Comments 10 figures, 10 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15640 2026-07-20 stat.AP 新提交 78%

LLM Latent Edge Measurement: Point-in-Time Economic Graphs for Quantitative Investing from Corporate Disclosures

大语言模型潜在边缘测量:基于公司披露的定量投资实时经济图谱

Fan Yang, Lin Zhang

专题命中 效率与部署 :LLM(title,abstract)

AI总结 研究从公司披露文本构建公司网络,提出基于大语言模型的流程,应用于纳斯达克100指数成份股公司文件,生成含149条边的网络,经审计确认部分边有效,恢复跨行业关系,消融研究表明相关方法对网络质量有贡献。

Comments 9 pages, 4 figures and 4 tables

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.15556 2026-07-20 cs.CV 新提交 78%

When Can Test-Time Adaptation Help Zero-Shot CT Vision-Language Models?

测试时自适应何时能帮助零样本CT视觉语言模型?

Ailar Mahdizadeh, Puria Azadi Moghadam, Xiangteng He, Leonid Sigal

机构 * University of British Columbia(英属哥伦比亚大学) Vector Institute(向量研究所)

专题命中 效率与部署 :language model(title,abstract)

AI总结 研究零样本3D CT视觉语言模型中测试时自适应(TTA)的作用,通过控制诊断分析表明其具有条件性,引入CARVE方法,在基础模型有判别力时能带来一致改进,确立多标签TTA问题及CARVE为基数感知解决方案。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.14539 2026-07-17 cs.RO 新提交 78%

Communication-Efficient Relative Pose Estimation with Vision Foundation Models for Ephemeral Collaborative Perception

用于短暂协作感知的基于视觉基础模型的通信高效相对位姿估计

Qihang Li, Jo-Hao Huang, Jiewen Liu, Suyoung Kang, Hao Zhang, Peng Gao

机构 * North Carolina State University(北卡罗来纳州立大学) University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 针对现实中机器人短交互窗口及有限通信带宽下的相对位姿估计难题,提出通信高效相对位姿估计框架CERPE,利用固定大小描述符减少原始观测交换,通过自身运动传播相对位姿,提升了短暂协作感知中的6自由度相对位姿估计。

Comments 8 pages, 6 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.13649 2026-07-16 cs.AR 新提交 78%

CIMERA: Compute-in-Interconnect and Memory with Reconfigurable Precision for LLM Inference

CIMERA:用于大语言模型推理的具有可重构精度的互连和内存计算

Yue Jiet Chong, Yimin Wang, Wei Zhang, Xuanyao Fong

专题命中 效率与部署 :LLM(title,abstract)

AI总结 针对大语言模型推理能耗高的问题,提出CIMERA可重构精度推理加速器,集成计算与内存,缓解内存墙,实现精度感知执行,相比英伟达H100,处理1B和13B模型时能源效率分别提升25倍和10倍。

Comments Accepted to 2026 IEEE 8th International Conference on Artificial Intelligence Circuits and Systems (AICAS'26)

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.13500 2026-07-16 cs.CV 新提交 78%

Attention-Free and Lightweight Token Reduction for Efficient Vision-Language Models

用于高效视觉语言模型的无注意力轻量级令牌约简

Xuanyi Hao, Zuoyuan Zhang, Zhibo Wang, Xiaoyi Pang, Jiahui Hu, Jiacheng Du, Shuguo Zhuo

机构 * Zhejiang University(浙江大学) Hong Kong University of Science and Technology(香港科技大学)

专题命中 效率与部署 :language model(title,abstract)

AI总结 针对视觉语言模型在边缘设备部署难的问题,提出无注意力轻量级令牌约简框架,通过基于熵的准则估计令牌重要性,引入一致性信号确保视觉覆盖,经实验验证该框架在精度和效率权衡上表现出色。

Comments This work has been submitted to the IEEE for possible publication

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.12555 2026-07-15 cs.IT math.IT 新提交 78%

FM-Receiver: A Foundation Model Enabled Unified Inner and Outer Neural Receiver Towards AI-Native Wireless Communications

FM-接收机:一种基于基础模型的统一内外部神经接收机,迈向人工智能原生无线通信

Tianyue Zheng, Chao Jiang, Linglong Dai

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 针对多数神经接收机内外接收机未联合优化的问题,提出基于基础模型的FM-Receiver,利用分组纠错码Transformer实现符号级信道解码,集成内外接收机,并设计预训练策略,提升泛化能力,在不同配置下性能优于基线且有零样本泛化能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.10655 2026-07-14 cs.RO 新提交 78%

Artificial Foveated Perception for Mitigating Shortcut Learning in Robotic Foundation Models

用于减轻机器人基础模型中捷径学习的人工中央凹感知

Xiatao Sun, Yuan Zhuang, Mateo Sanchez Lopez Negrete, Matei-Victor Coldea, Chen Liang, Haoyang Zhang, Che Liu, Ziyao Zeng, Shawn Li, Qian Wang, Fei Miao, Daniel Rakita

机构 * Yale University(耶鲁大学) University of Connecticut(康涅狄格大学) Peking University(北京大学) Imperial College London(帝国理工学院) Digients

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 研究机器人基础模型因捷径学习难以稳健部署的问题,提出人工中央凹感知模块AFP,通过预测任务条件掩码辅助微调,使策略关注任务相关区域,实验证明其能减少微调时间、抑制过拟合并提升泛化能力。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.09176 2026-07-13 cs.CR 新提交 78%

SherAgent: Scaling Attack Investigation in the Wild via LLM-Empowered Iterative Query-Filter Backtracking

SherAgent:通过大语言模型赋能的迭代查询-过滤回溯在野外扩展攻击调查

Zhenyuan Li, Zhengkai Wang, Ling Jiang, Xiangmin Shen, Ruixiao Lin, Sen Nie, Shi Wu, Shouling Ji

专题命中 效率与部署 :LLM(title,abstract)

AI总结 研究针对野外攻击调查中依赖爆炸和因果链碎片化问题。提出SherAgent系统,基于大语言模型,采用迭代“查询-过滤”回溯范式处理非结构化数据,克服相关问题。相比传统方法,提高调查成功率,且运行高效,减轻专家分析负担。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.09029 2026-07-13 cs.CV 新提交 78%

MOSAIC: Adaptive Inter-layer Composition for Efficient Heterogeneous Vision-Language Models

MOSAIC:用于高效异构视觉语言模型的自适应层间组合

Yuncheng Yang, Feiyang Ye, Shixian Luo, Yinna Zhu, Lianlei Shan, Wangcai Zhao, Kuo Zhang, Yan Chen, Yong Wu, Yan Xie

机构 * LiAuto Inc.(理想汽车公司)

专题命中 效率与部署 :language model(title,abstract)

AI总结 研究针对视觉语言模型中异构结构依赖手工静态混合模式的问题,提出硬件感知搜索方法MOSAIC,通过多目标混合整数规划确定最优配置,并引入两阶段参数恢复过程,提升了模型推理效率且降低训练成本。

Comments 17 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.08973 2026-07-13 cs.DC 新提交 78%

SiFAR: Synchronization-Free All-Reduce for Low-Latency LLM Inference

SiFAR:用于低延迟大语言模型推理的无同步全规约算法

Hritvik Taneja, Anish Saxena, Abhishek Revinipati, Jae Hyung Ju, Neal C. Crago, Moinuddin Qureshi

专题命中 效率与部署 :LLM(title,abstract)

AI总结 研究针对大语言模型推理中令牌生成延迟瓶颈,提出无同步全规约算法SiFAR。通过消除一次性算法写后写依赖、利用交换机片上规约等方法,减少全规约延迟,提升端到端吞吐量,在特定条件下取得显著性能提升。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.08766 2026-07-10 cs.CV 新提交 78%

OPSD-V: On-Policy Self-Distillation for Post-Training Few-Step Autoregressive Video Generators

OPSD-V:用于训练后少步自回归视频生成器的策略内自蒸馏

Hongyu Liu, Chun Wang, Feng Gao, Xuanhua He, Yue Ma, Ziyu Wan, Yong Zhang, Xiaoming Wei, Qifeng Chen

机构 * Meituan(美团) HKUST(香港科技大学) City University of Hong Kong(香港城市大学)

专题命中 效率与部署 :post-training(title,abstract)

AI总结 研究针对训练后少步自回归视频生成器存在的问题,提出OPSD-V策略内自蒸馏范式。通过引入真实长视频数据提供监督,学生和教师模型按特定方式运行,应用该范式于相关模型后,实验及用户研究表明其在多方面有改进且更受青睐。

Comments Project page: https://meigen-ai.github.io/OPSD-V ; Code: https://github.com/MeiGen-AI/OPSD-V

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.07288 2026-07-09 cs.CV 新提交 78%

InfraQR: Edge-Placed QR-Inspired Structured Patch Attacks on Infrared Vision-Language Models

InfraQR:对红外视觉语言模型的边缘放置的受QR码启发的结构化补丁攻击

Xin Li, Jiaju Han, Ma Yaqi, Chengyin Hu, Yingying Zhao, Jiahuan Long, Fengyu Zhang, Yahui Chai

机构 * China University of Petroleum-Beijing at Karamay(中国石油大学(北京)克拉玛依校区) Guizhou University(贵州大学) Shenzhen Research Institute of Big Data(深圳大数据研究院) Shanghai Jiao Tong University(上海交通大学)

专题命中 效率与部署 :language model(title,abstract)

AI总结 研究红外视觉语言模型对局部结构化扰动的鲁棒性,提出InfraQR攻击方法,沿图像边界放置结构化补丁并通过替代编码器优化网格单元,实验表明该方法能大幅降低分类器准确率,使对抗图像影响黑盒模型,凸显模型易受此类扰动影响。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.05859 2026-07-08 cs.CV 新提交 78%

AVA-VLM: Adaptive Visual Attention-Vision Language Model for In-the-Wild Construction Site Monitoring

AVA-VLM:用于野外建筑工地监测的自适应视觉注意力视觉语言模型

Younggun Kim, Taeheon Kim, Youngseo Kim, Seunghee Park

机构 * University of California, Los Angeles(加利福尼亚大学洛杉矶分校) AI+KCIR Global Resilience Research Center(人工智能与韩国气候变化影响韧性研究中心) SmartInside AI Co., Ltd.(思玛特因赛德人工智能有限公司) Sungkyunkwan University(成均馆大学)

专题命中 效率与部署 :language model(title,abstract)

AI总结 针对野外建筑工地监测,提出AVA-VLM自适应视觉注意力视觉语言模型,遵循粗到细推理策略,先对低分辨率全局图像推理,按需请求高分辨率局部裁剪,并引入区域感知思维链数据集,提升了低分辨率下的可靠性并减少视觉令牌使用。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.31668 2026-07-08 cs.CV 新提交 78%

SAMBA: A Scatter-Guided Masked Bidirectional Mamba Foundation Model for SAR Target Recognition

SAMBA:一种散射引导的掩码双向Mamba基础模型用于SAR目标识别

Ke Wang, Xiaoyi Pan, Zhaoyu Gu, Xiaofeng Ai, Zhiming Xu, Feng Zhao, Shunping Xiao

机构 * College of Electronic Science and Technology, National University of Defense Technology(国防科技大学电子科学学院)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 提出SAMBA模型,通过线性复杂度Mamba编码器、散射引导掩码策略和SpatialMix模块,解决SAR目标识别中标注数据稀缺和计算复杂度高的问题,在多个下游任务上达到SOTA性能。

Comments 15 pages, 5figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.03246 2026-07-07 eess.SP 新提交 78%

Bridging the Semantic Gap in 6G: Tiny Language Models Under the Latency-Accuracy-Size Trilemma

弥合6G中的语义鸿沟:延迟-精度-大小三难困境下的微型语言模型

Arnav Mathur, Garima Mathur, Rahul Jashvantbhai Pandya

专题命中 效率与部署 :language model(title,abstract)

AI总结 探讨6G语义通信中,深度学习语义编码器与受限物联网及边缘设备需求的矛盾。介绍微型语言模型,从理论基础、分类、模型压缩技术及资源分配框架等方面阐述,指出其能弥合差距及面临的挑战。

Comments 21 pages, 7 figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.03760 2026-07-07 cs.CV 新提交 78%

GeoSAM-Lite: A Lightweight Foundation Model for Onboard Remote Sensing Segmentation

GeoSAM-Lite:用于机载遥感分割的轻量级基础模型

Yongcong Wang, Jie Zhang, Rui Jiang, Xubing Yang, Ting Yun, Li Zhang

机构 * College of Information Science and Technology & Artificial Intelligence, Nanjing Forestry University(南京林业大学信息科学技术学院 & 人工智能学院) College of Telecommunications and Information Engineering, Nanjing University of Posts and Telecommunications(南京邮电大学通信与信息工程学院)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 针对资源受限平台部署大规模基础模型的挑战,提出GeoSAM-Lite,采用领域感知预训练和特征融合层,在减少参数的同时保持竞争力,为边缘设备实时分割提供实用方案。

Comments 5 pages

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.01721 2026-07-03 cs.RO 新提交 78%

CoRe: Combined Rewards with Vision-Language Model Feedback for Preference-Aligned Reinforcement Learning

CoRe: 结合视觉语言模型反馈的复合奖励用于偏好对齐强化学习

Hexian Ni, Tao Lu, Yinghao Cai

专题命中 效率与部署 :language model(title,abstract)

AI总结 提出CoRe框架,将奖励分解为基于任务知识的正式奖励和从观察中学习的残差奖励,利用视觉语言模型迭代优化奖励,实现无需人工的偏好对齐,在机器人操作任务中优于现有方法。

Comments ICML 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.01088 2026-07-02 cs.RO cs.DC 新提交 78%

ROSA: A Robotics Foundation Model Serving System for Robot Factories

ROSA: 面向机器人工厂的基础模型服务系统

Wenqi Jiang, Jason Clemons, Rowland O'Flaherty, Hugo Hadfield, Alperen Degirmenci, Shuran Song, Yashraj Narang, Christos Kozyrakis

机构 * NVIDIA Research(英伟达研究院) Stanford University(斯坦福大学)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 提出ROSA系统,通过共享GPU池服务、多模型流水线支持和工厂目标驱动调度,将机器人工厂的RFM推理性能提升12倍以上。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.00579 2026-07-02 cs.CV 新提交 78%

EPO: Boosting 3D Foundation Models with Edge-based Pose Optimization

EPO:基于边缘位姿优化的3D基础模型增强

Mattia D'Urso, Christian Sormann, Mattia Rossi, Friedrich Fraundorfer

机构 * Graz University of Technology(格拉茨技术大学) Sony Europe(索尼欧洲)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 提出EPO,一种无跟踪的几何优化框架,通过边缘图对齐替代特征提取和轨迹构建,提升3D基础模型的SfM重建精度,在降低运行时和内存的同时匹配或超越束调整方法。

Comments Accepted at ECCV 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.00357 2026-07-02 cs.CV 新提交 78%

Personalized Object Identification and Localization via In-Context Inference with Vision-Language Models

通过视觉语言模型的上下文推理实现个性化物体识别与定位

Kensuke Nakamura, Byung-Woo Hong

机构 * Artificial Intelligence Department, Chung-Ang University(中央大学人工智能系)

专题命中 效率与部署 :language model(title,abstract)

AI总结 提出个性化物体识别与定位(POIL)任务,并设计IPLoc-ID算法,通过自问自答机制在拒绝无目标图像的同时保持定位性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2607.00500 2026-07-02 physics.med-ph cs.CV 新提交 78%

Closed-loop coupling of personalised and foundation models for real-time treatment guidance with MRI

个性化模型与基础模型的闭环耦合用于MRI实时治疗引导

James Grover, Emily A. Hewson, Andrew Phair, Michael Ferraro, Hilary L. Byrne, Paul Keall, Michael G. Jameson, David E. J. Waddington

机构 * Image X Institute, Sydney School of Health Sciences, Faculty of Medicine and Health, The University of Sydney, Sydney, Australia(悉尼大学医学与健康学院悉尼健康科学学院Image X研究所,悉尼,澳大利亚) GenesisCare, Sydney, Australia(GenesisCare,悉尼,澳大利亚) School of Clinical Medicine, Medicine & Health, University of New South Wales, Sydney, Australia(新南威尔士大学医学与健康学院临床医学系,悉尼,澳大利亚) Centre for Medical Radiation Physics, School of Mathematics and Physics, University of Wollongong, Wollongong, Australia(伍伦贡大学数学与物理学院医学辐射物理中心,伍伦贡,澳大利亚)

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 提出一种闭环耦合框架,结合个性化时间预测模型与基础模型的连续分割解剖解释,实时补偿MRI引导治疗中的成像延迟,在400毫秒预测范围内改善解剖预测并减少剂量误差。

Comments 18 pages, 8 figures, 2 supplementary figures

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.27660 2026-07-02 cs.CV 新提交 78%

MVPruner: Dynamic Token Pruning for Accelerating Multi-view Vision-Language Models in Autonomous Driving

MVPruner: 用于加速自动驾驶中多视图视觉语言模型的动态令牌剪枝

Nan Yang, Zhanwen Liu, Linfeng Zhang, Shangyu Xie, Yang Wang, Wenzhuo Zhou, Xiangmo Zhao

机构 * School of Information Engineering, Chang’an University, China(长安大学信息工程学院) School of Artificial Intelligence, Shanghai Jiaotong University, China(上海交通大学人工智能学院)

专题命中 效率与部署 :language model(title,abstract)

AI总结 提出MVPruner,一种两阶段自适应令牌剪枝方法,通过动态分配剪枝预算和基于指令的令牌选择,在保持精度的同时大幅降低计算量,实现多视图视觉语言模型的高效推理。

Comments accepted by ECCV26

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.25160 2026-06-25 cs.RO cs.CV 新提交 78%

Toward Low-Latency Vision-Language Models with Doubly-Correct Predictions in Egocentric Visual Understanding

面向低延迟视觉语言模型:在自我中心视觉理解中实现双重正确预测

Qitong Wang, Fan Du, Pranav Maneriker, Jihui Jin, Christopher Rasmussen

机构 * Dolby Laboratories, Inc.(杜比实验室公司) University of Delaware(特拉华大学)

专题命中 效率与部署 :language model(title,abstract)

AI总结 针对人机协作中低延迟需求,提出基于双重正确预测的剪枝策略,在保持证据定位的同时提升预测准确性,在自我中心视频数据集上实现最高精度与双重正确性。

Comments International Conference on Intelligent Robots and Systems (IROS) 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.23052 2026-06-23 eess.AS 新提交 78%

CAAD: Contrastive Audio-Aware Distillation for Efficient Speech Language Models

CAAD:对比音频感知蒸馏用于高效语音语言模型

Chun-Wei Chen, Tzu-Quan Lin, Ke-Han Lu, Wei-Ping Huang, Hung-Yi Lee

专题命中 效率与部署 :language model(title,abstract)

AI总结 提出对比音频感知蒸馏(CAAD)框架,通过同步教师强制策略将教师模型的对比推理内化到学生模型权重中,在Dynamic-SUPERB上相对提升约8%,并减少语言偏倚。

Comments Accepted to interspeech 2026

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.22999 2026-06-23 cs.CV 新提交 78%

Black-Box Continual Learning for Vision-Language Models

视觉语言模型的黑盒持续学习

Yuting Li, Weihang Fang, Haoyuan Gao, Linghe Kong, Yexin Li, Lichao Sun, Weiran Huang

机构 * School of Computer Science, Shanghai Jiao Tong University(上海交通大学计算机科学学院)

专题命中 效率与部署 :language model(title,abstract)

AI总结 提出黑盒持续学习基准Black-CL,仅通过输出嵌入或logits进行学习,并设计BETA方法,通过优化文本原型实现与白盒方法相当的性能。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.19953 2026-06-19 eess.SP 新提交 78%

ConsisFormer: Compute-Efficient Transformer for Wireless Foundation Models Based on Channel Consistency

ConsisFormer: 基于信道一致性的无线基础模型高效计算Transformer

Yuwei Wang, Li Sun, Tingting Yang, Liwen Jing, Yuxuan Shi, Maged Elkashlan, Mérouane Debbah

专题命中 效率与部署 :foundation model(title,abstract)

AI总结 提出ConsisFormer,利用无线信道短时一致性,通过自适应令牌聚合和特征序列插值降低Transformer计算复杂度,在多种任务上减少83%以上计算量且性能损失极小。

详情

展开后加载摘要…

URL PDF HTML 收藏
2606.18560 2026-06-18 cs.SD 新提交 78%

Constraining to Generalize: Subspace Tuning for Few-shot Generalization of Audio-Language Models

约束泛化:音频-语言模型少样本泛化的子空间微调

Jaehyuk Jang, Kangwook Ko, Wonjun Lee, Changick Kim

机构 * KAIST(韩国科学技术院)

专题命中 效率与部署 :language model(title,abstract)

AI总结 针对音频-语言模型少样本微调导致的基类-新类权衡问题,提出子空间微调(SubT),通过结构化子空间参数化和残差锚定约束文本嵌入漂移,并利用子空间感知门控抑制负迁移,在11个音频基准上实现高效强泛化。

详情

展开后加载摘要…

URL PDF HTML 收藏