IBM

Mitigating hallucinations and omissions in LLMs for invertible problems: An application to hardware logic design automation

缓解LLMs在可逆问题中的幻觉和遗漏：应用于硬件逻辑设计自动化

Andrew S. Cassidy, Guillaume Garreau, Jay Sivagnaname, Mike Grassi, Bernard Brezzo, John V. Arthur, Dharmendra S. Modha

机构 * IBM Research（IBM研究院） 纠错

AI总结 本文提出利用LLMs作为无损编码器和解码器处理可逆问题，以减少LLMs的幻觉和遗漏，应用于硬件逻辑设计自动化，提升设计效率并检测错误。

Comments 7 pages, 2 figures, 7 tables

OjaKV: Context-Aware Online Low-Rank KV Cache Compression

OjaKV: 基于上下文的在线低秩KV缓存压缩

Yuxuan Zhu, David H. Yang, Mohammad Mohammadi Amiri, Keerthiram Murugesan, Tejaswini Pedapati, Pin-Yu Chen

机构 * Rensselaer Polytechnic Institute（拉特格斯理工学院） ； IBM Research（IBM研究院） 纠错

AI总结 OjaKV通过结合战略混合存储策略与在线子空间适应，实现KV缓存压缩，提升长上下文推理效率，无需微调模型。