Sketch to Adapt: Fine-Tunable Sketches for Efficient LLM Adaptation
草图以适应:用于高效大语言模型适应的可调节草图
机构 * Rice University, Houston, TX(里士满大学) ; University of California, Berkeley, Berkeley, CA(加州大学伯克利分校) ; Stevens Institute of Technology, Hoboken, NJ(史蒂文斯理工学院) ; ThirdAI Corp.(ThirdAI公司) ; Ken Kennedy Institute(肯尼迪研究所)
AI总结 SketchTune通过压缩和适应一体化的方法,实现更高效的大语言模型适应,优于现有PEFT方法。
Comments Published in ICML 2025