We introduce an open-source architecture for next-generation Radio-Access Network baseband processing: 1024 latency-tolerant 32-bit RISC-V cores share 4 MiB of L1 memory via an ultra-low latency interconnect (7-11 cycles), a modular Direct Memory Access engine provides an efficient link to a high bandwidth memory, such as HBM2E (98% peak bandwidth at 910GBps). The system achieves leading-edge energy efficiency at sub-ms latency in key 6G baseband processing kernels: Fast Fourier Transform (93 GOPS/W), Beamforming (125 GOPS/W), Channel Estimation (96 GOPS/W), and Linear System Inversion (61 GOPS/W), with only 9% data movement overhead.
Interconnect Bandwidth Heterogeneity on AMD MI250x and Infinity Fabric
对GPU之间低延迟和高带宽数据传输的需求推动了多GPU节点的发展。对此类系统的制造和集成的物理约束已经产生了异构节点内互连,其中并非所有设备都被平等地连接。下一代超级计算平台预计将采用AMD CPU和GPU。这项工作描述了通过具有四个AMD MI250 x GPU的系统上的GPU编程API可见互连异构性的程度,并为此类系统的用户提供了一些见解。
Client Selection and Bandwidth Allocation for Federated Learning: An Online Optimization Perspective
联邦学习(Federated Learning,FL)可以从客户端的局部数据集训练出全局模型,充分利用客户端的计算资源,在保护用户信息需求的前提下,对客户端进行更广泛、更高效的机器学习。现有的研究多集中在每轮资源受限的情况下优化FL的准确性,而在无线联邦学习中全面考虑延迟、准确性和能耗的研究较少。受此启发,在本文中,我们调查FL在无线网络中的客户端选择和带宽分配是两个关键因素,显着影响延迟,准确性和能源消耗的客户端。我们制定的优化问题作为一个混合整数的问题,这是最小化的时间和精度的成本内的长期能源约束的所有回合。为了解决这个优化问题,我们提出了Perround Energy Drift Plus Cost(PEDPC)算法,并在IID和NON-IID数据分布的延迟,准确性和能耗方面的仿真结果中验证了PEDPC算法的性能。
A DSEL for High Throughput and Low Latency Software-Defined Radio on Multicore CPUs
Sorbonne Université(索邦大学);CNRS(法国国家科学研究中心);Bordeaux INP(波尔多国立理工学院);University of Bordeaux(波尔多大学);Inria(法国国家信息与自动化研究所);Bordeaux Institute of Technology(波尔多理工学院)
AMMA: A Multi-Chiplet Memory-Centric Architecture for Low-Latency 1M Context Attention Serving
University of California, San Diego(加州大学圣迭戈分校);Columbia University(哥伦比亚大学);Yonsei University(延世大学);NVIDIA(NVIDIA公司);Samsung Semiconductor, Inc.(三星半导体公司)