The Tianlai project is a 21cm intensity mapping experiment aimed at detecting dark energy by measuring the baryon acoustic oscillation (BAO) features in the large scale structure power spectrum. This experiment provides an opportunity to test the data processing methods for cosmological 21cm signal extraction, which is still a great challenge in current radio astronomy research. The 21cm signal is much weaker than the foregrounds and easily affected by the imperfections in the instrumental responses. Furthermore, processing the large volumes of interferometer data poses a practical challenge. We have developed a data processing pipeline software called {\tt tlpipe} to process the drift scan survey data from the Tianlai experiment. It performs offline data processing tasks such as radio frequency interference (RFI) flagging, array calibration, binning, and map-making, etc. It also includes utility functions needed for the data analysis, such as data selection, transformation, visualization and others. A number of new algorithms are implemented, for example the eigenvector decomposition method for array calibration and the Tikhonov regularization for $m$-mode analysis. In this paper we describe the design and implementation of the {\tt tlpipe} and illustrate its functions with some analysis of real data. Finally, we outline directions for future development of this publicly code.
The DASCH Data Processing Pipeline and Multiple Exposure Plate Processing
数字访问天空世纪@哈佛(DASCH)是一个项目,以收集约525,000天文板在哈佛学院天文台举行。本文介绍了DASCH数据处理流水线的概述,特别强调多次曝光板的处理。这种感光板扩大了感光乳剂的动态范围,并通过最大限度地减少感光板显影过程中的变化而提高了光度测定的准确性。本文探讨了两种方法:重复使用astrometry.net(Lang et al. 2010)和本地相关搜索。这两个程序都产生了对管道有用的额外质量控制检查。
Upgrading the processing pipeline for the National Park Service Night Skies Program
美国国家公园管理局(National Park Service)通过捕捉一系列重叠图像来评估公园的夜空质量,以获得整个夜空的马赛克视图。Night Skies计划已经整合了一系列脚本和软件包(“管道”)来处理和创建半球镶嵌图像。正在改进这一处理管道,以减少对商业软件包的依赖,改进修订管理,并方便最新版本的分发。升级后的流水线设计用于分三个阶段处理图像:(I)执行数据简化,校准和镶嵌,(II)对自然天空亮度进行建模,以将光线从人工光源中分离出来,以及(III)导出天空质量指标。目前,第一阶段已经完成,本报告对此作了详细介绍。第二和第三阶段正在升级,将在今后的报告中介绍。在阶段I中,流水线应用基本图像缩减、指向配准、光度校准、坐标变换和图像镶嵌。我们实现了新功能,包括自动记录处理历史,通过Git和GitHub进行版本控制,对源代码开发进行团队管理,减少所需专有软件的使用数量,以及将主要管道语言设置为Python。一旦升级完成,我们的开源管道可以使全球类似研究领域的其他科学家受益,以处理相关的数据集。
An Automated Photometric Pipeline for the 80cm Xizang University Telescope
The Key Laboratry of Cosmic Rays (Xizang University), Ministry of Education(西藏大学宇宙射线教育部重点实验室);Department of Physics, College of Science, Xizang University(西藏大学理学院物理系);National Astronomical Observatories, Chinese Academic of Sciences(中国科学院国家天文台);College of Physics and Optoelectronic Engineering, Leshan Normal University(乐山师范学院物理与光电工程学院);Key Laboratory of Detection and Application of Space Effect in Southwest Sichuan(川西南空间效应探测与应用重点实验室);Center for Applied Optics Research, Leshan Normal University(乐山师范学院应用光学研究中心);The Experimental High School Attached to Beijing Normal University(北京师范大学附属实验中学)
MESAlab: A Python pipeline for MESA grid processing with integrated GYRE/MESA-RSP execution
Konkoly Observatory, HUN-REN CSFK, MTA Centre of Excellence(孔科利天文台,HUN-REN 匈牙利科学院研究中心,MTA 卓越中心);MTA–HUN-REN CSFK Lendület ”Momentum” Stellar Pulsation Research Group(MTA-HUN-REN 匈牙利科学院研究中心 Lendulet “动量”恒星脉动研究组)
The SPHEREx Image and Spectrophotometry Processing Pipeline
California Institute of Technology(加州理工学院);Jet Propulsion Laboratory, California Institute of Technology(加州理工学院喷气推进实验室);Department of Physics, California Institute of Technology(加州理工学院物理系);Rochester Institute of Technology(罗切斯特理工学院)
A GPU-Accelerated Transient Detection Pipeline for DECam Time-Domain Surveys
Carnegie Mellon University(卡内基梅隆大学);University of Pennsylvania(宾夕法尼亚大学);Texas A. & M. University(德克萨斯农工大学);University of North Carolina at Chapel Hill(北卡罗来纳大学教堂山分校)
Development of a High Throughput Cloud-Based Data Pipeline for 21 cm Cosmology
我们提出了一个基于云的计算工作流程处理大型天文数据集的默奇森宽场阵列(MWA)宇宙学实验的案例研究。云计算非常适合于大规模的间歇式计算,因为它在按使用付费的模式下提供了极高的可扩展性。这有利于测试计算昂贵的分析技术的快速周转时间。我们描述了如何使用Amazon Web Services(AWS)云平台来高效、经济地测试和实施我们的数据分析管道。我们讨论了使用AWS现货市场的挑战,它以较长的处理周转时间为代价降低了成本,我们使用蒙特卡罗模拟探索了这种权衡。
Processing GOTO data with the Rubin Observatory LSST Science Pipelines I : Production of coadded frames
在过去的几十年里,宽视场、高节奏的勘测蓬勃发展,其中最令人生畏的将是由维拉C。鲁宾天文台。然而,系统时域巡天天文学领域是如此的新,以至于将继续使用比LSST更小、更灵活的系统来获得重大的科学见解。其中一个例子是引力波光学瞬态观测器,其主要科学目标是对引力波事件进行光学跟踪。GOTO和其他广域、高节奏调查产生的数据量和速度对数据处理管道提出了重大挑战,因为数据处理管道需要近实时操作以充分利用时域。在这项研究中,我们适应鲁宾天文台LSST科学管道处理GOTO数据,从而探索使用这种“现成的”管道处理其他广域,高节奏调查数据的可行性。在本文中,我们描述了我们如何使用LSST科学管道处理原始GOTO帧,最终产生校准的coadded图像和光度源目录。在将测量的天体测量和光度测量与PanSTARRS DR 1的匹配源进行比较后,我们发现测量的源位置通常精确到亚像素水平,并且测量的L波段光度测量精确到$m_L\sim16$的$\sim50$ mmag和$m_L\sim18$的$\sim200$ mmag。这些值相比,使用GOTO的主要,内部管道,GOTOPHOTO获得的,尽管这两个管道已经经历了进一步的发展和改进,超出了本研究中使用的实现。最后,我们发布了一个通用的“obs包”,如果其他人希望使用LSST科学管道来处理来自其他设施的数据,他们可以在此基础上构建。
LSTOSA: Onsite processing pipeline for the CTA Larged-Sized Telescope prototype
切伦科夫望远镜阵列(CTA)的大型望远镜(LST)原型目前正在调试阶段。除其他外,共有四个LST将在Observatorio del Roque de Los Muchachos共同运作,该观测站将托管CTA北部站点。现场安装了一个拥有1760个核心和数PB磁盘空间的计算中心。它用于采集、处理和分析产生的数据,在运行期间的速率为3~TB/小时。LST现场分析LSTOSA是一组用Python编写的脚本,它连接了为LST开发的分析管道lstchain的不同步骤。它以半自动的方式处理数据,产生高水平的数据和质量图,包括详细的种源日志。在下一个观测夜之前对数据进行分析,以帮助调试程序和调试。
National Astronomical Observatories, Chinese Academy of Sciences(中国科学院国家天文台);School of Astronomy and Space Science, University of Chinese Academy of Sciences(中国科学院大学天文学与空间科学学院);CEA Paris-Saclay, Institut de Recherche sur les lois Fondamentales de l’Univers(巴黎萨克雷大学原子能与替代能源委员会基础定律研究所);Université Paris-Saclay, Université Paris Cité, CEA, CNRS, AIM(巴黎萨克雷大学、巴黎西岱大学、CEA、CNRS、AIM);LUX, Observatoire de Paris – PSL, CNRS, Sorbonne Université(卢克斯实验室,巴黎天文台-PSL,CNRS,索邦大学)