We took part in the city brain challenge competition and achieved the 8th place. In this competition, the players are provided with a real-world city-scale road network and its traffic demand derived from real traffic data. The players are asked to coordinate the traffic signals with a self-designed agent to maximize the number of vehicles served while maintaining an acceptable delay. In this abstract paper, we present an overall analysis and our detailed solution to this competition. Our approach is mainly based on the adaptation of the deep Q-network (DQN) for real-time traffic signal control. From our perspective, the major challenge of this competition is how to extend the classical DQN framework to traffic signals control in real-world complex road network and traffic flow situation. After trying and implementing several classical reward functions, we finally chose to apply our newly-designed reward in our agent. By applying our newly-proposed reward function and carefully tuning the control scheme, an agent based on a single DQN model can rank among the top 15 teams. We hope this paper could serve, to some extent, as a baseline solution to traffic signal control of real-world road network and inspire further attempts and researches.
KDD CUP 2022 Wind Power Forecasting Team 88VIP Solution
Alibaba Group（阿里巴巴集团）
KDD CUP 2022提出了一个空间动态风电数据集的时间序列预测任务，要求参与者在给定历史背景因素的情况下预测未来的发电量。评估指标包括RMSE和MAE。本文描述了Team 88 VIP的解决方案，该方案主要包括两种模型：用于记忆基本数据模式的梯度提升决策树和用于捕获深层和潜在概率转移的递归神经网络。集成这些模型有助于解决风电功率的波动问题，训练子模型的目标是在从几分钟到几天的不同时间尺度的预测中的突出特性。此外，还详细介绍了特征工程、插补技术和离线评价的设计。所提出的解决方案在阶段3中实现了-45.213的总体在线分数。
Intensive Preprocessing of KDD Cup 99 for Network Intrusion Classification Using Machine Learning Techniques
Prince Al-Hussein Bin Abdullah II Faculty of Information Technology, Hashemite University（哈希姆大学侯赛因·本·阿卜杜拉二世亲王信息技术学院）；Princess Sumaya University for Technology（苏玛雅公主科技大学）；University of Miskolc（米什科尔茨大学）
Bridging the Gap of AutoGraph between Academia and Industry: Analysing AutoGraph Challenge at KDD Cup 2020
Paradigm（第四范式）；Stanford University（斯坦福大学）；Tsinghua University（清华大学）；ChaLearn；LISN/INRIA/CNRS, University Paris-Saclay（巴黎萨克雷大学LISN/法国国家信息与自动化研究所/法国国家科学研究中心）
图结构化数据在日常生活和科学领域中无处不在，越来越受到人们的关注。图神经网络（GNN）已被证明是有效的建模图结构的数据和许多变体的GNN架构已被提出。然而，根据不同的数据集调整架构通常需要大量的人力。研究人员自然会在图学习上采用自动化机器学习，旨在减少人力投入并实现性能最佳的GNN，但他们的方法更侧重于架构搜索。为了了解GNN从业者的自动化解决方案，我们在KDD Cup 2020上组织了AutoGraph Challenge，重点关注用于节点分类的自动化图神经网络。我们收到了来自美团、阿里巴巴和Twitter等工业科技公司的顶级解决方案，这些解决方案已经在Github上开源。在与学术界的解决方案进行详细比较后，我们量化了学术界和工业界在建模范围，有效性和效率方面的差距，并表明（1）学术界AutoML for Graph解决方案专注于GNN架构搜索，而工业解决方案，特别是KDD杯的获奖者，倾向于获得整体解决方案（2）仅通过神经架构搜索，学术界解决方案的平均精度达到工业解决方案的97.3%（3）学术界解决方案的成本很低，只需几个GPU小时，而工业解决方案需要几个月的劳动力。学术解决方案包含的参数也少得多。
KDD Cup 2021中的WikiKG90 M是一个大型的知识图谱，它可以使各种下游应用受益，如问答和推荐系统。邀请参与者通过预测缺失的三胞胎来完成知识图谱。最近的表示学习方法在FB15 k-237等标准数据集上取得了巨大成功。因此，我们训练不同领域的先进算法来学习三元组，包括OTE，QuatE，RotatE和TransE。值得注意的是，我们将OTE修改为NOTE（Norm-OTE的缩写）以获得更好的性能。此外，我们使用DeepWalk和后平滑技术来捕获图结构以进行补充。除了表示之外，我们还使用头部实体，关系和尾部实体之间的各种统计概率进行最终预测。实验结果表明，最先进的表示学习方法的集成可以借鉴彼此的优势。我们从验证候选人中开发特征工程，以进一步改进。请注意，我们对测试集应用相同的策略以进行最终推断。当考虑对所有实体进行排名时，这些功能在现实世界中可能不实用。
Key Laboratory of High Confidence Software Technologies, CS, Peking University, China（高可信软件技术重点实验室，中国科学院，北京大学）；Theory Lab, Central Research Institute, 2012 Labs, Huawei Technologies Co., Ltd, Shenzhen, China（理论实验室，中央研究院，2012实验室，华为技术有限公司，深圳）
OGB-LSC: A Large-Scale Challenge for Machine Learning on Graphs
Stanford University（斯坦福大学）；TU Dortmund University（多特蒙德工业大学）；RIKEN（日本理化学研究所）；Facebook AI
在大规模图形数据上实现有效和高效的机器学习（ML）（例如，具有数十亿条边的图）可以对工业和科学应用两者产生巨大影响。然而，现有的推进大规模图ML的努力在很大程度上受到缺乏合适的公共基准的限制。在这里，我们提出了OGB大规模挑战（OGB-LSC），这是三个真实世界数据集的集合，用于促进大规模图ML的进步。OGB-LSC数据集比现有数据集大几个数量级，涵盖了三个核心图学习任务-链接预测、图回归和节点分类。此外，我们还提供了专门的基线实验，将表达图ML模型扩展到大规模数据集。我们发现，表达模型的表现明显优于简单的可扩展基线，这表明有机会致力于进一步大规模改进图ML。此外，OGB-LSC数据集在ACM KDD Cup 2021上部署，并吸引了全球500多支球队注册，在此期间，通过各种创新技术实现了显着的性能提升。我们总结了获奖解决方案使用的常见技术，并强调了大规模图ML的当前最佳实践。最后，我们描述了我们如何在KDD杯之后更新数据集，以进一步促进研究进展。OGB-LSC数据集、基线代码和有关KDD Cup的所有信息都可以在https://ogb.stanford.edu/docs/lsc/上找到。
LiteGEM: Lite Geometry Enhanced Molecular Representation Learning for Quantum Property Prediction
Baidu Inc.（百度公司）
在这份报告中，我们（SuperHaving团队）提出了我们对KDD Cup 2021-PCQM 4 M-LSC的解决方案，这是一个预测分子HOMO-LUMO间隙的大规模量子化学数据集。我们的解决方案Lite几何增强分子表征学习（LiteGEM）在深度图神经网络和各种自监督学习任务的帮助下，在测试集上实现了0.1204的平均绝对误差（MAE）。该框架的代码可以在https://github.com/PaddlePaddle/PaddleHelix/tree/dev/competition/kddcup2021-PCQM4M-LSC/中找到。
Ranking academic institutions on potential paper acceptance in upcoming conferences
Flytxt；Indian Institute of Technology, Delhi（德里印度理工学院）
2016年KDD杯的关键问题涉及开发数据采掘技术，以根据出版物对研究机构进行排名。研究机构的重要性排名来自于利用网络上的公共信息对即将到来的顶级会议可能接受的完整研究论文数量的预测。本文介绍了我们的KDD Cup 2016解决方案。我们使用了两步方法，首先识别与每个感兴趣的会议相对应的完整研究论文，然后训练指数平滑模型的两个变体来进行预测。我们的解决方案获得了0.7508的总分，而获胜的提交在总体结果中获得了0.7656的分数。
序贯决策是强化学习中的一个典型问题，有很多算法可以解决它，但只有少数算法可以在观测值很少的情况下有效地解决。在本报告中，我们介绍了在KDD Cup Challenge 2019中学习疟疾控制政策作为强化学习问题的进展，并提出了应对有限观察问题的多种解决方案。我们应用遗传算法，贝叶斯优化，Q-学习序列打破找到最佳的政策，连续五年只有20集/100评价。我们评估这些算法，并比较它们的性能与随机搜索作为基线。在这些算法中，具有序列破坏的Q-Learning已经提交了挑战，并在KDD杯中排名第七。
Anomaly Detection Framework Using Rule Extraction for Efficient Intrusion Detection
University of Jyväskylä（于韦斯屈莱大学）
网络安全中的庞大数据集，如网络流量日志，可以使用机器学习和数据采掘方法进行分析。然而，收集的数据量正在增加，这使得分析更加困难。许多机器学习方法不是为大数据集设计的，因此速度慢且难以理解。我们通过创建一个应用降维和合取规则提取的入侵检测框架来解决有效的网络流量分类问题。该系统可以执行无监督的异常检测，并使用此信息创建合取规则，对大量流量进行实时的分类。我们使用广泛使用的KDD Cup 99数据集和真实世界的网络日志对实现的系统进行了测试，以确认性能令人满意。这个系统是透明的，不像一个黑盒子，使它直观的领域专家，如网络管理员。
