Hyper-parameter Tuning for Adversarially Robust Models
Carnegie Mellon University（卡内基梅隆大学）
本文研究对抗训练模型的超参数调优，通过大规模实验揭示两阶段独立调参的显著收益，并提出结合廉价对抗训练与taKG的多保真度优化方法，将调优效率提升至2.1倍。
2024-06-13 cs.LG
Security of Deep Learning Methodologies: Challenges and Opportunities
University of California, Davis（加州大学戴维斯分校）
尽管有大量关于深度学习模型的安全漏洞和防御的研究，但深度学习方法（如迁移学习）的安全方面却很少被研究。在本文中，我们强调了这些方法的安全挑战和研究机会，重点关注它们特有的漏洞和攻击。
2019-12-08 cs.AI cs.CR cs.LG
Reinforcement Learning for Hardware Security: Opportunities, Developments, and Challenges
Texas A&M University（德克萨斯农工大学）
强化学习（RL）是一种机器学习范例，其中自主智能体通过与底层环境交互来学习做出最优决策序列。RL引导的工作流在解决电子设计自动化问题方面所展示的前景鼓励硬件安全研究人员利用自主RL代理来解决特定领域的问题。从硬件安全的角度来看，这种自主智能体很有吸引力，因为它们可以在未知的对抗环境中产生最佳动作。另一方面，集成电路供应链的持续全球化迫使芯片制造转向离岸、不可信的实体，导致对硬件安全性的担忧增加。此外，未知的对抗性环境和不断增加的设计复杂性使得防御者难以检测攻击者所做的细微修改（也称为“攻击者修改”）。硬件木马）。在这篇简短的文章中，我们概述了RL代理在检测硬件木马方面的发展，这是最具挑战性的硬件安全问题之一。此外，我们还概述了应用强化学习解决硬件安全问题的潜在机会并列出了挑战。
2022-08-29 cs.AI cs.CR cs.LG
Challenges and Opportunities in Multi-device Speech Processing
Amazon Alexa AI（亚马逊Alexa人工智能部门）
我们回顾了多设备家庭环境中的自动语音识别、关键字识别、设备仲裁、语音增强和源定位的当前解决方案和技术挑战，为INTERSPEECH 2022特别会议“多智能设备的信号处理和机器学习的挑战和机遇”提供背景。我们还确定了支持这些研究领域所需的数据集。在此基础上，结合我们在多器件领域的研究经验，对未来的发展进行了展望
2022-06-27 cs.LG eess.AS
Federated Learning: Opportunities and Challenges
University of Massachusetts, Amherst（马萨诸塞大学阿默斯特分校）
联邦学习（FL）是Google在2016年首次提出的概念，其中多个设备在中央服务器的监督下协作学习机器学习模型，而无需共享其私人数据。这为医疗保健、金融等关键领域提供了充足的机会，在这些领域，将私人用户信息共享给其他组织或设备是有风险的。虽然FL似乎是一种很有前途的机器学习（ML）技术，可以保持本地数据的私密性，但它也容易受到其他ML模型的攻击。鉴于人们对外语领域的兴趣日益浓厚，本报告讨论了联邦学习的机遇和挑战。
2021-01-14 cs.DC cs.LG
Challenges and Opportunities in Approximate Bayesian Deep Learning for Intelligent IoT Systems
Manning College of Information and Computer Sciences（马宁信息与计算机科学学院）；University of Massachusetts Amherst（马萨诸塞大学阿默斯特分校）
近似贝叶斯深度学习方法对于解决在智能系统中部署深度学习组件时发生的几个问题具有重要的前景，包括减轻过度自信错误的发生并为分布外的示例提供增强的鲁棒性。然而，现有近似贝叶斯推理方法的计算要求可能使其不适合部署在包括低功耗边缘设备的智能物联网系统中。在本文中，我们提出了一系列用于监督式深度学习的近似贝叶斯推理方法，并强调了在当前边缘硬件上应用这些方法时面临的挑战和机遇。我们强调了几个潜在的解决方案，以减少模型的存储需求和提高计算的可扩展性，包括模型修剪和蒸馏方法。
2021-12-03 cs.LG
Deception for Cyber Defence: Challenges and Opportunities
Data61, CSIRO Australia（澳大利亚联邦科学与工业研究组织Data61）；Cyber Security Cooperative Research Centre Australia（澳大利亚网络安全合作研究中心）；Penten Pty Ltd（Penten私人有限公司）；UNSW Sydney（悉尼新南威尔士大学）
欺骗作为网络防御的重要工具正在迅速发展，补充了现有的外围安全措施，以快速检测漏洞和数据盗窃。限制使用欺骗的因素之一是手工制作逼真的人工制品的成本。然而，机器学习的最新进展为可扩展的、自动生成逼真的欺骗创造了机会。这篇愿景论文描述了在开发模型以模拟IT堆栈的许多常见元素以实现欺骗效果时所涉及的机遇和挑战。
2022-08-15 cs.CR cs.LG
Machine Learning Towards Intelligent Systems: Applications, Challenges, and Opportunities
University of Sharjah（沙迦大学）；University of Western Ontario（西安大略大学）
因特网和相关技术的出现和持续依赖，导致产生了可供分析的大量数据。然而，人类不具备理解如此大量数据的认知能力。机器学习（ML）为人类提供了一种处理大量数据的机制，获得有关数据行为的见解，并根据结果分析做出更明智的决策。ML在各个领域都有应用。本文重点介绍了一些领域和应用，如教育，医疗保健，网络安全，银行和金融以及社交媒体。在这些领域中，存在着多种独特的挑战。然而，ML可以为这些挑战提供解决方案，并创造进一步的研究机会。因此，这项工作调查了上述领域面临的一些挑战，并提出了一些以前的文学作品，解决了这些问题。此外，它还提出了几个研究机会，这些机会可以从使用ML来解决这些挑战中受益。
2021-01-11 cs.AI cs.LG
Automated Monitoring Cropland Using Remote Sensing Data: Challenges and Opportunities for Machine Learning
University of Minnesota, Twin Cities（明尼苏达大学双城分校）
本文概述了机器学习的最新进展和地球观测卫星数据的可用性如何大大提高我们在长时间和大区域内自动绘制农田地图的能力。它讨论了在作物监测领域的三个应用，ML方法开始显示出巨大的希望。对于每个应用程序，它强调了机器学习的挑战，建议的方法和最近的结果。本文最后讨论了在ML方法充分发挥其对这个具有重大社会意义的问题的潜力之前需要解决的主要挑战。
2019-04-08 cs.CV cs.LG
Towards Intelligent RAN Slicing for B5G: Opportunities and Challenges
为了满足无线通信的多样化需求，第五代（5G）网络及以后（B5 G）通过锻造其物理基础设施的虚拟实例（切片）来拥抱网络切片的概念。网络切片是核心网和无线接入网资源的动态分配，本文重点研究了无线接入网切片的设计。形成可以灵活（重新）配置同时确保切片隔离的按需RAN-S是具有挑战性的。最近已经引入了各种机器学习（ML）技术用于RAN-S中的业务预测和分类、资源使用预测、准入控制、调度和动态资源分配。尽管这些方法为智能RAN-S设计提供了机会，但它们提出了需要研究的关键挑战。本文通过回顾RAN-S的尖端ML技术，强调了将ML纳入RAN-S的机遇和挑战。它也为智能RAN-S（iRAN-S）的未来研究提出了一些方向。
2021-02-27 cs.LG cs.NI
Programming Is Hard -- Or at Least It Used to Be: Educational Opportunities And Challenges of AI Code Generation
University College Dublin（都柏林大学）；The University of Auckland（奥克兰大学）；Abilene Christian University（阿比林基督教大学）
在计算教育中，入门编程序列一直是许多研究的焦点。最近出现的几个可行的和免费可用的AI驱动的代码生成工具在这个领域提出了几个直接的机会和挑战。在这份立场文件中，我们认为，社区需要迅速采取行动，决定可以和应该利用哪些可能的机会，以及如何利用，同时也要努力克服或以其他方式减轻可能的挑战。假设这些工具的有效性和扩散将继续迅速发展，如果没有快速，深思熟虑和协调一致的努力，教育工作者将失去帮助塑造机会的优势，以及挑战将持续下去。通过这篇文章，我们的目标是在计算教育社区中进行讨论。
2022-12-02 cs.AI cs.CY cs.HC
Reinforcement Learning for Education: Opportunities and Challenges
MPI-SWS（马克斯·普朗克软件系统研究所）；Carleton College（卡尔顿学院）；Worcester Polytechnic Institute（伍斯特理工学院）
这篇调查文章源于作者在教育数据采掘（EDM）2021会议上组织的RL4ED研讨会。我们组织了这次研讨会，作为社区建设工作的一部分，汇集了对强化学习（RL）和教育（ED）广泛领域感兴趣的研究人员和从业人员。本文旨在提供研讨会活动的概述，并总结了在该领域的RL教育的主要研究方向。
2021-07-15 cs.AI cs.LG
Reinforcement Learning in Practice: Opportunities and Challenges
本文是关于强化学习实践领域的温和讨论，关于机遇和挑战，涉及广泛的主题，有观点，没有技术细节。本文基于历史和最近的研究论文，调查，教程，会谈，博客，书籍，（小组）讨论和研讨会/会议。不同的读者群体，如研究人员，工程师，学生，经理，投资者，官员和想了解更多关于该领域的人，可能会发现这篇文章很有趣。在这篇文章中，我们首先简要介绍了强化学习（RL），以及它与深度学习、机器学习和AI的关系。然后，我们讨论了强化学习的机会，特别是产品和服务，游戏，强盗，推荐系统，机器人，交通，金融和经济，医疗保健，教育，组合优化，计算机系统，科学和工程。然后我们讨论了挑战，特别是1）基础，2）表示，3）奖励，4）探索，5）模型，模拟，规划和基准，6）离线/离线学习，7）学习学习a.k.a.元学习，8）可解释性和可解释性，9）约束，10）软件开发和部署，11）业务视角，以及12）更多挑战。最后，我们讨论，试图回答：“为什么RL还没有被广泛采用在实践中呢？和“RL什么时候有用？".
2022-04-22 cs.AI cs.LG
Challenges and Opportunities of Edge AI for Next-Generation Implantable BMIs
EPFL（洛桑联邦理工学院）；Sharif University of Technology（谢里夫理工大学）
神经科学和神经技术目前正在被人工智能（AI）和机器学习彻底改变。人工智能被广泛用于研究和解释神经信号（分析应用），帮助残疾人（假肢应用）和治疗潜在的神经系统症状（治疗应用）。在这篇简报中，我们将回顾片上人工智能在下一代植入式脑机接口（BMI）中的新兴机会，重点关注最先进的假体BMI。将讨论人工智能模型有效性的主要技术挑战。最后，我们将介绍算法和IC设计解决方案，以实现新一代AI增强型和高通道数的BMI。
2022-04-13 cs.AI cs.AR cs.LG
Reimagining Application User Interface (UI) Design using Deep Learning Methods: Challenges and Opportunities
National University of Sciences and Technology (NUST)（国立科技大学）；Air University（航空大学）
在本文中，我们提出了一个审查的深度学习方法的用户界面设计的最新工作。该调查涵盖了广泛用于设计用户界面应用程序的众所周知的深度学习技术（深度神经网络，卷积神经网络，递归神经网络，自动编码器和生成对抗网络）和数据集。我们强调在这一领域的重要问题和新兴的研究前沿。我们认为，深度学习在用户界面设计自动化任务中的应用可能是软件开发行业发展的高潜力领域之一。
2023-03-23 cs.HC cs.LG
Deep Learning for Spatiotemporal Big Data: A Vision on Opportunities and Challenges
University of Florida（佛罗里达大学）
本文展望了深度学习应用于时空大数据的机遇与挑战，介绍数据类型、研究机会、独特难点及未来研究方向。
2023-10-30 cs.AI cs.CV cs.LG
AI in Finance: Challenges, Techniques and Opportunities
University of Technology Sydney（悉尼科技大学）
金融中的人工智能广义上是指人工智能技术在金融业务中的应用。这一领域已经持续了几十年，经典和现代人工智能技术都应用于越来越广泛的金融、经济和社会领域。与讨论从特定人工智能技术，特别是一些新一代人工智能和数据科学（艾滋病）领域受益的金融问题，方面和机会，或审查应用特定技术解决某些金融问题的进展相反，这次审查提供了一个全面而密集的路线图。在过去的几十年里，人工智能研究在金融领域的技术和机会。首先概述了金融业务和数据的前景和挑战，然后对金融领域数十年的人工智能研究进行了全面的分类和密集的概述。然后，我们构建并说明了数据驱动的分析和金融业务和数据的学习。随后对经典与现代金融AI技术进行了比较、批评和讨论。最后，开放的问题和机会解决了未来人工智能授权的金融和金融驱动的人工智能研究。
2021-07-20 cs.AI cs.CE cs.LG
Opportunities and Challenges from Using Animal Videos in Reinforcement Learning for Navigation
Boston University（波士顿大学）
我们研究了使用动物视频（观察）来提高强化学习（RL）在具有稀疏奖励的导航任务中的效率和性能。出于理论考虑，我们将加权策略优化用于非策略RL，并描述了从动物视频中学习时的主要挑战。我们提出解决方案，并在一系列2D导航任务上测试我们的想法。我们展示了我们的方法如何利用动物视频来提高RL算法的性能，而RL算法不利用这些观察结果。
2022-11-10 cs.AI cs.CV cs.LG
Understanding Practices, Challenges, and Opportunities for User-Engaged Algorithm Auditing in Industry Practice
Carnegie Mellon University（卡内基梅隆大学）
近年来，研究人员和从业人员对用户参与的算法审计方法越来越感兴趣，这种方法直接让用户参与检测算法系统中的问题行为。然而，我们对行业从业者目前在用户参与审计方面的做法和挑战知之甚少，也不知道他们在实践中有什么机会更好地利用这些方法。为了进行调查，我们与在工作中采用用户参与审计方法的从业人员进行了一系列访谈和迭代协同设计活动。我们的研究结果揭示了从业者在适当招募和激励用户审计员，脚手架用户审计以及从用户参与的审计报告中获得可操作的见解方面面临的几个挑战。此外，从业人员在用户参与审计方面遇到了共同的组织障碍，使从业人员和用户审计员之间的复杂关系浮出水面。基于这些发现，我们讨论了未来HCI研究的机会，以帮助实现潜在的（和减轻风险）的用户参与审计在行业实践中。
2023-02-21 cs.AI cs.HC cs.LG
Deep AUC Maximization for Medical Image Classification: Challenges and Opportunities
The University of Iowa（爱荷华大学）
在这篇扩展摘要中，我们将介绍并讨论通过AUC最大化（又名\underline{\bf D} eep \underline{\bf A} UC \underline{\bf M} aximization或{\bf DAM}）进行医学图像分类的新深度学习方法所带来的机遇和挑战。由于AUC（也称为ROC曲线下面积）是医学图像分类的标准性能指标，因此直接优化AUC可以实现比最小化传统损失函数（例如，交叉熵损失）。最近，出现了将深度AUC最大化用于大规模医学图像分类的趋势。在本文中，我们将讨论这些最近的结果，突出（一）随机非凸优化算法DAM带来的进步;（二）各种医疗图像分类问题的有前途的结果。然后，我们将从特征学习、大规模优化和学习可信AI模型三个角度讨论DAM用于医学图像分类的挑战和机遇。
2021-11-01 cs.AI cs.CV cs.LG
Multi-modal Misinformation Detection: Approaches, Challenges and Opportunities
Georgia Institute of Technology（佐治亚理工学院）；Microsoft Corp.（微软公司）；University of Southern California（南加州大学）
该研究针对社交媒体向多模态演进后错误信息利用跨模态上下文传播的新问题，梳理分析现有多模态错误信息检测方法与面临的挑战不足，挖掘该领域的新研究机遇。
2024-09-18 cs.AI cs.CV cs.CY
