We present VERIFAI, a software toolkit for the formal design and analysis of systems that include artificial intelligence (AI) and machine learning (ML) components. VERIFAI particularly seeks to address challenges with applying formal methods to perception and ML components, including those based on neural networks, and to model and analyze system behavior in the presence of environment uncertainty. We describe the initial version of VERIFAI which centers on simulation guided by formal models and specifications. Several use cases are illustrated with examples, including temporal-logic falsification, model-based systematic fuzz testing, parameter synthesis, counterexample analysis, and data set augmentation.
MIST: Missing Person Intelligence Synthesis Toolkit
Arizona State University（亚利桑那州立大学）；Find Me Group（寻我小组）
在美国，每天大约有500起失踪人口案件没有得到解决。由前执法专业人员领导的非营利组织Find Me Group（FMG）致力于解决这些案件。本文介绍了失踪人员情报综合工具包（MIST），它利用了数据驱动的地理空间溯因推理的变体。该系统采用由一组专家提供的搜索位置，并根据分配给区域的概率对它们进行排序，该区域基于作为一组的专家的先前表现。我们将我们的方法与Find Me Group目前采用的做法进行了比较，发现它大大减少了搜索区域-导致我们在实验中检查的24个案例减少了31平方英里。目前，我们正在使用MIST来帮助寻找我组在一个活跃的失踪人员案件。
Deep Learning for Code Intelligence: Survey, Benchmark and Toolkit
Simon Fraser University（西蒙弗雷泽大学）；Salesforce Research（赛富时研究院）；Chongqing University（重庆大学）；University of New South Wales（新南威尔士大学）；University of Technology Sydney（悉尼科技大学）；University of Illinois at Chicago（伊利诺伊大学芝加哥分校）
Arena: A General Evaluation Platform and Building Toolkit for Multi-Agent Intelligence
University of Oxford（牛津大学）；Lighthouse（灯塔公司）；Beihang University（北京航空航天大学）；Hebei University of Technology（河北工业大学）；Imperial College London（帝国理工学院）；University of California, Los Angeles（加利福尼亚大学洛杉矶分校）
随着人工智能和机器学习算法在社会上越来越普遍，多个利益相关者都在呼吁这些算法提供解释。同时，这些利益相关者，无论是受影响的公民，政府监管机构，领域专家还是系统开发人员，都有不同的解释需求。为了满足这些需求，我们于2019年创建了AI Explainability 360（Arya等人，2020），这是一个开源软件工具包，包含十种不同且最先进的可解释性方法和两个评估指标。本文通过几个案例研究、统计数据和社区反馈来研究该工具包的影响。用户体验AI Explainability 360的不同方式导致了多种类型的影响和多个指标的改进，独立的LF AI & Data Foundation采用该工具包突出了这一点。文件还介绍了该工具包的灵活设计、使用实例以及向用户提供的重要教育材料和文件。
A Dual-Helix Governance Approach Towards Reliable Agentic Artificial Intelligence for WebGIS Development
Geographic Information Systems Center, Florida International University（佛罗里达国际大学地理信息系统中心）；Geospatial Analytics, Technology and Open Research Lab, University of Florida（佛罗里达大学地理空间分析、技术与开放研究实验室）
Geometric Origins of Bias in Deep Neural Networks: A Human Visual System Perspective
Gaoling School of Artificial Intelligence, Renmin University of China, Beijing, China（中国人民大学北京校区人工智能学院）；Tsinghua University, Beijing, China（清华大学）；University of Manchester, Manchester, M13 9PS, United Kingdom（曼彻斯特大学）
The Foundations of Computational Management: A Systematic Approach to Task Automation for the Integration of Artificial Intelligence into Existing Workflows
Vivenxia Group LLC（Vivenxia集团有限责任公司）；Centre for Digital Therapeutics（数字治疗中心）；University of Southern California（南加州大学）
