A Human Dimension of Hacking: Social Engineering through Social Media
通过社交媒体渠道针对组织员工的社会工程正在成为最具挑战性的信息安全威胁之一。社会工程由于攻击方法依赖于人类的天真或错误而无视传统的安全努力。通过在线社交网络向社会工程师提供的大量信息正在促进攻击方法,这些方法依赖于某种形式的人为错误来渗透公司网络。虽然对组织信息安全目标至关重要的是引入相关的综合政策和指导方针,但全球各地区的观点和做法各不相同。本文确定了这样的区域变化,然后提出了一个详细的调查信息安全的前景和做法,周围的社会媒体,在澳大利亚的组织(公共和私人)。结果发现了不同的观点和做法,这表明需要进一步的工作,以实现有效的保护,防止由于社交媒体的采用而产生的安全威胁。
2020-05-08 cs.CR
Functional Magnetic Resonance Imaging and the Challenge of Balancing Human Security with State Security
最近的报告显示,暴力极端分子正试图获得内部职位,这可能会增加对关键基础设施的任何攻击的影响,并可能危及国家服务,人民生命甚至民主。至关重要的是,能够在某些高风险局势中采取极端安全措施,以确保关键基础设施的安全,从而降低恐怖主义威胁的程度,同时维护公民的权利。为了应对这些威胁,我们的研究旨在采取极端措施来分析和评估与人类威胁相关的评估方法,以便使用认知分析技术,特别是功能性磁共振成像(fMRI)进行员工筛选和评估。功能磁共振成像的发展使一些研究人员得出结论,这项技术具有法医潜力,可能有助于投资人格特征,精神疾病,精神病理学,种族偏见和宗教极端主义。然而,批评者声称,这项技术可能会带来许多新的人权和道德困境,并可能导致潜在的灾难性后果。研究的主旨是通过提出一套道德和专业准则来应对上述担忧和有害后果,这些准则将大大减少不道德使用这项技术的风险。这项研究的意义在于确保国家/组织在征得同意和未经同意的情况下窥视个人思维过程的权利的限度,确定个人权利的参数,以确保功能磁共振成像扫描不会对认知自由构成超过适当的威胁,以及在民事,法医和安全环境中正确使用这些信息。
2012-04-16 cs.CR
Security Assessment of E-Tax Filing Websites
技术安全只是电子商务安全操作的一部分;人的可用性和安全感知发挥主要作用,有时甚至是主导因素。例如,具有令人印象深刻的安全图标但没有真正的技术安全的光滑网站通常被用户认为是值得信赖的(因此更有利可图),而不是使用强大的加密传输和服务器保护的普通网站。我们研究了一种重要的电子商务交易网站,电子报税,这是暴露于大量的人口。我们评估了大量的国际(5),联邦(美国)和国家电子税务申报网站(38)的技术安全保护和安全的人类感知。根据评估结果,我们确定了这些电子报税网站的最佳安全做法,并推荐了电子报税网站目前尚未使用的其他安全技术。
2006-08-06 cs.CR
Human Behaviour as an aspect of Cyber Security Assurance
尽管安全实践在行业内应用多年,但仍有许多与网络安全有关的违规行为被公布。本文旨在成为研究网络安全保证过程的许多文章中的第一篇。这篇文章是根据目前有关网络安全保证的研究以及人为因素对网络安全保证的影响而编写的。这项工作的目的是根据文献综述的结果,确定将受益于进一步研究和开发的网络安全要素。本文中概述的结果表明,网络安全领域需要关注已建立的行业领域,以受益于有效的实践,如人为可靠性评估,以及改进的验证方法,如统计质量控制,以获得真正的保证。本文提出了一个框架的开发,该框架将基于定义和可重复的量化,特别是与提供或不打算对网络安全态势产生负面影响的人类方面任务的范围有关。
2016-01-15 cs.CR cs.CY
An Introduction of System-Scientific Approaches to Cognitive Security
人类的认知能力和“工业5.0”以人为中心的解决方案的需求使人类成为网络物理系统(CPS)中不可或缺的组成部分,称为人类网络物理系统(HCPS),其中包含人工智能技术以帮助和增强人类。第1.1节中人类与技术的紧密结合以及第1.2.4节中的认知攻击带来了新的安全挑战,攻击可以利用人类认知过程的漏洞,影响他们的行为,并最终破坏HCPS。保护HCP免受认知攻击需要一种新的安全范式,我们在第1.2.5节中将其称为“认知安全”。人类认知系统的脆弱性和相关的利用方法将认知安全与“认知可靠性”区分开来,并产生了一个独特的CIA三元组,分别见1.2.5.1和1.2.5.2部分。1.2.5.3部分介绍了认知和技术防御方法,这些方法阻止了认知攻击的杀伤链并实现了认知安全。第1.3节中的系统科学观点提供了一个有希望的方向,通过开发定量,模块化,多尺度和可转移的解决方案来应对认知安全的新挑战。
2023-01-14 cs.CR cs.GT
Leveraging Trustworthy AI for Automotive Security in Multi-Domain Operations: Towards a Responsive Human-AI Multi-Domain Task Force for Cyber Social Security
本研究针对多域作战中网联自动驾驶汽车面临的对抗性机器学习威胁,分析三类决策树集成模型超参数对黑盒攻击时间的影响,为防御性可信AI实践及弹性ML系统构建提供支撑。
2025-07-23 cs.CR
Lighting Two Candles With One Flame: An Unaided Human Identification Protocol With Security Beyond Conventional Limit
设计一个有效的协议,以避免在一个强大的窃听者存在的威胁记录为基础的攻击仍然是一个挑战,超过二十年。在认证过程中,证明者和验证者之间缺乏任何安全链接使得事情变得更加脆弱,因为在观察到阈值挑战-响应对之后,由于信息泄漏,用户的秘密可能很容易得到。现有的文献只提出了新的方法,以确保优于以前的方面,而忽略了他们提出的计划应付不好的方面。毫不奇怪,其中大多数是远远不能令人满意的-要么是远远不能使用或缺乏安全功能。为了克服这个问题,我们首先引入了“泄漏控制”的概念,它限制了自然的信息泄漏率,并大大有助于提高可用性和安全标准。不仅仅是预防,而且,通过引入威胁检测策略(基于蜜词的概念),我们的计划“点燃两支蜡烛”。它不仅消除了实际场景下长期存在的安全性和可用性的冲突,而且随着来自客户端的威胁检测,它能够在分布式框架下保护服务器端的秘密,从而保证超出常规限制的安全性。
2017-05-30 cs.CR
Trust but Verify? Uncovering the Security Debt of Autonomous Coding Agents
University of Texas at San Antonio(圣安东尼奥得克萨斯大学);Danovo Energy Solutions(Danovo能源解决方案)
本文利用AIDev数据集,通过大语言模型评判框架和人工分析,研究自主编码代理生成拉取请求中的安全代码异味。发现38.9%的请求含安全异味,供应链问题和硬编码凭证占比高,揭示了安全风险及开发者警惕性降低问题,强调需实施上下文感知安全护栏。
2026-07-21 cs.CR
Towards Modeling Cybersecurity Behavior of Humans in Organizations
Kiel University of Applied Sciences(基尔应用科技大学)
本文提出了一种面向组织中人类网络安全行为的建模方法,整合意识、安全文化等关键概念,为开发对抗AI代理操纵攻击的安全策略提供理论框架。
2026-03-09 cs.CR
Improving security and bandwidth efficiency of NewHope using error-correction schemes
在NIST后量子密码学(PQC)项目的许多提交中,NewHope是一种基于错误环学习(Ring-LWE)问题的有前途的密钥封装机制(KEM)。由于PQC最重要的考虑因素是安全性和成本,包括带宽和时间/空间复杂度,本文通过精确的噪声分析和使用Bose Chaudhuri Hocquenghem(BCH)码,表明NewHope的安全性和带宽效率可以得到实质性的改善。详细地,通过执行精确的噪声分析重新计算NewHope的解密失败率(DFR),并且表明NewHope的DFR被过于保守地计算。由于重新计算的DFR远低于所需的$2^{-128}$,因此利用该DFR裕度将安全性提高到8.5%或将带宽效率提高到5.9%,而不改变NewHope的过程。NewHope采用的加性阈值编码(ATE)是一种简单的纠错码(ECC),对侧信道攻击具有较强的鲁棒性,但其纠错能力相对于其他ECC来说较弱。因此,如果将适当的纠错方案应用于NewHope,则可以提高安全性或带宽效率或两者。在各种ECC中,BCH码由于其无错误平台问题等优点而在密码系统中得到广泛的应用。本文从信息论的角度将ATE和总噪声信道看作一个超级信道。在此超级信道分析的基础上,研究了NewHope系统中ATE码和BCH码的各种级联编码方案。通过数值分析,它表明,新希望的安全性和带宽效率显着提高使用所提出的纠错方案。
2019-05-20 cs.CR
A Visual Model for Web Applications Security Monitoring
提出了一种新的Web应用安全监控可视化模型。虽然自动化入侵检测系统可以保护Web应用免受常见攻击,但它通常无法检测到更复杂的入侵。因此,人工辅助监控系统是遵循“纵深防御”策略的不可或缺的补充。为了支持人类操作员更有效和高效地工作,信息可视化技术在这个模型中使用。该模型的原型实现创建,并用于测试对一个流行的开源Web应用程序。测试结果证明了该模型的实用性,至少在理解Web应用程序的安全结构。
2019-04-05 cs.CR
A Model for Enhancing Human Behaviour with Security Questions: A Theoretical Perspective
安全问题是用于恢复密码的机制之一。安全问题的强答案(即高熵)很难让攻击者猜测或使用社会工程技术(例如监控社交网络配置文件)获得,但同时也很难记住。相反,安全问题的弱答案(即低熵)很容易记住,这使得它们更容易受到网络攻击。便利性导致用户在多个帐户上使用相同的安全问题答案,这使这些帐户面临众多网络威胁。因此,目前的安全问题实现很少达到所需的安全性和可记忆性要求。这项研究是开发一个模型的第一步,该模型通过选择安全问题的强有力和令人难忘的答案的动机来调查影响用户行为意图的决定因素。本研究也提供了新的安全问题机制的设计建议。
2017-09-24 cs.CR cs.HC
Security Challenges in Autonomous Systems Design
本文系统梳理了自主系统设计在事件响应、风险评估、数据可用性、系统交互、可信性、可更新性、访问控制及机器学习可靠性与可解释性等方面的新兴安全挑战,并提出了相应的研究方向。
2023-12-04 cs.CR
EarthOL: A Proof-of-Human-Contribution Consensus Protocol -- Addressing Fundamental Challenges in Decentralized Value Assessment with Enhanced Verification and Security Mechanisms
本文提出EarthOL共识协议,用可验证的人类贡献替代区块链计算浪费,通过多层验证和增强安全机制实现领域受限的价值评估,并解决可扩展性与文化偏见挑战。
2025-05-27 cs.CR cs.CY
How to Compare the Security of Code Written by Humans to LLM-generated Code
Zurich University of Applied Sciences(苏黎世应用科学大学)
提出一个自动化框架,通过静态和动态质量分析,在人类单独、LLM单独和人类-LLM混合条件下进行可重复的“物种公平”比较实验,以评估LLM生成代码相对于人类代码的安全性。
2026-07-01 cs.CR cs.SE
Review of human decision-making during computer security incident analysis
我们回顾了计算机安全事件响应过程中决策的实用建议。范围包括IETF、ISO、FIRST和美国情报界的标准。为了关注人类决策,范围是响应的证据收集、分析和报告阶段。结果显示了优势和差距。一个优点是可以得到关于如何完成许多具体任务的建议。然而,关于如何在有限的时间内确定任务的优先级,以及如何解释、概括和令人信服地报告结果,几乎没有指导。未来的工作应集中在这些差距的解释和规范的决策过程中的事件分析。
2019-03-24 cs.CR cs.CY
LLMs in the SOC: An Empirical Study of Human-AI Collaboration in Security Operations Centres
eSentire Inc.(eSentire公司)
本文通过对45名SOC分析师10个月内3,090条查询的纵向研究,揭示大语言模型在安全运营中心中作为按需认知辅助工具增强而非取代分析师专业能力,为设计以人为中心的安全AI辅助提供实证依据。
2025-09-19 cs.CR
Adaptive alert prioritisation in security operations centres via learning to defer with human feedback
本文提出L2DHF框架,利用基于人类反馈的深度强化学习优化警报推迟决策,在UNSW-NB15和CICIDS2017上显著提升警报优先级排序准确性并减少推迟,减轻分析人员负担。
2025-06-23 cs.CR
Visualizing BACnet data to facilitate humans in building-security decision-making
楼宇自动化系统(BAS)是硬件和软件的互连网络,用于监视和控制建筑物中的事件。BAS中使用的数据通信协议之一是楼宇自动化和控制网络协议(BACnet),其是用于BAS设备之间的通信的国际上采用的ISO标准。虽然BAS专注于为居民提供安全,减少建筑物的能源消耗并降低其运营成本,但由于现代系统的固有复杂性,其安全性受到影响。诸如BAS的有效监测的问题提出了重大挑战,即,BAS操作员通常只具备部分态势感知能力。特别是在大型和相互连接的建筑物中,运营商面临着在大量同时发生的事件中发现有意义事件的挑战,导致BAS网络中的异常无法观察到。在本文中,我们提出的技术来分析和可视化的数据从BAS设备的方式,确定这种不寻常的事件的潜在重要性,并有助于建筑安全决策。我们实现了这些技术作为一个基于移动(Android)的应用程序,用于显示应用程序数据,并作为工具来分析使用有向图的通信流。
2015-02-24 cs.CR
Safety vs. Security: Attacking Avionic Systems with Humans in the Loop
飞机上的许多无线通信系统缺乏标准的安全机制,使它们从根本上容易受到攻击。随着经济实惠的软件定义无线电的出现,一种新的威胁已经出现,允许广泛的攻击者轻松干扰无线航空电子系统。虽然这些漏洞是已知的,但利用它们的具体攻击仍然是新颖的,尚未得到很好的理解。这一点在它们对被攻击飞机的操纵及其安全性的动力学影响方面尤其如此。为了调查这一点,我们邀请了30名空客A320型号的飞行员来飞行模拟器场景,在这些场景中,他们的航空电子设备受到攻击。我们实现和分析三个安全相关的系统:交通防撞系统(TCAS),地面接近警告系统(GPWS)和仪表着陆系统(ILS)的新型无线攻击。我们发现,所有三个分析的攻击场景产生了显着的控制影响和中断的成本,通过周转,回避机动,和改道。它们进一步增加了工作量,对受影响系统的不信任,并且在38%的情况下导致受攻击的安全系统完全关闭。所有的飞行员都认为这些场景是有用的,93.3%的人认为无线攻击的模拟器培训可能是有价值的。
2019-05-20 cs.CR
Influences of Human Demographics, Brand Familiarity and Security Backgrounds on Homograph Recognition
同形异义词攻击是攻击者利用许多字符看起来相似的事实来欺骗受害者关于他们正在与哪个网站域名通信的一种方式。当最近许多品牌域名受到攻击时,攻击变得严重,并引起了广泛的关注,例如苹果公司,Adobe Inc.,我们首先设计了一项关于人口统计学、品牌熟悉度和安全背景的调查,并将其应用于2,067名参与者。我们建立了一个回归模型来研究哪些因素会影响被试的同形词域识别能力。我们发现,对于不同水平的视觉相似性,参与者表现出不同的能力。13.95%的被试能够识别出非同形词,16.60%的被试能够识别出与目标品牌领域视觉相似度在99.9%以下的同形词,但当相似度增加到99.9%时,能够识别出同形词的被试人数显著下降到只有0.19%;对于视觉相似度为100%的同形异义词,被试无法识别。我们还发现,女性参与者倾向于更好地识别同形词的男性,但男性参与者往往能够识别非同形词比女性更好。安全知识是影响同形词和非同形词的重要因素;令人惊讶的是,具有强大安全知识的人往往能够识别同形词,但不能识别非同形词。此外,在计算机科学或计算机工程领域工作或接受教育的人不会成为影响识别同形异义词能力的因素;然而,有趣的是,在向他们解释同形异义词攻击后,在计算机科学或计算机工程领域工作或接受教育的人是最快捕捉到情况的人。
2020-01-27 cs.CR
Proceedings of the Artificial Intelligence for Cyber Security (AICS) Workshop 2020
研讨会将重点讨论人工智能在网络安全问题中的应用。AICS 2020的重点将是在网络安全问题的背景下进行人机合作,并将专门探索人类操作员与人工智能技术之间的合作。该研讨会将涉及人工智能的适用领域,如机器学习,博弈论,自然语言处理,知识表示,自动化和辅助推理以及人机交互。此外,网络安全应用领域,特别强调人机合作的表征和部署将是重点。
2020-06-10 cs.AI cs.CR cs.HC
BYOD Security: A Study of Human Dimensions
自带设备(BYOD)安全的流行和成熟,以及随后的框架和安全机制在澳大利亚组织中的流行和成熟,是一个越来越多的现象,有点类似于其他发达国家。在COVID 19大流行期间,即使是以前不愿意接受BYOD的组织也被迫接受它以促进远程工作。本文的目的是通过使用调查问卷工具进行的研究,发现员工如何实践和感知澳大利亚企业部署的BYOD安全机制,这有助于指导未来BYOD安全框架的发展。本研究回答了三个研究问题-澳大利亚企业对BYOD安全方面的认识水平如何?员工目前如何应对其组织为移动设备应用的安全机制?企业IT网络中有哪些潜在弱点会直接影响BYOD安全性?总的来说,本研究的目的是阐明这些研究目标的结果,以便它们可以用作构建新的和加强现有BYOD安全框架的基础,以提高其针对虚拟驱动的工作人员中不断增长的针对移动设备的攻击和威胁的有效性。
2022-02-23 cs.CR cs.CY
Security of Agent-Integrated Software: When Human Operations and Agent Actions Coexist
State Key Laboratory for Novel Software Technology, Nanjing University(南京大学软件新技术国家重点实验室);Technical University of Munich(慕尼黑工业大学)
本文提出从整个系统层面评估智能体集成软件的安全性,将共存问题分为四类,并指出信息溯源、策略执行、授权维持和效果恢复等研究方向。
2026-09-22 cs.CR cs.SE
Analysis of Human Awareness of Security and Privacy Threats in Smart Environments
智能环境将信息和通信技术(ICT)集成到设备、车辆、建筑物和城市中,以提高生活质量、能源效率和经济可持续性。从这一角度看,个人具有核心作用,网络也具有核心作用,使这些实体能够进行合作。然而,大量的敏感数据、社交方面和混合的协议集提供了许多机会,可以注入危险、泄露信息、对公民进行大规模分析或产生新一波攻击。这项工作审查了在智能环境中使用信通技术所产生的主要风险,重点是联网。它的主要贡献是解释不同利益攸关方在造成缺乏安全方面的作用,并通过考虑人的方面来设想未来的威胁。
2015-02-03 cs.CR cs.CY
BioEnvSense: A Human-Centred Security Framework for Preventing Behaviour-Driven Cyber Incidents
Western Sydney University(西悉尼大学)
BioEnvSense提出一种结合CNN-LSTM模型的以人为本安全框架,通过分析生物和环境数据来检测并降低由人类行为引发的网络安全风险。
2026-02-23 cs.CR cs.CY cs.HC
Cry Wolf: Toward an Experimentation Platform and Dataset for Human Factors in Cyber Security Analysis
计算机网络防御是自动化系统和人类网络安全分析师之间的合作。系统行为,例如提高高比例的假警报,可能会影响网络分析师的性能。由于缺乏安全专家的访问、攻击数据集的可用性以及使用安全分析工具所需的培训,分析系统领域的实验具有挑战性。本文介绍了Cry Wolf,这是一个用于网络安全分析任务用户研究的开源Web应用程序。本文还提供了一个开放访问的数据集的73个真实和虚假的入侵检测系统(IDS)警报来自现实世界的例子“不可能的旅行”的情况。Cry Wolf和impossible travel数据集被用于一项实验,研究IDS误报率对分析人员将IDS警报正确分类为真警报或假警报的能力的影响。实验结果被用来评估数据集的质量,从经典的测试理论的难度和歧视指数的措施。数据集中的许多警报为参与者的整体任务表现提供了很好的区分。
2020-02-24 cs.CR cs.HC
Towards AI-Driven Human-Machine Co-Teaming for Adaptive and Agile Cyber Security Operation Centers
George Mason University(乔治·马歇尔大学);University of South Florida(佛罗里达州立大学)
针对SOC告警过载、人才短缺与工具割裂问题,本文提出利用LLM驱动的人机协同团队,通过分析师隐性知识传递增强威胁情报、告警分类与事件响应。
2025-05-09 cs.AI cs.CR
Panel: Humans and Technology for Inclusive Privacy and Security
计算机安全和用户隐私是数字时代的关键问题和关注点,因为用户不断增加,他们的数据受到威胁。通用网络安全指南(即,保护所有用户数据免受恶意威胁)和隐私的个人主义方法(即,具体针对用户并取决于用户需求和风险认知)。研究表明,一些以安全和隐私为重点的漏洞是技术性的(例如,软件漏洞(Streiff,Kenny,Das,Leeth,& Camp,2018),不安全的身份验证(Das,Wang,Tingle,& Camp,2019)),或行为(例如,共享密码(Das,Dingman,& Camp,2018);和合规性(Das,Dev,& Srinivasan,2018)(Dev,Das,Rashidi,& Camp,2019))。该小组提案涉及第三类社会技术脆弱性,这些脆弱性可能而且有时确实源于非包容性的安全和隐私设计。在这个面板中,我们将解决用户的隐私需求和愿望。该小组将深入讨论对价值敏感的设计,同时关注潜在的弱势群体,如老年人,青少年,残疾人和其他通常不强调一般安全和隐私问题的人。人的因素与这些领域的改进有利害关系,也有能力促进这些领域的改进。
2021-01-18 cs.CR cs.CY
Cybersecurity AI: The World's Top AI Agent for Security Capture-the-Flag (CTF)
Alias Robotics
2025年,网络安全AI在多个顶级CTF比赛中超越人类队伍,通过高效模型实现安全操作的突破,推动CTF赛事向更具挑战性的攻防格式转型。
2025-12-02 cs.CR
On Burst Error Correction and Storage Security of Noisy Data
用于认证目的的噪声数据的安全存储通常涉及纠错码的使用。我们提出了一个新的模型方案,涉及突发错误,并提出了几个建设。
2012-05-23 cs.CR cs.IT math.IT
AI Agents vs. Human Investigators: Balancing Automation, Security, and Expertise in Cyber Forensic Analysis
Florida Institute of Technology(佛罗里达理工学院);Rochester Institute of technology(罗切斯特理工学院)
本研究比较了AI代理与人类调查员在网络取证分析中的有效性,揭示AI的局限性及人类监督的重要性。
2026-01-20 cs.CR
Challenges and New Directions in Augmented Reality, Computer Security, and Neuroscience -- Part 1: Risks to Sensation and Perception
快速发展的AR技术在人类大脑和物理世界之间直接调解方面处于独特的地位。虽然这种紧密耦合为人类增强提供了巨大的机会,但由于潜在的对手,包括AR应用程序或设备本身,以及错误或事故,它也带来了新的风险。在本文中,我们开始探索增强现实对人类大脑的潜在风险。我们最初的重点是感官和知觉风险(例如,意外或恶意诱导的视觉适应,运动诱导的失明和光敏性癫痫),但类似的风险可能跨越较低和较高水平的人类大脑功能,包括认知,记忆和决策。虽然这些风险在早期的AR技术中还没有体现出来,但我们认为,由于AR与用户对物理世界的体验交互的丰富性和深度,这种风险在AR中是独一无二的危险。我们提出了一个框架,在计算机安全威胁建模的基础上,从概念上和实验上评估这种风险。我们工作的最终目标是帮助AR技术开发人员、研究人员和神经科学家在AR技术被广泛部署并成为真正对手的目标之前考虑这些问题。通过现在考虑和解决这些问题,我们可以帮助确保未来的AR技术能够充分发挥其积极的潜力。
2018-06-27 cs.CR
An Efficient Authentication Protocol for Smart Grid Communication Based on On-Chip-Error-Correcting Physical Unclonable Function
针对智能电网中智能电表物理安全及PUF可靠性与计算开销问题,提出OCEC PUF并设计SM与NG间轻量级认证协议,证明其在CK模型下安全且性能更优。
2023-07-23 cs.CR
A Human Study of Cognitive Biases in Web Application Security
本文研究了认知偏差(搜索满足和损失厌恶)对CTF挑战中Web应用漏洞攻击效果的影响,通过受控人类研究发现搜索满足偏差显著降低参与者成功率,为利用认知偏差增强网络安全教育提供了见解。
2025-05-30 cs.CR
On the Boundaries of Trust and Security in Computing and Communications Systems
本文分析了计算和通信系统中的信任和安全。虽然在人类生活中,信任通常具有某种普遍理解的含义,但在计算和通信系统领域,它可以在不同的环境和设置中得到不同的解释。另一方面,安全性是确保参与实体在通信事件或事件中是合法的,以便维护隐私,完整性和真实性的核心要求。这一概念也适用于我们的人类生活,即使是进入一个房子需要一个人的合法性。一些边界线保持安全性;否则不必要的访问被称为“安全漏洞”。这篇文章的目的是比较和讨论这两个术语与我们的社会行为和实体之间的理解。为了说明这些问题,特别是在计算和通信世界,一些创新和最新的技术进行了讨论,需要在其核心操作结构的信任和安全。除了提出一般既定的想法,一些关键点提到,有时可能是有争议的研究界。
2012-03-20 cs.CR
An Empirical Evaluation of LLMs for Solving Offensive Security Challenges
本研究开发了人在回路和完全自动化两种工作流,评估大语言模型解决CTF挑战的能力,发现LLMs成功率高于普通人类,为网络安全教育及系统评估攻击性安全能力提供了参考。
2024-02-19 cs.CR
Bayes, not Naïve: Security Bounds on Website Fingerprinting Defenses
网站指纹(WF)攻击引发了对用户隐私的重大担忧。他们采用机器学习(ML)来允许本地被动攻击者发现用户的Web浏览行为,即使她通过加密隧道(例如Tor,VPN)浏览。过去已经提出了许多防御措施;然而,通常很难对其安全性进行正式保证,这通常是针对最先进的攻击进行经验评估。在本文中,我们提出了一个实用的方法来获得任何WF防御,这取决于一个选定的功能集的安全界限。这个结果来自于将WF攻击减少到ML分类任务,在ML分类任务中,我们可以确定最小的可实现错误(贝叶斯错误);这种错误可以在实践中估计,并且对于WF对手来说,对于他可能使用的任何分类算法来说,都是一个下界。我们的工作有两个主要的结果:i)它允许确定WF防御的安全性,在一个黑盒子的方式,相对于国家的最先进的功能集和ii)它有利于转移未来WF研究的重点,以确定最佳的功能集。该方法的一般性进一步表明,该方法可以用于定义其他基于ML的攻击的安全界限。
2017-08-23 cs.CR
Healthcare Security Breaches in the United States: Insights and their Socio-Technical Implications
本研究分析美国2009年至今的医疗安全漏洞,发现人为因素是主要诱因,即便有HIPAA、HITECH等法规仍难杜绝,由此提出需结合技术防御与人为行为、制度建设的整体安全方案。
2023-11-07 cs.CR cs.CY
Towards Cybersecurity Superintelligence: from AI-guided humans to human-guided AI
Alias Robotics;Johannes Kepler University Linz(林茨约翰·开普勒大学);Alpen-Adria-Universität Klagenfurt(阿尔卑斯-亚得里亚大学克拉根福分校)
本文提出通过AI引导人类到人类引导AI的网络安全超智能发展路径,展示了PentestGPT、CAI和G-CTR在安全领域的创新与突破。
2026-02-09 cs.CR
On human-centred security: A new systems model based on modes and mode transitions
本文提出一种基于模式与模式转换的新系统模型,将安全系统分解为具有目标、数据和算法的独立模式,并用信念解释其行为,通过单纯复形数学形式化和高维几何可视化来支持以人为中心的安全系统设计、分析与解释。
2024-05-03 cs.CR cs.CY
AttackonCTF: Defending Hardware Security Competition Benchmarks in the Age of LLMs
Technical University of Darmstadt(达姆施塔特工业大学);Texas A&M University(德克萨斯农工大学);University of Bristol(布里斯托大学);Shenzhen University of Advanced Technology(深圳先进技术研究院)
针对LLM利用语法比较破解硬件安全竞赛基准的问题,提出首个面向LLM的语义保持混淆框架,将检测准确率降低78.6%,恢复基准可靠性。
2026-06-16 cs.CR
Secure human oversight of AI: Threat modeling in a socio-technical context
Federal Office for Information Security(联邦信息安全局);German Research Center for Artificial Intelligence(德国人工智能研究中心);University of Freiburg(弗赖堡大学)
本文从安全角度提出人工智能人类监督的威胁建模方法,系统分析其安全风险并提出缓解策略,以保障AI系统的监督过程安全可靠。
2026-07-31 cs.CR cs.CY cs.HC
The Wiretap Channel for Capacitive PUF-Based Security Enclosures
为了保护设备免受物理操作,开发了保护性安全外壳。然而,这些电池支持的解决方案的使用寿命缩短,并且必须进行主动和持续的监控。为了克服这些缺点,已经开发了基于物理不可克隆功能(PUF)的无电池电容式外壳,其生成用于密钥链解密的密钥加密密钥(KEK)。为了可靠地再现PUF密钥并补偿噪声和环境影响的影响,密钥生成包括纠错码。然而,旨在部分破坏外壳的钻孔攻击也会改变PUF响应,并进行相同的纠错过程。然而,校正攻击效果是非常不希望的,因为它会破坏外壳的安全概念。通常,设计纠错码使得它们提供对攻击的篡改敏感性,同时仍然校正噪声和环境影响是一项具有挑战性的任务。我们首先分析外部影响和不同后处理参数下PUF响应的行为来解决这个问题。由此,我们推导出基于PUF的外壳的系统模型,并从q元极化码构造窃听信道实现。我们在蒙特卡洛模拟中验证了所获得的纠错方案,并证明我们的窃听通道实现实现了物理层安全性为100位的306位的熵的PUF秘密。通过这一点,我们进一步开发了基于电容式PUF的安全外壳,并使其更接近商业部署。
2022-11-18 cs.CR
Threshold-based Obfuscated Keys with Quantifiable Security against Invasive Readout
逆向工程的进步使得以一种对确定的攻击者隐藏的方式部署任何片上信息变得具有挑战性。已经提出了用于设计混淆的各种技术,包括外观相似单元,其中功能由难以观察的机制(包括伪通孔或晶体管阈值电压)确定。基于阈值的混淆是特别有前途的,因为阈值电压不能被光学观察到,并且需要攻击者进行更复杂的测量。在这项工作中,我们证明了阈值定义的行为的存储单元的方法,结合纠错码,以实现对入侵逆向工程的高度保护的有效性。纠错和小阈值操作的组合是重要的,因为它使攻击者的工作更难,而不损害混淆密钥的可靠性。我们提出的分析,以量化我们的方法的关键可靠性,其抵抗逆向工程攻击,试图通过不完善的测量晶体管阈值电压提取的关键。我们提供的安全分析和成本指标允许设计人员在成本和安全性之间进行可量化的权衡。我们发现,当安全性是主要目标时,小阈值偏移和更强的纠错码的组合是有利的。
2017-10-25 cs.CR
War of 2050: a Battle for Information, Communications, and Computer Security
正如最近一次展望未来研讨会所设想的那样,信息技术的进步将继续改变战争。事实上,信息本身将成为战争的决定性领域。四个事态发展将显著改变这场战斗的性质。其中第一个将是智能系统的扩散;第二个是增强人类;第三个是信息领域的决定性战斗;第四个是引入新的网络化指挥和控制方法。每一种新能力都有同样的致命弱点--对信息、通信和计算机的攻击,将使人类-机器人团队能够理解战场并采取果断行动。因此,信息、通信和计算机安全方面基本上看不见的战斗将决定对手在2050年的战场上能够发挥作用和取得成功的程度。
2015-11-27 cs.CR
GlucOS: Security, correctness, and simplicity for automated insulin delivery
University of California, Davis(加州大学戴维斯分校)
GlucOS是一个用于自动化胰岛素输送的可信系统,通过新颖架构和整体安全机制,实现个性化剂量管理并抵御恶意模型,实际部署与模拟验证了其安全性和血糖控制改善效果。
2025-10-27 cs.CR
Out to Explore the Cybersecurity Planet
尽管研究人员和实践者几十年来的努力,安全仪式仍然失败。攻击往往是对技术系统的利用和人类行为形式的巧妙结合。例如,最近的新闻标题是针对Electrum比特币钱包的大规模攻击,它设法传播钱包应用程序的恶意更新。因此,我开始通过不同的镜头来看待事情。我做了一个(隐喻性的)假设,人类祖先是从一个非常遥远的星球,网络安全星球,带着安全仪式来到地球的。我的假设继续,在研究(通过巨大的望远镜)网络安全的表面结合在地球上发生的事情的表面上的逻辑投影对我们地球人是有益的。到目前为止,我已经在这个遥远的星球上发现了四个城市。民主城的特色是安全仪式,允许居民遵循个人的实践路径,例如,犯错误或受情绪驱使。相比之下,独裁城市的安全仪式迫使居民遵守,因此表现得像程序自动机。美丽城市的安全仪式是如此美丽,以至于居民们都喜欢精确地遵循它们。无形之城有着不可感知的安全仪式,因此居民们觉得他们从未遇到过任何安全仪式。顺便说一句,我们使用“民主”和“独裁”这两个词,没有任何政治含义。我将提出的一个关键论点是,除了民主城市之外,所有城市都解决了人的因素,尽管方式不同。根据这些发现,我还将讨论我们星球的安全仪式,例如WhatsApp的网页登录和登机,并根据目前对网络安全的理解探索改进它们的空间。
2021-12-18 cs.CR
Mitigating Hardware Cyber-Security Risks in Error Correcting Decoders
本文研究了与通道解码器相关的硬件网络安全风险,通道解码器通常作为半导体行业的黑匣子获得。结果表明,信道解码器是硬件网络安全攻击的潜在目标,可以很容易地嵌入恶意块。在这项工作中考虑了几种攻击情况,并提出了适当的方法来减轻风险。这些方法是基于随机化的信道解码器的输入,以阻止攻击者和恶意块之间的通信,理想情况下不改变解码性能。
2015-05-06 cs.CR cs.IT math.IT
Work-in-Progress: Crash Course: Can (Under Attack) Autonomous Driving Beat Human Drivers?
该研究针对自动驾驶安全研究的空白,建立务实威胁模型评估其固有风险,分析自动驾驶优势与安全挑战的平衡,为相关研究与实践提供指导,推动自动驾驶安全性与可行性的讨论。
2024-05-14 cs.CR
Open-Source Intelligence for Code Provenance and the Security Patterns that Separate Human and Large-Language-Model Implementations of Common Programming Tasks
Department of Computer Science AI and Media Analysis Lab Berlin, Germany(柏林计算机科学与AI与媒体分析实验室)
研究开发者代码来源(人类答案和大语言模型输出)的差异,利用开源构建管道收集样本,训练分类器区分溯源,报告安全差异,通过案例研究发现修复情况及问题,管道数据驱动可添加新任务或语言。
2026-07-15 cs.CR cs.SE
Security in LLM-Assisted Coding: A Systematic Literature Review
Australian Catholic University(澳大利亚天主教大学)
本系统综述探讨LLM辅助编程的安全风险,指出模型因训练数据偏差生成不安全代码、易受攻击,现有评估方法存缺陷,需安全模型架构、专用基准及人机协作框架缓解风险。
2026-10-14 cs.AI cs.CR cs.SE
Security and Human-Centered Assessment of BACnet-Controlled DALI Infrastructure in an Educational Building Automation Testbed
University of Bern(伯尔尼大学)
通过结合网络枚举、对象级检查、物理机架分析和反思性HCI分析,评估BACnet/IP楼宇自动化测试床中DALI照明的安全性,强调BACS评估不仅涉及技术协议,还需可用工具、物理可观测性、可解释命名和安全的命令优先级心智模型。
2026-06-17 cs.CR cs.HC
How Can ChatGPT Support Human Security Testers to Help Mitigate Supply Chain Attacks?
Wake Forest University(维克森林大学);Virginia Tech(弗吉尼亚理工大学)
本文探讨利用ChatGPT生成供应链攻击测试的方法,通过模板生成测试用例,发现49个应用中的漏洞,并优于现有工具。
2026-03-29 cs.CR cs.SE