Where Should I Study? Biased Language Models Decide! Evaluating Fairness in LMs for Academic Recommendations
Centre for Responsible AI (CeRAI), Wadhwani School of Data Science and AI (WSAI)(负责任人工智能中心(CeRAI)、Wadhwani数据科学与人工智能学校(WSAI));Indian Institute of Technology Madras(印度理工学院马德拉斯学院)
本文实证考察LLaMA-3.1-8B等3个开源LLM在学术推荐中的地理、人口和经济偏见,提出多维评估框架,发现其存在系统性偏差,强调需解决偏见以保障高等教育公平获取。
2025-11-12 cs.AI cs.CL
Unveiling Gender Bias in Large Language Models: Using Teacher's Evaluation in Higher Education As an Example
本研究以GPT-4生成的六学科高等教育教师评价为对象,通过多维度分析框架揭示LLM文本中存在符合社会刻板印象的性别语言关联模式,验证了其生成内容会反映现有社会偏见。
2024-09-15 cs.CL
FairMonitor: A Dual-framework for Detecting Stereotypes and Biases in Large Language Models
School of Computer Science and Technology, East China Normal University(华东师范大学计算机科学与技术学院);School of Computer Science, Fudan University(复旦大学计算机学院)
FairMonitor通过静态测试与多智能体动态场景协同,系统检测大语言模型中的显隐性刻板印象与偏见,实验证明其检测能力优于传统方法。
2024-05-06 cs.CL
FairMonitor: A Four-Stage Automatic Framework for Detecting Stereotypes and Biases in Large Language Models
School of Computer Science and Technology, East China Normal University(华东师范大学计算机科学与技术学院);School of Computer Science, Fudan University(复旦大学计算机学院)
本文提出FairMonitor四阶段自动框架,通过直接询问、故事测试、内隐联想和未知情境测试检测LLMs生成内容中的刻板印象与偏见,并构建教育领域基准Edu-FairMonitor验证其有效性。
2023-10-27 cs.AI cs.CL
HESEIA: A community-based dataset for evaluating social biases in large language models, co-designed in real school settings in Latin America
First Author Affiliation(第一作者机构);Second Author Affiliation(第二作者机构)
本文提出HESEIA数据集,由拉丁美洲学校师生共同设计,包含46,499个句子,用于评估大型语言模型中的交叉社会偏见,发现其包含更多现有LLM未识别的刻板印象。
2025-05-30 cs.CL cs.CY
EduResearchBench: A Hierarchical Atomic Task Decomposition Benchmark for Full-Lifecycle Educational Research
Shanghai Institute of AI for Education, East China Normal University(上海人工智能教育研究院,东华大学);Shanghai Innovation Institute(上海创新研究院);School of Computer Science and Technology, East China Normal University(东华大学计算机科学与技术学院)
EduResearchBench通过分层原子任务分解框架,构建了首个教育学术写作评估平台,展示了在垂直领域中数据质量和分层训练的重要性。
2026-01-22 cs.AI cs.CL
Compounding Disadvantage: Auditing Intersectional Bias in LLM-Generated Explanations Across Indian and American STEM Education
Society-Centered AI Lab(以社会为中心的人工智能实验室);University of Washington(华盛顿大学)
本文研究了大型语言模型在不同文化背景下对边缘化学生群体的系统性歧视,通过审计四个LLM模型发现,多重维度的边缘化导致成绩差距扩大,偏见在精英机构中持续存在。
2026-05-17 cs.CL cs.CY
The Silent Curriculum: How Does LLM Monoculture Shape Educational Content and Its Accessibility?
School of Computer Science(计算机科学学院);Carnegie Mellon University(卡内基梅隆大学);Adobe, India(印度奥多比公司)
该研究提出大语言模型传播单一化视角的“隐性课程”概念,通过儿童故事、职业族裔偏见等实验发现模型间偏见余弦相似度达0.87,呼吁推动LLM向多元化格局转变。
2024-05-11 cs.AI cs.CL cs.CY
Cultural Biases of Large Language Models and Humans in Historical Interpretation
Research & Development Department of Information Security and Communication Technology(信息安全和通信技术研发部);Maggioli SpA(Maggioli股份公司);Norwegian University of Science and Technology - NTNU(挪威科技大学)
本文比较了人类和大型语言模型在历史注释中的表现,发现两者均存在文化偏见,但语言模型在短文本历史事实解读上达成更高共识,而人类因个人偏见常有分歧。
2026-03-29 cs.CL
Mitigating LLM biases toward spurious social contexts using direct preference optimization
Stanford University(斯坦福大学)
本文研究了LLM对虚假社会情境的鲁棒性,提出Debiasing-DPO方法,通过自监督训练和监督微调减少偏见并提升预测准确性。
2026-08-27 cs.AI cs.CL
Toward Inclusive Educational AI: Auditing Frontier LLMs through a Multiplexity Lens
Information Technology University(信息技术大学);Zayed University(扎耶德大学);Qatar University(卡塔尔大学)
本文针对教育场景中前沿 LLM 的 WEIRD 文化偏见,提出多元性审计框架,并比较系统提示嵌入与多智能体协商两种缓解策略,证明 MAS 可将 PDS 熵由 3.25% 提升至 98%。
2025-01-02 cs.AI cs.CL cs.CY
Generative AI and Its Impact on Personalized Intelligent Tutoring Systems
Indian Institute of Technology Kharagpur(印度理工学院卡拉格普尔分校)
本报告探讨了生成式AI(如GPT-4)在智能辅导系统中的应用,通过动态内容生成和实时反馈提升个性化教育,并分析了相关挑战与未来方向。
2024-10-14 cs.AI cs.CL
Sociodemographic Biases in Educational Counselling by Large Language Models
Wrocław University of Science and Technology(沃拉布大学科学与技术学院);University of Silesia in Katowice(卡托维采西里西亚大学)
研究探讨了大语言模型在教育咨询中存在社会人口偏差问题,通过评估六种模型对900个情境描述的回应,发现模型存在可测量偏差,偏差模式部分与人类偏差一致但有显著差异,且偏差大小受学生描述精度影响。
2026-04-03 cs.AI cs.CY
Potential Societal Biases of ChatGPT in Higher Education: A Scoping Review
Osaka University(大阪大学)
本范围综述系统梳理了ChatGPT等生成式AI在高等教育中的潜在社会偏见研究,发现现有文献探讨肤浅、缺乏实证,且忽视人文社科领域,并呼吁深化研究以促进伦理AI应用。
2025-04-21 cs.AI cs.CY
Fine-Tuned Multi-Agent Framework for Detecting OCEAN in Life Narratives
Southern Methodist University(南卫理公会大学);Washington University in St. Louis(圣路易斯华盛顿大学)
研究旨在从文本中准确评估人格,提出微调多智能体框架,通过掩码语言建模和心理测量监督让子智能体针对特质采用不同视角,评判大语言模型生成预测,经实验验证该方法可扩展且可解释,突出多智能体推理优势。
2026-07-15 cs.CL cs.LG cs.MA
Generative AI May Reinforce Social Biases in Software Engineering Education
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
本研究揭示生成式AI在软件工程教育中的团队组建和视觉内容生成任务中强化社会偏见,需领域特定评估与缓解策略。
2026-09-25 cs.CY cs.SE
Artificial Life in Game Mods for Intuitive Evolution Education
在世界许多地方,特别是在美利坚合众国,理解和接受自然选择的进化已经成为一个难题。利用游戏来提高对自然选择进化的直觉是有希望的,但也可能具有挑战性。我们建议使用修改商业游戏,使用人工生命技术,通过自然选择来“隐形教学”进化,提供游戏Stardew Valley的概念验证模块,并报告其初步接收情况。
2020-07-07 cs.CY cs.NE
Lost in Translation: Reimagining the Machine Learning Life Cycle in Education
University of California, Berkeley(加州大学伯克利分校);Cornell University(康奈尔大学)
机器学习(ML)技术在教育中越来越普遍,从预测学生辍学到帮助大学入学,以及促进MOOC的兴起。鉴于这些新用途的快速增长,迫切需要研究ML技术如何支持长期的教育原则和目标。在这项工作中,我们阐明了这一复杂的景观,从教育专家的访谈中获得定性见解。这些访谈包括对过去十年中在杰出的应用ML会议上发表的ML for Education(ML4Ed)论文的深入评估。我们的中心研究目标是批判性地研究这些论文中所陈述或暗示的教育和社会目标如何与它们所解决的机器学习问题相一致。也就是说,技术问题的表述、目标、方法和对结果的解释在多大程度上与手头的教育问题相一致。我们发现,跨学科的差距存在,特别是在ML生存周期的两个部分突出:制定一个ML问题的教育目标和翻译的预测干预。我们利用这些见解提出了一个扩展的ML生存周期,这也可能适用于ML在其他领域的使用。我们的工作加入了越来越多的跨教育和ML研究的元分析研究,以及对ML社会影响的批判性分析。具体来说,它填补了对机器学习的普遍技术理解与教育研究人员与学生和政策合作的视角之间的空白。
2022-09-08 cs.AI cs.CY
#BlackLivesMatter and Racism in Life Expectancy, Poverty, Educational Attainment, and Race Compositions: State Analysis of 2020 Tweets in the USA
本文通过分析 2020 年美国各州 Twitter 上 #BlackLivesMatter 相关推文,研究在线种族主义内容与预期寿命、贫困及教育等现实指标的相关性,发现二者存在显著关联。
2023-04-13 cs.CY cs.SI
ICT and RFID in Education: Some Practical Aspects in Campus Life
本文总结了我们的初步调查结果,开发和实施一个新提出的系统的基础上,信息通信技术和RFID(射频识别)技术的校园访问和设施的使用。众所周知,任何教育环境都高度依赖于广泛的资源或变量,例如教学人员,研究和学习区域,会议和住宿设施,图书馆服务,餐厅和休闲设施等。我们使用ICT和RFID技术设计的系统不仅支持所有大学部门之间的真实交易,而且还将各个层次的学术生活和活动联系起来。因此,该系统的效用范围从访问控制(学生/工作人员/访客身份),考勤跟踪,图书馆退房服务和投票到等级图书咨询,库存,无现金售货,停车,洗衣和复印服务。物理上,该系统由几个RFID门/阅读器,数据服务器和一些网络站组成,所有这些都需要特定的结构和集成解决方案。该系统与现有系统有很大不同,因为它提出了一种创新的接入解决方案。因此,在数据库中查找身份证持有人的工作已由本地处理取代。由于使用同一张卡来执行各种操作,因此该系统具有直接和众多的用途。
2015-03-14 cs.CY
"Flipped" University: LLM-Assisted Lifelong Learning Environment
本文提出由LLMs支持的自建终身学习环境概念框架,利用LLMs自然语言能力提供动态自适应体验并创建个人智能体,推动教育机构向支持全球知识一致性的“翻转”大学演进。
2024-09-24 cs.CY
Education 5.0: Requirements, Enabling Technologies, and Future Directions
本文探讨了Education 5.0的关键需求及其人工智能、区块链等赋能技术,分析了其潜在影响、挑战与伦理考量,并提出了未来发展方向,旨在变革教育并改善学习成果。
2023-07-29 cs.CY
The Lifecycle of "Facts": A Survey of Social Bias in Knowledge Graphs
Universität Hamburg(汉堡大学);Hamburger Informatik Technologie-Center e.V. (HITeC)(汉堡信息技术中心协会)
本文综述了知识图谱生命周期各阶段中社会偏见的来源、传播与呈现方式,分析现有测量和缓解方法的局限,并提出未来研究方向。
2022-10-07 cs.AI cs.CL cs.CY
Serious Game for Human Environmental Consciousness Education in Residents Daily Life
本文提出一款面向住宅家居运营的严肃游戏,通过场景选择、得分与奖励机制引导玩家学习节能、回收等环保行为,并可扩展至餐厅和商店场景。
2023-04-21 cs.CY cs.HC
Unmasking Biases and Navigating Pitfalls in the Ophthalmic Artificial Intelligence Lifecycle: A Review
本综述梳理眼科AI应用发展背景,将AI生命周期划分为七个核心步骤,逐一剖析各环节潜在伤害风险并提出缓解策略,为AI在眼科的安全广泛部署提供参考。
2023-10-08 cs.CY
Evaluation of LLMs Biases Towards Elite Universities: A Persona-Based Exploration
本研究通过人物角色方法,对比GPT-3.5、Gemini和Claude 3 Sonnet与LinkedIn数据,发现大语言模型对精英大学存在显著高估偏见,并提出了缓解策略。
2024-07-27 cs.CY cs.HC
Rethinking the A in STEAM: Insights from and for AI Literacy Education
本文重新审视STEAM教育中艺术的角色,强调其在K-12阶段AI素养教育中的重要性,通过语言学、哲学、社会科学和视觉艺术四个领域,探讨AI相关现象并提出有效的教学策略,以促进对AI的全面、公平和可持续理解。
2026-05-19 cs.CY
"The teachers are confused as well": A Multiple-Stakeholder Ethics Discussion on Large Language Models in Computing Education
本研究通过访谈20名计算机科学高等教育利益相关者,考察学生使用LLM写作、编程和检索信息的心智模型及相关伦理风险,并提出数字素养、教育重构与情境化政策建议。
2024-01-23 cs.CY cs.HC
ECHO: A Participatory Framework for Bias-Anchored AI Harm Anticipation
Aristotle University(亚里士多德大学)
本文提出ECHO框架,通过系统映射人工智能偏见类型到危害结果,实现主动危害预见,用于高风险领域中的偏见驱动危害检测与治理。
2026-10-02 cs.AI cs.CY
Towards Smart Education through the Internet of Things: A Review
本文综述物联网与人工智能驱动的智慧教育转型,分析传统教育问题、智慧解决方案及计算与社会阻力等研究挑战,为整合ICT、IoT和AI于教育开辟新方向。
2023-04-25 cs.CY
UnWEIRDing LLM Entity Recommendations
Microsoft(微软)
本文研究了LLM在现实世界实体推荐中的文化偏见,通过WEIRD框架评估并应用多元提示策略以减轻偏见,发现不同模型的偏见减轻效果不一致。
2025-11-23 cs.CY
Digital Lifelong Learning in the Age of AI: Trends and Insights
Singapore University of Technology and Design(新加坡科技设计大学)
本文探讨人工智能时代下数字学习的发展趋势,分析不同人群对数字学习平台的互动,揭示疫情后数字学习相关性提升的原因,并为教育和企业优化学习服务提供策略建议。
2026-02-03 cs.AI cs.CY
Scientists' Perspectives on the Potential for Generative AI in their Fields
Google Research(谷歌研究院)
通过采访20位各领域科学家,探讨了生成式AI在加速科学发现、教育及交流方面的应用潜力与担忧,为负责任的模型与界面开发提供指导。
2023-04-04 cs.AI cs.CY cs.HC
Deep Learning for Educational Data Science
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
本章介绍深度学习及其优缺点,综述其在知识追踪、情感与行为检测等教育场景中的多种应用,并展望其对教育数据科学未来发展的影响。
2024-04-12 cs.AI cs.CY cs.LG
A review of clustering models in educational data science towards fairness-aware learning
L3S Research Center, Leibniz University Hannover(汉诺威莱布尼茨大学L3S研究中心);Leibniz University Hannover(汉诺威莱布尼茨大学);Institute for Didactics of Mathematics and Physics, Leibniz University Hannover(汉诺威莱布尼茨大学数学与物理教学研究所);Research Institute CODE, Bundeswehr University Munich(慕尼黑联邦国防军大学CODE研究所)
本文综述了教育数据科学中的聚类模型及其公平性,重点研究应用于教育活动的公平聚类模型,以确保分析学生数据时的公平性。
2023-01-09 cs.CY cs.LG
Base rate neglect in computer science education
机器学习(ML)算法在许多学术和工业应用中越来越重要,并且这样的算法因此成为计算机科学课程中的常见组件。学习ML具有挑战性,不仅因为其复杂的数学和算法方面,还因为a)在现实生活中正确使用这些算法的复杂性以及b)对相关社会和伦理问题的理解。认知偏差是人类大脑的现象,可能导致错误的感知和不合理的决策过程。因此,它们已经在认知心理学和决策的背景下进行了深入的研究;然而,它们对计算机科学教育也有重要的影响。一个著名的认知偏差,首先由卡尼曼和特沃斯基描述,是基本率忽视偏差,根据该偏差,人类在评估条件概率时没有考虑潜在现象的基本率。在本文中,我们探讨了ML教育中的基本率忽视偏差的表现。具体来说,我们发现,大约三分之一的学生在介绍ML课程,从不同的背景(计算机科学的学生和教师,数据科学,工程,社会科学和数字人文),未能正确评估ML算法的性能,由于基本率忽视偏见。这种失败率应该提醒教育工作者,并促进开发新的教学方法来教授ML算法性能。
2022-10-23 cs.CY
An Agentic Evaluation Architecture for Historical Bias Detection in Educational Textbooks
University of Bucharest(布加勒斯特大学)
本文提出一种代理评估架构,通过多模态筛查代理、异质陪审团和元代理,有效检测教育教科书中的隐性偏见,实验表明其在经济性和准确性上具有优势。
2026-04-09 cs.AI cs.CL cs.CY
Studying the Transfer of Biases from Programmers to Programs
University of Oslo(奥斯陆大学);Norwegian Defence Intelligence School(挪威国防情报学院);Bjørknes University College(比约克斯大学学院)
本文通过实验与比较设计验证文化及情境隐喻会从程序员转移到程序,揭示机器偏见还可能源于程序员文化背景与编程环境。
2020-12-13 cs.AI cs.CY cs.HC
Personalized Education in the AI Era: What to Expect Next?
University of Tübingen(图宾根大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Miami(迈阿密大学);University of Cambridge(剑桥大学)
个性化学习的目标是设计一个有效的知识获取路径,使学习者能够扬长避短,最终达到预期的学习目标。这一概念几年前就出现了,并被全球越来越多的教育机构所采用。近年来,人工智能(AI)和机器学习(ML)的推动,以及大数据分析的进步,为在多个维度上加强个性化教育提供了新的视角。通过利用AI/ML方法,教育平台精确地获取学生的特征。这在一定程度上是通过观察过去的经验以及通过探索学习者的特征和相似性来分析可用的大数据来完成的。例如,它可以在众多可访问的内容中推荐最合适的内容,建议精心设计的长期课程,通过建议联系合适的学习者,准确的性能评估等。尽管如此,基于人工智能的个性化教育的几个方面仍有待探索。这些措施包括,除其他外,补偿同行缺席的不利影响,创造和维持学习的动机,增加多样性,消除数据和算法引起的偏见等。在本文中,在简要回顾最新研究的同时,我们调查了基于AI/ML的个性化教育的挑战,并讨论了潜在的解决方案。
2021-01-19 cs.AI cs.CY cs.LG
Gender, Age, and Technology Education Influence the Adoption and Appropriation of LLMs
该研究调查1500名美国公民的大语言模型使用情况,发现存在性别、年龄相关的采纳差异,技术教育可消除性别差距,职场使用有效性有差异,呼吁开展国际复制和纵向研究以促进公平。
2023-10-10 cs.CY cs.HC
Sustainability in Computing Education: A Systematic Literature Review
本文通过系统性文献综述分析了计算教育中的可持续性研究,提出了涵盖学习目标与教学方法的框架,并指出当前研究缺乏对系统性变革的探讨且实证基础较弱。
2023-05-17 cs.CY
A ChatGPT-based approach for questions generation in higher education
Banking Academy of Vietnam(越南银行学院);Dublin City University(都柏林城市大学)
本研究探索ChatGPT在高等教育中的应用,通过交互式提示设计AI题库创建流程,经盲测验证效果良好,为简化高校学习者评估的时间精力投入提供了新方向。
2025-07-30 cs.AI cs.CY
A Network Science Perspective to Personalized Learning
现代教育生态系统不是一刀切的。学者们习惯于在日常生活中个性化,并期望教育系统也能如此。此外,COVID-19大流行使我们所有人都处于一个急性教学和学习实验室实验中,现在创造了自主学习和与重点教育材料互动的期望。因此,我们研究如何通过学习平台,提供内容的选择和多种形式的参与,以支持自定进度的学习,学习目标可以实现,并提出了基于网络科学的个性化教育的方法。该框架通过提供由知识网络支持的学习者参与和内容选择,以个人技能和目标为基础和驱动力,将注意力集中在学习经验上,而不是教学经验上。最后,我们讨论了这样一个学习平台的原型,称为CHUNK学习。
2021-11-02 cs.CY cs.SI
Evidence of Cognitive Biases in Capture-the-Flag Cybersecurity Competitions
Carnegie Mellon University(卡内基梅隆大学);INESC-ID(葡萄牙信息与系统工程技术科学研究所);King Abdulaziz University(阿卜杜勒阿齐兹国王大学)
本研究通过分析picoCTF平台超过50万条提交日志,发现攻击者存在可得性偏差和沉没成本谬误,并据此提出偏差信息驱动的自适应防御框架,以预测对抗行为。
2025-10-07 cs.CR cs.CY cs.HC
Massive Open and Online Courses and Open Education Resources in Singapore
本文着眼于新加坡提供的大规模开放和在线课程(MOOC)和开放教育资源(OER)的日益普及。尽管这是一个相对较新的现象,但新加坡政府已与不同组织合作,以提高MOOC的质量和可访问性,许多高等教育机构(IHL)正在率先努力改善OER,以促进公众获得更多的教育资源。它还将探讨MOOC和OER面临的好处和潜在问题。例如,MOOC和OER都能够降低大学教育的成本,并增加公众对这些课程的访问。它们还为公众提供技能和职业培训,并鼓励终身学习。然而,从长远来看,MOOC和OER都可能无法持续,因为两者的财务收益可能无法支付安装它们的成本。每个系统也有自己的一系列问题。例如,仍然缺乏保证MOOC质量的正式结构。MOOC的完成率也往往很低,而且使用MOOC作为学习平台存在剽窃问题。开放式资源报告对传统版权政策提出了挑战,而缺乏可持续的资金使其无法得到更广泛的采用。尽管这两个系统可能会改变传统的教育系统,但更深入地了解MOOC和OER及其对学习的影响将是有用的。
2017-08-16 cs.CY physics.ed-ph
Student Perspectives on the Benefits and Risks of AI in Education
University of Florida(佛罗里达大学);Pennsylvania State University(宾夕法尼亚州立大学)
研究探讨了学生对AI在教育中的益处与风险的看法,发现学生认可AI在学习支持方面的优势,但对其对学术诚信和批判性思维的影响表示担忧,并建议通过制定政策和课程来缓解这些担忧。
2026-10-20 cs.AI cs.CY cs.ET
TACLA: An LLM-Based Multi-Agent Tool for Transactional Analysis Training in Education
Faculty of Electronics and Information Technology(电子与信息技术学院)
TACLA是一种基于LLM的多智能体工具,通过整合交易分析原理,实现教育场景中真实的情感状态转变和冲突模拟,提升AI在教育中的应用效果。
2025-10-19 cs.AI cs.CY cs.MA
Math Education Digital Shadows for Investigating Learning with GenAI: Mathematics Performance, Anxiety, and Confidence in LLMs
CogNosco Lab, University of Trento, Department of Psychology and Cognitive Science(CogNosco实验室,特伦托大学心理学与认知科学系)
本文提出MEDS数据集,通过28000个模拟角色评估LLMs在数学教育中的表现,结合心理和社会人口数据及数学任务,探讨自我效能、数学焦虑和认知网络科学。
2026-07-27 cs.AI cs.CY cs.HC