Fair-PP: A Synthetic Dataset for Aligning LLM with Personalized Preferences of Social Equity
Zhejiang University(浙江大学);IHPC and CFAR, A*STAR(IHPC和CFAR,A*STAR);Nanyang Technological University(南洋理工大学);National University of Singapore(新加坡国立大学)
本文提出源自社会调查的 Fair-PP 个性化公平偏好合成数据集,并结合自动生成框架、LLM偏好定位分析与样本重加权对齐方法,提升模型对目标人物画像的偏好适配效果。
2025-05-17 cs.AI cs.CL
PSYDIAL: Personality-based Synthetic Dialogue Generation using Large Language Models
Ajou University(亚洲大学)
本文提出PSYDIAL流水线,通过提示大语言模型生成基于大五人格外向性维度的韩语人格化对话数据集,实验证明该数据集训练的模型在生成反映人格的回应上显著优于预训练和闲聊微调模型。
2024-04-01 cs.CL
GraphProfiler: Source-Linked Sensitive Attribute Inference via Personal Knowledge Graphs
RMIT University(皇家墨尔本理工大学)
GraphProfiler提出基于LLM的可审计画像器,将用户帖子构建为源关联个人知识图谱,将属性预测解析为可引用的图谱记录和源文本,在SynthPAI和PANDORA基准上分别达到86.7%和84.6%的攻击成功率,并支持针对性的隐私缓解。
2026-09-14 cs.CL cs.CR
LumosX: Relate Any Identities with Their Attributes for Personalized Video Generation
Zhejiang University(浙江大学);DAMO Academy, Alibaba Group(阿里云达摩院);Hupan Lab(虎斑实验室);National University of Singapore(新加坡国立大学)
LumosX通过结合身份与属性关系,提升多主体个性化视频生成的精细度和一致性,采用数据与模型双改进策略,构建了全面的基准测试平台。
2026-03-20 cs.AI cs.CV
MentalAgora: A Gateway to Advanced Personalized Care in Mental Health through Multi-Agent Debating and Attribute Control
Sungkyunkwan University(成均馆大学);Upstage AI;New York University(纽约大学)
MentalAgora提出一种基于多智能体辩论与属性控制的大语言模型框架,通过策略辩论、咨询师定制和响应生成三阶段实现个性化心理健康支持,实验和用户研究表明其符合专业标准并满足用户偏好。
2024-07-03 cs.CL
Do LLMs Recognize Your Latent Preferences? A Benchmark for Latent Information Discovery in Personalized Interaction
University of Minnesota(明尼苏达大学);Texas A&M University(德克萨斯农工大学);CISCO Research(思科研究)
本文提出面向多轮个性化交互的潜在信息发现基准,通过三类任务和三智能体框架评估LLM揭示隐藏用户偏好的能力,发现其表现因情境在32%至98%间显著波动。
2025-10-20 cs.AI cs.CL cs.LG
DRIFTLENS: Measuring Memory-Induced Reasoning Drift in Personalized Language Models
Amazon(亚马逊)
提出DRIFTLENS框架,通过将推理步骤映射到价值类别并比较有无用户属性记忆的轨迹,量化个性化语言模型中的推理漂移,发现记忆会引发中等至大的推理变化,且现有后训练方法仅部分缓解。
2026-07-15 cs.AI
Concept-as-Tree: A Controllable Synthetic Data Framework Makes Stronger Personalized VLMs
Peking University(北京大学);CUHK MMLab(香港中文大学MMLab);Zhongguancun Academy(中关村学院);Beijing Key Laboratory of Data Intelligence and Security(北京数据智能与安全重点实验室)
研究提升VLM个性化能力问题,提出概念树(CaT)框架,以树结构表示概念生成多样正负样本,经数据过滤策略确保质量,实验证明该框架显著增强VLM在个性化基准测试中的能力,是首个可控合成数据管道。
2026-07-10 cs.AI cs.CV
Attribute-Aware Controlled Product Generation with LLMs for E-commerce
Amazon Spain(亚马逊西班牙分公司);Amazon Germany(亚马逊德国分公司)
本文提出基于LLM的属性意识电商产品生成方法,通过三种策略生成高质量合成数据,提升电商数据集的准确率与实用性。
2025-12-05 cs.AI cs.CL
Big5PersonalityEssays: Introducing a Novel Synthetic Generated Dataset Consisting of Short State-of-Consciousness Essays Annotated Based on the Five Factor Model of Personality
University POLITEHNICA of Bucharest(布加勒斯特理工大学);The National Institute for Research and Development in Informatics – ICI Bucharest(国家信息学研发研究所——布加勒斯特ICI)
本研究针对心理学领域缺乏可用数据集的问题,提出了Big5PersonalityEssays数据集,这是一个基于人格五因素模型(FFM)标注的短篇意识流随笔合成数据库,旨在促进大语言模型在心理学中的应用。
2024-05-22 cs.CL cs.CY cs.DL
DeepPersona: A Generative Engine for Scaling Deep Synthetic Personas
UCSD(加州大学圣地亚哥分校);KU Leuven(鲁汶大学);SJTU(上海交通大学);University of Michigan(密歇根大学);Denison University(德尼森大学);Amazon(亚马逊);Meta
DeepPersona通过双阶段分类学引导方法生成深度合成人设,提升LLM个性化和人类模拟的准确性与多样性。
2025-11-30 cs.AI cs.LG
SynthesizeMe! Inducing Persona-Guided Prompts for Personalized Reward Models in LLMs
Stanford University(斯坦福大学);Georgia Institute of Technology(佐治亚理工学院)
本文提出 SynthesizeMe 方法,通过从用户交互中诱导合成人物角色并筛选信息量大的历史交互来构建个性化提示,在 Chatbot Arena 上将个性化 LLM-as-a-judge 准确率提升 4.4%,并在 PersonalRewardBench 上取得最佳性能。
2025-06-05 cs.AI cs.CL
Beyond Memorization: Violating Privacy Via Inference with Large Language Models
ETH Zurich(苏黎世联邦理工学院)
本文首次系统研究预训练大语言模型从文本推断个人属性的能力,揭示其低成本高准确率隐私风险及现有缓解措施失效,呼吁超越记忆问题的更广泛隐私保护讨论。
2024-05-06 cs.AI cs.LG
Few-shot LLM Synthetic Data with Distribution Matching
Tsinghua University(清华大学);Renmin University of China(中国人民大学)
针对LLM生成的合成数据与真实数据分布差异导致性能提升受限的问题,提出SynAlign框架,通过关键属性分布匹配生成并过滤合成数据,在文本预测任务和在线检索器A/B测试中实现显著性能提升。
2025-02-15 cs.AI cs.CL
Attributes as Textual Genes: Leveraging LLMs as Genetic Algorithm Simulators for Conditional Synthetic Data Generation
Department of Computer Science, University of Memphis(计算机科学系,孟菲斯大学)
针对LLM生成合成数据的质量与多样性难题,提出结合遗传算法与LLM的Genetic Prompt框架,以文本属性为基因模拟遗传操作并结合主动学习优化选择,在多NLP任务上优于基线,提升下游模型性能。
2025-09-02 cs.CL
Behaviorally Grounded User Profiles from the Wild for Personalized Alignment and Multi-Perspective Reasoning
University of Waterloo(滑铁卢大学);ServiceNow AI Research(ServiceNow人工智能研究院)
该研究提出从真实社交媒体提取用户画像的框架,通过训练时微调与测试时多视角推理,提升大语言模型个性化性能,优于合成画像基线。
2026-09-02 cs.AI cs.CL
Guided Persona-based AI Surveys: Can we replicate personal mobility preferences at scale using LLMs?
Chair of Transportation Systems Engineering, TUM School of Engineering and Design, TUM, Germany(交通系统工程教授、技术大学工程与设计学院、技术大学、德国)
本研究探讨LLMs生成人工调查的潜力,通过'人设'结合现实数据,有效捕捉德国个人移动偏好中的复杂依赖关系,为交通规划提供可扩展、低成本的数据生成方案。
2025-01-20 cs.AI cs.CL cs.CY
Task-Feature Collaborative Learning with Application to Personalized Attribute Prediction
Institute of Information Engineering, Chinese Academy of Sciences(中国科学院信息工程研究所);University of Chinese Academy of Sciences(中国科学院大学);Institute of Computing Technology, Chinese Academy of Sciences(中国科学院计算技术研究所);Peng Cheng Laboratory(鹏城实验室)
多任务学习作为一种有效的学习范式,在训练样本不足的情况下,鼓励多个相关任务之间的知识共享,以提高整体性能。在MTL中,一个主要的挑战来自于这样的现象,即与不同的和困难的任务共享知识,称为负迁移,往往会导致更差的性能。虽然已有大量的研究针对负迁移进行了研究,但大多数现有的方法仅将迁移关系建模为任务相关性,而没有考虑跨特征和任务的迁移。与现有的方法不同,我们的目标是在功能和任务之间协同减轻负迁移。为此,我们提出了一种新的多任务学习方法,称为任务特征协作学习(TFCL)。具体来说,我们首先提出了一个基础模型与异构块对角结构正则化,利用协作分组的功能和任务,并抑制组间知识共享。然后,我们提出了一种优化方法的模型。大量的理论分析表明,我们提出的方法具有以下优点:(a)它具有全局收敛性和(b)它提供了一个块对角结构恢复保证。作为一个实际的扩展,我们通过允许重叠的功能和区分硬任务来扩展基础模型。我们进一步将其应用到个性化的属性预测问题与细粒度的用户行为建模。最后,在模拟数据集和真实数据集上的实验结果表明了该方法的有效性
2020-04-29 cs.LG stat.ML
CASTLE: A Comprehensive Benchmark for Evaluating Student-Tailored Personalized Safety in Large Language Models
East China Normal University(华东师范大学);The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Zhejiang University(浙江大学);Shanghai Artificial Intelligence Laboratory(上海人工智能实验室);The Education University of Hong Kong(香港教育大学)
CASTLE基准通过评估学生定制个性化安全性,揭示大语言模型在不同学生属性下的安全缺陷。
2026-08-26 cs.CL
Personality Traits in Large Language Models
Google DeepMind(谷歌DeepMind);University of Cambridge(剑桥大学);Keio University(庆应义塾大学);University of California, Berkeley(加州大学伯克利分校)
本文提出一种心理测量学上有效可靠的方法,用于在18个大型语言模型上测量、验证并塑造合成个性,发现较大且经指令微调的模型个性信效度更强,并探讨了其对负责任AI的伦理意义。
2025-03-11 cs.AI cs.CL cs.CY
All four leading LLMs talk more than they listen to personality-verified synthetic help-seekers
Dyson School of Design Engineering, Imperial College London(帝国理工学院戴森设计工程学院);Universidad Autónoma de Madrid(马德里自治大学)
该研究构建人格感知评估,发现四大领先大语言模型在为合成求助者提供危机建议时,存在说多听少、未充分探索情况就解决问题的共性,且评估覆盖了大五人格外的心理倾向。
2026-08-25 cs.CL cs.CY cs.HC
Private Attribute Inference from Images with Vision-Language Models
ETH Zurich(苏黎世联邦理工学院)
本研究构建了带有人类属性标注的图像数据集,评估7个视觉语言模型,发现其能以高达77.6%的准确率推断私有属性,且准确率随模型能力提升,凸显了开发防御措施的紧迫性。
2024-11-04 cs.AI cs.CV cs.LG
A Prompt-Engineering Approach to Develop Scalable, Flexible, and Real-Time Hybrid Micro-Level Personalization in a General Purpose AI Teaching Assistant
Georgia Institute of Technology(佐治亚理工学院)
本研究提出基于提示工程的框架,通过六个学习者维度和布鲁姆教育目标分类法,在无需重新训练LLM的情况下实现通用AI助教的个性化,经实验验证可产生自适应响应。
2026-09-04 cs.AI
Large language model as user daily behavior data generator: balancing population diversity and individual personality
Department of Electronic Engineering, Tsinghua University(电子工程系,清华大学)
针对日常行为预测中的数据隐私与可用性问题,提出BehaviorGen框架,利用大型语言模型生成合成行为数据,兼顾群体多样性与个体个性,在移动性和手机使用预测中最高提升18.9%。
2025-05-23 cs.CL cs.IR cs.LG
Marked Pedagogies: Examining Linguistic Biases in Personalized Automated Writing Feedback
Stanford University(斯坦福大学)
研究探讨了四种常用LLM在不同学生属性下生成写作反馈的偏见,揭示了基于种族、语言等属性的反馈偏差,提出需提高自动反馈工具的透明度和问责性。
2026-03-12 cs.CL cs.HC
APM: Evaluating Style Personalization in LLMs with Arbitrary Preference Mappings
Technical University of Munich, Helmholtz Munich(慕尼黑技术大学,亥姆霍兹慕尼黑);Munich Center for Machine Learning (MCML)(慕尼黑机器学习中心(MCML))
本研究提出APM基准,通过隐式偏好映射评估大语言模型的风格个性化能力,发现路由方法是最可靠的方法,而RAG和软提示优化在强基础模型上才有提升。
2026-05-20 cs.CL
One Persona, Many Cues, Different Results: How Sociodemographic Cues Impact LLM Personalization
Institute for Natural Language Processing, University of Stuttgart(斯图加特大学自然语言处理研究所);Institute for Logic, Language and Computation, University of Amsterdam(阿姆斯特丹大学逻辑、语言和计算研究所);Weizenbaum Institute(Weizenbaum研究所;慕尼黑机器学习中心;慕尼黑技术大学);Munich Center for Machine Learning;TU Munich
研究探讨社会人口学线索对LLM个性化的影响,指出单一线索可能导致偏差,强调需考虑外部有效性。
2026-04-24 cs.CL
Synthetic Socratic Debates: Examining Persona Effects on Moral Decision and Persuasion Dynamics
Carnegie Mellon University(卡内基梅隆大学);Duke University(杜克大学)
本文通过模拟AI-AI辩论研究人格对道德决策和说服效果的影响,发现政治意识形态和性格特质对辩论结果影响最大,且随着辩论进行,论证趋于温和。
2026-01-30 cs.CL
Personalized Student Attribute Inference
Université du Québec à Montréal(魁北克大学蒙特利尔分校)
准确地预测他们未来的表现可以确保学生成功毕业,并帮助他们节省时间和金钱。然而,实现这样的预测面临着两个挑战,主要是由于学生背景的多样性和不断跟踪他们不断发展的进步的必要性。这项工作的目标是创建一个系统,能够自动检测有困难的学生,例如预测他们是否可能不及格。我们比较了一种在文献中广泛使用的朴素方法,该方法使用数据集中可用的属性(如成绩),与我们称为个性化学生属性推理(PSAI)的个性化方法。通过我们的模型,我们创建个性化的属性来捕捉每个学生的特定背景。这两种方法使用机器学习算法,如决策树,支持向量机或神经网络进行比较。
2022-12-26 cs.AI cs.CY cs.LG
Conditional Synthetic Data Generation for Personal Thermal Comfort Models
University of California(加利福尼亚大学)
个人热舒适模型旨在预测个人的热舒适响应,而不是一个大群体的平均响应。最近,机器学习算法已被证明具有作为个人热舒适模型的候选者的巨大潜力。但是,通常在建筑物的正常设置中,通过实验获得的个人热舒适性数据存在严重的类别不平衡。与“偏好较暖”和“偏好较冷”类别相比,“偏好无变化”类别的数据样本数量不成比例地高。在这种类别不平衡的数据上训练的机器学习算法在部署到现实世界中时表现不佳。为了使用上述类别不平衡的数据开发鲁棒的基于机器学习的应用,以及为了隐私保护数据共享,我们提出实现最先进的条件合成数据生成器以生成对应于低频类别的合成数据。通过实验,我们表明,生成的合成数据具有模拟真实数据分布的分布。所提出的方法可以扩展到其他智能建筑数据集/用例。
2022-11-21 cs.LG cs.SY eess.SY
Privacy Risk Predictions Based on Fundamental Understanding of Personal Data and an Evolving Threat Landscape
The University of Texas at Austin(德克萨斯大学奥斯汀分校)
本文提出了一种基于身份生态系统图的隐私风险预测框架,通过分析身份盗窃和欺诈案例,利用图神经网络预测个人数据泄露的可能性。
2026-03-03 cs.CR cs.LG cs.SI
ReGain: Restoring Subject Fidelity in Personalization on Synthetic Images
University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校)
针对合成图像微调导致主体保真度下降的问题,提出无需训练的采样时校正方法 ReGain,通过按频段缩放引导来消除 CFG 膨胀,显著缩小保真度差距并保持文本对齐。
2026-10-01 cs.AI cs.CV cs.LG
User Consented Federated Recommender System Against Personalized Attribute Inference Attack
Department of CSE, HKUST(香港科技大学计算机科学与工程系)
针对联邦推荐系统中属性推断攻击和用户隐私偏好差异问题,提出用户同意的联邦推荐系统UC-FedRec,通过最小化准确度代价灵活满足隐私需求,实验证明其高效灵活。
2023-12-23 cs.CR cs.IR cs.LG
Preserving logical and functional dependencies in synthetic tabular data
Institute of Computer Science, University of Rostock(罗斯托克大学计算机科学学院);Leibniz-Institute for Food Systems Biology(莱布尼茨食品系统生物学研究所);Technical University of Munich, Freising(慕尼黑工业大学弗赖辛校区);Stellenbosch Institute for Advanced Study(斯泰伦博斯高级研究院);Indian Institute of Science Education and Research, Thiruvananthapuram(特里凡得琅印度科学教育与研究学院)
本文引入属性间逻辑依赖概念及量化度量,评估多种最先进合成数据生成算法在公开数据集上保留逻辑与函数依赖的能力,发现现有算法未完全保留函数依赖但部分能保留逻辑依赖,为开发特定任务模型提供研究契机。
2024-09-26 cs.AI cs.LG
Personalized Federated Training of Diffusion Models with Privacy Guarantees
TTIC(芝加哥丰田技术学院);UNC Chapel Hill(北卡罗来纳大学教堂山分校);NJIT(新泽西理工学院)
针对敏感领域数据稀缺与隐私限制问题,提出一种基于个性化机制和前向扩散固有噪声的联邦学习框架,在去中心化私有数据上训练扩散模型,在保证差分隐私的同时提升了样本质量与下游公平性。
2025-04-01 cs.AI cs.CV cs.LG
Feasible and Novel Synthetic Population Generation with Tabular and Sequential Travel Attributes
Concordia University(康考迪亚大学);Toronto Metropolitan University(多伦多都会大学)
该研究针对合成人群生成的抽样零值与不可行结构零值问题,提出带IGP、LDR、CLAP正则化项的两阶段生成框架,提升了表格与序列出行属性合成的可行性、多样性与新颖性。
2026-08-18 cs.AI cs.LG
Towards In-Vehicle Multi-Task Facial Attribute Recognition: Investigating Synthetic Data and Vision Foundation Models
Research and Advanced Engineering(研究与高级工程部门);Ford(福特公司)
针对车载人脸属性识别缺乏大规模真实数据集的问题,探究合成数据结合ViT、ResNet等视觉基础模型的多任务训练效果,发现ResNet表现更优,为相关实际应用提供参考。
2024-03-10 cs.AI cs.CV cs.LG
RAPID: Risk of Attribute Prediction-Induced Disclosure in Synthetic Microdata
School of Business, University of Applied Sciences and Arts Northwestern Switzerland (FHNW)(西北瑞士应用科学与艺术大学商学院)
RAPID是一种用于评估属性推断披露风险的度量方法,通过模拟和真实数据验证其在合成数据生成中的有效性。
2026-02-09 cs.LG stat.AP stat.ME
Assembling Semantically-Disentangled Representations for Predictive-Generative Models via Adaptation from Synthetic Domain
Mythic Inc.(Mythic公司);Freeus, LLC.(Freeus有限责任公司);University of Rochester(罗切斯特大学)
深度神经网络可以形成输入数据的高级分层表示。各种研究人员已经证明,这些表示可以用于实现各种有用的应用。然而,这样的表示通常基于数据内的统计,并且可能不符合应用可能需要的语义表示。条件模型通常用于克服这一挑战,但它们需要大量带注释的数据集,这些数据集很难获得,创建成本也很高。在本文中,我们表明,语义对齐表示可以生成,而不是与基于物理的引擎的帮助。这是通过创建具有解耦属性的合成数据集,学习合成数据集的编码器,以及用来自真实域的属性来扩充来自合成域的规定属性来实现的。结果表明,所提出的(SYNTH-VAE-GAN)方法可以构建一个条件预测生成模型的人脸属性,而不依赖于真实的数据标签。
2020-02-23 cs.CV cs.LG eess.IV
SynCo: Synthetic Community-Aware Attributed Graph Generator for Graph Neural Network Benchmarking
Federal University of São Carlos(圣卡洛斯联邦大学);Federal University of Mato Grosso do Sul(南马托格罗索联邦大学)
SynCo是一种社区感知的属性图生成器,允许用户控制度分布和子社区结构,在图模仿、超参数评估和节点聚类任务中优于现有方法,并能生成多达210万节点的大规模图。
2026-09-11 cs.LG cs.SI
PROVCREATOR: Synthesizing Complex Heterogenous Graphs with Node and Edge Attributes
The University of Texas at Dallas(德克萨斯大学达拉斯分校);Virginia Tech(弗吉尼亚理工大学)
本文提出 ProvCreator 框架,将带高维节点与边属性的复杂异构图合成转化为序列生成,利用基于 transformer 的 LLM 实现无损编码、高效压缩和端到端生成。
2025-07-28 cs.LG
FeederGAN: Synthetic Feeder Generation via Deep Graph Adversarial Nets
North Carolina State University(北卡罗来纳州立大学);Pacific Northwest National Lab(太平洋西北国家实验室);Texas A&M(德克萨斯农工大学)
本文提出了一种新的,自动化的,生成的对抗网络(GAN)的合成馈线生成机制,简称为馈线GAN。FeederGAN通过由GAN和图卷积网络(GCN)提供支持的深度学习框架来识别由有向图表示的真实馈线模型。从配电馈线电路的模型输入文件中提取配电馈线电路的信息,使得设备连接性被映射到邻接矩阵和设备特性上,诸如电路类型(即,3相、2相和1相)和组件属性(例如,长度和当前评级)被映射到属性矩阵上。然后,Wasserstein距离被用来优化的GAN和GCN被用来区分生成的图从实际的。提出了一种基于图论的贪婪算法,利用生成的邻接矩阵和属性矩阵对馈线进行重构。我们的研究结果表明,GAN生成的馈线类似于实际馈线的拓扑结构和属性验证的视觉检查和经验统计从实际配电馈线。
2020-09-16 cs.LG cs.SY eess.SY
Ranking Differential Privacy
University of California, Los Angeles(加利福尼亚大学洛杉矶分校);Purdue University(普渡大学)
排名在各种现实生活场景中被广泛收集,导致用户对视频或新闻的偏好等个人信息泄露。为了保护排名,现有的作品主要是在$ε$ -差分隐私下,对一组排名中的单个排名或排名的成对比较进行隐私保护。本文提出了一种新的概念称为$ε$ -排名差分隐私保护等级。我们建立了Mallow模型(Mallow,1957)和建议的$ε$ -排名差分隐私之间的联系。这使我们能够开发一个多级排名算法来生成合成排名,同时满足发达的$ε$排名差分隐私。建立了关于下游任务中综合排名的实用性的理论结果,包括推理攻击和个性化排名任务。对于推理攻击,我们量化了$ε$如何影响基于合成排名的真实排名的估计。对于个性化的排名任务,我们考虑不同的用户之间的隐私偏好,并量化他们的隐私偏好如何影响的一致性,估计最佳的排名功能。大量的数值实验验证了理论结果,并证明了所提出的综合排名算法的有效性。
2023-01-02 cs.CR cs.LG math.ST