Predicting the Semantic Textual Similarity with Siamese CNN and LSTM
Université d’Avignon et des Pays de Vaucluse(阿维尼翁大学);Universidade Federal do Ceará(塞阿拉联邦大学);École Polytechnique de Montréal(蒙特利尔综合理工学院)
语义文本相似性是自然语言处理中许多应用的基础。我们的系统结合了卷积和递归神经网络来衡量句子的语义相似性。它使用卷积网络来考虑单词的局部上下文,使用LSTM来考虑句子的全局上下文。这种网络的组合有助于保留句子的相关信息,并改进句子之间相似度的计算。我们的模型已经取得了良好的效果,是最好的国家的最先进的系统的竞争力。
2018-10-24 cs.CL
ClassiNet -- Predicting Missing Features for Short-Text Classification
短文本分类的基本问题是\emph{feature sparseness} --训练模型和待分类的测试实例之间缺少特征重叠。我们提出了\emph{ClassiNet} -一个网络的分类训练预测丢失的功能在一个给定的实例,以克服特征稀疏性问题。使用一组未标记的训练实例,我们首先学习二进制分类器作为特征预测器,用于预测特定特征是否出现在给定实例中。接下来,每个特征预测器被表示为ClassiNet中的顶点$v_i$,其中特征预测器和顶点之间存在一一对应关系。连接顶点$v_i$和顶点$v_j$的有向边$e_{ij}$的权重表示给定的$v_i$存在于实例中,$v_j$也存在于同一实例中的条件概率。我们表明,分类网络通过考虑特征之间的隐式同现来概括词同现图。我们从训练好的ClassiNet中提取了大量特征,以克服特征稀疏性。特别是,对于给定的实例$\vec{x}$,我们从ClassiNet中找到了在$\vec{x}$中没有出现的相似特征,并将这些特征附加到$\vec{x}$的表示中。此外,我们提出了一种基于图传播的方法来找到与给定的短文本间接相关的特征。我们在几个短文本分类的基准数据集上评估ClassiNet。我们的实验结果表明,通过使用ClassiNet,我们可以在统计上显着提高短文本分类任务的准确性,而无需使用任何外部资源,如词库来查找相关特征。
2018-04-14 cs.AI cs.CL cs.CV
Inducing Semantic Representation from Text by Jointly Predicting and Factorizing Relations
Universiteit van Amsterdam(阿姆斯特丹大学)
在这项工作中,我们提出了一种新的方法来整合两个最近的工作线:无监督归纳浅层语义(例如,语义角色)和文本和知识库中关系的因子分解。我们的模型由两个部分组成:(1)编码部分:一个语义角色标注模型,预测角色给出了丰富的语法和词汇特征集;(2)重构部分:张量因子分解模型,依赖于角色预测参数填充。当组件联合估计,以尽量减少在参数重建的错误,诱导的角色在很大程度上对应于注释资源中定义的角色。我们的方法与英语中最准确的角色归纳方法不相上下,尽管与以前的方法不同,我们没有结合任何关于语言的先验语言知识。
2015-04-16 cs.CL cs.LG stat.ML
CorPipe at CRAC 2024: Predicting Zero Mentions from Raw Text
Charles University(查理大学)
CorPipe 24在CRAC 2024多语言共指消解任务中夺冠,通过预测空节点实现从原始文本进行共指消解,两阶段和单阶段方法均大幅领先。
2024-11-09 cs.CL
Society of Mind Meets Real-Time Strategy: A Hierarchical Multi-Agent Framework for Strategic Reasoning
Seoul National University(首尔国立大学)
针对LLM在实时策略游戏中长时程决策的不足,提出分层多智能体框架HIMA,通过战略规划器协调专门模仿学习智能体,在SC2测试平台TEXTSCII-ALL上超越现有方法,提升战略清晰度与适应性。
2025-08-08 cs.AI
Predicting the Law Area and Decisions of French Supreme Court Cases
University of Bucharest(布加勒斯特大学);University of Wolverhampton(伍尔弗汉普顿大学);Saarland University(萨尔兰大学);German Research Center for Artificial Intelligence (DFKI)(德国人工智能研究中心(DFKI))
本文研究了文本分类方法在预测法国最高法院判决案件的法律范围和判决结果中的应用。我们还调查的时间段的影响,在此期间作出裁决的文本形式的情况下,说明和在何种程度上,它是必要的,以掩盖法官的动机,以模拟现实世界的测试场景的裁决。我们报告的结果96%的F1分数预测案件裁决,90%的F1分数预测案件的法律领域,75.9%的F1分数估计的时间跨度时,已发出裁决使用线性支持向量机(SVM)分类器训练的词汇特征。
2017-08-04 cs.CL
Predicting Good Configurations for GitHub and Stack Overflow Topic Models
School of Computer Science University of Adelaide(阿德莱德大学计算机学院)
软件存储库包含大量的文本数据,从源代码注释和问题描述到问题、答案和Stack Overflow上的注释。为了理解这些文本数据,主题建模经常被用作文本挖掘工具,用于发现文本主体中隐藏的语义结构。潜在狄利克雷分配(LDA)是一种常用的主题模型,旨在通过对文本进行分组来解释语料库的结构。LDA需要多个参数才能正常工作,关于如何设置这些参数,只有粗略的、有时相互冲突的指导方针。在本文中,我们贡献了(i)对GitHub和Stack Overflow文本语料库的参数进行了广泛的研究,以达到良好的局部最优,(ii)与八种程序设计语言相关的文本语料库的后验特征,以及(iii)通过每个语料库LDA配置分析语料库特征重要性。我们发现(1)主题建模参数配置的流行经验法则不适用于我们实验中使用的语料库,(2)从GitHub和Stack Overflow采样的语料库具有不同的特征,需要不同的配置才能实现良好的模型拟合,(3)我们可以可靠地预测未知语料库的良好配置。这些研究结果支持研究人员和从业人员在分析软件存储库中包含的文本数据时,有效地确定合适的主题建模配置。
2019-03-10 cs.CL cs.NE
Agents Require Metacognitive and Strategic Reasoning to Succeed in the Coming Labor Markets
DAMTP, University of Cambridge(剑桥大学应用数学与理论物理系)
本文指出劳动力市场因信息不完全受逆向选择、道德风险和声誉影响,智能体需结合元认知(内部推理)与策略性推理(外部推理)以有效决策,并探讨了相关研究现状与未来方向。
2025-05-26 cs.AI
Scoring Rules! Statistical and Strategic Alignment for Text Evaluation Metrics
University of Michigan(密歇根大学);Peking University(北京大学);Microsoft Research(微软研究院);Northwestern University(西北大学)
该研究针对文本评估指标,提出统计与策略对齐概念及三项测试原则,开发基于互信息的指标设计框架,发现 LLM-as-a-Judge 相关性高但易操纵,新指标鲁棒性强且相关性具竞争力。
2026-08-04 cs.AI cs.GT cs.LG
Predicting Directionality in Causal Relations in Text
The George Washington University(乔治·华盛顿大学)
在这项工作中,我们测试了两个双向转换为基础的语言模型,BERT和斯潘BERT,预测文本内容中的因果对的方向性的性能。我们的初步研究结果表明,预测句子间的方向和隐含的因果关系是更具挑战性的。并且,Span BERT在跨度长度较长的因果样本上的性能优于BERT。我们还介绍了CREST,这是一个框架,用于统一收集分散的因果关系数据集。
2021-03-25 cs.AI cs.CL
Neural Networks for Predicting Human Interactions in Repeated Games
Hebrew University of Jerusalem(希伯来大学)
我们考虑的问题,预测人类球员的行动,在重复的战略互动。我们的目标是预测个体玩家在以前看不见的游戏中的动态逐步行为。我们研究了神经网络执行这种预测的能力以及它们所需的信息。我们在人类参与者实验的标准形式游戏数据集上显示,标准神经网络能够学习函数,这些函数比行为经济学建立的模型更准确地预测玩家的行为。该网络在预测精度和交叉熵方面优于其他模型,并产生更高的经济价值。我们表明,如果可用的输入是只有一个短序列的发挥,经济信息的游戏是重要的预测人类代理的行为。然而,有趣的是,我们发现,当网络使用足够长的游戏历史序列进行训练时,基于动作的网络表现良好,关于游戏的额外经济细节并没有提高它们的性能,这表明动作序列编码了足够的信息,可以成功完成预测任务。
2019-11-08 cs.AI cs.GT
When AI Agents Compete for Jobs: Strategic Capabilities and Economic Dynamics of AI Labour Markets
DAMTP, University of Cambridge(剑桥大学应用数学与理论物理系)
本文提出AI-Work模拟平台,研究AI代理在劳动力市场中的竞争行为,发现元认知、竞争意识和长期战略规划能力使代理获得更高利润和市场份额。
2026-07-02 cs.AI cs.MA
Alignment Makes Language Models Normative, Not Descriptive
Technion – Israel Institute of Technology(技术离子-以色列理工学院)
通过对比120个基础-对齐模型对在超过10,000个真实人类决策中的表现,发现对齐诱导了规范性偏差:在单轮教科书式博弈中提升预测,但在多轮战略博弈中因忽略互惠、报复等描述性动态而损害预测。
2026-05-25 cs.AI cs.CL cs.GT
Predicting COVID-19 and pneumonia complications from admission texts
Sberbank AI Lab(俄罗斯联邦储蓄银行人工智能实验室);Krasnoyarsk Regional Clinical Hospital(克拉斯诺亚尔斯克地区临床医院);Artificial Intelligence Research Institute(人工智能研究院)
本研究提出基于入院文本的肺炎/COVID-19患者风险评估方法,采用Longformer神经网络计算风险评分,经多家欧洲医院数据验证,性能优于Transformer基线且可跨机构、跨诊断泛化。
2023-05-05 cs.AI cs.CL
Predicting the Success of Domain Adaptation in Text Similarity
Thomson Reuters Labs(汤森路透实验室);Copenhagen Business School(哥本哈根商学院)
迁移学习方法,特别是领域自适应,有助于利用一个领域中的标记数据来提高另一个领域中的特定任务的性能。但是,目前还不清楚是什么因素影响了领域自适应的成功。本文模型的适应成功和选择最合适的源域中的几个候选文本相似度。我们使用描述性域信息和跨域相似性度量作为预测特征。虽然大多数结果是积极的,但也指出了一些难以预测适应成功的领域。
2021-06-23 cs.AI cs.CL cs.LG
Predicting Patient Readmission Risk from Medical Text via Knowledge Graph Enhanced Multiview Graph Convolution
University of Oregon(俄勒冈大学);Baidu Research(百度研究院)
重症监护室(ICU)计划外再入院率是评价医院护理质量的重要指标。对ICU再入院风险进行有效、准确的预测,不仅可以帮助患者避免不适当的出院和潜在的危险,而且可以降低相关的医疗费用。在本文中,我们提出了一种新的方法,使用电子健康记录(EHRs)的医疗文本进行预测,这提供了一个替代的角度,以前的研究,严重依赖于患者的数值和时间序列特征。更具体地说,我们从他们的电子病历中提取患者的出院摘要,并表示他们与外部知识图谱增强的多视图图。然后将图卷积网络用于表示学习。实验结果证明了我们的方法的有效性,产生国家的最先进的性能为这项任务。
2021-12-19 cs.AI cs.CL
Decoding the Human Factor: High Fidelity Behavioral Prediction for Strategic Foresight
OMGene AI Lab(OMGene AI实验室)
本文提出LBM模型,通过高维特质轮廓预测个体战略选择,提升高保真行为模拟能力,应用于战略预见等领域。
2026-02-19 cs.AI
Strategy, Not Payoffs: A Behavioural Embedding of Normal-Form Games
University of Waterloo(滑铁卢大学)
该研究提出轻量双特征行为嵌入,可预测大型语言模型在不同标准型博弈间微调后的策略能力变化,证明策略能力迁移由决策行为结构而非收益几何决定。
2026-07-31 cs.AI cs.GT cs.LG
CHBench: A Cognitive Hierarchy Benchmark for Evaluating Strategic Reasoning Capability of LLMs
Gaoling School of Artificial Intelligence(北京语言大学人工智能学院);Renmin University of China(中国人民大学)
本文提出受行为经济学认知层级模型启发的CHBench基准,通过三阶段框架评估六个LLMs在十五个标准式博弈中的战略推理能力,验证了框架稳健性,并发现对话机制削弱而记忆机制增强战略推理。
2025-08-16 cs.AI cs.CL cs.HC
Predicting Abnormal Returns From News Using Text Classification
Princeton University(普林斯顿大学)
我们展示了如何使用支持向量机从新闻文章的文本可以用来预测金融资产的日内价格变动。多核学习用于将股票收益与文本作为预测特征相结合以提高分类性能,并且我们开发了一种分析中心切割平面方法来有效地解决核学习问题。我们观察到,虽然回报的方向是不可预测的,无论是使用文本或回报,他们的大小,与文本功能产生显着更好的性能比历史回报。
2009-06-24 cs.AI cs.LG
Predicting Emotion Intensity in Polish Political Texts: Comparing Supervised Models and Large Language Models in a Resource-Poor Language
GESIS – Leibniz Institute for the Social Sciences(GESIS——莱布尼茨社会科学研究所)
本研究比较了大型语言模型与监督模型在波兰政治文本情感强度预测中的表现,发现监督模型更优,但LLMs在低资源环境下是可行的替代方案。
2024-07-16 cs.AI cs.CL
Strategic Sample Selection for Improved Clean-Label Backdoor Attacks in Text Classification
Department of Computer Engineering, Koç University(计算机工程系,科大学院)
本文提出 Minimum、Above50 和 Below50 三种样本选择策略,通过选择模型预测错误或低置信度样本注入后门触发器,在多个数据集和模型上显著提升清洁标签后门攻击成功率,且几乎不影响清洁准确率,并优于现有方法 BITE。
2025-08-21 cs.AI cs.CR cs.LG
Everything Happens for a Reason: Discovering the Purpose of Actions in Procedural Text
Facebook AI Research(Facebook人工智能研究院);Allen Institute for Artificial Intelligence(艾伦人工智能研究所)
我们的目标是更好地理解程序文本,例如,一段关于光合作用的文章,不仅预测发生了什么,而且预测为什么有些行动需要在其他行动之前发生。我们的方法建立在先前的过程理解框架上,用于预测行动的影响,也可以识别这些影响所能实现的后续步骤。我们提出了我们的新模型(XPAD),偏向于那些(1)解释更多的段落中的动作和(2)更合理的背景知识的影响预测。我们还扩展了现有的基准数据集程序文本理解,ProPara,通过增加新的任务,解释行动预测其依赖关系。我们发现,XPAD显着优于以前的系统在这项任务上,同时保持在ProPara的原始任务的性能。该数据集可在http://data.allenai.org/propara上获得
2019-09-18 cs.AI cs.CL
MISID: A Multimodal Multi-turn Dataset for Complex Intent Recognition in Strategic Deception Games
The Chinese University of Hong Kong, Shenzhen(香港中文大学(深圳));Capital Normal University(首都师范大学)
本文提出MISID数据集,用于复杂战略欺骗游戏中多模态多轮对话的意图识别,通过系统评估发现现有多模态大语言模型在复杂场景中存在缺陷,并提出FRACTAM框架提升性能。
2026-04-14 cs.AI
Vision And Text Transformer For Predicting Answerability On Visual Question Answering
Japan Advanced Institute of Science and Technology(日本先端科学技术大学院大学);University of Science, Ho Chi Minh City(胡志明市理科大学);Vietnam National University, Ho Chi Minh City(越南国家大学胡志明市分校);Zalo Research Center(Zalo研究中心)
针对视觉问答中的可回答性预测,提出VT-Transformer模型,利用Transformer架构融合视觉与文本特征,在VizWiz 2020数据集上验证了其有效性与鲁棒性。
2026-09-16 cs.AI cs.CV
Do Persona-Infused LLMs Affect Performance in a Strategic Reasoning Game?
Bellini College of Artificial Intelligence, Cybersecurity and Computing(人工智能、网络安全与计算学院);University of South Florida(佛罗里达州立大学);Information Directorate(信息 Directorate);Air Force Research Library(空军研究图书馆)
本研究探讨了个性提示对战略推理游戏表现的影响,提出了一种基于心理测量原理的启发式生成方法,通过中介过程提升启发式策略的可靠性。
2025-12-07 cs.AI
Predicting Links on Wikipedia with Anchor Text Information
Aix Marseille Univ(艾克斯-马赛大学);Université de Toulon(土伦大学);CNRS(法国国家科学研究中心)
维基百科是最大的开放协作在线百科全书,是一个由内部超链接绑定在一起的文档语料库。这些链接构成了一个大型网络的组成部分,其结构包含了本百科全书所涵盖概念的重要信息。两篇文章之间的链接,通过源页面中指向目标页面的锚文本来实现,可以增加读者对主题的理解。然而,链接的过程遵循特定的编辑规则,以避免链接不足和过度链接。在本文中,我们研究了英语维基百科的几个子集上的链接预测的转换和归纳任务,并确定了基于锚文本信息的自动链接背后的一些关键挑战。我们提出了一个适当的评估抽样方法和比较几种算法。此外,我们提出了基线模型,提供了一个很好的估计任务的整体难度。
2021-05-25 cs.AI cs.IR
Predicting Rich Drug-Drug Interactions via Biomedical Knowledge Graphs and Text Jointly Embedding
减少药物相互作用引起的不良反应一直是临床药理学的重要研究课题。在药物投放市场之前,通过临床研究检测所有可能的相互作用是一项艰巨的任务。大数据的力量正在开辟新的方法来发现各种药物相互作用。然而,这些发现包含了大量的噪音,并提供了知识基础远远不完整和值得信赖的利用。现有的大多数研究都集中在预测药物对之间的二元药物相互作用,但忽略了其他相互作用。在本文中,我们提出了一个新的框架,称为PRD,预测药物相互作用。该框架利用图嵌入技术克服了数据不完整性和稀疏性问题,实现了多DDI标签预测。首先,从不同来源生成大规模药物知识图谱。然后,将知识图谱与综合生物医学文本一起嵌入到公共低维空间中。最后,学习的嵌入被用于通过链接预测过程有效地计算丰富的DDI信息。为了验证所提出的框架的有效性,在真实世界的数据集上进行了广泛的实验。结果表明,我们的模型优于几个国家的最先进的基线方法的能力和准确性。
2018-03-12 cs.AI
Predicting Affective States from Screen Text Sentiment
University of Melbourne(墨尔本大学)
本研究利用线性回归和大型语言模型(LLM)的零样本与多样本提示,分析智能手机屏幕文本与情感状态的关系,发现多样本提示表现最佳,为情感预测提供了新方法。
2024-08-23 cs.AI cs.HC
Multi-Modal Forecaster: Jointly Predicting Time Series and Textual Data
University of California, San Diego(加利福尼亚大学圣迭戈分校);Google Research(谷歌研究院)
本文提出多模态预测数据集 TimeText Corpus 和联合预测文本与时间序列的 Hybrid-MMF 模型,实验发现该模型未能超越现有基线,揭示了多模态预测的挑战。
2024-11-21 cs.AI
Predicting Drafted Deck Strength for "Magic: the Gathering"
JST BOOST(日本科学技术振兴机构 创新技术加速化项目);JST CREST(日本科学技术振兴机构 战略性创造研究推进事业)
研究《万智牌》的Draft构筑模式,提出基于编码器的模型生成集上下文的卡牌嵌入编码决策序列,在大规模真实数据上比线性基线有持续改进,为套牌强度预测建立首个学习基准。
2026-07-07 cs.AI cs.LG
Learning Strategic Language Agents in the Werewolf Game with Iterative Latent Space Policy Optimization
Tsinghua University, Beijing, China(清华大学);Beijing Zhongguancun Academy, Beijing, China(北京中关村学院);Shanghai Qi Zhi Institute, Shanghai, China(上海启智研究所)
针对LLM智能体在战略语言游戏中的偏差与探索不足,提出LSPO迭代框架,结合博弈论与DPO微调,在狼人杀中提升策略与语言能力并超越现有智能体。
2025-06-18 cs.AI
A Behavior-Based Knowledge Representation Improves Prediction of Players' Moves in Chess by 25%
Ben-Gurion University(本-古里安大学)
本文提出结合专家领域知识与特征工程和机器学习的方法,针对中级棋手开局阶段预测其下一步走法,将预测准确率提升25%,为预测人类对弈行为提供了新框架。
2025-04-07 cs.AI cs.LG
Strategic Attentive Writer for Learning Macro-Actions
Google DeepMind(谷歌DeepMind)
我们提出了一种新的深度递归神经网络架构,该架构通过纯粹与强化学习设置中的环境交互来学习以端到端的方式构建隐式计划。该网络建立了一个内部计划,该计划在观察到来自环境的下一个输入时不断更新。它还可以通过学习计划可以被提交多长时间(即,在没有重新规划的情况下遵循)来将该内部表示划分成连续的子序列。结合这些属性,被称为STRategic Attentive Writer(STRategic Attentive Writer)的模型可以学习不同长度的高级时间抽象宏操作,这些宏操作仅从数据中学习,而无需任何先验信息。这些宏观行动使结构化勘探和经济计算成为可能。我们的实验表明,ATARI提供了强大的改进几个ATARI游戏采用时间延长的规划策略(如女士吃豆人和冻伤)。它同时也是一种通用算法,可以应用于任何序列数据。为此,我们还表明,当在文本预测任务上进行训练时,它会自然地预测频繁的n-gram(而不是宏动作),从而证明了该方法的通用性。
2016-06-15 cs.AI cs.LG
Predicting COVID-19 Patient Shielding: A Comprehensive Study
University of Waikato(怀卡托大学)
机器学习和大数据分析可用于抗击COVID-19大流行病,包括预测、风险管理、诊断和预防。这项研究的重点是预测COVID-19患者屏蔽-识别和保护临床上极易受到冠状病毒感染的患者。本研究的重点是用于医学文本的多标签分类技术。利用英国NHS和世界卫生组织发布的信息,我们提出了一种新的方法来预测COVID-19患者屏蔽作为一个多标签分类问题。我们使用公开的、去识别的ICU医疗文本数据进行实验。这些标签来自已发布的COVID-19患者屏蔽数据。我们提出了一个广泛的比较12个多标签分类器从简单的二进制相关的神经网络和最新的Transformers。据我们所知,这是第一次全面的研究,在这样一个范围内的多标签分类器的医疗文本被认为是。我们强调了各种方法的好处,并认为,对于手头的任务,预测精度和处理时间都是必不可少的。
2021-10-01 cs.AI cs.LG
Semantic Nutrition Estimation: Predicting Food Healthfulness from Text Descriptions
Center For Applied Artificial Intelligence, University of Kentucky(肯塔基大学应用人工智能中心);College of Health Sciences, University of Kentucky(肯塔基大学健康科学学院)
本文提出了一种基于文本描述预测食品健康性的机器学习方法,通过多头神经网络结合语义嵌入和领域数据,实现高精度的营养评估。
2025-12-03 cs.AI cs.LG