Compromesso! Italian Many-Shot Jailbreaks Undermine the Safety of Large Language Models
Bocconi University(博科尼大学)
本文研究意大利语多示例越狱攻击对LLM安全性的影响,构建意大利语不安全问答数据集,发现四个开源LLM家族在少量不安全示例下即出现不安全行为,且随示例增多迅速恶化。
2024-08-08 cs.CL
Uncovering Constraint-Based Behavior in Neural Models via Targeted Fine-Tuning
Cornell University(康奈尔大学)
越来越多的文献关注于详细描述嵌入在大型预训练语言模型中的语言知识。现有的研究表明,模型中的非语言偏见可以驱使模型行为远离语言概括。我们假设,一种语言中的竞争性语言过程,而不仅仅是非语言模型偏见,可能会掩盖潜在的语言知识。我们通过探索四种语言中的一种现象来验证这一说法:英语,汉语,西班牙语和意大利语。虽然人类的行为在不同语言之间是相似的,但我们发现模型行为的跨语言变化。我们表明,在一种语言中的竞争过程作为模型行为的约束,并表明,有针对性的微调可以重新加权学习的约束,发现否则休眠的语言知识模型。我们的研究结果表明,模型需要学习语言中的语言约束及其相对排名,两者的不匹配都会产生非人类行为。
2021-06-02 cs.CL
Challenging the Abilities of Large Language Models in Italian: a Community Initiative
CALAMITA是一项针对意大利语的社区驱动基准测试项目,通过多样化任务和统一评估流程,系统评估大型语言模型的能力,为其他语言提供评估范例。
2025-12-04 cs.CL
LLMs Lost in Translation: M-ALERT uncovers Cross-Linguistic Safety Inconsistencies
TU Darmstadt(图宾根大学);Sapienza University of Rome(罗马萨皮恩扎大学);DFKI(德意志联邦防务研究院);CERTAIN(CERTAIN公司);University of Chicago(芝加哥大学);UIUC(伊利诺伊大学香槟分校)
本研究提出多语言安全基准 M-ALERT,评估 39 个 LLM 在五种语言中的安全性,发现跨语言和类别存在显著安全不一致性,强调多语言安全实践的必要性。
2025-06-23 cs.CL
Semantic Homogenization in Italian Popular Music: A Diachronic Analysis
Centro Ricerche, Innovazione Tecnologica e Sperimentazione(研究中心、技术创新与实验)
研究意大利圣雷莫音乐节决赛歌曲歌词语义变化,开发灵活高效方法,结合多种分析及技术,发现语义渐趋统一,凸显自然语言处理工具价值。
2026-07-07 cs.CL
Leveraging Large Language Models to Geolocate Linguistic Variations in Social Media Posts
University of Turin(都灵大学)
本项目利用大语言模型解决GeoLingIt挑战,通过微调预训练模型同时预测意大利语推文的地区和精确坐标,增强了模型对文本细微差别的理解,改进了该领域的最新技术水平。
2024-07-22 cs.AI cs.CL
Breaking Boundaries: Investigating the Effects of Model Editing on Cross-linguistic Performance
Indian Institute of Technology Kharagpur(印度理工学院克勒格布尔分校);National Institute of Standards and Technology(美国国家标准与技术研究院);INSAIT(保加利亚索菲亚大学INSAIT研究院);Sofia University “St. Kliment Ohridski”(圣基里曼·奥赫里德斯基索菲亚大学)
本文评估多种知识编辑技术对Mistral等LLM跨语言一致性的影响,通过ELFI与ELFO压力测试揭示普通模型和合并模型的显著差异。
2025-03-18 cs.CL
Politicians vs ChatGPT. A study of presuppositions in French and Italian political communication
Zürcher Hochschule für Angewandte Wissenschaften(苏黎世应用科学大学);Università Roma Tre(罗马第三大学);Universität Innsbruck(因斯布鲁克大学)
本文对比法意政治家与ChatGPT 3.5就极化议题生成文本中的预设(文献视为潜在操纵性语言特征),聚焦隐性传播,旨在为大型语言模型语用能力研究添砖加瓦。
2024-11-27 cs.CL cs.CY
The Model's Language Matters: A Comparative Privacy Analysis of LLMs
Inria(法国国家信息与自动化研究所);INSA Lyon(里昂国立应用科学学院);CITI(信息与技术研究所)
本研究首次定量证明语言结构影响大语言模型的隐私泄露,意大利语泄露最强,法语和西班牙语更稳健,需语言感知的隐私保护机制。
2025-10-09 cs.CL cs.CR
Can AI-Generated Persuasion Be Detected? Persuaficial Benchmark and AI vs. Human Linguistic Differences
NASK National Research Institute(波兰国家科研 institute);University of Padua(意大利帕多瓦大学);Polish-Japanese Academy of Information Technology(波兰-日本信息科技学院)
本文探讨LLM生成的说服内容是否更难自动检测,通过Persuaficial基准对比人类与AI生成文本的语言差异,揭示细微说服策略对检测性能的影响。
2026-04-21 cs.CL
Non Verbis, Sed Rebus: Large Language Models are Weak Solvers of Italian Rebuses
Center for Language and Cognition (CLCG), University of Groningen(格罗宁根大学语言与认知中心(CLCG))
本文构建大规模意大利语画谜数据集,评估大语言模型的画谜求解能力,发现通用模型表现差、微调提升主要来自记忆,表明画谜仍是评估语言能力与指令遵循的难题。
2024-08-01 cs.AI cs.CL
How Humans and LLMs Organize Conceptual Knowledge: Exploring Subordinate Categories in Italian
Università di Bologna(博洛尼亚大学)
本研究首次通过分析下级类别样例,构建意大利语数据集并评估文本与视觉LLMs在样例生成等任务上与人类类别组织的一致性,发现两者一致性较低且因语义领域而异。
2025-05-27 cs.AI cs.CL
Harnessing LLMs for Educational Content-Driven Italian Crossword Generation
University of Siena(锡耶纳大学)
本研究推出利用GPT-4o等大语言模型、基于含3万多条条目的Italian-Clue-Instruct数据集生成意大利语填字游戏的工具,支持四种线索风格,旨在填补意大利语教育工具空白,增强学习体验并为语言学习设新基准。
2024-11-25 cs.AI cs.CL
Datasets for Verb Alternations across Languages: BLM Templates and Data Augmentation Strategies
本文提出四个语言的 curated 数据集,用于探索动词变体的跨句知识,通过 BLM 任务和数据增强策略评估模型性能。
2026-03-16 cs.CL cs.DB
Advanced Natural-based interaction for the ITAlian language: LLaMAntino-3-ANITA
University of Bari Aldo Moro(巴里大学阿尔多·莫罗)
本研究推出基于LLaMA-3的意大利语大模型LLaMAntino-3-ANITA-8B-Inst-DPO-ITA,结合SFT、QLoRA和DPO优化,在意英基准测试中表现优异,已开源。
2024-05-11 cs.AI cs.CL
How Surprising Is Historical Italian to Language Models? Tokenization Tax, Comprehension Tax, and a Simple Mitigation
University of Bologna(博洛尼亚大学)
本文提出一个诊断框架,将历史语言难度分解为分词成本、预测不确定性、语义鲁棒性和上下文敏感性四个维度,通过17世纪意大利语等数据集评估,发现历史文本存在分词税但语义表示鲁棒,并证明简单的时间上下文提示可将历史意外性降低约60%。
2026-06-26 cs.CL cs.DL
QuanLing: Cross-Branch Validation of Language Distance Quantification on Western Romance
Guangdong Haiqixing Marine Technology Co., Ltd.(广东海启星海洋科技有限公司)
本文通过将QuanLing框架扩展到西罗曼语支(法、葡、西、意),验证了其跨分支适用性,发现葡西最接近、法意最远,且与北日耳曼语结果一致,证明其泛化能力。
2026-10-08 cs.AI cs.CL
AI Blob! LLM-Driven Recontextualization of Italian Television Archives
AI Blob!利用大型语言模型和语义技术对意大利电视档案进行再上下文化,通过自动语音识别和向量数据库实现动态检索与叙事重构。
2025-08-13 cs.AI cs.CL cs.DL
Easy to Complete, Hard to Choose: Investigating LLM Performance on the ProverbIT Benchmark
University of Turin(都灵大学)
该研究构建了意大利谚语基准ProverbIT,评估13个前沿LLMs的谚语处理能力,发现LLMs虽能完成谚语任务,但在无正确答案的选择题中性能骤降,暴露其依赖记忆而非深层语义理解的局限。
2026-08-06 cs.AI cs.CL
LLMs Know More Than Words: A Genre Study with Syntax, Metaphor & Phonetics
Institute for Artificial Intelligence, Peking University(北京大学人工智能研究院)
本文通过引入多语言体裁分类数据集,研究LLMs在语法、隐喻和语音特征上的学习能力及其对分类任务的影响。
2025-12-04 cs.AI cs.CL
How Instruction-Tuning Imparts Length Control: A Cross-Lingual Mechanistic Analysis
Università degli Studi di Milano, Department of Computer Science(米兰大学计算机科学系)
该研究针对大语言模型长度控制难题,通过跨语言机制分析发现指令微调通过重构模型后层组件提升长度控制能力,且不同语言下组件贡献模式存在差异。
2025-09-02 cs.AI cs.CL
Ticket-Bench: A Kickoff for Multilingual and Regionalized Agent Evaluation
Institute of Computing (IC) State University of Campinas(计算学院(IC)坎皮纳斯州立大学)
本文提出了多语言智能体评估基准Ticket-Bench,通过模拟六种语言下的足球购票场景评估LLM函数调用能力,发现推理型模型表现最佳但仍存跨语言差异,凸显了文化感知基准对开发鲁棒智能体的重要性。
2025-09-17 cs.CL
Leveraging Large Language Models for Accurate Sign Language Translation in Low-Resource Scenarios
University of Catania, Italy(意大利卡塔尼亚大学);National Research Council - ISTC, Italy(意大利国家研究理事会-ISTC);University of Bologna, Italy(意大利博洛尼亚大学)
提出AulSign方法,利用大型语言模型通过动态提示和上下文学习及手语关联,在低资源场景下实现准确手语翻译,在英语和意大利语基准上优于现有模型。
2025-09-08 cs.AI cs.CL cs.CY
Towards the first UD Treebank of Spoken Italian: the KIParla forest
University of Bologna(博洛尼亚大学)
本研究针对现有知名口语意大利语资源KIParla语料库构建Universal Dependencies树库,以丰富意大利语的语言资源。
2024-10-06 cs.CL
Northeastern Uni at Multilingual Counterspeech Generation: Enhancing Counter Speech Generation with LLM Alignment through Direct Preference Optimization
Capital One(第一资本);Northeastern University(东北大学);Apple Inc.(苹果公司)
本文提出通过SFT和DPO对齐LLM并结合知识基础,显著提升了多语言环境下的反制言论生成质量,DPO模型在CS基准上超越基线并有效扩展至多语言。
2024-12-19 cs.AI cs.CL
Syntax and Semantics of Italian Poetry in the First Half of the 20th Century
Università Ca Foscari(威尼斯福斯卡里大学)
在本文中,我们研究,分析和评论的修辞格目前在一些最有趣的诗歌的上半个二十世纪。这些数字首先追溯到过去的一些著名诗人,然后与古典拉丁散文进行比较。语言学理论,然后调用,以显示它们如何可以表示在句法结构和分类为noncanonical结构,定位不连续或移位的语言元素在规范XP预测在各级选区。然后,我们介绍了LFG(词汇功能语法)的理论,使我们能够连接句法非规范结构与信息结构和心理语言学理论的复杂性评估。最后,我们用两个计算语言学实验,然后评估结果。第一个使用最好的意大利语在线解析器来解析诗歌结构;第二个使用Getarun,Ca Foscari计算语言学实验室创建的系统。如将显示的,第一种方法是无法应付这些结构,由于只使用统计概率信息。相反,第二个,作为一个符号规则为基础的系统,是远远优于,也允许完成语义和语用分析。
2018-04-01 cs.CL
SimpCue: Cue-Based Prompting for Multilingual Text Simplification
Universitat Pompeu Fabra (UPF)(庞培法布拉大学)
本研究针对加泰罗尼亚语、西班牙语、意大利语的多语言易读性文本简化任务,以Qwen3-8B为模型,对比不同提示方式的效果,发现预测线索提示表现最优但提升有限。
2026-08-31 cs.AI cs.CL
A conclusive remark on linguistic theorizing and language modeling
NeTS-IUSS Pavia(帕维亚高等研究院NeTS(网络与复杂系统)研究中心)
本文对语言理论化与语言建模的讨论进行了结论性评论,总结了相关回应和观点。
2025-06-03 cs.CL
Teaching NLP with Bracelets and Restaurant Menus: An Interactive Workshop for Italian Students
University of Trento(特伦托大学);Aston University(阿斯顿大学);University of Bologna(博洛尼亚大学);University of Pisa(比萨大学);University of Trieste(的里雅斯特大学);University of Groningen(格罗宁根大学)
针对意大利高中缺乏计算语言学教育的问题,开发了面向13至18岁学生的互动工作坊,通过游戏化方式教授NLP和计算语言学核心概念,以提升学生的认知与长期兴趣。
2021-05-14 cs.CL
It's All About the Confidence: An Unsupervised Approach for Multilingual Historical Entity Linking using Large Language Models
Department of Humanities, University of Macerata(马切拉塔大学人文学科系);KNAW Humanities Cluster, DHLab(荷兰人文集群、DHLab);INFRES Department, Télécom Paris(巴黎电信学院INFRES部门)
本文提出MHEL-LLaMo,一种结合小型语言模型和大语言模型的无监督方法,用于多语言历史实体链接,通过置信度评分降低计算成本并提升准确性。
2026-01-13 cs.CL
Gender Bias in Machine Translation and The Era of Large Language Models
本章综述传统神经机器翻译与大语言模型中的性别偏见,并通过英语—意大利语场景下的 ChatGPT 实验评估其偏见应对能力,强调持续缓解偏见、促进公平包容的必要性。
2024-01-18 cs.AI cs.CL cs.CY
GENder-IT: An Annotated English-Italian Parallel Challenge Set for Cross-Linguistic Natural Gender Phenomena
Tilburg University(蒂尔堡大学);University of Naples L’Orientale(那不勒斯东方大学)
语言在性别特征的存在或缺失、性别类别的数量以及性别特征是否以及在何处被明确标记方面存在差异。这些跨语言的差异可能导致难以解决的歧义,特别是对于双级MT系统。模糊性的识别及其后续解决方案是一项具有挑战性的任务,目前没有任何特定的资源或挑战集可用。在本文中,我们介绍了gENder-IT,一个英语-意大利语的挑战集,专注于解决自然性别现象,通过提供单词级别的性别标签在英语源端和多个性别的替代翻译,在需要的地方,在意大利语的目标端。
2021-08-31 cs.AI cs.CL cs.CY
Founding a mathematical diffusion model in linguistics. The case study of German syntactic features in the North-Eastern Italian dialects
University of Trento(特伦托大学)
本文以意大利东北部方言中的德语语法特征为案例,用地理数据科学和扩散-对流方程建立数学扩散模型,并证明施密特波属于该方程的解。
2023-09-16 cs.CL
LLaMAntino: LLaMA 2 Models for Effective Text Generation in Italian Language
University of Bari Aldo Moro(巴里大学阿尔多·莫罗大学);NVIDIA AI Technology Center(英伟达人工智能技术中心)
本研究针对LLaMA模型意大利语覆盖不足的问题,采用开放科学方法探索多种微调策略,推出意大利语大模型家族LLaMAntino,为意大利语语言适配研究提供支持。
2023-12-15 cs.CL
Monolingual and Cross-Lingual Acceptability Judgments with the Italian CoLA corpus
University of Salerno(萨勒诺大学);ICAR-CNR(意大利国家研究委员会信息与高性能计算研究所);Fondazione Bruno Kessler(布鲁诺·凯斯勒基金会)
语言可接受性的自动化方法的发展已经大大促进了英语CoLA语料库的可用性,这也被包括在广泛使用的GLUE基准。然而,这种研究的语言以外的英语,以及跨语言的方法的分析,一直受到阻碍的资源与其他语言的规模相当的缺乏。因此,我们开发了ItaCoLA语料库,其中包含近10,000个具有可接受性判断的句子,它是按照与英语相同的方法和步骤创建的。在本文中,我们描述了语料库的创建,我们详细介绍了它的内容,我们提出了这个新资源的第一个实验。我们比较了域内和域外分类,并对九种语言现象进行了具体的评估。我们还提出了第一个跨语言的实验,旨在评估是否多语言transformerbased方法可以受益于使用两种语言的句子在微调。
2021-09-24 cs.CL
Testimole-Conversational: A 30-Billion-Word Italian Discussion Board Corpus (1996-2024) for Language Modeling and Sociolinguistic Research
University of Bologna(博洛尼亚大学)
该语料库为意大利大语言模型预训练和语言社会学研究提供了丰富的讨论板文本资源,涵盖1996-2024年间超过300亿词的意大利语信息。
2026-04-09 cs.CL
A Survey on Spoken Italian Datasets and Corpora
Università degli Studi dell’Aquila(拉奎拉大学);CNIT - National Inter-university Consortium for Telecommunications(意大利国家电信大学间联盟(CNIT))
本文综述66个意大利语口语数据集,按类型、来源语境及人口与语言特征分类,梳理其在ASR、情感检测和教育中的应用,并讨论资源稀缺、代表性与可访问性问题。
2025-03-12 cs.AI cs.CL cs.DL
Domain Embeddings for Generating Complex Descriptions of Concepts in Italian Language
University of Salerno(萨勒诺大学)
本文提出一种基于意大利语名词和动词语义分类构建的领域共现矩阵资源,通过选择与具体概念知识相关的矩阵来生成概念的语义描述,并在动物名词分类和特征提取实验中验证了其有效性。
2024-02-26 cs.CL
VoiceCraft-X: Unifying Multilingual, Voice-Cloning Speech Synthesis and Speech Editing
University of Texas at Austin(德克萨斯大学奥斯汀分校);Amazon(亚马逊)
本文提出自回归神经编解码语言模型VoiceCraft-X,基于Qwen3和token重排机制统一11种语言的零样本TTS与语音编辑任务,在低资源语言场景下仍能生成高质量自然语音。
2025-11-15 cs.CL cs.SD eess.AS
BAMBI: Developing Baby Language Models for Italian
本文介绍了BAMBI(BAby语言模型Boostrapped for Italian),一系列婴儿语言模型(BabyLMs)训练的数据,模仿一个五岁的意大利语儿童接受的语言输入。BAMBI模型使用专门设计用于评估语言模型的基准进行测试,该基准考虑了模型接收的训练输入量。将BAMBI模型与大语言模型(LLM)和多模态语言模型(VLM)进行比较,研究语言外信息对语言习得的贡献。我们的评估结果与现有的文献英语语言模型,确认减少训练数据支持相对强大的句法能力的发展,他们是不够的,促进语义理解。然而,BAMBI模型和LLM的训练资源(数据和计算)之间的差距并没有完全反映在它们的性能上:尽管LLM进行了大量的训练,但它们的性能并不比BAMBI模型好多少。这表明,扩展培训资源之外的策略,如数据整理,包含多模态输入,以及其他培训策略,如课程学习,可以在塑造模型性能方面发挥至关重要的作用。
2025-03-12 cs.CL
KIT-TIP-NLP at MultiPride: Continual Learning with Multilingual Foundation Model
Text Information Processing Lab, Kitami Institute of Technology, Kitami, Hokkaido 090-0015, Japan(函授信息处理实验室,Kitami理工学院,日本北海道Kitami,090-0015)
本文提出了一种多阶段框架,用于检测社交媒体中多语言的重新使用侮辱性语言。该框架解决了跨英语、西班牙语和意大利语推文中识别重新使用与非重新使用LGBTQ+相关侮辱性语言的挑战,通过数据驱动的模型选择、语义保留的增强、归纳迁移学习和领域特定知识注入等方法,提高了多语言情感表达的识别能力。
2026-05-18 cs.AI cs.CL cs.LG
Culturally Adaptive Explainable LLM Assessment for Multilingual Information Disorder: A Human-in-the-Loop Approach
University of Turin(都灵大学)
本文提出一种人机协作框架,通过本地语言标注者生成的解释性理由,评估LLM在多语言信息紊乱中的表现,提升模型的文化适应性和可解释性。
2026-03-28 cs.AI cs.CL cs.CY
Identifying Gender Stereotypes and Biases in Automated Translation from English to Italian using Similarity Networks
Department of Computer Science(计算机科学系);Università degli Studi di Milano(米兰大学);Department of Italian and Supranational Public Law(意大利与超国家公法系)
该跨学科研究聚焦英意自动化翻译的性别偏见问题,通过结合法学与语言学定义、分析性别特定术语的余弦相似度及数值特征评估偏见强度方向,为性别中立翻译算法开发提供了洞见。
2025-02-17 cs.AI cs.CL
ConGA: Guidelines for Contextual Gender Annotation. A Framework for Annotating Gender in Machine Translation
University of Pisa(比萨大学);University of Naples ``L'Orientale''(那不勒斯);Tilburg University(蒂尔堡大学)
本文提出ConGA框架,通过上下文性别标注解决机器翻译中性别处理的挑战,揭示当前系统在性别标注上的系统性偏差。
2026-03-18 cs.CL
Mind the Gap: Assessing Wiktionary's Crowd-Sourced Linguistic Knowledge on Morphological Gaps in Two Related Languages
Stanford University OHS(斯坦福大学OHS)
本研究通过定制神经形态分析器评估维基词典在拉丁语和意大利语中的形态缺口可靠性,发现7%的拉丁语词根存在争议。
2026-02-01 cs.CL cs.CY
Orthographic Structuring of Human Speech and Texts: Linguistic Application of Recurrence Quantification Analysis
本文提出了一种基于递归量化分析的书面语篇正字法结构研究方法。五个不同的正射数据集(20世纪意大利诗歌、20世纪美国诗歌、当代瑞典诗歌及其相应的意大利语译本、意大利语语音样本和美国语语音样本)进行递归量化分析,已经发现该程序在诸如物理学、分子动力学、生理学、和通用信号处理。递归量化是从递归图发展而来的,用于分析物理科学中的非线性复杂系统,并且基于有序序列元素的距离矩阵的计算(在这种情况下,字母构成选定的语音和诗歌文本)。从严格的数学角度来看,结果表明,尽管明显的低水平的编码(正字法),不同的语言范例之间的不变性的可能性。与实际文本的比较证实了该方法的能力,以揭示经常性的结构,其复杂性。使用诗歌作为判断语音复杂度的参考标准,该技术表现出语言独立性,顺序依赖性和自由从纯统计特性的研究序列,以及与易于识别的文本的一致性。此类研究可以提供由纯粹拼写水平编码的隐藏结构的现象学标记。
1997-12-24 cmp-lg cs.CL
SommBench: Assessing Sommelier Expertise of Language Models
SommBench是一个多语言基准,用于评估语言模型的品酒师专业能力,包含三个任务:葡萄酒理论问答、葡萄酒特征补全和食物-葡萄酒配对,测试模型在感官判断上的能力。
2026-03-12 cs.AI cs.CL
Feature-Refined Unsupervised Model for Loanword Detection
LLACAN, CNRS(法国国家科学研究中心,语言、非洲语言与文化实验室)
针对现有借词检测依赖外部信息的局限,提出仅用语言内部信息的无监督模型,通过特征提取与概率映射迭代优化,在六种印欧语数据集上优于基线且跨语言扩展性能提升显著。
2025-08-25 cs.CL
IMB: An Italian Medical Benchmark for Question Answering
University of Naples Federico II, Department of Electrical Engineering(那不勒斯费德里科二世大学电子工程系);Consorzio Interuniversitario Nazionale per l'Informatica (CINI) - ITEM National Lab(国家信息计算联合研究中心(CINI)- ITEM国家实验室);Northwestern University, Department of Computer Science, McCormick School of Engineering(西北大学计算机科学系,工程学院)
该研究发布了两个意大利语医学问答基准IMB-QA和IMB-MCQA,验证了领域适配策略结合检索增强生成等技术可让大模型在医学问答任务中超越通用大模型,为多语言医学问答研究提供支持。
2025-10-21 cs.CL
Exploring NLP Benchmarks in an Extremely Low-Resource Setting
National Kaohsiung University of Science and Technology(高雄科技大学);University of Innsbruck(因斯布鲁克大学)
本文针对濒危罗曼语Ladin的Val Badia变体,利用少量平行语料生成合成数据集,提升低资源环境下的情感分析和多项选择问答性能,提供首个公开可用的Ladin数据集。
2025-09-04 cs.CL
An Analysis of Word2Vec for the Italian Language
ENEA(意大利国家新技术、能源和可持续经济发展局)
单词表示是NLP任务的基础,因为正是从单词之间语义接近度的编码中,才有可能想到教机器理解文本。尽管词嵌入的概念得到了广泛的传播,但在英语以外的语言环境中的研究成果仍然很少。在这项工作中,分析的语义能力的Word2Vec算法,嵌入的意大利语。研究了epoch数、上下文窗口大小和反向传播样本数等参数的设置。
2020-01-25 cs.CL cs.LG stat.ML
Colorless green recurrent networks dream hierarchically
University of Geneva(日内瓦大学);Facebook AI Research(脸书人工智能研究院);Johns Hopkins University(约翰斯·霍普金斯大学)
递归神经网络(RNN)在各种语言处理任务中取得了令人印象深刻的结果,这表明它们可以诱导语言的非平凡属性。我们在这里研究RNN学习跟踪抽象层次句法结构的程度。我们测试了在四种语言(意大利语,英语,希伯来语,俄语)中使用通用语言建模目标训练的RNN是否可以预测各种结构中的长距离数字一致性。在我们的评估中,我们包括了RNN无法依赖语义或词汇线索的无意义句子(“我和椅子一起吃的无色绿色想法疯狂地睡觉”),并且,对于意大利语,我们将模型性能与人类直觉进行了比较。我们的语言模型训练的RNN对长距离协议做出了可靠的预测,并且不会落后于人类的表现。因此,我们支持这样一个假设,即RNN不仅是浅层模式提取器,而且还获得了更深层次的语法能力。
2018-03-29 cs.CL
Leveraging Cross-Attention Transformer and Multi-Feature Fusion for Cross-Linguistic Speech Emotion Recognition
Shanghai Maritime University(上海海事大学);Carleton University(卡尔顿大学);The University of British Columbia(不列颠哥伦比亚大学);Stanford University(斯坦福大学);The University of North Carolina at Pembroke(北卡罗来纳大学彭布罗克分校)
本研究提出HuMP-CAT方法,融合HuBERT、MFCC和韵律特征,利用交叉注意力Transformer和迁移学习,在五种语言的七个数据集上实现78.75%的平均准确率,优于现有跨语言语音情感识别方法。
2025-01-06 cs.CL cs.SD eess.AS
Language, Language Models, and What We're Talking About
University of Groningen(格罗宁根大学)
该研究以意大利语语言模型为例,探讨语言模型的本质、测试数据的意义等问题,提出需区分技术产品型与研究工具型语言模型,明确其应产出的语言类型。
2026-09-04 cs.CL