Different Strokes for Different Folks: Writer Identification for Historical Arabic Manuscripts
Department of Computer Science and Engineering(计算机科学与工程系)
本文基于Muharaf数据集,通过CNN与注意力机制模型,提出作者识别方法,解决了历史阿拉伯手稿的作者识别问题,并在不同评估协议下实现了高准确率。
2026-04-24 cs.CV cs.LG
Global Regular Network for Writer Identification
Xi’an Jiaotong University(西安交通大学)
笔迹鉴定在伪造检测和法医学中有实际应用。大多数基于深度神经网络的模型都是从字符图像或字符图像中的子区域提取特征,而忽略了页面区域图像中包含的特征。我们提出的全球定期网络(GRN)注意到这些功能。GRN网络由两个分支组成:一个分支以页面笔迹为输入提取全局特征,另一个分支以单词笔迹为输入提取局部特征。全局特征和局部特征以全局残差的方式合并以形成手写体的整体特征。GRN有两个特点:一是增加一个分支来提取页面中包含的特征;二是使用剩余注意力网络来提取局部特征。实验证明了这两种策略的有效性。在CVL数据集上,我们的模型以更短的训练时间和更少的网络参数实现了令人印象深刻的99.98%的top-1准确率和100%的top-5准确率,超过了最先进的结构。实验结果表明,该网络在作者识别领域具有强大的能力。源代码可在https://github.com/wangshiyu001/GRN上获得。
2022-01-16 cs.AI cs.CV cs.LG
Self-Supervised Vision Transformers for Writer Retrieval
TU Dortmund University(多特蒙德工业大学)
本文提出一种基于自监督视觉Transformer与VLAD编码的笔迹检索方法,通过提取局部前景特征,在多个历史与现代数据集上取得最先进性能。
2024-09-01 cs.CV cs.LG
Exploring Supervised Machine Learning for Multi-Phase Identification and Quantification from Powder X-Ray Diffraction Spectra
The University of the West Indies(西印度群岛大学)
本文研究用传统监督机器学习替代深度学习,在实验数据有限的情况下结合模拟XRD数据,实现粉末X射线衍射谱的多相识别与定量分析,并验证其在真实生物医学应用中的泛化能力。
2022-11-16 cond-mat.mtrl-sci cs.LG
Benchmarking Online Sequence-to-Sequence and Character-based Handwriting Recognition from IMU-Enhanced Pens
Fraunhofer IIS, Fraunhofer Institute for Integrated Circuits(弗劳恩霍夫集成电路研究所);LMU Munich(慕尼黑大学);RWTH Aachen(亚琛工业大学);STABILO International GmbH(思蒂乐国际有限公司)
针对纸面在线手写识别数据匮乏的问题,本文用IMU增强笔采集多场景手写数据,构建多任务基准并验证了卷积结合BiLSTM模型的优异性能。
2022-09-21 cs.LG
Siamese based Neural Network for Offline Writer Identification on word level data
Indian Institute of Technology Guwahati(印度理工学院古瓦哈提分校)
手写体识别是文档理解和分析的理想属性之一。它关注的是区分作者的文件写作风格和特点。文本图像的多样性,特别是具有不同笔迹的图像,使得在数据很少的情况下学习好特征的过程变得困难。在本文中,我们提出了一种新的方案,以确定作者的文件的基础上输入的文字图像。我们的方法是文本无关的,不施加任何限制的输入图像的大小进行检查。首先,我们检测笔迹中的关键成分,并使用尺度不变特征变换(SIFT)提取它们周围的区域。这些补丁旨在捕获可能对单个作者唯一的单个书写特征(包括异体字、字符或字符组合)。然后,这些特征通过深度卷积神经网络(CNN),其中通过使用Siamese网络应用相似性学习的概念来学习权重。Siamese网络通过映射不同对输入图像之间的相似性来增强CNN的区分能力。使用稀疏PCA对提取的SIFT关键点在不同尺度上学习的特征进行编码,稀疏PCA的每个分量被分配一个显著性分数,该分数表示其在有效区分不同作者方面的显著性水平。最后,将与每个SIFT关键点相对应的加权稀疏PCA组合以获得每个作者的最终分类得分。该算法在两个公共数据库(即IAM和CVL)上进行了评估,并与其他基于深度学习的算法相比,能够取得令人满意的结果。
2022-11-17 cs.CV cs.LG
An End-to-End Framework to Identify Pathogenic Social Media Accounts on Twitter
Arizona State University(亚利桑那州立大学)
致病性社交媒体(PSM)账户,如恐怖分子支持者账户和假新闻作者,有能力以病毒的方式传播虚假信息。早期检测PSM帐户至关重要,因为它们可能是使恶意信息“病毒式传播”的关键用户。在本文中,我们采用了因果推理框架以及基于图形的指标,以区分PSM正常用户在很短的时间内,他们的活动。我们提出了监督和半监督的方法,而不考虑网络信息和内容。来自Twitter的真实数据集的结果突出了我们提出的框架的优势。我们表明,我们的方法实现了0.28改善F1得分比现有的方法,精度为0.90和F1得分为0.63。
2019-05-04 cs.IR cs.LG cs.SI
Development and Application of Self-Supervised Machine Learning for Smoke Plume and Active Fire Identification from the FIREX-AQ Datasets
Spatial Informatics Group, LLC.(空间信息集团有限公司);Jet Propulsion Laboratory, California Institute of Technology(喷气推进实验室,加州理工学院);University of California at Berkeley(加州大学伯克利分校);Fowler School of Engineering, Chapman University(查普曼大学福勒工程学院);Machine Learning and Assistive Technology Lab (MLAT), Chapman University(机器学习与辅助技术实验室(MLAT),查普曼大学)
本研究应用自监督机器学习方法,结合多源遥感数据识别和跟踪FIREX-AQ活动中的活跃火点与烟羽,生成掩膜产品,有望提升野火监测、空气质量决策及气候影响研究。
2025-01-25 cs.AI cs.CV cs.LG
Improving Supervised Phase Identification Through the Theory of Information Losses
本文研究了配电系统中的相位辨识问题。特别是,它侧重于提高监督学习的准确性,专注于利用一些问题的信息理论属性。这种关注,以及信息理论机器学习(ITML)的最新进展,帮助我们创建了两种新技术。第一个将信息损失的界限转化为数据选择技术。这是重要的,因为在实践中很难获得相位识别数据标签。第二部分从ITML的角度解释了配电系统的性质。这使我们能够在应用于问题的任何分类器所学习的表示中获得改进。我们在真实数据集上对这两种技术进行了实验测试,发现它们在每种情况下都能产生惊人的性能。在最极端的情况下,它们将相位识别精度从$51.7\%$提高到$97.3\%$。此外,由于许多问题共享的物理性质,相位识别利用本文中,该技术可以应用到广泛的类似问题。
2019-11-04 cs.LG stat.ML
Self-supervised contrastive learning performs non-linear system identification
Institute of Computational Biology, Computational Health Center, Helmholtz Munich and Munich Center for Machine Learning (MCML)(计算生物学研究所、计算健康中心、海德堡慕尼黑和慕尼黑机器学习中心)
本文深化了自监督学习与可辨识表示学习的联系,提出dynamics contrastive learning框架,在非线性观测模型下执行潜在空间的系统辨识,揭示线性和非线性动力学,并提供理论保证与实验验证。
2025-06-01 cs.LG stat.ML
A semi-supervised deep learning algorithm for abnormal EEG identification
IBM Research(IBM研究院)
可以自动分析EEG信号的系统可以通过减少繁重的工作量和延迟来帮助神经科医生。然而,这样的系统需要首先使用标记的数据集进行训练。虽然存在大量的EEG数据,但其中一小部分被标记。手工标记数据增加了我们试图帮助的神经科医生的工作量。本文提出了一种半监督学习工作流程,不仅可以从大型未标记的EEG数据集中提取有意义的信息,而且可以使用小到5个样本的标记数据集进行预测。
2019-11-06 cs.LG eess.SP stat.ML
Semi-Supervised Radio Signal Identification
Virginia Tech(弗吉尼亚理工大学);Oklahoma State University(俄克拉荷马州立大学)
密集多用户环境下的无线电辐射源识别是优化频谱利用、识别和最小化干扰以及执行频谱政策的重要工具。无线电数据是现成的,很容易从天线获得,但标记和策划的数据往往是稀缺的,使监督学习策略在实践中困难和耗时。我们证明了半监督学习技术可用于将学习扩展到监督数据集之外,允许通过使用基于非监督和监督方法的稀疏信号表示来识别和回忆新的无线电信号,用于非线性特征学习和聚类方法。
2017-01-17 cs.IT cs.LG math.IT
Self-Supervised Contextual Language Representation of Radiology Reports to Improve the Identification of Communication Urgency
Dartmouth College(达特茅斯学院);Dartmouth-Hitchcock Medical Center(达特茅斯-希区柯克医疗中心)
机器学习方法最近在生物医学文本分析中取得了高性能。然而,这些方法的广泛应用中的主要瓶颈是获得所需的大量带注释的训练数据,这是资源密集型和耗时的。自监督学习的最新进展已经显示出利用没有显式注释的大型文本语料库的前景。在这项工作中,我们建立了一个自我监督的上下文语言表示模型,使用BERT,一个深双向Transformer架构,以确定放射学报告,需要及时沟通的参考医生。我们在一个大型的未标记的放射学报告语料库上预训练了BERT模型,并在最终的文本分类器中使用了由此产生的上下文表示,用于通信紧急性。我们的模型实现了97.0%的准确率,召回率为93.3%,F-测量值为95.1%,在一个独立的测试集上,在识别放射学报告及时沟通,并显着优于以前的国家的最先进的模型的基础上word 2 vec表示。
2019-12-05 cs.CL cs.LG stat.ML
Wildlife Target Re-Identification Using Self-supervised Learning in Non-Urban Settings
Institute for Intelligent Systems University of Johannesburg(智能系统研究所 乌姆西阿布大学)
本文研究利用相机陷阱时间图像对进行自监督学习的野生动物重识别方法,证明自监督特征在数据有限时更鲁棒,并在所有下游任务中优于监督特征。
2025-07-03 cs.AI cs.CV cs.LG
Self-Supervised Representation Learning for Online Handwriting Text Classification
University of Tehran(德黑兰大学)
本研究提出笔画掩蔽(POSM)自监督前置任务,预训练模型提取英汉在线手写表示,微调后在作者识别、性别和利手分类上取得最先进结果。
2023-10-10 cs.CL cs.LG
Identification of Interaction Clusters Using a Semi-supervised Hierarchical Clustering Method
Wuhan University of Technology(武汉理工大学);University of Surrey(萨里大学);Wuhan University(武汉大学)
动机:识别大型基因调控网络(GRNs)的相互作用簇是其进一步研究的关键,但由于实验数据中的数据噪声、GRNs的大规模、基因表达谱与功能模块之间的不一致等原因,识别这一任务非常具有挑战性。利用先验信息半监督这一过程是有希望的,但先验信息的缺乏有时会使其非常具有挑战性。同时,寻找评价聚类结果的金标准也是一件令人烦恼的事情,有时甚至是不可能的。结果如下:在在线富集工具的辅助下,提出了一种基于去卷积相关矩阵(SHC-DC)的半监督层次聚类方法,用于发现大规模GRNs的相互作用簇。利用一个\emph{Ecoli}网络和两个\emph{Yeast}网络对该方法的半监督机制进行了测试。然后,SHC-DC被用于睡眠研究中的基因聚类。结果表明,它可以找到相互作用的模块,通常是丰富的各种信号通路。除了对白细胞介素血液水平的显著影响外,睡眠对它们介导的重要途径的影响也被发现的相互作用模块所验证。
2019-10-20 cs.LG q-bio.MN stat.ML
A Semi-Supervised Approach for Power System Event Identification
School of Electrical, Computer, and Energy Engineering, Arizona State University(亚利桑那州立大学电气、计算机与能源工程学院)
本文提出一种半监督方法,通过自训练、TSVM和基于图的标签传播技术,利用物理可解释特征对电力系统事件进行识别,并公开了综合工具包,实验证明基于图的LS方法在有限标签下表现最优。
2024-07-22 cs.LG cs.SY eess.SY
On Sleep-Wake Disorder Identification from Polysomnographic Representations
Faculty of Informatics, Università della Svizzera Italiana(瑞士意大利语区大学信息学院);MeDiTech, SUPSI(瑞士应用科学与艺术大学医学技术学院);Ente Ospedaliero Cantonale (EOC)(州立医院管理局);University of Brescia(布雷西亚大学);University of Bern(伯尔尼大学)
该研究对比自监督PSG FMs与规模、模态覆盖可比的睡眠分期编码器,发现PSG FMs在监督预训练达同等规模时表现反转,神经睡眠评分器迁移学习性能更优,为评估PSG FMs下游潜力提供基线要求。
2026-10-14 cs.LG
Cell Type Identification from Single-Cell Transcriptomic Data via Semi-supervised Learning
Prairie View A&M University(普雷里维尤农工大学);Texas A&M University System(得克萨斯农工大学系统)
从单细胞转录组数据鉴定细胞类型是单细胞RNA测序(scRNAseq)数据分析的共同目标。神经网络已被用于以高性能从scRNAseq数据鉴定细胞类型。然而,它需要大量的个体细胞与准确和公正的注释类型,以建立识别模型。不幸的是,标记scRNAseq数据是繁琐和耗时的,因为它涉及标记基因的手动检查。为了克服这一挑战,我们提出了一种半监督学习模型,使用未标记的scRNAseq细胞和有限数量的标记的scRNAseq细胞来实现细胞识别。首先,我们将scRNAseq细胞转化为“基因句子”,这是受到自然语言系统和基因系统之间相似性的启发。然后,这些句子中的基因表示为基因嵌入,以减少数据稀疏性。通过这些嵌入,我们实现了一个基于递归卷积神经网络(RCNN)的半监督学习模型,它包括一个共享网络,一个监督网络和一个无监督网络。所提出的模型在macosko2015上进行了评估,macosko2015是一个大规模的单细胞转录组数据集,具有单个细胞类型的基础事实。观察到所提出的模型能够通过在非常有限量的标记的scRNAseq细胞以及大量未标记的scRNAseq细胞上学习来实现令人鼓舞的性能。
2020-05-06 cs.LG q-bio.GN
Self-Supervised Polyp Re-Identification in Colonoscopy
Verily Life Sciences(Verily生命科学公司)
针对结肠镜视频中息肉缺乏跨帧跟踪的问题,提出基于注意力自监督模型的外观再识别方法,实现稳健长期跟踪,并验证其对CADx任务的价值。
2023-06-14 cs.CV cs.LG
Graph-based Label Propagation for Semi-Supervised Speaker Identification
Amazon Alexa(亚马逊Alexa)
家庭场景中的说话人辨识(例如,对于智能说话者)通常仅基于几个登记话语,但是基于大得多的未标记数据集,这表明半监督学习可以改善说话者简档。我们提出了一种基于图的半监督学习方法的说话人辨识在家庭的情况下,利用未标记的语音样本。与大多数专注于说话人区分嵌入的说话人识别工作相反,这项工作专注于说话人标签推理(评分)。给定一个预先训练的嵌入提取器,基于图的学习允许我们整合有关标记和未标记话语的信息。考虑到每个话语作为一个图形节点,我们表示成对的话语相似性得分作为边权重。每个家庭构建图,并将扬声器身份传播到未标记的节点,以优化全局一致性标准。我们在VoxCeleb数据集上的实验表明,与两种最先进的评分方法及其基于伪标签的半监督变体相比,这种方法有效地利用了未标记的数据,提高了说话人辨识的准确性。
2021-06-15 cs.CL cs.LG cs.SD
ConLID: Supervised Contrastive Learning for Low-Resource Language Identification
ConLID通过监督对比学习方法,提升低资源语言在领域外数据上的识别性能,同时保持高资源语言的识别效果。
2026-03-09 cs.AI cs.CL cs.LG
Minimally Supervised Topological Projections of Self-Organizing Maps for Phase of Flight Identification
Rochester Institute of Technology(罗切斯特理工学院)
针对通用航空飞行阶段识别中数据标注成本高且类别不平衡的问题,提出最小监督自组织映射(MS-SOMs)方法,利用SOM U矩阵最近邻多数投票进行类别估计,仅需每类30个标注点即可达到或超越全量标注的朴素SOM性能,且对类别不平衡更具鲁棒性。
2024-02-17 cs.LG cs.NE
Color Variants Identification in Fashion e-commerce via Contrastive Self-Supervised Representation Learning
Myntra
在本文中,我们利用深度视觉表示学习来解决时尚电子商业中的一个重要问题:颜色变体识别,即,识别与其设计(或风格)完全匹配的时尚产品,但只是颜色不同。首先,我们试图通过获得手动注释(描述两个产品是否是颜色变体)来解决这个问题,并训练一个基于监督三重丢失的神经网络模型来学习时尚产品的表示。然而,对于大规模的真实世界的工业数据集,如我们的论文中所述,这是不可行的,以获得整个数据集的注释,同时捕捉所有困难的角落的情况。有趣的是,我们观察到颜色变体本质上是基于颜色抖动的增强的表现。因此,我们转而探索自监督学习(SSL)来解决这个问题。我们观察到,现有的国家的最先进的SSL方法执行差,为我们的问题。为了解决这个问题,我们提出了一种新的SSL基于颜色变量模型,同时侧重于不同的服装部分。定量和定性评估表明,我们的方法优于现有的SSL方法,有时,监督模型。
2021-06-30 cs.CV cs.LG
Supervised classification for object identification in urban areas using satellite imagery
COMSATS Institute of Information and Technology(COMSATS信息技术学院);Hamad Bin Khalifa University(哈马德·本·哈利法大学);University de Lorraine(洛林大学)
本文提出了一种实用的方法来实现分类的卫星图像。该方法是基于像素级的研究,采用各种功能,如相关性,均匀性,能量和对比度。在这项研究中,灰度图像用于训练的分类模型。对于监督分类,采用两种分类技术,即支持向量机(SVM)和朴素贝叶斯。对于灰度图像的纹理特征,朴素贝叶斯的整体准确率为76%,而SVM为68%。计算时间的评估,同时执行实验与两个不同的窗口大小,即,50x50和70x70。对于70x70的窗口大小,单个图像所需的计算时间为27秒,对于50x50的窗口大小,所需的计算时间为45秒。
2018-08-02 cs.CV cs.LG eess.SP
Cause Identification from Aviation Safety Incident Reports via Weakly Supervised Semantic Lexicon Construction
The University of Texas at Dallas(德克萨斯大学达拉斯分校)
航空安全报告系统收集自愿提交的航空安全事故报告,以促进旨在减少此类事故的研究工作。为了有效地减少这些事件,准确地确定这些事件发生的原因至关重要。更确切地说,在给定一系列可能的原因或形成因素的情况下,这一原因识别任务涉及识别所有且仅识别那些对报告中所述事件负责的形成因素。我们研究两种方法来识别原因。这两种方法都利用了语义词典提供的信息,语义词典是通过Thelen和Theloffs Basilisk框架自动构建的,并通过我们的语言和算法修改进行了增强。第一种方法使用简单的启发式标记报告,该方法在报告中查找语义词典学习过程中获得的单词和短语。第二种方法将原因识别重新定义为文本分类问题,采用监督和转换文本分类算法从标记有成形因素的事件报告中学习模型,并使用模型标记未见过的报告。我们的实验表明,无论是基于经验的方法和基于学习的方法(当有足够的训练数据)优于基线系统显着。
2014-01-16 cs.CL cs.LG
Disentangling Damage from Operational Variability: A Label-Free Self-Supervised Representation Learning Framework for Output-Only Structural Damage Identification
Department of Mechanical Engineering, Politecnico di Milano(机械工程系,米兰理工学院)
本文提出一种无标签自监督表示学习框架,通过分离损伤与操作变化,提升基于振动的结构损伤识别的鲁棒性,验证了其在桥梁和齿轮箱数据集上的有效性。
2026-04-21 cs.LG
ST-ProC: A Graph-Prototypical Framework for Robust Semi-Supervised Travel Mode Identification
Peking University Shenzhen, China(北京大学深圳校区);Imperial College London London, UK(帝国理工学院伦敦校区)
针对GPS轨迹出行方式识别(TMI)的标签稀缺问题,提出ST-ProC图原型多目标半监督框架,结合图正则化、原型锚定及边缘感知伪标签策略,较FixMatch提升21.5%性能。
2025-11-17 cs.AI cs.LG
Automatic identification of diagnosis from hospital discharge letters via weakly supervised Natural Language Processing
University of Bologna(博洛尼亚大学)
提出一种弱监督NLP流程,无需文档级标注即可从意大利语出院信中分类诊断,在细支气管炎数据集上达到接近全监督的性能,节省大量人工标注时间。
2026-06-15 cs.CL cs.LG
Transfer Learning with Self-Supervised Vision Transformers for Snake Identification
Georgia Institute of Technology(佐治亚理工学院)
本文提出 SnakeCLEF 2024 蛇种识别方案,基于自监督 DINOv2 视觉 Transformer 提取特征并训练线性分类器,验证了该嵌入在蛇类识别任务中的潜力。
2024-07-08 cs.CV cs.IR cs.LG
Sim-to-real supervised domain adaptation for radioisotope identification
Pacific Northwest National Laboratory(太平洋西北国家实验室);University of Washington(华盛顿大学)
本研究针对放射性核素识别中合成与实验数据的域差距问题,提出监督域自适应方法,通过合成数据预训练+少量实验数据微调,在LaBr探测器场景实现96%准确率,远超基线模型,还提升了特征可解释性。
2025-11-18 cs.LG nucl-th
Learning Style Identification Using Semi-Supervised Self-Taught Labeling
本文提出一种基于半监督机器学习与数据挖掘的方法,利用Felder Silverman模型在少量标注数据下识别学生学习风格,并在两门课程中分别取得88.83%和77.35%的准确率,从而支持个性化学习环境构建。
2024-02-04 cs.CV cs.CY cs.LG
Important Object Identification with Semi-Supervised Learning for Autonomous Driving
Honda Research Institute(本田研究院);Stanford University(斯坦福大学);University of California, Berkeley(加州大学伯克利分校)
场景中重要对象的准确识别是智能代理(例如,自动驾驶车辆)在复杂和动态环境中导航。大多数现有方法试图采用注意力机制来经由各种任务(例如,轨迹预测),其不强制对重要性估计的直接监督。相比之下,我们以明确的方式处理这个任务,并将其表述为二元分类(“重要”或“不重要”)问题。我们提出了一种新的方法,重要的对象识别在以自我为中心的驾驶场景中的对象的关系推理。此外,由于人类的注释是有限的和昂贵的获得,我们提出了一个半监督学习管道,使模型能够学习无限的未标记的数据。此外,我们建议利用自我车辆行为预测的辅助任务,以进一步提高重要性估计的准确性。所提出的方法进行评估的公共自我中心驾驶数据集(H3D)收集在复杂的交通场景。详细的烧蚀研究进行,以证明每个模型组件和培训策略的有效性。我们的方法也大大优于基于规则的基线。
2022-03-05 cs.AI cs.CV cs.LG
Objective hearing threshold identification from auditory brainstem response measurements using supervised and self-supervised approaches
Institute of Computational Biology, Helmholtz Zentrum München(亥姆霍兹慕尼黑中心计算生物学研究所);Helmholtz AI, Helmholtz Zentrum München(亥姆霍兹慕尼黑中心亥姆霍兹人工智能研究所);Institute of Experimental Genetics, Helmholtz Zentrum München(亥姆霍兹慕尼黑中心实验遗传学研究所);German Center for Diabetes Research (DZD)(德国糖尿病研究中心);Technische Universität München(慕尼黑工业大学);LMU München(慕尼黑大学);Flatiron Institute(熨斗研究所)
听力损失是人类的主要健康问题和心理负担。小鼠模型提供了一种可能性,以阐明基因参与的基础发育和病理生理机制的听力障碍。为此,大规模的小鼠表型分析计划包括单基因敲除小鼠品系的听觉表型分析。使用听觉脑干反应(ABR)程序,德国小鼠诊所和世界各地的类似设施已经产生了大量的,统一的数据集的平均ABR突变和野生型小鼠的原始数据。在标准ABR分析的过程中,由受过训练的工作人员根据一系列增加的声压级的信号曲线来视觉评估听力阈值。这是耗时的,并且容易受到读者以及图形显示质量和规模的影响。为了减少工作量,提高质量和可重复性,我们开发并比较了两种方法,用于从平均ABR原始数据中自动识别听阈:一种监督方法,涉及两个在人类生成的标签上训练的组合神经网络和一种自监督方法,该方法利用信号功率谱,并将随机森林声级估计与分段曲线拟合算法相结合,用于阈值查找。我们表明,这两种模型工作良好,优于人类的阈值检测,并适合快速,可靠,无偏的听力阈值检测和质量控制。在高通量小鼠表型分析环境中,这两种方法作为自动化端到端筛选管道的一部分来检测听力参与的候选基因。这两个模型的代码以及用于这项工作的数据都是免费提供的。
2021-12-16 cs.LG q-bio.NC q-bio.QM
A Self-Supervised Gait Encoding Approach with Locality-Awareness for 3D Skeleton Based Person Re-Identification
Shenzhen Institute of Advanced Technology, Chinese Academy of Sciences(中国科学院深圳先进技术研究院);National University of Defense Technology(国防科技大学);Lanzhou University(兰州大学);South China University of Technology(华南理工大学);Second Clinical Medical College, Jinan University(暨南大学第二临床医学院);Beijing Institute of Technology(北京理工大学)
基于步态特征的三维骨骼序列身份识别是一个新兴的研究课题。现有的解决方案依赖于手工制作的描述符或监督步态表示学习。本文提出了一种自监督步态编码方法,可以利用未标记的骨架数据来学习步态表示的人Re-ID。具体来说,我们首先通过学习重建未标记的骨架序列来创建自监督,这涉及到更丰富的高层语义,以获得更好的步态表示。其他借口任务也被探索,以进一步提高自监督学习。其次,受运动的连续性赋予一个骨架序列中相邻骨架和时间上连续的骨架序列更高的相关性(在3D骨架数据中称为局部性)这一事实的启发,我们提出了一个局部感知的注意力机制和一个局部感知的对比学习方案,旨在保持局部感知的自监督学习分别在序列内和序列间水平。最后,利用我们的位置感知注意力机制和对比学习方案学习到的上下文向量,设计了一种新的特征--基于收缩注意的步态编码(CAGEs)来有效地表示步态。经验评估表明,我们的方法显着优于基于卷积的同行15-40%的Rank-1的准确性,它甚至实现了优越的性能,许多多模式的方法与额外的RGB或深度信息。我们的代码可在https://github.com/Kali-Hac/Locality-Awareness-SGE上获得。
2021-07-05 cs.CV cs.LG
Supervised DKRC with Images for Offline System Identification
Clemson University(克莱姆森大学)
近年来,Koopman谱理论为动力系统研究提供了一个新的视角。现代动态系统正变得越来越非线性和复杂,并且需要一个框架来以紧凑和全面的表示来对这些系统进行建模,以进行预测和控制。将库普曼理论应用于感兴趣的系统的中心问题是,有限维基函数的选择通常是先验的,使用系统动力学的专家知识。我们的方法使用监督学习方法学习这些基函数,其中自动编码器和深度神经网络的组合学习任何给定系统的基函数。我们证明了这种方法的单摆的例子中,我们得到一个线性表示的非线性系统,然后预测未来的状态轨迹给定一些初始条件。我们还探讨了如何改变动态系统时间序列数据的输入表示可以影响学习的基函数的质量。这种替代表示相比,传统的原始时间序列数据的方法,以确定哪种方法的结果在较低的重建和预测误差的真实非线性动态的系统。
2021-09-06 cs.LG cs.SY eess.SY
Label Aware Speech Representation Learning For Language Identification
Google Research(谷歌研究院)
本文提出 LASR 标签感知语音表示学习框架,通过三元组损失融合语言标签与自监督学习,并在 FLEURS 和 Dhwani 上验证其语言识别性能优于现有系统。
2023-06-07 cs.CL cs.LG cs.SD
Capturing cross-session neural population variability through self-supervised identification of consistent neuron ensembles
University of Edinburgh(爱丁堡大学);Icahn School of Medicine at Mount Sinai(西奈山伊坎医学院);Feinberg School of Medicine(范伯格医学院);Northwestern(西北大学)
从记录的神经活动中解码刺激或行为是研究中询问大脑功能的常用方法,也是脑机接口和脑机接口的重要组成部分。甚至从小的神经群体进行可靠的解码也是可能的,因为高维神经元群体活动通常占据可用合适的潜在变量模型来表示的低维流形。然而,随着时间的推移,单个神经元的活动漂移和神经记录设备的不稳定性可能是相当大的,使得在数天和数周内稳定解码变得不切实际。虽然不能在单个神经元水平上预测这种漂移,但是当底层流形随时间稳定时,连续记录会话上的群体水平变化(诸如不同的神经元集合和记录数据中一致神经元的变化排列)可以是可学习的。跨会话对一致神经元与不熟悉神经元的分类以及说明在记录会话上记录数据集中的一致记录神经元的顺序的偏差然后可以维持解码性能。在这项工作中,我们证明了深度神经网络的自监督训练可以用来补偿这种会话间的变化。因此,顺序自动编码模型可以在未来几天内为完全不可见的记录会话保持最先进的行为解码性能。我们的方法只需要一个单一的记录会话来训练模型,并且是迈向可靠的,无需重新校准的脑机接口的一步。
2023-01-05 cs.LG q-bio.NC
T-vectors: Weakly Supervised Speaker Identification Using Hierarchical Transformer Model
University of Sheffield(谢菲尔德大学)
在不知道说话者的声音在录音中的位置的情况下识别多个说话者是一项具有挑战性的任务。本文提出了一种分层网络与Transformer编码器和内存机制来解决这个问题。该模型包括帧级编码器和段级编码器,它们都使用了Transformer编码器模块。Transformer结构中的多头注意力机制可以在输入话语包含多个说话人时更好地捕捉不同的说话人属性。帧级编码器中使用的记忆机制可以建立一个循环连接,更好地捕捉长期的扬声器特征。实验在基于Switchboard Cellular part1(SWBC)和Voxceleb 1数据集的人工数据集上进行。在不同的数据构建场景(Concat和Overlap)下,与四个强基线相比,该模型表现出更好的性能,与H向量和S向量相比,相对性能分别提高了13.3%和10.5%。使用记忆机制与不使用记忆机制相比,相对提高了10.6%和7.7%。
2020-10-29 cs.CL cs.LG cs.SD
Self-supervised Learning on Camera Trap Footage Yields a Strong Universal Face Embedder
Visual Geometry Group (VGG), Department of Engineering Science, University of Oxford(视觉几何组(VGG),工程科学系,牛津大学)
本研究提出一种基于DINOv2框架的完全自监督方法,利用无标签相机陷阱录像训练Vision Transformers学习黑猩猩面部嵌入,无需身份标签即在Bossou等基准上超越监督基线,为非侵入性种群研究提供可扩展方案。
2025-07-14 cs.AI cs.CV cs.LG