团队融合@ SU@ BC8 SympTEMIST 轨道:基于 transformer 的症状识别与链接方法
Team Fusion@ SU@ BC8 SympTEMIST track: transformer-based approach for symptom recognition and linking
AI总结:
本文提出基于 transformer 的方法解决 SympTEMIST 命名实体识别和实体链接任务,通过微调 RoBERTa 模型和知识库选择提升准确性。
摘要:
本文提出了一种基于 transformer 的方法,用于解决 SympTEMIST 命名实体识别(NER)和实体链接(EL)任务。对于 NER,我们使用 RoBERTa 基础模型(1)结合 BiLSTM 和 CRF 层,在增强训练集上进行微调。实体链接通过使用跨语言 SapBERT XLMR-Large(2)生成候选者,并计算与知识库的余弦相似度。知识库的选择被证明对模型准确性影响最大。
英文摘要:
This paper presents a transformer-based approach to solving the SympTEMIST named entity recognition (NER) and entity linking (EL) tasks. For NER, we fine-tune a RoBERTa-based (1) token-level classifier with BiLSTM and CRF layers on an augmented train set. Entity linking is performed by generating candidates using the cross-lingual SapBERT XLMR-Large (2), and calculating cosine similarity against a knowledge base. The choice of knowledge base proves to have the highest impact on model accuracy.
机构、总结、中文摘要均由AI分析而来,可能存在错误,请以论文正文为准。