使用位置上下文和外部存储器增强LexVec分布式词表示模型
Enhancing the LexVec Distributed Word Representation Model Using Positional Contexts and External Memory
摘要：
在本文中，我们采取了一个国家的最先进的分布式单词表示模型，明确因式分解的正逐点互信息（PPMI）矩阵使用窗口采样和负采样，并解决其两个缺点。我们通过使用位置上下文来提高语法性能，并通过在外部存储器中处理聚合数据来解决将PPMI矩阵存储在存储器中的需要。这两种修改的有效性显示使用词相似性和类比任务。
英文摘要：
In this paper we take a state-of-the-art model for distributed word representation that explicitly factorizes the positive pointwise mutual information (PPMI) matrix using window sampling and negative sampling and address two of its shortcomings. We improve syntactic performance by using positional contexts, and solve the need to store the PPMI matrix in memory by working on aggregate data in external memory. The effectiveness of both modifications is shown using word similarity and analogy tasks.
机构、总结、中文摘要均由AI分析而来，可能存在错误，请以论文正文为准。
