A well-known but rarely used approach to text categorization uses conditional entropy estimates computed using data compression tools. Text affinity scores derived from compressed sizes can be used for classification and ranking tasks, but their success depends on the compression tools used. We use the Zstandard compressor and strengthen these ideas in several ways, calling the resulting language-agnostic technique Zest. In applications, this approach simplifies configuration, avoiding careful feature extraction and large ML models. Our ablation studies confirm the value of individual enhancements we introduce. We show that Zest complements and can compete with language-specific multidimensional content embeddings in production, but cannot outperform other counting methods on public datasets.
Utility-Theoretic Ranking for Semi-Automated Text Classification
Istituto di Scienza e Tecnologie dell’Informazione, Consiglio Nazionale delle Ricerche(意大利国家研究委员会信息科学与技术研究所);Qatar Computing Research Institute(卡塔尔计算研究所);Italian National Council of Research(意大利国家研究委员会)
\emph{Semi-Automated Text Classification}(SATC)可以被定义为以这样的方式对自动标记的文本文档的集合$\mathcal{D}$进行排序的任务,即,如果人类注释者验证(即,检查并在适当的情况下进行校正)在$\mathcal{D}$的排名靠前的部分中的文档,目的是增加$\mathcal{D}$的总体标记准确性,因此预期的增加被最大化。一个明显的SATC策略是对$\mathcal{D}$进行排名,以便分类器标记的置信度最低的文档排名靠前。在这项工作中,我们表明,这种策略是次优的。我们开发了新的效用理论的排名方法的基础上的概念\emph{validation gain},定义为改进的分类效率,将通过验证一个给定的自动标记的文件。我们还提出了一个新的有效性措施,面向SATC的排名方法的基础上,预期减少分类错误所带来的部分验证由给定的排名方法产生的列表。我们报告的实验结果表明,相对于上述基线方法,并根据建议的措施,我们的效用理论排名方法可以实现更高的预期减少分类错误。
ASU at TextGraphs 2019 Shared Task: Explanation ReGeneration using Language Models and Iterative Re-Ranking
Arizona State University(亚利桑那州立大学)
在这项工作中,我们描述了来自亚利桑那州立大学自然语言处理小组的TextGraphs 2019共享任务的系统。该任务的重点是解释再生,这是在大型图上进行一般多跳推理的中间步骤。我们的方法包括建模的解释再生任务作为一个\textit{learning to rank}问题,我们使用最先进的语言模型和探索数据集准备技术。我们利用一个迭代的重新排名为基础的方法,以进一步提高排名。我们的系统在测试集上以41.3%的平均精度(MAP)获得了任务的第二名。