Time series classification is an application of particular interest with the increase of data to monitor. Classical techniques for time series classification rely on point-to-point distances. Recently, Bag-of-Words approaches have been used in this context. Words are quantized versions of simple features extracted from sliding windows. The SIFT framework has proved efficient for image classification. In this paper, we design a time series classification scheme that builds on the SIFT framework adapted to time series to feed a Bag-of-Words. We then refine our method by studying the impact of normalized Bag-of-Words, as well as densely extract point descriptors. Proposed adjustements achieve better performance. The evaluation shows that our method outperforms classical techniques in terms of classification.
Columbia University（哥伦比亚大学）；Peking University（北京大学）
释义生成是自然语言处理中一个长期存在的重要问题。此外，深度生成模型的最新进展显示了文本生成的离散潜变量的前景。受具有离散潜在结构的变分自编码器的启发，本文提出了一种用于释义生成的潜在词袋模型。我们从目标句子的BOW基础的离散的潜在变量的语义。我们使用这个潜在变量来构建一个完全可区分的内容规划和表面实现模型。具体来说，我们使用源单词来预测它们的邻居，并使用softmax的混合模型对目标BOW进行建模。我们使用Gumbel top-k重新参数化从预测的BOW分布中进行可微子集采样。我们检索采样的词嵌入，并使用它们来增强解码器，并指导其生成搜索空间。我们的潜在BOW模型不仅增强了解码器，而且还表现出清晰的可解释性。我们展示了关于词邻居\emph{(ii)}的逐步生成过程的\emph{(i)}无监督学习的模型可解释性。大量的实验表明，该模型的生成过程是透明和有效的。\footnote{Our code can be found at \url{https://github.com/FranxYao/dgm_latent_bow}}
Persistence Bag-of-Words for Topological Data Analysis
The Institute of Computer Science and Computer Mathematics（计算机科学与计算机数学研究所）；Institute of Creative Media Technologies（创意媒体技术研究所）；Jagiellonian University（雅盖隆大学）；St. Pölten University of Applied Sciences（圣珀尔滕应用科学大学）；Swansea University（斯旺西大学）
Detecting Dark Patterns in User Interfaces Using Logistic Regression and Bag-of-Words Representation
University of Portsmouth（朴茨茅斯大学）；Jigawa State Polytechnic for ICT（吉加瓦州信息与通信技术理工学院）；Beihang University（北京航空航天大学）；Shehu Shagari College of Education Sokoto（索科托谢胡·沙加里教育学院）
School of Information & Communication Technology, Hanoi University of Science and Technology（河内科技大学信息与通信技术学院）；Department of Computer and Information Science, University of Oregon（俄勒冈大学计算机与信息科学系）
社交媒体文本具有简短、快速、动态等特点，分析这些文本面临着许多挑战。短文本不能提供足够的上下文信息，导致传统统计模型失效。此外，许多应用程序往往面临大量的和动态的短文本，造成各种计算挑战，目前的批处理学习算法。本文提出了一种新的框架，即BagofBitemsModeling（BBM），用于建模大规模的，动态的，简短的文本集合。BBM包括两个主要成分：（1）表示文档的Bag of Bitems（BoB）概念，以及（2）帮助统计模型包含BoB的简单方法。我们的框架可以很容易地部署为一个大类的概率模型，我们证明了它的有用性与两个著名的模型：潜在的狄利克雷分配（LDA）和分层狄利克雷过程（HDP）。BBM的主要优点是：（1）通过Bag of Bitems强调词的内涵和共现，增加了文档的长度，使上下文更加连贯;（2）继承了原语的推理和学习算法，使短文本的在线和流算法设计变得简单。大量的实验表明，BBM优于几个国家的最先进的模型。我们还指出，BoB表示性能优于传统的表示（例如，袋的话，tf-idf），即使是正常的文本。
New Bag of Deep Visual Words based features to classify chest x-ray images for COVID-19 diagnosis
Deakin University（迪肯大学）
由于严重急性呼吸系统综合征冠状病毒2（COVID-19）的感染会导致肺部出现肺炎样效应，因此胸部X光检查有助于诊断疾病。对于图像的自动分析，它们在机器中由一组语义特征表示。深度学习（DL）模型被广泛用于从图像中提取特征。一般的深度特征可能不适合表示胸部X射线，因为它们具有一些语义区域。尽管基于视觉词袋（BoVW）的特征被证明更适合于X射线类型的图像，但现有的BoVW特征可能无法捕获足够的信息来区分COVID-19感染与其他肺炎相关感染。在本文中，我们提出了一种新的BoVW方法，称为Bag of Deep Visual Words（BoDVW），通过删除特征图归一化步骤并在原始特征图上添加深度特征归一化步骤。这有助于保留每个特征图的语义，这些特征图可能具有区分COVID-19和肺炎的重要线索。我们评估了我们提出的BoDVW特征在使用支持向量机（SVM）诊断COVID-19的胸部X射线分类中的有效性。我们在公开的COVID-19 X射线数据集上的结果表明，与最先进的方法相比，我们的特征可以在更短的计算时间内产生稳定和突出的分类准确性，特别是将COVID-19感染与其他肺炎区分开来。因此，我们的方法可以成为大规模快速诊断COVID-19患者的非常有用的工具。
Minimizing the Bag-of-Ngrams Difference for Non-Autoregressive Neural Machine Translation
Institute of Computing Technology, Chinese Academy of Sciences（中国科学院计算技术研究所）；University of Chinese Academy of Sciences（中国科学院大学）；Tencent Inc（腾讯公司）
非自回归神经机器翻译（NAT）通过独立地同时生成目标词来实现显著的解码加速。然而，在非自回归翻译的背景下，词级交叉熵损失不能正确地建模目标端的顺序依赖，导致其与翻译质量的弱相关性。因此，NAT倾向于生成具有过度翻译和翻译不足错误的影响翻译。在本文中，我们建议训练NAT，以最大限度地减少模型输出和参考句子之间的Bag-of-Ngrams（BoN）差异。ngrams包训练目标是可区分的，并且可以被有效地计算，这鼓励NAT捕获目标侧顺序依赖性并且与翻译质量良好地相关。我们在三个翻译任务上验证了我们的方法，并表明我们的方法在WMT 14 En $\leftrightarrow$ De上的BLEU分数约为5.0，在WMT 16 En $\leftrightarrow$ Ro上的BLEU分数约为2.5，大大优于NAT基线。
BilBOWA: Fast Bilingual Distributed Representations without Word Alignments
Google Inc.（谷歌公司）；Université de Montréal（蒙特利尔大学）；Canadian Institute for Advanced Research（加拿大高等研究院）
我们介绍了BilBOWA（Bilingual Bag-of-Words without Alignments），这是一种简单且计算效率高的模型，用于学习单词的双语分布式表示，可以扩展到大型单语数据集，并且不需要单词对齐的并行训练数据。相反，它直接在单语数据上训练，并从较小的原始文本对齐数据集中提取双语信号。这是使用一种新的采样词袋跨语言目标来实现的，该目标用于正则化两个噪声对比语言模型，以实现高效的跨语言特征学习。我们表明，使用所提出的模型学习的双语嵌入在跨语言文档分类任务以及WMT 11数据的词汇翻译任务上优于最先进的方法。
Machine Learning for Coding Retail Product Names to Consumer-Price Categories: A Rule-plus-Bag-of-Words Pipeline with Reliability-Weighted Human-in-the-Loop Labeling
Besk Tech（Besk科技）；Moscow Institute of Physics and Technology (MIPT)（莫斯科物理技术学院）
Identification of Cognitive Decline from Spoken Language through Feature Selection and the Bag of Acoustic Words Model
Faculty of Information Technology, University of Jyväskylä（于韦斯屈莱大学信息技术学院）；Faculty of Sport and Health Sciences, University of Jyväskylä（于韦斯屈莱大学体育与健康科学学院）
