如下图所示，是Severyn发表在2015年SIGIR上的文章[5]，并用于TREC上的两个NLP任务：答案选择和微博检索。以答案选择任务为例，从左至右，作者采用上下并行的双通道浅层CNN模型来分别学习输入的问题和答案的句子向量表达，然后经过相似度矩阵M计算相似度，全连接层和隐藏层进行特征整合和非线性变换，最后softmax层来输出输入候选答案被预测为正确或者错误的概率。左半部分的双通道CNN即可理解为学习从词向量到句子向量的表达模型。
如下图所示，是Wang发表在2016年COLING的文章[6]，同样应用于答案选择任务，并在两个公认基准数据集WikiQA和QASent上进行了测试。文章的核心想法是采用双通道CNN来抽取输入问题和答案之间的相似性与不相似性，整合成最终的句子向量并计算相似性。
如下图，Meng在其文章中[7]直接基于词向量计算输入文本对儿在单词粒度上的相似度（计算方式有多种：欧式距离、余弦距离、参数化的相似矩阵），并以此为后续深层卷积神经网络的输入，最终学习得到的向量经过全连接层和softmax层进行预测。
有了前面在深度学习框架下，文本向量学习的背景和基于CNN短文本相似度的现有方法的总结和介绍，终于进入本篇文章的重头戏，LSF-SCNN模型的介绍。LSF-SCNN模型延续了基于Siamese结构神经网络模型构建短文本表达模型的总体思路[5]，但通过引入三种优化策略：词汇语义特征 (Lexical Semantic Feature, LSF)、跳跃卷积 (Skip Convolution, SC)和K-Max均值采样 (K-Max Average Pooling, KMA) ，分别在词汇粒度、短语粒度、句子粒度上抽取更加丰富的语义特征，并在答案选择AS计算短文本相似度问题上取得了非常好的效果。
下图展示了LSF-SCNN的整体框架图，自底向上，LSF-SCNN模型由3个模块组成：（1）对于输入的问题和候选答案，我们利用词汇语义特征技术为每个单词计算LSF特征值，以此来表征问题与答案之间的语义交互特征。LSF特征会和词嵌入拼接在一起构成词语粒度上更加丰富的特征表达，表达词的向量再次拼接构成句子矩阵。（2）问题和候选答案的句子矩阵经过跳跃卷积层和K-Max均值采样层，最终形成对问题和答案各自的向量表达，记作Xq和Xa 。（3）Xq和Xa会根据学习得到的相似度计算矩阵M得到一个相似度分数。最后，相似度分数和Xq、Xa整合一起作为分类器的输入，最终得到输入候选答案a被预测为正确答案和错误答案的概率。接下来，我将一一介绍三个优化技术的实现细节。
LSF技术提出的原因：
基于Siamese的神经网络结构有个缺点就是将输入的文本对儿看做互不相关的句子，相互独立的用同一套神经网络结构去学习文本的向量表达。但是在短文本相似度相关任务中，如问题和候选答案，往往是文本对儿间在语义、词语表达、语序等方面存在关联，而前人方法忽略了这点。少部分学者注意到了这点，但目前所用方法局限于：借助额外知识标记近义词/反义词、上位词/下位词等关系；或者引入字符串匹配信息，严格匹配标记为1，其余为0。因此，本文提出的LSF技术是一项用来构建问题与答案之间的语义交互特征的技术。
LSF核心想法：
LSF技术将词语粒度上的相似性量化细分为t个相似度，从而建立输入文本对儿之间的语义关联，为后续神经网络提供更加丰富的语义特征输入。
LSF技术可行性分析：
LSF技术将词语粒度上的相似性量化细分为t个相似度，不仅可以包含前人提出的近义词、反义词关系，如chairman和chief的LSF为1， 字符串匹配如welch和welch被标记为1，也可以涵盖更多的相似性。
例如，april和when不是近义词，在字符串上也无法匹配，但LSF可以捕捉到他们之间有6的相似度，而april正是回答该问题的正确答案，
