面向文本的结构-内容联合表示学习模型

【摘要】 作为论文的语义内容,所有论文分别属于七个类别。3.2对比方法为了证明所提出方法的性能,本文将该模型与doc2vec和DeepWalk[17]方法的实验效果进行了对比。a)doc2vec。它是目前学习文本表示最有效的方法。但是该方法只能学习到文本的语义信息,将该模型得到的文本表示利用逻辑斯蒂回归进行分类。b)DeepWalk。常用的图嵌入方法有DeepWalk、LINE[18]。但DeepWalk是建模网络关系的最有效方法,该方法只能学习到文本与文本之间的关系信息,将该模型得到的文本表示使用同样的分类器进行分类。c)SCJL。即本文所提出的面向文本的结构-内容联合表示学习模型。在该方法中同时对文本的结构和内容进行建模,将两部分表示拼接作为文本的表示,然后采用同样的分类器对文本进行分类。3.3实验设置本实验中所有的特征向量都使用随机初始化,模型中所有权重矩阵同样是随机初始化,偏置向量初始化为0。在参数优化过程中,训练的学习率设为0.025,最大迭代次