层次主题模型_第1页
层次主题模型_第2页
层次主题模型_第3页
层次主题模型_第4页
层次主题模型_第5页
已阅读5页，还剩8页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

层次主题模型导语层次主题模型整个文档集合的产生过程导语/01导语除了主题关系，Blei还在主题之间的层次逻辑上对LDA进行了拓展。层次主题模型与传统的LDA主题模型相比具有完全不同的结构，可应用于不同的文本分析场合。在传统的LDA主题模型中，各个主题是平行分布的；在层次主题模型中，各个主题是垂直分布的。各个主题垂直分布时，可以组织成一个树状的结构，每个主题对应树状结构中的一个节点。每个主题具有不同的抽象层次，靠近树根节点的主题具有更泛化的内涵，靠近叶子节点的主题具有更具体的内涵。

层次主题模型/02

层次主题模型层次主题模型在生成一篇文档时，首先选择树结构中的一条路径，从根部最泛化的主题节点一直到叶子的节点，路径的长度对应于树的深度，出等价于文档对应的主题个数。在生成词汇时，先在路径上随机抽取一个节点（对应的主题），然后根据该主题的词汇分布，产生具体的词汇项。根据层次主题模型训练文档，可以获得树状的主题结构，也可以知道每篇文章对应的具体路径。层次主题模型实际上完成了对文档的层次化内容组织与归类，十分适合百科类词条文档及科研文档的分析。

层次主题模型层次主题模型的灵活性很大，树状的结构可以包含诸多节点与路径。只要预先规定树的深度，就可以通过训练文本集合自由地产生主题树。主题的个数及主题路径的个数可以任意增加，其完全取决于文档集合里包含的内容。整个模型可以动态增量地学习，每当有新的文档产生并添加到文档集合中时，该模型就可以对树的结构进行实时扩展。

整个文档集合的产生过程

/03

整个文档集合的产生过程整个文档集合的产生过程包括两个步骤：一是产生主题的树结构；二是对每一篇文档根据主题树的主题节点路径产生词汇内容。在生成主题的树状结构时，遵循名为层次中国餐馆过程（HCRP）的动态模型。

整个文档集合的产生过程HCRP假设存在一个初始的餐厅，里面有无限多张桌子，每张桌子对应无限个座位。每个访问者首先随机地占据其中一张桌子的某个座位，访问者占据某个桌子的座位的概率与桌子上已有的访问者相关。餐馆的每张桌子都有一个唯一的序号，序号指向另外一个餐馆。在当前访问阶段坐在同一张桌子的访问者，在接下来的决策过程，将去桌子序号所指代的餐馆进行访问，并在新的餐馆重新选择桌子。在新的阶段，访问规则和上面公式一致，桌子的访问过程不断迭代。

整个文档集合的产生过程最终，访问者在各阶段的访问结果可对应于主题树上的某一条确切的路径，所有的主题路径及路径上的节点共同构成主

人人文库> 全部分类> 教育资料 > 辅导培训

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论