PLSI Implementation How to extract features for the dataset 特征矩阵为t_d[V,D], V表示单词的数目，D表示文档的数目。过滤掉文档中包含的stopwords中的单词。 Source Code Explanation 在源代码中，包含如下几个文件： plsa.py : plsa的具体实现和一些用到的函数，如loglikelihood的计算公式，normlize的计算。 pprocess.py : 对data.txt的预处理，包括stopword的过滤，构造term_document矩阵，构造word到word_id的影射，doc到doc_id的影射。 main.py : 程序的入口，调用plsa.py和pprocess.py，按照topic从3到D便利，每次pLSA计算的loglihood和每个topic对应的10个关键词以及

| 近年来提出的神经主题模型变体的PyTorch实现包括NVDM-GSM，WTM-MMD（W-LDA），WTM-GMM，ETM，BATM和GMNTM。 该项目的目的是为神经主题模型提供一个实用且可行的示例，以促进相关领域的研究。 模型的配置与论文中提出的模型并不完全相同，并且没有对超参数进行仔细的微调，但是我选择覆盖其中的核心思想。 从经验上讲，NTM优于经典的统计主题模型，尤其是在短文本上。 出于评估目的，提供了短消息（ ），对话话语（ ）和对话（ ）的数据集，所有这些均以中文显示。 作为与NTM的比较，还提供了基于gensim库的现成的LDA脚本。 如果您对此实施有任何疑问或建议，请随时与我联系。 为了更好，欢迎加入我的行列。 ;） 注意：如果发现加载此自述文件的图片太慢，则可以在我的博客上阅读此。 目录 2.6 BATM 3.数据集 3.1 cnews10k 3.

这是我读书时的一次内部分享，现拿来与大家分享

主题建模 一个从头复制了多个主题建模算法的仓库 pLSA概率潜在语义分析-plsa.py 原始论文可在中找到，使用EM算法估计主题分布，每个文档中的单词分布 潜在狄利克雷分配（LDA）算法-lda.py 原始论文可以在这里找到 ，我使用的MCMC算法是折叠的Gibbs采样 ，对我来说，它比原始作者提出的变分推理更容易实现。 我在一个小的数据集上进行了测试，该数据集包含约120条Yelp评论，涵盖了三个主要类别（海鲜，水暖，宠物店）。该算法可以清楚地识别每个主题的关键字。 短文本算法的双项主题模型-btm.py 原始论文可以在中找到，我在这里使用的MCMC算法是吉布斯采样法 Twitter主题建模原始论文可以在找到 Yelp数据集开源评论数据