使用Python实现概率潜在语义分析（PLSA）

有以下 3 个简短的文档：

文档 1：“苹果 手机 拍照 功能 很 强大”
文档 2：“苹果 电脑 性能 出色 适合 办公”
文档 3：“手机 游戏 体验 不错 在 苹果 设备 上”

数据准备：

首先构建了一个简单的文档集，将每个文档以字符串形式表示，然后通过 split 方法将文档拆分成词语列表，最终形成一个二维列表 documents，其中每个内层列表代表一个文档中的词语集合，这是后续进行文本处理和 PLSA 分析的基础数据结构。

接着使用 gensim 库中的 corpora.Dictionary 类创建词典对象 dictionary，它会将文档集中出现的所有词语映射到唯一的整数 ID，方便后续在计算和表示中对词语进行快速定位和处理，例如把文本形式的词语转换为向量等操作。

再通过 dictionary.doc2bow 方法将每个文档转换为词袋模型（Bag of Words）表示，也就是把每个文档表示为一个稀疏向量，向量中每个元素对应词典中的一个词语，其值表示该词语在文档中出现的频数，这样就得到了 corpus，它是一个包含了所有文档词袋表示的列表，符合 PLSA 模型对数据输入的基本要求形式。

概率矩阵初始化：

设置潜在主题数量 num_topics，这里简单设定为 2 个主题，在实际应用中可以根据对文档内容的预估以及分析的精细程度等因素来合理调整这个数量，主题数量越多，模型越复杂，能挖掘出更细致的语义信息，但同时也可能面临过拟合等问题以及计算成本增加。

随机初始化文档 - 主题概率矩阵 P(z|d)，它表示在给定文档 d 的情况下，属于主题 z 的概率，其形状为（文档数量，主题数量），然后通过归一化操作（将每行的概率和调整为 1）保证其符合概率分布的定义，即每个文档在所有主题上的概率之和为 1。

同样地，随机初始化主题 - 词语概率矩阵 P(w|z)，该矩阵表示在给定主题 z 的情况下，词语 w 出现的概率，形状为（主题数量，词典大小），并且也进行归一化操作，确保每个主题下所有词语的概率之和为 1，这两个初始化的概率矩阵是 PLSA 模型迭代更新的基础。

迭代更新：

设置迭代次数 num_iterations，这里简单设为 50 次，在实际应用中往往需要更多次的迭代才能使模型收敛到相对稳定的概率分布状态，不过迭代次数过多也可能导致计算时间过长，需要根据具体情况进行调整优化。

在每次迭代中：

首先计算文档 - 词语联合概率矩阵 P(d,w)，它综合了当前的 P(z|d) 和 P(w|z) 概率信息，通过遍历每个文档中的每个词语，按照概率计算公式来累计得到每个文档与每个词语之间的联合概率值，这个矩阵在后续更新 P(z|d) 和 P(w|z) 时起到关键的中间过渡作用。

接着更新 P(z|d)，对于每个文档和每个主题，根据当前的 P(w|z) 和 P(d,w) 通过计算相应的分子分母并取比值来更新其概率值，这个过程实际上是基于当前的词语与主题的关系以及文档与词语的关系来重新调整文档与主题之间的概率关联，让概率分布更符合数据中的语义结构。

然后更新 P(w|z)，同样针对每个主题和每个词语，依据当前的 P(z|d) 和 P(d,w) 来重新计算并更新其概率值，这一步是在更新了文档 - 主题概率后，进一步调整主题与词语之间的概率关系，使得主题下词语的分布概率更贴合文档集所蕴含的语义内容。

结果展示：