← 返回信息流
技术博客arXiv cs.CL·2 小时前

LSTM模型在Twitter情感分析中准确率达90%

原标题:Unveiling Public Opinion: A Study of Sentiment Analysis Using LSTM and Traditional Models

速览

该论文研究Twitter情感分析,系统比较了逻辑回归、随机森林、朴素贝叶斯、梯度提升和LSTM等模型。使用经词元化、词形还原和停用词消除处理的Kaggle数据集进行实验。LSTM模型训练准确率达90.98%,测试准确率80%,微平均ROC-AUC得分为0.92,在捕捉文本上下文和序列特征方面超越传统机器学习技术。

AI 深度解读

背景

在社交媒体时代,Twitter 等平台已成为公众实时表达观点和情感的重要场所。随着用户生成内容的爆发式增长,自然语言处理(NLP)的关键应用——情感分析(Sentiment Analysis)变得不可或缺。情感分析旨在从文本数据中自动提取用户对特定议题、事件或产品的态度(正面、负面或中性),从而帮助政府、企业和研究机构理解舆论走向。传统上,情感分析依赖逻辑回归(Logistic Regression)、朴素贝叶斯(Naïve Bayes)等统计模型,但近年来深度学习模型(如 LSTM 网络)凭借其捕捉文本序列信息的能力逐渐受到关注。本文作为一篇发表在 arXiv 上的预印本研究(2026 年 7 月),系统比较了多种机器学习与深度学习方法在 Twitter 情感分类任务上的表现,并发现了 LSTM 在准确率和泛化能力上的显著优势。

核心内容

本研究以“揭示公众舆论”为主题,聚焦于利用 LSTM(长短期记忆网络)与传统模型进行情感分析的效果对比。论文使用 Kaggle 上的 Twitter 情感数据集,该数据集经过预处理,包括分词(tokenization)、词形还原(lemmatization)和停用词移除(stopword elimination)。研究评估了以下算法在情感分类(正面、负面、中性)中的表现:

  • 逻辑回归(Logistic Regression)
  • 随机森林(Random Forest)
  • 朴素贝叶斯(Naïve Bayes)
  • 梯度提升(Gradient Boosting)
  • LSTM 网络

实验表明,LSTM 在捕捉文本的上下文和序列特征方面优于传统机器学习技术。具体结果如下:

  • 训练准确率:90.98%
  • 测试准确率:80.00%
  • 微平均 ROC-AUC 分数:0.92

这些指标证明 LSTM 能有效学习推特中单词的依赖关系,从而更准确地识别情感倾向。论文还指出,传统模型虽然计算成本较低,但在处理复杂句式和语境时性能有限,而 LSTM 的门控机制使其能够保留长期记忆,更适合处理非结构化、多变的社交媒体文本。

关键要点

  • 问题定义:在 Twitter 平台上,通过情感分析自动将推文分为正面、负面或中性三类,以量化公众舆论。
  • 数据集:来自 Kaggle 的 Twitter 情感数据集,已进行标准 NLP 预处理(分词、词形还原、去停用词)。
  • 对比模型:逻辑回归、随机森林、朴素贝叶斯、梯度提升(传统 ML)与 LSTM(深度学习)。
  • 核心结果
    • LSTM 训练准确率 90.98%,测试准确率 80.00%,微平均 ROC-AUC 0.92。
    • LSTM 在所有指标上均显著优于传统机器学习模型。
  • 技术优势:LSTM 能捕捉序列中的长期依赖和上下文信息,适应社交媒体文本的碎片化和口语化特点。
  • 局限性(隐含):传统模型计算效率高但精度不足;LSTM 对算力和数据量要求更高。

意义与影响

这项研究为情感分析领域提供了一个清晰的基准比较,特别强调了 LSTM 在处理 Twitter 这种短文本且语义丰富的场景中的潜力。其实际意义包括:

  1. 舆情监测工具的优化:企业、政府或媒体机构可以采用 LSTM 模型更准确地实时分析公众情绪,从而在危机管理、产品反馈和市场预测中做出更及时、更精准的决策。
  2. 方法论启示:传统机器学习模型在简单任务中仍然有用,但面对社交媒体文本的复杂性,深度学习(尤其是循环神经网络变体)是更优选择。这推动 NLP 从业者转向更先进的序列建模技术。
  3. 开源与可复现性:论文基于公开的 Kaggle 数据集,并详细记录了预处理和评估流程,便于其他研究者复现和进一步改进,有助于社区形成可比较的基准。
  4. 未来方向:虽然 LSTM 表现出色,但测试准确率仍有提升空间(80%)。后续研究可以探索注意力机制(如 Transformer 架构)、预训练语言模型(如 BERT、RoBERTa)或结合外部知识图谱来进一步提升效果。同时,论文在跨领域、跨语言的情感分析泛化性上尚未讨论,这也是未来的重要课题。

总体而言,该研究验证了 LSTM 在社交媒体情感分析中的有效性,并为将深度学习应用于舆论洞察提供了坚实的实验证据,具有学术和应用的双重价值。

查看原文 →arxiv.org