本文是LLM系列文章,针对《Large Language Models in Targeted Sentiment Analysis for Russian》的翻译。
摘要
在本文中,我们研究了使用基于解码器的生成Transformer来提取俄罗斯新闻文章中对命名实体的情感。我们研究了指令调整的大型语言模型 (LLM) 的情感分析能力。我们在研究中考虑了 RuSentNE-2023 的数据集。第一组实验旨在评估具有封闭和开放透明胶片的 LLM 的零样本能力。第二个部分涵盖了使用 “链” (CoT) 三跳推理框架 (THoR) 对 Flan-T5 进行微调。我们发现零点方法的结果与基线微调编码器式Transformer(BERTbase) 获得的结果相似。与零样本实验的结果相比,带有 THoR 的微调 Flan-T5 模型的推理能力在基本大小的模型中实现了至少 5% 的增量。RuSentNE-2023 情感分析的最佳结果是通过微调 Flan-T5xl 实现的,这超过了以前最先进的基于 transformer 的分类器的结果。我们的 CoT 应用程序框架是公开可用的: