一、Process-based Self-Rewarding Language Models
大型语言模型在各类下游任务中表现都很不错，现在已经在好多场景里广泛应用了。我们通过用人类标注的偏好数据训练语言模型，让它性能得到了进一步提升。不过，这种性能是受限于人类能力上限的。
为了突破这个限制，有人提出了自奖励方法，就是让语言模型自己给自己输出的内容奖励，然后用这些奖励数据来训练。但现在已有的自奖励方法在数学推理场景中不太好用，弄不好还会让模型性能变差。
在本文里，我们提出了一种基于过程的自奖励流程。这个流程有长时间思考推理、用分步式语言模型当裁判，还有分步式偏好优化这些新做法。通过这种新范式，经过一轮轮基于过程的自奖励，语言模型在好几个数学推理基准测试中的性能都提高了。这就表明自奖励方法潜力巨大，有望让语言模型的推理能力超越人类。
论文: https://arxiv.org/pdf/2503.03746
二、ABC: Achieving Better Control of Multimodal Embeddings using VLMs
视觉嵌入模型在零样本任务里，像视觉检索和分类这些方面，效果还挺不错。但要是碰到那种不太明确、或者需要按用户指令来做的任务，它就不行了。这种任务得靠多模态嵌入模型，它能把视觉和自然语言输入结合起来，输出一种融合的嵌入。
现在那些基于 CLIP 的方法，都是把图像和文本分开来做嵌入，完了再把结果凑一块儿。我们发现这么搞，图像和文本这两种模态之间没啥深度互动，而且用户对最终呈现效果也不好控制。
所以我们提出了 ABC，这是个开源的多模态嵌入模型。它用视觉语言模型做主干，能把图像特征和自然语言指令深度融合在一起。在 MSCOCO 图像到文本检索这个任务里，ABC 的表现那是最好的，在大规模多模态嵌入基准里的分类和 VQA 任务中，也都拔得头筹。因为 ABC 能把视觉和语言统一起来表示，所以能用自然语言去解决那些不太好把握、可能有点模糊的视觉检索问题。
为了看看 ABC 这方面的能力到底咋样，我们专门设计了 CtrlBench 基准，这个基准要求把文本指令和图像内容交叉起来，才能实现正确检索。ABC 通过提供高质量的呈现效果，还有灵活的自然语言控制，让多模态嵌入技术往前迈了一步。我们的模型和数据集在项目页面就能找到。
论文: https://arxiv.org/pdf/2503.00329
三、HoT: Highlighted Chain of Thought for Referencing Supporting Facts from Inputs
大型语言模型（LLMs）有个毛病，老是会说些不实的话。它给出的回答里，事实和假话混在一起，这可把人难住了，想验证这些信息、根据它们准确做决策，太不容易。
为了解决这个问题，我们提出了 Highlighted Chain-of-Thought Prompting（HoT）技术。用这技术，就要求大型语言模型给出带 XML 标签的回答，得把事实和查询里给的内容对应上。简单讲，要是给它一个问题，大型语言模型先得重新整理下问题，添上 XML 标签，把关键事实标出来，然后再给出回答，回答里得把输入里提到的事实突出显示。
有意思的是，在只给少量示例的情况下，HoT 在 17 种不同任务里，像算术、阅读理解、逻辑推理这些，表现都比普通的链式思维提示（CoT）要好。让人们去验证大型语言模型的回答时，那些标出来的内容能帮时间紧张的人更准确、更高效地判断模型回答得对不对。
论文: https://arxiv.org/pdf/2503.02003
四、Babel: Open Multilingual Large Language Models Serving Over 90% of Global Speakers
大语言模型（LLM）对自然语言处理（NLP）来说，那改变可太大了。不过现在开源的多语言 LLM 特别少，现有的那些，在语言覆盖范围上都有局限。这些模型一般都更重视那些资源多的语言，像一些用得很广泛，但相关资源不太够的语言，常常就被忽略了。
为了补上这个短板，我们提出了 Babel，这是个开源的多语言 LLM。它涵盖了全球使用人数最多的前 25 种语言，能服务全球 90% 以上的人，而且好多其他开源多语言 LLM 没涉及的语言，它也包括了。和以前那种连续预训练的方法不一样，Babel 通过层扩展技术，增加了模型的参数数量，这样就能把 Babel 的性能上限提高。
我们发布了两个不同版本：Babel - 9B，设计的时候就考虑到推理和微调要高效；还有 Babel - 83B，它给开源多语言 LLM 树立了新标杆。经过在多语言任务上的大量测试，发现 Babel 的性能比同样规模的开源 LLM 都要好。而且，用开源的监督微调数据集，Babel 也取得了很不错的成绩。Babel - 9B - Chat 在 100 亿规模的 LLM 里，排名很靠前；Babel - 83B - Chat 更是在多语言任务上做到了顶尖水平，和那些商业模型都能一较高下。
论文: https://arxiv.org/pdf/2503.00865
五、如何系统学习掌握AI大模型？
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。
学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。
这里给大家精心整理了一份
全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
1. 成长路线图&学习规划
要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。
这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。
2. 大模型经典PDF书籍
书籍和学习文档资料是学习大模型过程中必不可少的，我们精选了一系列深入探讨大模型技术的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。（书籍含电子版PDF）
3. 大模型视频教程
对于很多自学或者没有基础的同学来说，书籍这些纯文字类的学习教材会觉得比较晦涩难以理解，因此，我们提供了丰富的大模型视频教程，以动态、形象的方式展示技术概念，帮助你更快、更轻松地掌握核心知识。
4. 2024行业报告
行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。
5. 大模型项目实战
学以致用 ，当你的理论知识积累到一定程度，就需要通过项目实战，在实际操作中检验和巩固你所学到的知识，同时为你找工作和职业发展打下坚实的基础。
6. 大模型面试题
面试不仅是技术的较量，更需要充分的准备。
在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。
全套的AI大模型学习资源已经整理打包，有需要的小伙伴可以
微信扫描下方CSDN官方认证二维码，免费领取【保证100%免费】
