6163银河.net163.am(中国·官方网站)-Webgame Platform
搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

蚂蚁集团推出开源多模态框架Ming-Lite-Uni;微软推出LLM统一框架ARTIST|今日热门论文

2025-05-12 13:24:29
来源:

猫眼电影

作者:

柯锐

手机查看

  猫眼电影记者 安格雷尔 报道w3u7903ejky2ywls

速览热门论文:

1.蚂蚁集团推出开源多模态框架 Ming-Lite-Uni

2.微软推出 LLM 统一框架 ARTIST:集成推理、RL 和工具

3.R1-Reward:通过稳定强化学习训练多模态奖励模型

4.语音-语言模型 Voila:实时自主交互和角色扮演

5.RM-R1:将推理整合到奖励建模中

1.蚂蚁集团推出开源多模态框架 Ming-Lite-Uni

在这项工作中,来自蚂蚁集团的研究团队推出了一个开源多模态框架——Ming-Lite-Uni,其具有新设计的统一视觉生成器和为统一视觉和语言而定制的本地多模态自回归模型。

具体来说,该项目提供了集成MetaQueries 和 M2-omni框架的开源实现,同时引入了新颖的多尺度可学习 token 和多尺度表征对齐策略。通过利用固定的 MLLM 和可学习的扩散模型,Ming-Lite-Uni 使本地多模态 AR 模型能够执行文本到图像的生成和基于指令的图像编辑任务,从而将其功能扩展到纯粹的视觉理解之外。

实验结果证明了 Ming-Lite-Uni 的性能,并展示了其交互过程中的流畅性。值得注意的是,这项工作与同时进行的多模态人工智能里程碑--如 2025 年 3 月 25 日更新的具有原生图像生成功能的 ChatGPT-4o --相吻合,强调了像 Ming-Lite-Uni 这样的统一模型在通往 AGI 道路上的广泛意义。Ming-Lite-Uni目前处于alpha阶段,不久将进一步完善。

论文链接:

https://arxiv.org/abs/2505.02471

GitHub 地址:

https://github.com/inclusionAI/Ming/tree/main/Ming-unify

2.微软推出 LLM 统一框架 ARTIST:集成推理、RL 和工具

大语言模型(LLM)在复杂的推理任务中取得了进步,但由于依赖于静态的内部知识和纯文本推理,它们仍然受到根本性的限制。现实世界的问题解决往往需要动态、多步骤推理、自适应决策以及与外部工具和环境交互的能力。

在这项工作中,微软团队推出了一个整合代理式推理、强化学习和工具集成的 LLM 统一框架——ARTIST,其无需步骤级监督,利用基于结果的 RL 学习工具使用和环境交互的鲁棒策略,就可以使模型能够自主决定何时、如何以及在多轮推理链中调用哪些工具。

在数学推理和多轮函数调用基准上进行的大量实验表明,ARTIST 的性能始终优于SOTA基准模型,与基准模型相比,ARTIST 的绝对性能提高了 22%,而且在更具挑战性的任务上也取得了进步。详细的研究和度量分析表明,代理 式 RL 训练能带来更深入的推理、更有效的工具使用和更高质量的解决方案。

论文链接:

https://arxiv.org/abs/2505.01441

3.R1-Reward:通过稳定强化学习训练多模态奖励模型

多模态奖励模型(MRM)在提高多模态大语言模型(MLLM)的性能方面发挥着重要作用。虽然最近的研究进展主要集中在改进 MRM 的模型结构和训练数据上,但对奖励模型的长推理能力的有效性以及如何在 MRM 中激活这些能力的探索还很有限。

在这项工作中,来自中国科学院自动化研究所、清华大学、快手和南京大学的研究团队探讨了如何利用强化学习(RL)来改进奖励建模。具体来说,他们将奖励建模问题重新表述为基于规则的 RL 任务。然而,他们发现,由于Reinforce++等现有 RL 算法的固有局限性,直接将这些算法应用于奖励建模往往会导致训练不稳定甚至崩溃。于是,他们改进了现有 RL 方法的训练损失、优势估计策略和奖励设计,提出了 StableReinforce 算法。这些改进带来了更稳定的训练动态和更好的性能。为了促进 MRM 训练,他们从不同的数据集中收集了 20 万个偏好数据。他们的奖励模型 R1-Reward 在该数据集上使用 StableReinforce 算法进行训练,有效提高了多模态奖励建模基准的性能。

与之前的 SOTA 模型相比,R1-Reward 在 VL 奖励基准测试中提高了 8.4%,在多模态奖励基准测试中提高了 14.3%。此外,随着推理计算量的增加,R1-Reward 的性能也得到了进一步提高。

论文链接:

http://arxiv.org/abs/2505.02835

GitHub 地址:

https://github.com/yfzhang114/r1_reward

4.语音-语言模型 Voila:实时自主交互和角色扮演

可以与日常生活完美融合的 AI agent 将以自主、实时和情感表达的方式与人类互动。它将不仅仅是对命令做出响应,而是持续倾听、推理并主动做出反应,从而促进流畅、动态和情感共鸣的互动。

在这项工作中,来自Maitrix的研究团队及其合作者提出了一个大型语音-语言基础模型系列 Voila,其采用全新的端到端架构,实现了全双工、低延迟对话,同时保留了丰富的语音细微差别,如音调、节奏和情感,从而超过了传统的管道系统。而且,Voila 的响应延迟时间仅为195 毫秒,超过了人类的平均响应时间。另外,它的分层多尺度 Transformer 集成了大语言模型(LLM)的推理能力和声学建模功能,实现了自然、个性化的语音生成--用户只需编写文本指令,就能定义说话者的身份、语调和其他特征。此外,Voila 还支持 100 多万种预构建语音,并可以根据短至10 秒的简短音频样本高效定制新语音。

除口语对话外,Voila 还被设计成一个统一的模型,可以用于各种基于语音的应用,包括自动语音识别(ASR)、文本到语音(TTS),以及只需极少调整即可实现的多语言语音翻译。

论文链接:

https://arxiv.org/abs/2505.02707

项目地址:

https://voila.maitrix.org/

5.RM-R1:将推理整合到奖励建模中

奖励建模,尤其是基于人类反馈的强化学习(RLHF),对于将大语言模型(LLM)与人类偏好对齐至关重要。为了提供准确的奖励信号,奖励模型(RM)应该激发深度思考,并在给出分数或判断之前进行可解释的推理。然而,现有的 RM 要么生成不透明的标量分数,要么直接生成首选答案的预测,难以整合自然语言评论,从而缺乏可解释性。

受推理密集型任务中长思维链(CoT)进展的启发,来自伊利诺伊大学厄巴纳-香槟分校的研究团队及其合作者,假设并验证了将推理能力整合到奖励建模中能够提高 RM 的可解释性和性能。他们提出了一类新的生成式 RM,即推理奖励模型(ReasRMs),其将奖励建模表述为一项推理任务。他们提出了一个面向推理的训练管道,并训练了一系列ReasRMs,即RM-R1。训练包括两个关键阶段:(1)高质量推理链的蒸馏;(2)可验证奖励的强化学习。RM-R1 通过自我生成推理踪迹或特定于聊天的评分标准,并根据这些标准评估候选回复,从而改进 LLM 的推出。

从经验上看,RM-R1 在多个综合奖励模型基准中实现了 SOTA 或接近 SOTA 的生成式 RM 性能,比更大的开放权重模型(如Llama3.1-405B)和专有模型(如GPT-4o)高出 13.8%。除了性能,他们还进行了全面的实证分析,以了解 ReasRM 训练成功的关键因素。

论文链接:

https://arxiv.org/abs/2505.02387

GitHub 地址:

https://github.com/RM-R1-UIUC/RM-R1

整理:学术君

如需转载或投稿,请直接在公众号内留言

 时事1:spinking实践视频OTK

  05月12日,陕西法院严惩拒执违法行为 5月至今共执结案件逾14万件,

  狈风与小不点对决,一个动用了宝具,另一个则使用原始宝术,灿烂的光雨飞洒,铿锵的声音不绝,整片山林都在抖动。

,美女脱👙给我捏🐻网站。

  05月12日,对集采串标追查到底才能守护好医患共同利益,

信用卡逾期了怎么跟银行协商解决?需要什么材料

,美女100%全身裸体无遮掩,女女女韩少功读后感800字,男男顶撞喘嗯啊H小男生动漫。

 时事2:崩坏3爱莉希雅女仆装

  05月12日,今年以来二连浩特铁路口岸中欧班列突破1000列,

  还有的家长会说,我的孩子基础差,成绩不好,读书不出,混混算了。他们觉得现在能做的只有:替孩子多攒点钱,替孩子的将来多铺铺路。其实这样的想法是目光短浅的,也是不负责任的。你有没有想过用你现在的`精力去为孩子攒个高素质,为孩子攒个将来吃饭的饭碗呢?俗话说,三百六十行,行行出状元。我们100个孩子将来就会有100道不一样的人生风景,我们要相信自己的孩子,更要去鼓励他,让他保持积极进取、乐观向上的人生态度。我想诚恳地跟大家说,读书不是万能的,但是现代社会,不读书是万万不能的。孩子们考试打了多少分不是最重要的,最重要的是孩子们在学习中养成的积极进取,乐观向上的学习态度。

,91在线无码精品㊙️入口coc,丰满大肥奶肥婆BBBwww,局长含着我的奶边摸边做视频。

  05月12日,南方潮起正扬帆——解码金砖合作行稳致远的成功之道,

  一 把保证安全生产作为全年工作的主线。

,把女仆🌸吊起来揉搓双乳小黄文,www.md.gov.cn,动漫美女的胸被狂揉。

 时事3:久久久无码精品秘人口

  05月12日,交通运输部:7月城市轨道交通客运量同比增长7.6%,

  突然,一片灿烂的光点从一片灌木丛中浮现,极速冲来,将小不点这里笼罩,噗噗声传来,石村的六七人当场被洞穿,倒在血泊中,痛地滚来滚去。

,51在线无码精品㊙️入口蝌蚪,XXX自慰喷水DX,丁.度巴斯《见情》。

  05月12日,环境式戏曲为中国传统戏曲注入新活力,

  “好孩子,都是我不好啊!”老人一把将他抱在了怀中,眼泪差点落下,运转宝符秘力,散发瑞霞,将他裹住。

,景甜实干13分钟无删减,用女人内裤自慰AV片子,爱情岛论坛免费永久入口。

 时事4:儿玉玲奈

  05月12日,山西长治:卡通“消防螭吻”“救援螭吻”今起代言“火焰蓝”,  纪委通报称,胡志强搞政治攀附;在干部任用上丧失原则,搞一团和气;严重违反生活纪律,生活奢靡;“四个意识”个个皆无,“六大纪律”项项违反等。,Lisa被多人C到高潮,ⅤoyeurWc偷拍,男人把ji大巴放进女人免费视频。

  05月12日,最好的年华:习近平的福州故事,

  “宝具,那个幼童手中抓着一件稀珍的宝具!”他们大叫了起来。

,116美女写真禁18❤️,精品➕无码➕无套内谢男自慰,芙宁娜涩涩同人❤️网站。

责编:李坚

审核:张建林

责编:马利卡尔琼·卡尔格

相关推荐 换一换