RWKV 社区十一月动态:10 篇新论文,G0a3 13.3B 发布
欢迎大家收看《rwkv 社区最新动态》,本期内容汇总了 rwkv 社区在 2025 年 11 月的前沿进展与重要事件。

11 月动态速览(TL;DR)
-
RWKV 模型重要更新
- 正式发布 RWKV7-G0a3 13.3B:当前全球性能最强的纯 RNN 架构大语言模型
- PENG Bo 分享对大模型发展范式的深度思考
- PENG Bo 推出 RWKV7+ROSA 数字翻转任务 Demo,仅用 39564 参数即可处理 60 位数字输入
-
RWKV 学术研究突破
- Otter:基于增强 RWKV 的广角小样本动作识别方法,入选 CCF A 类会议 AAAI 2026 Oral
- WKV-sharing + Random Shuffle RWKV:面向遥感图像全色锐化的高阶建模范式,发表于 CCF A 类会议 NeurIPS 2025
- SleepRWKVNet:融合双向交互 RWKV 与生理先验驱动损失函数的多模态睡眠分期网络,刊发于中科院二区期刊 BSPC
- DREAMSTATE:融合扩散模型与 RWKV 的新型状态-参数联合建模框架
- Evolution Strategies at the Hyperscale:面向 RWKV-7 的超大规模高效微调算法 EGGROLL
- RawRWKV:首个基于 RWKV 架构的原始图像低光增强框架
- ASALP:依托 RWKV-EFE 负载预测能力构建的边缘节点资源自适应伸缩系统
- MRT:混合 RWKV-Transformer 的极高压缩比图像编码架构
- Bridging Transformers and RWKV:兼顾效率与精度的多模态视频理解新范式
- Robotic control optimization:基于受容加权强化学习的 RWKV 机器人控制优化方案
-
RWKV 社区市场亮相
- RWKV 团队亮相“2025 直通乌镇全球互联网大赛”,斩获人工智能赛道一等奖
- 受邀出席 XIN 峰会,展示 RWKV 技术落地成果
- 登陆第 27 届中国国际高新技术成果交易会(高交会)
- 参加 2025 GOTC 全球开源技术峰会,并在大模型应用分论坛作主题分享
- 出席 RTE 2025 实时互动技术大会,深入探讨 RWKV 在语音处理中的创新实践
RWKV 2025 生态内容征集大赛|10–11 月投稿汇总及获奖名单揭晓
RWKV 模型新闻动态
RWKV7-G0a3 13.3B 发布:世界最强纯 RNN 大语言模型
2025 年 11 月 1 日,RWKV7-G0a3 13.3B 推理版本正式开源。作为目前全球最先进、推理能力最强的纯循环神经网络(RNN)结构大语言模型,该模型标志着 RWKV 架构在长序列建模与高效推理方向的重大飞跃。
{{{width=“auto” height=“auto”}}}
延伸阅读:RWKV7-G0a3 13.3B 发布:世界最强纯 RNN 大语言模型
更进一步,性能更强的 RWKV7-G0b 13.3B 已完成权重训练并对外发布,官方正式公告即将上线。
PENG Bo 发表关于大模型演进阶段的深度见解
{{{width=“auto” height=“auto”}}}
Bo 表示:“Ilya 在近期播客中指出,AI 领域正从‘规模化时代’回归‘基础研究时代’。你是否认同这一趋势判断?”
PENG Bo 发布 RWKV7+ROSA 完成数字颠倒任务 Demo
{{{width=“auto” height=“auto”}}}
详细解读:RWKV7+ROSA 仅凭 39564 参数实现 60 位整数精准反转|四大 ROSA 实验同步公开
RWKV 学术研究动态
Otter
- 论文标题:Otter: Mitigating Background Distractions of Wide-Angle Few-Shot Action Recognition with Enhanced RWKV
- 论文地址:https://www.php.cn/link/a4abaea0a97f753c649f579d3e01e977
- 发布时间:2025-11-11
Otter 提出一种专为广角摄像头设计的小样本动作识别新方法,通过增强型 RWKV 架构有效抑制复杂背景干扰。其核心包含复合分割模块(CSM)以聚焦主体区域,以及时间重构模块(TRM)进行双向时序扫描,显著提升模型在真实场景下的鲁棒性与泛化能力。
该工作因技术原创性与实用价值突出,被 AAAI 2026 接收为 Oral 报告。
{{{width=“auto” height=“auto”}}}
WKV-sharing embraced random shuffle RWKV
- 论文标题:WKV-sharing embraced random shuffle RWKV high-order modeling for pan-sharpening
- 论文地址:https://www.php.cn/link/da969836ff9696f9c182a7026558fe23
- 发布时间:2025-10-29
本研究提出 RS-RWKV——一种面向遥感图像全色锐化的 RWKV 新变体。为克服视觉 RWKV 中固有的单向扫描偏差,作者引入受贝叶斯启发的随机洗牌(Random Shuffle)机制;同时借助 WKV 共享策略实现更高阶的空间-光谱联合建模,在降低延迟的同时大幅提升重建质量,多项基准测试结果达 SOTA。
该成果已发表于顶级会议 NeurIPS 2025。
{{{width=“auto” height=“auto”}}}
SleepRWKVNet
- 论文标题:SleepRWKVNet: A multimodal sleep staging network integrating bidirectional interactive RWKV and physiological prior-driven sequence-aware loss
- 论文地址:https://www.php.cn/link/2580087a760de9220ef0c2eaff756ec5
- 发布时间:2025-10-30
SleepRWKVNet 是一款面向临床睡眠监测的多模态自动分期网络。它采用双向交互式 RWKV(Bi-IFM)模块统一建模 EEG、EOG、EMG 等长程生理信号,并首次引入基于人体睡眠生理规律的序列感知损失函数 PS-Loss,缓解类别极度不均衡问题,显著提升各睡眠阶段判别准确率。
该研究发表于中科院 二区期刊 BSPC。
{{{width=“auto” height=“auto”}}}
DREAMSTATE
- 论文标题:DREAMSTATE: Diffusing States and Parameters for Recurrent Large Language Models
- 论文地址:https://www.php.cn/link/e800acf8774c816fa0156944bb45bf74
- 发布时间:2025-10-08
DREAMSTATE 创新性地将扩散模型思想引入 RWKV 架构,利用 DiT(Diffusion Transformer)对模型内部隐状态的概率流形进行可控建模,支持细粒度文本生成调控。此外,将静态 WKV 参数视为“结构性噪声”,由 DiT 动态生成适配上下文的参数配置,验证了该混合范式的可行性与扩展潜力。
{{{width=“auto” height=“auto”}}}
Evolution Strategies at the Hyperscale
- 论文标题:Evolution Strategies at the Hyperscale
- 论文地址:https://www.php.cn/link/fc234a34937d7459d1f0518f37e1a7b1
- 发布时间:2025-11-20
本文提出 EGGROLL——一种专为 RWKV-7 等超大规模模型设计的演化策略微调算法。通过以低秩扰动替代传统全秩扰动,大幅削减内存占用与计算开销,使数十亿参数模型的大种群进化优化成为现实。实验表明,该方法在强化学习与整数语言建模等任务中均具备强竞争力。
{{{width=“auto” height=“auto”}}}
RawRWKV
- 论文标题:RawRWKV: An efficient raw image enhancement framework via RWKV architecture
- 论文地址:https://www.php.cn/link/16c07e910397fb3910aad491c8c25e55
- 发布时间:2025-11-17
RawRWKV 是首个将 RWKV 应用于原始图像(raw image)低照度增强任务的端到端框架。通过将 RWKV 的线性注意力机制嵌入 U-Net 主干,既保留了全局依赖建模能力,又显著降低了计算复杂度,在多个指标上超越 CNN 与 Transformer 基线,实现性能与效率双赢。
{{{width=“auto” height=“auto”}}}
ASALP
- 论文标题:ASALP: An Automatic Scaling Architecture for Edge Node Resources Based on Load Prediction
- 论文地址:https://www.php.cn/link/fb30d3b7fa58e575c4bf59bb899c314d
- 发布时间:2025-11-16
ASALP 是一套基于增强 RWKV-EFE 模型的边缘资源弹性调度系统。该架构部署于 Kubernetes-KubeEdge 平台,可提前预测负载波动并主动触发扩缩容策略,从根本上解决原生 HPA 的响应滞后问题,大幅提升边缘服务请求成功率与系统稳定性。
{{{width=“auto” height=“auto”}}}
MRT
- 论文标题:MRT: Learning Compact Representations with Mixed RWKV-Transformer for Extreme Image Compression
- 论文地址:https://www.php.cn/link/bc55ea9e207158cae19485c14e573efd
- 发布时间:2025-11-10
MRT 提出一种 RWKV 与 Transformer 协同工作的混合压缩架构,充分发挥 RWKV 对全局结构的建模优势与 Transformer 对局部纹理的捕捉能力,将图像编码为高度紧凑的一维隐式表示,并配套设计 RWKV 压缩模型(RCM),进一步压缩冗余信息,达成极致压缩比。
{{{width=“auto” height=“auto”}}}
Bridging Transformers and RWKV
- 论文标题:Bridging Transformers and RWKV: Towards Efficient Multimodal Video Understanding
- 论文地址:https://www.php.cn/link/995e869dac6a1eb7a46c430768a04db3
- 发布时间:2025-10-08
该研究针对长视频理解中的计算瓶颈,构建 RWKV-Transformer 混合骨干网络。通过选择性替换部分 Transformer 层为 RWKV 模块,并结合参数复用与渐进式知识蒸馏策略,在不牺牲 token 分辨率的前提下显著提升吞吐量,且在多个主流视频理解基准上保持甚至超越原始模型精度。
{{{width=“auto” height=“auto”}}}
Robotic control optimization
- 论文标题:Robotic control optimization based on receptance-weighted reinforcement learning
- 论文地址:https://www.php.cn/link/23c1de06a1eb6b5d2ff63009548b0eb4
- 发布时间:2025-09-08
本研究将改进版 RWKV 替换 Decision Transformer 中的自注意力模块,重点优化通道混合结构以适配机器人控制任务。在 D4RL 标准数据集上的实验证明,该方法在训练速度与策略收敛精度两方面均优于现有基线。
{{{width=“auto” height=“auto”}}}
社区市场活动
RWKV 团队受邀参加"2025 直通乌镇全球互联网大赛"
2025 年 11 月 9 日,RWKV 团队受邀亮相“2025 直通乌镇全球互联网大赛”,凭借 RWKV 在 AI 基础模型领域的原创性突破与工程化能力,荣获人工智能赛道 一等奖。
{{{width=“auto” height=“auto”}}}
RWKV 团队受邀参加 XIN峰会
2025 年 11 月 15–16 日,RWKV 团队受邀出席 XIN 峰会,围绕“下一代高效大模型架构”展开技术分享与生态共建讨论。
{{{width=“auto” height=“auto”}}}
RWKV 团队受邀参加第27届中国国际高新技术成果交易会
2025 年 11 月 14–16 日,RWKV 团队参展第 27 届高交会,集中展示 RWKV 在工业智能、边缘计算与多模态理解等方向的技术落地案例。
{{{width=“auto” height=“auto”}}}
RWKV 团队受邀参加2025 GOTC 全球开源技术峰会
2025 年 11 月 1 日,RWKV 团队亮相 2025 GOTC 全球开源技术峰会,在大模型应用技术论坛带来题为《RWKV:开源高效大模型的新范式》的主题演讲。
{{{width=“auto” height=“auto”}}}
RWKV 团队受邀参加RTE 2025
2025 年 11 月 1 日,RWKV 团队出席 RTE 2025 实时互动技术大会,分享 RWKV 在语音识别、TTS 与实时音频处理中的前沿实践与优化经验。
{{{width=“auto” height=“auto”}}}
RWKV 2025 生态内容征集大赛
我们于 2024 年底正式启动 “RWKV 2025 生态内容征集大赛”,面向全球开发者、研究者与教育者开放投稿,涵盖 RWKV 相关论文、教学资料、工具库、行业应用等多个方向。
2025 年 10 至 11 月期间,共收到高质量投稿 3 篇学术论文 + 2 个开源应用项目。
评审结果公示
| 作品名称 | 类型 | 投稿人 | 初评奖项 | 论文/项目链接 |
|---|---|---|---|---|
| GDSR | 论文 | Doswin | 铜奖 | https://www.php.cn/link/d5f6b27eed9d01f58d2e943b6c319081 |
| RWKV-VIO | 论文 | kamuyi | 铜奖 | https://www.php.cn/link/31a67bdbe13f907c857a7a27a3111509 |
| rwkv_ops | 应用 | 路过的小林 | 铁奖 | https://www.php.cn/link/42bf85196c63fadb97cc4123d7ecf834 |
| chirrup | 应用 | Leon | 银奖 | https://www.php.cn/link/5e740f261196151a0b02c7b2fccf6ae6 |
| 基于动态邻接融合与通道混合的图神经网络社团检测方法 | 论文 | XQ | 参与奖 | https://www.php.cn/link/95b2a1df756b9e6e67bfacd25c2c6110 |
加入 RWKV 社区
诚挚邀请您加入 RWKV 开源社区,共同推动高效大模型技术的发展与普及。您可通过以下渠道了解 RWKV、参与讨论或贡献代码:
- ? RWKV 中文官网与文档:https://www.php.cn/link/da969836ff9696f9c182a7026558fe230
- ? RWKV 官方论坛(技术交流主阵地):https://www.php.cn/link/da969836ff9696f9c182a7026558fe231
- ? QQ 频道(实时资讯与活动通知):https://www.php.cn/link/da969836ff9696f9c182a7026558fe232
- ? Bilibili 视频教程频道(新手入门 & 进阶实战):https://www.php.cn/link/da969836ff9696f9c182a7026558fe233
源码获取:https://www.php.cn/link/da969836ff9696f9c182a7026558fe234
网友留言(0 条)