新一代大模型架构 超越 Transformer

最新版本：RWKV-8
（ROSA 机制，DeepEmbed 机制）

用 RWKV 训练模型的论文

RWKV 架构、多模态... 探索 RWKV 的论文生态

加载中...

下载 RWKV 模型

下载最新 RWKV-7 G系列 推理模型，几分钟内跑起来你的第一个 RWKV 应用
加载中...
HuggingFace
魔搭魔搭GGUF

为您介绍 RWKV

RWKV 结合了 RNN 和 Transformer 的所有优点，既可高效并行推理训练，亦可高效串行推理训练

Parallel
超高并发
Massive Parallelization
Speed
恒定速度
Constant generation speed
VRAM
恒定显存
Constant VRAM
No Cache
无需 KV Cache
Without KV Cache
Embedding
高效 State-tuning
Efficient state-tuning
Context
无限上下文
Infinite ctxlen

RWKV 的测评成绩

选择基准与模型规模，查看不同任务上的表现。

Uncheatable Eval 是"无法作弊的评测"，它使用最新论文/新闻/代码/百科/小说，评估语言模型的真实语言建模能力和泛化能力。
Uncheatable Eval
数值越低越好；点击任意列名可排序
Name
rwkv7-g1f-13.3b-20260415
13.36.0113.3893.4383.5196.7593.4976.1646.4556.5246.2216.6377.5258.0439.2646.712
rwkv7-g1e-13.3b-20260309
13.36.0363.4023.4703.5546.8093.5316.1906.4926.5596.2586.6777.5298.0469.2656.716
Ministral-3-14B-Base-2512
13.96.0473.2883.5283.6567.0463.5345.9486.1916.4476.0586.3417.6728.2719.8396.840
Qwen3-14B-Base
14.86.1243.1623.3573.4906.9993.4135.8736.3756.6316.1626.5617.9298.4179.8927.475
gemma-3-12b-pt
12.26.1733.4133.6043.8167.3993.6986.2716.5066.7916.3576.7227.4827.8459.8286.687
Mistral-Nemo-Base-2407
12.26.1823.5093.7123.8667.4883.7346.2426.4926.7986.3166.4927.5167.9739.3497.055
Qwen2.5-14B
14.86.2363.3643.5963.6727.3393.5755.9706.5246.8266.2976.6467.8688.2119.8217.589
Llama-2-13b-hf
13.06.8244.1364.4314.5918.4874.4156.9297.1407.4466.9577.1347.7438.0329.8528.249

在线 Demo

轻松体验最新的 RWKV 模型

HuggingFace

HuggingFace

续写模式
RWKV-7 G1f 7.2B
RWKV-7 G1f 2.9B
对话模式
RWKV-7 G1 系列
ModelScope

ModelScope

续写模式
RWKV7 G1f 13.3B
RWKV7 G1f 7.2B
对话模式
RWKV-7 G1 系列

RWKV 生态大赛2025

赏金与周边，等你来挑战

RWKV 核心项目

RWKV 社区各种优秀项目的链接，用于特定用例或参考。

RWKV-LM
RWKV-LM
BlinkDL

RWKV-LM

核心框架

RWKV 官方仓库，包含 RWKV 训练代码和最新开发动态

GitHub 前往查看
Albatross
Albatross
BlinkDL

Albatross

推理工具

高效 RWKV 推理引擎，支持超高并发

GitHub 前往查看
RWKV pip 包
RWKV pip 包
BlinkDL

RWKV pip 包

Python 包

官方 RWKV pip 包

PyPI 前往查看
Ai00
Ai00
Ai00-X

Ai00

推理引擎

基于 WebGPU（vulkan） 的推理工具，支持大多数 GPU 和集显，支持 nf4/int8 量化推理

GitHub 前往查看
RWKV-PEFT
RWKV-PEFT
JL-er

RWKV-PEFT

微调工具

RWKV 高效参数微调工具，含 LoRA、State-tuning、MiSS 等多种微调方法

GitHub 前往查看
RWKV APP
RWKV APP
RWKV-APP

RWKV APP

推理工具

基于 RWKV 架构与 Flutter + C++ 高性能推理引擎的融合

GitHub 前往查看
查看更多项目

关于我们

还有更多可以深刻挖掘的信息

加载中...