新一代大模型架构 超越 Transformer

最新版本：RWKV-8
（ROSA 机制，DeepEmbed 机制）

用 RWKV 训练模型的论文

RWKV 架构、多模态... 探索 RWKV 的论文生态

加载中...

下载 RWKV 模型

下载最新 RWKV-7 G系列 推理模型，几分钟内跑起来你的第一个 RWKV 应用
加载中...
HuggingFace
魔搭魔搭GGUF

为您介绍 RWKV

RWKV 结合了 RNN 和 Transformer 的所有优点，既可高效并行推理训练，亦可高效串行推理训练

Parallel
超高并发
Massive Parallelization
Speed
恒定速度
Constant generation speed
VRAM
恒定显存
Constant VRAM
No Cache
无需 KV Cache
Without KV Cache
Embedding
高效 State-tuning
Efficient state-tuning
Context
无限上下文
Infinite ctxlen

RWKV 的测评成绩

选择基准与模型规模，查看不同任务上的表现。

"英文与多语言基准测试"涵盖多种评测类型（如 LAMBADA、PIQA 和 WinoGrande），评估模型在语言理解、推理、知识和泛化的能力。
英文与多语言基准
点击任意列名可排序（再次点击切换升/降序）
Model
RWKV7-G0b "Goose" 251130
13.375.077.381.681.782.476.560.185.047.445.497.190.368.252.769.980.769.3
Qwen3-14B-Base
14.874.174.380.679.481.474.059.183.449.148.296.589.564.146.065.178.966.4
Qwen2.5-14B
14.873.974.081.080.182.974.859.482.545.645.296.691.263.246.063.278.565.0
Llama-2-13b-hf
13.071.876.879.180.279.472.249.179.542.345.294.591.759.447.657.274.858.2

在线 Demo

轻松体验最新的 RWKV 模型

HuggingFace

HuggingFace

续写模式
RWKV-7 G1c 7.2B
RWKV-7 G1c 2.9B
对话模式
RWKV-7 G1 系列
ModelScope

ModelScope

续写模式
RWKV7 G1c 13.3B
RWKV7 G1c 7.2B
对话模式
RWKV-7 G1 系列

RWKV 生态大赛2025

赏金与周边，等你来挑战

RWKV 核心项目

RWKV 社区各种优秀项目的链接，用于特定用例或参考。

RWKV-LM
RWKV-LM
BlinkDL

RWKV-LM

核心框架

RWKV 官方仓库，包含 RWKV 训练代码和最新开发动态

GitHub 前往查看
Albatross
Albatross
BlinkDL

Albatross

推理工具

高效 RWKV 推理引擎，支持超高并发

GitHub 前往查看
RWKV pip 包
RWKV pip 包
BlinkDL

RWKV pip 包

Python 包

官方 RWKV pip 包

PyPI 前往查看
Ai00
Ai00
Ai00-X

Ai00

推理引擎

基于 WebGPU（vulkan） 的推理工具，支持大多数 GPU 和集显，支持 nf4/int8 量化推理

GitHub 前往查看
RWKV-PEFT
RWKV-PEFT
JL-er

RWKV-PEFT

微调工具

RWKV 高效参数微调工具，含 LoRA、State-tuning、MiSS 等多种微调方法

GitHub 前往查看
RWKV APP
RWKV APP
RWKV-APP

RWKV APP

推理工具

基于 RWKV 架构与 Flutter + C++ 高性能推理引擎的融合

GitHub 前往查看
查看更多项目

关于我们

还有更多可以深刻挖掘的信息

加载中...