RWKV相关论文
RWKV架构、多模态...探索RWKV的论文生态
元始智能
2024-09-28
元始智能
2024-09-06
共 27 篇相关论文
GitHub项目
探索 RWKV 社区的 GitHub 项目
JL-er
RWKV-PEFT
#高效微调项目
RWKV 高效微调仓库,包含 LoRA、Pissa、Lisa、State 等多种微调方法。
Seikaijyu
RWKV-PEFT-Simple
#微调项目
RWKV-PEFT 的简化版本,提供便捷脚本和微调说明
OpenMOSE
RWKV-LM-RLHF
#RLHF / DPO
RWKV 强化学习(RLHF)工具包,含 SFT、对齐(DPO、ORPO)等
RWKV
RWKV-infctx-trainer
#无限上下文训练
RWKV 无限上下文训练器,支持训练 10k 及以上长度的上下文
neromous
RWKV-Ouroboros
#训练项目
基于 API 的 rwkv-trainer 项目,支持交替运行训练和推理
Hannibal046
nanoRWKV
#训练项目
RWKV 模型的 nanoGPT 风格实现
共 55 个相关的Github项目
RWKV模型生态
探索RWKV社区的微调模型
共 4 个相关模型