RWKV7-G1a1.5B，新<think推理風(fēng)格，長短思考皆由你定！

始智AI wisemodel.cn社區(qū)是源自中國的中立開放的AI開源社區(qū)。正在，歡迎加入共同成長。！

RWKV7-G1a 1.5B 推理模型（Reasoning Model）正式開源發(fā)布。RWKV7-G1a 1.5B 從 RWKV7-G1 1.5B 繼續(xù)訓(xùn)練 1T 高質(zhì)量數(shù)據(jù)，模型能力顯著提高，且加入新的推理風(fēng)格，還可設(shè)置推理長度。并且在多語言能力、英語能力等多項(xiàng)能力強(qiáng)于同規(guī)模的開源模型。

RWKV7-G1a 1.5B已上線始智AI-wisemodel開源社區(qū)，歡迎大家前去體驗(yàn)。

模型地址

https://wisemodel.cn/models/rwkv4fun/RWKV-7-G1/file

01.

模型測評

英語和多語言能力

RWKV7-G1a 1.5B 的基礎(chǔ)英語和多語言能力均強(qiáng)于同規(guī)模的開源模型：

eval

RWKV7-G1a 1.5B 的 MMLU 為 50.2%（RWKV7-G1 1.5B 為 48.2%）。注意這是沒有使用任何 mid-training 和 post-training 的真實(shí)基底模型成績。

無法作弊的評測

RWKV7-G1a 1.5B 的 Uncheatable Eval 顯著提升，已非常接近 1.7B 參數(shù)的 Qwen3-1.7B-Base。

Uncheatable Eval

02.

模型推理新風(fēng)格

RWKV7-G1a 1.5B 加入了一種新推理風(fēng)格，通過在問題后加入【 think】引導(dǎo)。

與此同時(shí)，Pusa V1.0所需的參數(shù)更新數(shù)比Wan-I2V少10倍以上，這表明Pusa僅僅關(guān)注與時(shí)間相關(guān)的模塊，從而保留了基礎(chǔ)模型的先驗(yàn)知識。與之相對的，Wan-12V則表現(xiàn)出對基礎(chǔ)模型先驗(yàn)知識的破壞。

新推理風(fēng)格

新推理風(fēng)格的提示詞格式：

User: USER_PROMPT think

Assistant: 

注意：在 USER_PROMPT 后的【 think】和前文之間必須有恰好一個(gè)空格。如果不添加【 think】，模型會以默認(rèn)推理風(fēng)格進(jìn)行思考。

下面是 RWKV7-G1a 1.5B 使用新推理風(fēng)格的效果，注意此時(shí)它會使用英語思考：

• 非技術(shù)問題

• 技術(shù)問題

新推理風(fēng)格，短思考

通過【 think a bit】可縮短新推理風(fēng)格的思考長度。提示詞格式：

User: USER_PROMPT think a bit

Assistant: 

• 非技術(shù)問題

• 技術(shù)問題

新推理風(fēng)格，長思考

通過【 think a lot】可增加新推理風(fēng)格的思考長度。提示詞格式：

User: USER_PROMPT think a lot

Assistant: 

• 非技術(shù)問題

• 技術(shù)問題

注意：這里的新推理風(fēng)格和長度控制，僅適用于 2025 年 9 月 22 日及之后發(fā)布的 RWKV7-G 系列模型（從 RWKV7-G1a 1.5B 開始）。

“假”思考模式

最后，對于所有 RWKV7-G 系列模型，通過在提示中加入空 think 標(biāo)簽，可以模擬一個(gè)“已完成思考”的上下文，引導(dǎo)模型生成有結(jié)構(gòu)和邏輯的回復(fù)。

提示詞格式：

User: USER_PROMPT

Assistant:

• 非技術(shù)問題

• 技術(shù)問題

03.

模型調(diào)優(yōu)參數(shù)

RWKV 的運(yùn)行工具均支持調(diào)整模型的解碼參數(shù)，您可以調(diào)整解碼參數(shù)適應(yīng)不同任務(wù)的特點(diǎn)。

下面是推薦的解碼參數(shù)：

模式

Temp

Top-p

Presence Penalty

Frequency Penalty

Penalty Decay

主要特點(diǎn)與適用場景

默認(rèn)

1.0

0.3

0.5

0.5

默認(rèn)的推薦解碼參數(shù)

綜合

1.0

0.3

2

0.2

0.99

另一種推薦解碼參數(shù)

創(chuàng)意

0.6

0.6 ~ 0.8

2

0.2

0.99

思維發(fā)散，想象力強(qiáng)

保守

0.3

0.3

0

0

0.99

適合數(shù)學(xué)和機(jī)械任務(wù)

固定

0.2

0

0

0

0.99

最保守的輸出

[1] RWKV 的解碼參數(shù): https://rwkv.cn/docs/RWKV-Prompts/RWKV-Parameters

[2] RWKV Runner: https://rwkv.cn/tutorials/intermediate/RWKV-Runner/Introduction

[3] RWKV 官網(wǎng) - 模型部署和推理教程: https://rwkv.cn/tutorials/intermediate

編輯丨趙雅鑫

----- END -----

wisemodel相關(guān)：

系列模型：

關(guān)于wisemodel更多

1

歡迎持續(xù)關(guān)注和支持

開源社區(qū)建設(shè)需要長期堅(jiān)持和投入，更需要廣大用戶的積極參與、貢獻(xiàn)和維護(hù)，歡迎大家加入wisemodel開源社區(qū)的志愿者計(jì)劃和開源共創(chuàng)計(jì)劃。期待更多開發(fā)者將開源成果，包括模型、數(shù)據(jù)集和代碼等發(fā)布到 wisemodel.cn 社區(qū)，共建中立、開放的AI開源社區(qū)生態(tài)。歡迎掃碼添加wisemodel微信，申請加入wisemodel社群，持續(xù)關(guān)注wisemodel.cn開源社區(qū)動(dòng)態(tài)。

2

歡迎加盟wisemodel開源社區(qū)

始智AI wisemodel社區(qū)自2023年9月上線以來，逐漸成為影響力日益擴(kuò)大的中立開放的AI開源社區(qū)，為了加快公司發(fā)展，我們長期需要技術(shù)、運(yùn)營等人才加盟，技術(shù)側(cè)重在AI infra、后端開發(fā)，熟悉K8S、模型訓(xùn)練和推理等技術(shù)， 以及熟悉開發(fā)者生態(tài)運(yùn)營的成員，歡迎感興趣的朋友加盟，可以通過添加wisemodel微信，或者將簡歷投遞到郵箱：liudaoquan@wisemodel.cn

3

歡迎投稿優(yōu)質(zhì)內(nèi)容

歡迎投稿分享人工智能領(lǐng)域相關(guān)的優(yōu)秀研究成果，鼓勵(lì)高校實(shí)驗(yàn)室、大企業(yè)研究團(tuán)隊(duì)、個(gè)人等，在wisemodel平臺上分享各類優(yōu)質(zhì)內(nèi)容，可以是AI領(lǐng)域最新論文解讀、最新開源成果介紹，也可以是關(guān)于AI技術(shù)實(shí)踐、應(yīng)用和總結(jié)等。投稿可以發(fā)郵件到liudaoquan@wisemodel.cn，也可以掃碼添加wisemodel微信。

4

關(guān)于wisemodel開源社區(qū)

始智AI wisemodel.cn開源社區(qū)由清華校友總會AI大數(shù)據(jù)專委會副秘書長劉道全創(chuàng)立，旨在打造和建設(shè)中立開放的AI開源創(chuàng)新社區(qū)，將打造成“HuggingFace”之外最活躍的AI開源社區(qū)，匯聚主要AI開源模型、數(shù)據(jù)集和代碼等，歡迎高?？蒲性核?、大型互聯(lián)網(wǎng)公司、創(chuàng)新創(chuàng)業(yè)企業(yè)、廣大個(gè)人開發(fā)者，以及政府部門、學(xué)會協(xié)會、聯(lián)盟、基金會等，還有投資機(jī)構(gòu)、科技媒體等，共同參與建設(shè)AI開源創(chuàng)新生態(tài)。