MiniCPM-o 4.5 技術(shù)報告發(fā)布：全雙工全模態(tài) API 開放，RTX5070 即可實(shí)時運(yùn)行

作者 ｜ OpenBMB 團(tuán)隊

你有沒有想過，不用聯(lián)網(wǎng)、僅用一張消費(fèi)級顯卡，就能在個人電腦上擁有一個「邊看、邊聽、邊說、還能主動提醒」的類人 AI 助手？它既能實(shí)時感知環(huán)境變化、同步理解你的意圖，又能全程保護(hù)隱私。

這就是MiniCPM-o 4.5所能做到的。在技術(shù)創(chuàng)新下，它僅憑 9B 參數(shù)，實(shí)現(xiàn)了業(yè)界首個端到端全雙工全模態(tài)大模型，讓端側(cè) AI 普惠成為現(xiàn)實(shí)。其自 2026 年 2 月模型發(fā)布以來，在 Hugging Face 上的下載量已突破 25 萬 +。

? 模型用例展示：https://openbmb.github.io/minicpm-o-4_5-omni/

? 在線體驗(yàn)（無需注冊 / 下載）：https://minicpmo45.modelbest.cn/

今天，面壁智能聯(lián)合 OpenBMB 開源社區(qū)、清華大學(xué) THUNLP 實(shí)驗(yàn)室和 THUMAI 實(shí)驗(yàn)室正式發(fā)布MiniCPM-o 4.5 技術(shù)報告，首次公開面壁智能在全雙工全模態(tài)交互領(lǐng)域的核心技術(shù)——Omni-Flow 流式全模態(tài)框架。

? 技術(shù)報告：https://github.com/OpenBMB/MiniCPM-o/blob/main/docs/MiniCPM_o_45_technical_report.pdf

在技術(shù)報告發(fā)布的同時，MiniCPM-o 4.5 同步推出在線體驗(yàn) Demo、全模態(tài)全雙工 API、端側(cè)安裝包 Comni 和 Demo 倉庫。

在線體驗(yàn) Demo

在線 Demo 是 MiniCPM-o 4.5 的原型示例網(wǎng)頁應(yīng)用，展現(xiàn)傳統(tǒng)輪次交互、語音雙工交互、視頻雙工交互三大類應(yīng)用原型，并完整開放模型支持的全部配置，包括 prompt 和參考音頻設(shè)置。

Demo 可在手機(jī)、電腦端直接訪問，并配套提供排隊、錄制、保存、分享、回看等功能，提升用戶體驗(yàn)。

? 在線體驗(yàn)（手機(jī)端推薦）

https://minicpmo45.modelbest.cn/mobile/

? 在線體驗(yàn)（電腦端推薦）

https://minicpmo45.modelbest.cn/

全模態(tài)全雙工 API

同步開放的 MiniCPM-o 4.5 API 支持全模態(tài)全雙工實(shí)時交互，全雙工下無需 VAD 機(jī)制控制對話輪次，便于開發(fā)者基于 MiniCPM-o 4.5 構(gòu)建應(yīng)用。

API 目前免費(fèi)開放。詳細(xì)使用方式見官網(wǎng)中的 API 文檔 ：https://minicpmo45.modelbest.cn/docs。

Windows / macOS 端側(cè)安裝包 Comni

MiniCPM-o 4.5 已基于 llama.cpp 完成模型量化和推理性能優(yōu)化，實(shí)測最低 12GB 顯存的 RTX 5070 即可流暢運(yùn)行全雙工模式（RTF0.4)，極大降低了個人端側(cè)部署的準(zhǔn)入門檻。

為進(jìn)一步降低端側(cè)部署的操作門檻，桌面軟件Comni集成了模型下載、環(huán)境安裝和 Demo 運(yùn)行能力，提供 Windows / macOS 版本。軟件包下載鏈接如下：

上方視頻展示了 MiniCPM-o 4.5 在個人筆記本上的完整部署與運(yùn)行過程，包括全雙工語音對話、實(shí)時視覺理解、主動提醒等能力演示

Demo 倉庫開源和 Linux 部署

上述 Demo 的全棧代碼已開源，Linux 用戶可克隆代碼倉并部署完整的 Demo 服務(wù)。這也是首批可本地部署的全雙工全模態(tài)交互演示項目之一。

?Demo GitHub 倉庫：https://github.com/OpenBMB/MiniCPM-o-Demo

為什么「全雙工」是

AI 交互的下一站？

人類交流是流暢、并行的。我們邊聽邊思考，甚至可以打斷對方。

但過去，AI 與人類的交互模式是半雙工的，像用對講機(jī)：你說完，它才能處理；它說的時候，又聽不見你的新指令。

AI 與人類的不同頻，使得大多數(shù)用戶無法在與大模型產(chǎn)品的交互中獲得良好的體驗(yàn)感，甚至由于交流的「時空割裂」逐漸失去耐心。長此以往，大模型在多模態(tài)場景的落地?zé)o疑大大受阻。

而 MiniCPM-o 4.5 在全球范圍內(nèi)首創(chuàng)「全雙工全模態(tài)」，模型能在持續(xù)感知環(huán)境（看視頻、聽聲音）的同時進(jìn)行思考和響應(yīng)，這讓 AI 從一個被動的工具變成了一個可以主動幫助人類的真正助手。

這背后離不開面壁智能與清華大學(xué)共同研發(fā)的Omni-Flow 流式全模態(tài)框架。本次技術(shù)報告也首次披露了 Omni-Flow 的技術(shù)核心：

簡單來說，它創(chuàng)造了一個共享的「時間軸」，把視覺、音頻、語言等所有信息流都對齊到毫秒級的時間片上。模型在每個極小的時間片內(nèi)，完成一次「感知 - 思考 - 響應(yīng)」的循環(huán)。

這套機(jī)制從底層賦予了模型持續(xù)感知和即時反應(yīng)的能力，是 MiniCPM-o 實(shí)現(xiàn)全雙工的基石。

此外，MiniCPM-o 4.5 本次發(fā)布并堅持開源可本地部署的 Web Demo，這對開發(fā)者與用戶意味著：

• 絕對的隱私安全：全天候陪伴式 AI 會接觸大量敏感信息。數(shù)據(jù)不出本地，是最好的隱私保護(hù)。

• 斷網(wǎng)也能跑的可靠性：沒有網(wǎng)絡(luò)也能用。即使在隧道、野外，你的 AI 助手也不會「掉線」。

• 開發(fā)者的游樂場：完整的 Demo 前后端代碼已開源。你可以基于此快速構(gòu)建自己的全雙工多模態(tài)應(yīng)用，無論是智能座艙、無障礙輔助還是具身智能，MiniCPM-o 4.5 都能成為你將想象變成現(xiàn)實(shí)的助推器。

技術(shù)報告深度解讀：

揭秘 MiniCPM-o 4.5 的實(shí)現(xiàn)之道

MiniCPM-o 4.5 采用端到端全模態(tài)架構(gòu)，總參數(shù)量 9B。核心設(shè)計包括：

• 全模態(tài)端到端架構(gòu)：多模態(tài)編碼器 / 語音解碼器與 LLM 通過逐 token 級隱藏狀態(tài)緊密連接，在高壓縮率下實(shí)現(xiàn)通用視覺、聽覺感知和語音對話。

• 時分復(fù)用機(jī)制：將并行多模態(tài)流劃分為周期性時間片內(nèi)的順序信息組，實(shí)現(xiàn)高效的流式處理。

• 可配置語音建模：支持文本 + 音頻雙系統(tǒng)提示，通過參考音頻和角色提示詞即可實(shí)現(xiàn)聲音克隆角色扮演。

• 雙模式支持：同一模型支持傳統(tǒng)的輪次交互模式與 Omni-Flow 全模態(tài)全雙工模式。

實(shí)時交互：Omni-Flow 流式全模態(tài)框架

傳統(tǒng)多模態(tài)模型將交互視為一系列孤立的回合，而 Omni-Flow 將其重塑為一個連續(xù)的過程。

圖 1：交互范式的演進(jìn)，MiniCPM-o 4.5 實(shí)現(xiàn)了最右側(cè)的全雙工流式交互

如圖所示，Omni-Flow 將視覺、音頻輸入流和模型的文本、語音輸出流，在時間上進(jìn)行精確切片和對齊。模型不再是被動地等待用戶輸入完成，而是以極高的頻率（例如每秒一次）持續(xù)刷新自己的“世界觀”，并自主決定在哪個時間點(diǎn)介入（說話或提醒）。

這套機(jī)制原生支持了打斷、插話等高級交互行為，徹底擺脫了對外部 VAD (語音活動檢測) 等輔助工具的依賴。

端到端架構(gòu)：9B 模型如何協(xié)同工作？

為了實(shí)現(xiàn) Omni-Flow，面壁智能團(tuán)隊設(shè)計了一套高效的端到端全模態(tài)架構(gòu)，總參數(shù)量 9B。

圖 2：MiniCPM-o 4.5 的端到端全模態(tài)架構(gòu)

其核心組件包括：

• 視覺編碼器（0.4B）：SigLIP-ViT，負(fù)責(zé)「看」。

• 音頻編碼器（0.3B）：Whisper-Medium，負(fù)責(zé)「聽」。

• LLM 基座（8B）：Qwen3-8B，負(fù)責(zé)「思考」和理解。

• 語音 Token 解碼器（0.3B）：輕量級 Llama 架構(gòu)，負(fù)責(zé)將 LLM 的「想法」（文本）轉(zhuǎn)化為語音單元。

• 聲碼器: 將語音單元合成為最終的波形。

這個架構(gòu)最巧妙的設(shè)計之一是：LLM 基座只生成文本 Token，而專業(yè)的語音合成任務(wù)「外包」給了一個更小、更專業(yè)的語音解碼器。這避免了讓大模型直接處理復(fù)雜的聲學(xué)任務(wù)，從而保證了其核心的語言和推理能力不受損害。同時通過各模塊的 token 級稠密連接，保證了模型能力的高上限。

為實(shí)時而生：TAIL 語音生成方案

流式語音的一大難題是延遲。為了讓語音聽起來自然，模型通常需要「預(yù)讀」一大段文本，但這會導(dǎo)致輸出的語音遠(yuǎn)遠(yuǎn)滯后于用戶的輸入。在需要「即時打斷」的全雙工場景里，這是致命的。

因此，面壁智能團(tuán)隊提出了TAIL（Time-Aligned Interleaving）方案，可以讓每個語音塊的生成都緊緊跟隨實(shí)時最新的文本內(nèi)容，而不是讓文本「搶跑」太多。

同時，通過一個輕量級的「預(yù)讀」(pre-look) 機(jī)制，解決了跨詞發(fā)音的連貫性問題。最終，TAIL 在保證音頻流暢悅耳的同時，將語音輸出與交互發(fā)生的延遲降到了最低。

性能表現(xiàn)：9B 模型硬剛業(yè)界頂尖

參數(shù)規(guī)模小不等于模型性能弱。MiniCPM-o 4.5 在多個維度的評測中，展現(xiàn)了與 SOTA 大模型掰手腕的實(shí)力。

• 推理效率：在顯存方面，MiniCPM-o 4.5 的 INT4 量化版僅需 12GB 顯存即可運(yùn)行，幾乎是 Qwen3-Omni INT4 版本的一半，使得其在消費(fèi)級顯卡上的本地部署成為可能。在性能方面，MiniCPM-o 4.5 的推理速度也更快，其 INT4 版本的解碼速度達(dá)到了 212 tokens/s，比 Qwen3 快了 40% 以上，響應(yīng)延遲更低。

• 綜合視覺能力：在 OpenCompass、MMBench 等多個視覺基準(zhǔn)上，9B 的 MiniCPM-o 4.5與 Gemini 2.5 Flash 表現(xiàn)相當(dāng)。

• 全模態(tài)與全雙工交互：在需要聯(lián)合音視頻理解的基準(zhǔn)上，MiniCPM-o 4.5全面超越了 Gemini 2.5 Flash 和 Qwen3-Omni。在全雙工視頻理解基準(zhǔn) LiveSports-3K-CC 上，其勝率（54.4%）更是大幅領(lǐng)先專用的流式視頻模型。

• 語音生成：無論是中文還是英文，MiniCPM-o 4.5 的語音生成質(zhì)量（字符 / 單詞錯誤率更低）和情感表現(xiàn)力都優(yōu)于 Qwen3-Omni 和業(yè)界領(lǐng)先的 CosyVoice2。

真 · 全雙工，潛力無限

全雙工全模態(tài)大模型不是一個遙遠(yuǎn)的概念，而是會催生一系列全新的應(yīng)用，例如：

• 主動式伴侶：在你烹飪、修理或運(yùn)動時，給你實(shí)時的指導(dǎo)和提醒。

• 無障礙輔助：成為視障人士的「眼睛」，為視障人士持續(xù)觀察環(huán)境，主動播報綠燈亮起、水杯將滿等關(guān)鍵環(huán)境信息，幫助他們安全生活。

• 智能座艙：持續(xù)監(jiān)控路況和駕駛員狀態(tài)，主動提示「左側(cè)有可用車位」并引導(dǎo)泊車，提供更智能、更及時的安全預(yù)警和駕駛輔助。

• 具身智能：作為機(jī)器人的「大腦」，持續(xù)感知動態(tài)環(huán)境并自主決策交互時機(jī)。

這些場景的共同點(diǎn)是：需求并非一次性問答，而是需要 AI 作為「沉默的觀察者」和「及時的提醒者」融入動態(tài)生活流——這正是傳統(tǒng)輪次對話模型無法勝任的。

MiniCPM-o 4.5 是原生全雙工模型，擺脫了對 VAD 的依賴。這意味著：支持 general 聲音感知（環(huán)境噪音、音樂等，不僅是語音）；畫面變化跟進(jìn)更快（native 全雙工，無需等上句說完）；AI 說話時可被實(shí)時引導(dǎo)改變內(nèi)容。

當(dāng)然，MiniCPM-o 4.5 目前還存在可提升空間，如長時間交互的穩(wěn)定性、主動行為的豐富性等。多模態(tài)智能的下一個前沿，不僅在于模型能力的擴(kuò)展，更在于重新思考智能表達(dá)的交互范式。Omni-Flow 和 MiniCPM-o 4.5 是面壁智能在這一方向上的關(guān)鍵探索。

? 技術(shù)報告 PDF：

https://github.com/OpenBMB/MiniCPM-o/blob/main/docs/MiniCPM_o_45_technical_report.pdf

? 在線體驗(yàn)：

https://minicpmo45.modelbest.cn/

? GitHub Demo（含本地安裝包）：

https://github.com/OpenBMB/MiniCPM-o-Demo

? Hugging Face 下載鏈接：

https://huggingface.co/openbmb/MiniCPM-o-4_5

? ModelScope 下載鏈接：

https://www.modelscope.cn/models/OpenBMB/MiniCPM-o-4_5

會議推薦

世界模型的下一個突破在哪？Agent 從 Demo 到工程化還差什么？安全與可信這道坎怎么過？研發(fā)體系不重構(gòu)，還能撐多久？

AICon 上海站 2026，4 大核心專題等你來：世界模型與多模態(tài)智能突破、Agent 架構(gòu)與工程化實(shí)踐、Agent 安全與可信治理、企業(yè)級研發(fā)體系重構(gòu)。14 個專題全面開放征稿。

誠摯邀請你登臺分享實(shí)戰(zhàn)經(jīng)驗(yàn)。AICon 2026，期待與你同行。

今日薦文

你也「在看」嗎？