面壁智慧 MiniCPM-V 4.7 35B-A3B 手機生成超 30 Token/s

2026 年 10 月 13 日，面壁智慧釋出並開源 MiniCPM-V 4.7 系列模型，包括 35B-A3B 和 1B 兩個版本。11 月 5 日，面壁智慧舉行端側多模態大模型技術交流活動，公司聯席首席科學家、清華大學人工智慧學院助理教授姚遠在活動上透露，經過最新一輪推理最佳化，團隊已將 MiniCPM-V 4.7 35B-A3B 在手機上的生成速度進一步提升至 30 Token/s 以上，而該手機端模型佔用記憶體僅約 3GB，精度損失幾乎可以忽略。

據介紹，這是一款總引數量達 350 億、每次推理僅啟用約 30 億引數的混合專家（MoE）模型，正在接近智慧手機上較為流暢的即時互動速度。面壁智慧聯合創始人、首席科學家劉知遠在同一場活動上表示，把大模型裝進終端並不夠，關鍵是讓使用者真正用起來；他認為生成速度至少達到 30 Token/s，才能提供足夠流暢的使用體驗。

此後姚遠及面壁智慧多模態實驗室核心成員余天予、蔡天馳，又分別從端側智慧的發展趨勢、模型能力密度和底層推理最佳化三個方面介紹了團隊的相關工作。除上述資訊外，材料未提供該最佳化在普通手機上的具體表現及後續計劃，目前進展到此為止。