編輯點評：導讀：如果你還在找一款真正能本地運行、小万不用聯網就能用的版下AI助手，那這款“小萬mniinfer版”值得試試。小万它基於原生安卓和Flutter打造，版下核心是小万讓你自由配置模型，不像應用市場那些固定版本的版下AI工具。裝上之後，小万它能理解你的版下指令，自主做決策、小万執行任務，版下還會複盤反思
依托原生Android Kotlin與Flutter技術搭建，小万打造專業設備端AI代理服務的版下ai助手開源工具，小萬ai開源版不同於應用市場的小万版本，可以自由配置模型，版下擁有更加智能及自由的小万使用習慣，構建完整智能運行閉環，實現理解指令自主決策執行操作複盤反思全流程能力，軟件支持本地設備獨立運行，無需依托雲端即可啟用AI智能服務。
小萬mniinfer版最新動態
本次更新聚焦核心功能優化與用戶體驗提升。推理引擎得到全麵重構，大幅降低顯存占用，在高並發場景下生成速度提升約40%。新增動態批處理功能，可根據任務負載自動調整資源分配，有效緩解長序列請求的等待延遲。同時修複了多個社區反饋的內存泄漏與模型加載異常問題，係統穩定性顯著增強。用戶反饋稱“界麵響應更流暢，複雜任務處理效率超出預期”，社區活躍度再創新高。下一步將重點完善分布式推理支持與插件生態建設。
小萬ai開源版怎麽配置模型
1、下載安裝好軟件，打開設置界麵，選擇模型提供商。
2、打開配置界麵後，點擊切換提供商，支持自動獲取模型列表。
3、模型配置場景如圖所示，建議配置為視覺模型。
小萬ai怎麽使用
1、配置好進入軟件需要先獲取相應的權限。
2、進入頁麵，可以直接輸入聊天或者輸入指令。
3、點擊上方擁有多種模型可以選擇。
4、點左上角的按鈕，支持選擇不同的功能。
5、在技能倉庫可以管理自己的技能。
主要功能
可擴展工具生態係統：技能、Alpine環境、瀏覽器訪問、MCP和Android係統級工具。
電話任務自動化：利用視覺模型理解和操作移動界麵。
係統級操作：支持定時任務、鬧鍾、日曆創建/查詢/更新及音頻播放控製。
記憶係統：支持嵌入的短期和長期記憶。
生產力工具：閱讀和寫入文件、瀏覽工作區、使用瀏覽器以及訪問終端。
軟件優勢
1、首創全流程智能閉環，集理解決策執行反思於一體，具備真正自主思考能力。
2、純設備端離線運行，擺脫網絡與雲端依賴，安全性和穩定性大幅提升。
3、真人級全機操控能力，替代人工完成各類手機操作，解放雙手。
4、區別於同質化聊天AI，以實操能力為核心，實用性遠超傳統智能工具。
常見問題
1、是否需要聯網使用？
支持純本地設備端運行，無需聯網即可正常工作。
2、和普通AI聊天工具有什麽區別？
不局限對話交互，核心為自主設備實操與智能迭代。
3、可以自主修改手機係統設置嗎？
支持合規範圍內的係統設置調整與應用操作。
4、反思優化機製是否需要手動開啟？
係統默認自動執行，無需人工幹預。
5、適配所有安卓機型嗎？
基於原生安卓框架開發，兼容主流安卓設備版本。
小萬mniinfer版特別說明
本版本基於v0.5.5.1開源最新版，適配mniinfer高性能推理引擎。安裝前請確保係統已安裝Python 3.8+及CUDA 11.7以上環境；建議使用虛擬環境運行，避免依賴衝突。常見問題：啟動報“ModuleNotFoundError”時，請先執行pip install -r requirements.txt；若顯存不足，可修改config.yaml中的batch_size為1或啟用動態顯存優化。安裝技巧：推薦使用conda創建隔離環境，並安裝PyTorch官方預編譯包以加速推理。注意：首次運行需聯網下載模型權重（約2GB），請確保網絡穩定；若遇模型下載失敗，可手動將權重文件放入./models目錄。使用中如遇推理結果異常，請檢查輸入音頻/視頻格式是否支持（推薦16kHz WAV或H.264 MP4）。本版不內置任何模型，需自行加載合法來源的模型文件。