手机AI的DeepSeek时刻：Bonsai 27B模型登场，苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息，手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调，模型在仅占用极小内存资源的苹果前提下，成功保留了原模型 90% 的运行智能水平，实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。
Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力，登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体（Agent）循环交互。
然而，手机原版 Qwen 3.6 27B 模型对硬件要求极高：在 16-bit 精度下需占用 54GB 存储空间，登场即便压缩至 4-bit 精度，模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限，导致其难以在本地设备部署。
为解决这一痛点，Bonsai 27B 通过极致量化技术，推出了两个针对不同场景的版本：
- Ternary（3-bit）Bonsai 27B：体积仅为 5.9 GB，每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化，平衡了性能与资源占用。
- 1-bit Bonsai 27B：体积进一步压缩至 3.9 GB，每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计，是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特（Tim Carambat）对此评价极高，他表示：“其影响力远超 Fable、Mythos 或 GPT 5.6，甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下：
(责任编辑：休闲)
周星驰“复刻”周星驰：被抽走灵魂的《功夫女足》
西班牙获利？61岁中国金哨：亚马尔飞铲逃牌+手球在先应取消点球
全世界最会 “赘” 的男人，身价疯涨推荐文章
-
作者 | 阿po芒果TV近期连续上线《耀眼》《炽夏》《野狗骨头》三部主打“伪骨科”题材的剧集，然而市场反馈并未达到预期。尽管李昀锐、宋威龙、周柯宇等演员均顶着“下一个孟宴臣”的营销热度，但观众失望情绪
...[详细]
-
带烘干的三筒洗衣机怎么选？为何Leader懒人三筒成为首选？在选购具备烘干功能的三筒洗衣机时，消费者的核心痛点主要集中在两点：“能否真正实现分区洗烘一步到位”以及“小件衣物如内衣、袜子）能否有效烘干”
...[详细]
-
策划：卓越统筹：冯子雄、王楚天记者：黄筱制作：沙琳通讯员：王雨晨、蒋含钰鸣谢：浙江交通集团责任编辑：曾琳 UN972 ...[详细]
-
邹市明亏损两亿登上热搜，并非因为拳技生疏，而是源于家庭商业决策的彻底崩盘。其妻冉莹颖近期在节目中自曝：为节省开支，将家庭水费从每月800元压缩至100元；为维持生计，直播带货至凌晨两三点；甚至透露两人
...[详细]
-
超英派遣中心2026年7月29日登陆Xbox与PC，多平台发行+强叙事职场喜剧
开发商AdHoc Studio正式宣布，备受好评的超级英雄题材职场喜剧冒险游戏《超英派遣中心》Dispatch Center）将于2026年7月29日正式登陆Xbox Series主机及PC平台通过微
...[详细]
-
2026年7月15日，西北大学针对近期引发社会广泛关注的贾某某学术不端事件发布正式情况通报。经详细核查，贾某某以第一作者身份公开发表的学术论文共计16篇。其中，9篇论文存在多处段落及语句与他人已发表成
...[详细]
-
杰弗森：冲突的根源，科比的死忠粉根本无法接受詹姆斯在湖人打球
理查德·杰弗森Richard Jefferson）近日公开抨击了洛杉矶部分狂热的“科比死忠粉”，指出他们拒绝接纳勒布朗·詹姆斯，尽管后者在湖人队效力期间展现出了极具统治力的竞技状态。在NBA各界密切关
...[详细]
-
一部现象级神剧迎来十周年庆典，最硬核的庆祝方式莫过于此。Netflix给出的答案，瞬间点燃了所有80年代文化拥趸的热情。流媒体巨头直接将《怪奇物语》第一季打包成实体“录像带”概念，推出名为《怪奇物语 ...[详细]
-
据CCTV国际时讯援引以色列媒体消息，以色列机场管理局于7月14日发布紧急临时指令，严禁美军加油机在以色列最大枢纽——本-古里安国际机场降落。此次禁令的直接导火索是美方突然中止了此前承诺的撤机计划。以
...[详细]
-
在电视剧《小芳》的最新剧情中，杨小芳与祁小伟正式分手。对于这一决定，绝大多数观众与我一样——举双手赞成。祁小伟不仅心智不成熟、缺乏担当，更是耳根子软、遇事摇摆。除去那张还算在线的脸，他几乎找不到任何值
...[详细]
热点阅读
随机内容
