手机AI的DeepSeek时刻:Bonsai 27B模型登场,苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息,手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调,模型在仅占用极小内存资源的苹果前提下,成功保留了原模型 90% 的运行智能水平,实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。

Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力,登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体(Agent)循环交互。
然而,手机原版 Qwen 3.6 27B 模型对硬件要求极高:在 16-bit 精度下需占用 54GB 存储空间,登场即便压缩至 4-bit 精度,模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限,导致其难以在本地设备部署。

为解决这一痛点,Bonsai 27B 通过极致量化技术,推出了两个针对不同场景的版本:
- Ternary(3-bit)Bonsai 27B:体积仅为 5.9 GB,每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化,平衡了性能与资源占用。
- 1-bit Bonsai 27B:体积进一步压缩至 3.9 GB,每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计,是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特(Tim Carambat)对此评价极高,他表示:“其影响力远超 Fable、Mythos 或 GPT 5.6,甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下:




(责任编辑:知识)
推荐文章
-
...[详细]
-
很多中青年群体常陷入一个认知误区:认为老人焦虑的根源在于“没钱”。观察现实便会发现一个反直觉的现象:部分老人虽无巨额积蓄,月领养老金仅千元左右,却饮食规律、睡眠安稳、心态豁达;反观另一部分老人,手握数
...[详细]
-
中新网7月15日电7月15日,国家统计局正式发布上半年中国经济数据。国际舆论对此高度关注,多家外媒指出,中国经济延续稳健态势,关键指标表现亮眼。普遍认为,这份“半年报”为完成全年经济增长预期目标奠定了 ...[详细]
-
北京时间7月15日,据知名媒体人“球圈赵探长”透露,山东高速男篮引进王岚嵚的交易目前陷入停滞。核心症结在于辽宁男篮与南京同曦男篮未能就提前终止王岚嵚租借协议的补偿方案达成共识。详细情况如下:据赵探长深
...[详细]
-
新华社北京7月16日电记者谢希瑶、王聿昊)在16日举行的商务部例行新闻发布会上,商务部新闻发言人何亚东就我国对氦气实施临时禁止出口管理措施作出回应。何亚东指出,鉴于中国作为氦气主要进口国的地位,为确保 ...[详细]
-
国台办:祖国必须统一,也必然统一,这是任何人任何势力都无法阻挡的历史大势
来源:环球网【环球网报道】7月15日上午,国务院台湾事务办公室举行例行新闻发布会。发言人朱凤莲针对近期两岸热点议题,特别是硅谷及国际舆论对台海局势的关注,作出了明确回应。国台办发言人朱凤莲记者提问:近
...[详细]
-
美加墨世界杯半决赛的焦点之战——阿根廷对阵英格兰,定于15日正式打响。赛前,阿根廷副总统维多利亚·比利亚鲁埃尔在社交媒体上公开发声,言辞激烈地称对手为“掠夺海岛的海盗”,并强调这绝非一场普通的竞技较量
...[详细]
-
截至2026年6月底,全国摩托车总保有量已逼近一亿辆大关。在各类动力形式中,电动摩托车展现出最为强劲的增长势头,正深刻重塑行业格局。据行业权威机构测算,当前登记在册的摩托车总量稳定在约一亿辆水平。数据 ...[详细]
-
黄牛集体翻车!AMD 5800X3D十周年版原价随便买:还送水冷
快科技7月15日消息,AMD 锐龙7 5800X3D 十周年纪念版上月首发即遭疯抢,一度引发加价炒作热潮。然而局势急转直下,目前海外市场价格已彻底回归理性,甚至出现“买CPU送水冷”的超值促销,令囤货
...[详细]
-
据新华社报道,美国总统特朗普在美国最高法院驳回其上诉后,已向指控其性侵的美国女作家珍妮·卡罗尔Jean Carroll)支付超过560万美元的赔偿金。赔偿款项已划出美联社援引法庭文件指出,该笔款项已于 ...[详细]
热点阅读

又不收霍尔木兹海峡“过路费”了!特朗普宣布用新协议取代收费
别再说星爷卖情怀!人民文娱评《功夫女足》,拍出最纯粹无厘头
《孤岛惊魂》真人剧获巨星加盟!昆汀处女作主演