手机AI的DeepSeek时刻：Bonsai 27B模型登场，苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息，手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调，模型在仅占用极小内存资源的苹果前提下，成功保留了原模型 90% 的运行智能水平，实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。
Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力，登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体（Agent）循环交互。
然而，手机原版 Qwen 3.6 27B 模型对硬件要求极高：在 16-bit 精度下需占用 54GB 存储空间，登场即便压缩至 4-bit 精度，模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限，导致其难以在本地设备部署。
为解决这一痛点，Bonsai 27B 通过极致量化技术，推出了两个针对不同场景的版本：
- Ternary（3-bit）Bonsai 27B：体积仅为 5.9 GB，每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化，平衡了性能与资源占用。
- 1-bit Bonsai 27B：体积进一步压缩至 3.9 GB，每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计，是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特（Tim Carambat）对此评价极高，他表示：“其影响力远超 Fable、Mythos 或 GPT 5.6，甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下：
(责任编辑：时尚)
TA：曼赞比预计周四体检，超5000万镑转会费将创维拉队史纪录
“00后”小伙来上海当私教，学生都是机器人
风云卫星，不止“观风测云”推荐文章
-
00:347月16日，雅砻江水风光一体化智慧运营大模型在成都正式亮相。作为全国首个专为水风光一体化清洁能源基地打造的智慧运营大模型，这一“能源大脑”依托国内首个高海拔岩洞式智算中心，实现了从算力底座、
...[详细]
-
IT之家 7 月 16 日消息，兰博基尼 Urus 和 Lanzador 产品总监斯特凡诺 · 科萨尔特Stefano Costalbert）证实，原定作为品牌首款纯电车型推出的 Lanzador 将
...[详细]
-
比利时首都布鲁塞尔市中心一栋正在进行大规模翻新改造的建筑于14日发生严重火灾，事故已造成多人死亡。据当地媒体最新报道，目前确切伤亡数字尚未最终确认，另有6人处于失联状态。消防部门已调动大量资源全力展开 ...[详细]
-
文|《科创板日报》近日，马斯克旗下Neuralink再次引发全球关注，宣布完成全球首例经硬脑膜植入脑机接口手术。这是一项具有里程碑意义的术式创新。传统侵入式脑机接口手术中，电极植入需先切开保护大脑的坚 ...[详细]
-
他是广东著名主持，却经历父母去世，女友病逝，今58岁单身无儿女
编辑|大风三十载荧屏生涯，窦文涛以一张巧嘴，将死亡、衰老、失恋与孤独这些中国人讳莫如深的议题，逐一摆上桌面。然而，镜头熄灭后，这位最擅言辞的主持人，内心却是一片荒芜。母亲离世时他未能床前尽孝，父亲随后
...[详细]
-
票房会破10亿？上座率夺冠，周星驰也压不住，暑期档又诞生大黑马
7月14日，周二。尽管《功夫女足》仍占据内地电影市场的绝对主导地位，但周星驰的成功极大地激活了市场热度。众多大片纷纷蠢蠢欲动，或定档或提档，意图分一杯羹。今年暑期档，真正的票房肉搏战已然打响。票房冲刺
...[详细]
-
据《全市场》援引意大利《信使报》报道，罗马俱乐部正积极寻求租借皇家马德里前锋恩德里克。罗马管理层已与西汉姆联前锋萨默维尔的经纪团队完成会面。这位刚结束世界杯征程的年轻球员，其团队对转会持开放态度。然而
...[详细]
-
财联社7月15日讯编辑 刘蕊）路透社最新发布的短观调查显示，在半导体强劲需求的驱动下，7月份日本制造业情绪维持相对乐观；然而，受中东冲突、日元贬值及利率攀升引发的成本压力影响，非制造业企业信心出现下滑 ...[详细]
-
新华社西安7月14日电 题：长安一阕诗 丝路万里风新华社记者姜辰蓉西安大唐不夜城的演员“李白”与游客对诗互动2024年7月9日摄）。新华社记者 邹竞一 摄十二岁少年卜天寿随性题下一首小诗：“写书今日了 ...[详细]
-
在世界杯半决赛的激烈角逐中，英格兰队以1-2的比分遭阿根廷队逆转。据CBS数据统计，从英格兰队第55分钟率先破门，到阿根廷队第90+2分钟完成绝杀，这关键的37分钟里，英格兰队的控球率仅为令人震惊的1
...[详细]
热点阅读
