手机AI的DeepSeek时刻：Bonsai 27B模型登场，苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息，手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调，模型在仅占用极小内存资源的苹果前提下，成功保留了原模型 90% 的运行智能水平，实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。
Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力，登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体（Agent）循环交互。
然而，手机原版 Qwen 3.6 27B 模型对硬件要求极高：在 16-bit 精度下需占用 54GB 存储空间，登场即便压缩至 4-bit 精度，模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限，导致其难以在本地设备部署。
为解决这一痛点，Bonsai 27B 通过极致量化技术，推出了两个针对不同场景的版本：
- Ternary（3-bit）Bonsai 27B：体积仅为 5.9 GB，每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化，平衡了性能与资源占用。
- 1-bit Bonsai 27B：体积进一步压缩至 3.9 GB，每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计，是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特（Tim Carambat）对此评价极高，他表示：“其影响力远超 Fable、Mythos 或 GPT 5.6，甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下：
(责任编辑：热点)
格伦·肖菲尔德宣布退休：35年传奇游戏生涯圆满落幕
国产最大参数大模型Kimi K3即将发布，综合性能超Opus 4.7等主流模型
微软主动出击推销自家AI，销售要掌握OpenAI、谷歌、Anthropic的不足推荐文章
-
比利时首都布鲁塞尔市中心一栋正在进行大规模翻新改造的建筑于14日发生严重火灾，事故已造成多人死亡。据当地媒体最新报道，目前确切伤亡数字尚未最终确认，另有6人处于失联状态。消防部门已调动大量资源全力展开 ...[详细]
-
销量均价双杀BBA后，李斌放话：推动大五座SUV进入纯电时代
财闻 | 撒元明 发自成都7月9日，蔚来NIO.US）正式推出ES8大五座版，新车起售价为382,800元；若选择BaaS电池租用服务）方案，起售价进一步下探至274,800元。针对为何推出大五座版本
...[详细]
-
7月15日，曾在87版电视剧《红楼梦》中饰演薛蟠的演员陈洪海，通过社交媒体发文悼念剧中“刘姥姥”的扮演者、国家一级演员沙玉华。陈洪海在祭文中深情回顾：“她深入揣摩乡间长者的言行神态，将刘姥姥这一角色演
...[详细]
-
一夜两消息！庄宇珊落选MVP，朱婷对角官宣退出，利好亚洲第一
在李盈莹与吴梦洁缺阵的背景下，体能充沛的庄宇珊扛起了中国女排的进攻大旗。回顾已结束的12场比赛，庄宇珊的综合数据表现亮眼：总得分位列第三，进攻效率排名第五，拦网与防守分别排在第十五和第十四位，一传成功
...[详细]
-
国产DRAM存储芯片领军企业长鑫科技688825.SH）正式进入科创板申购阶段。作为填补A股DRAM制造空白的关键标的，其发行细节、募资规模及潜在收益引发市场高度关注。一、 发行基本信息与中签成本申购
...[详细]
-
中新网沈阳 7月14日电针对近日在微信群及短视频平台广泛传播的“沈阳全市停水”不实言论，沈阳水务集团通过官方微信公众号发布紧急辟谣公告，明确指出该信息为虚假谣言，呼吁市民不信谣、不传谣，避免引发不必要
...[详细]
-
台湾青年周宏宇赴厦门交流，与常驻金门的台湾青年黄恺嘉会面。黄恺嘉凭借频繁往返厦金的经验，分享了厦金“一日生活圈”的便捷优势，并引荐好友王伸豪陪同周宏宇深入游览厦门沙坡尾。此次行程旨在探寻沙坡尾的历史文 ...[详细]
-
无惧天价芯片？大摩坚定看涨苹果：iPhone涨价料成拉升引擎
财联社7月15日讯编辑 潇湘） 在全球内存供应短缺及电子产品普遍涨价的大背景下，凭借强大的品牌定价权，苹果有望将成本压力转化为利润增长动力，消费者已逐步为这一趋势做好心理建设。摩根士丹利坚定看多苹果摩
...[详细]
-
入室杀害前女友案开庭：嫌疑人立“深情人设”，检察官驳斥“恋爱是双向奔赴，你却想把她打晕带走”
7月13日上午，西安市中级人民法院刑事审判庭内，张某某涉嫌入室故意杀害前女友万某某一案公开开庭审理。张某某与被害人万某某曾为情侣关系，双方于2025年4月分手。分手后，张某某多次纠缠遭拒，遂预谋实施侵 ...[详细]
-
财联社7月15日电—— 据多位知情人士透露，苹果公司正积极寻求收购芯片公司，旨在加速构建用于运行人工智能AI）的服务器芯片。近几个月来，这家iPhone制造商已与多位银行家就潜在交易进行了多轮交流。消 ...[详细]
热点阅读
