手机AI的DeepSeek时刻：Bonsai 27B模型登场，苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息，手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调，模型在仅占用极小内存资源的苹果前提下，成功保留了原模型 90% 的运行智能水平，实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。
Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力，登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体（Agent）循环交互。
然而，手机原版 Qwen 3.6 27B 模型对硬件要求极高：在 16-bit 精度下需占用 54GB 存储空间，登场即便压缩至 4-bit 精度，模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限，导致其难以在本地设备部署。
为解决这一痛点，Bonsai 27B 通过极致量化技术，推出了两个针对不同场景的版本：
- Ternary（3-bit）Bonsai 27B：体积仅为 5.9 GB，每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化，平衡了性能与资源占用。
- 1-bit Bonsai 27B：体积进一步压缩至 3.9 GB，每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计，是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特（Tim Carambat）对此评价极高，他表示：“其影响力远超 Fable、Mythos 或 GPT 5.6，甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下：
(责任编辑：探索)
五星勇士！库里汤普森欲共同说服詹姆斯加盟
南加州大学与Cantina Labs联手破解AI视频图像生成的量化难题
25分钟背83首古诗词 成都女子获杜甫草堂博物馆终身免票推荐文章
-
豆包、千问下线智能体 国内首部AI拟人化互动服务新规今起施行
快科技7月15日讯，7月初，字节跳动旗下“豆包”与阿里巴巴旗下“通义千问”相继发布公告，宣布将于7月15日正式下线智能体功能。届时，用户将无法新建智能体，亦无法调用已有的智能体服务。值得注意的是，两家
...[详细]
-
2026年7月15日，新石器无人车执行总裁赵优在香港出席LEAP East 2026大会时发表重磅观点：物理人工智能Physical AI）技术将在物流配送领域率先实现大规模商业化落地，标志着无人物流
...[详细]
-
平台导出视频时提供“隐藏AI标识”选项。网络截图“我在短视频平台刷到一则蛋白粉广告，视频中的‘高校专家’正在带货。产品看似拥有完善的认证报告，但我收到货后却发现质量极差。”6月5日，北京青年刘洪化名） ...[详细]
-
在流量为王的时代，真正的好剧往往需要时间沉淀。以下这5部剧集，起初因造型、节奏或题材争议饱受质疑，却凭借过硬的剧本、精湛的演技和深刻的内核，实现了口碑的绝地反击。它们不仅剧情全程高能，更在价值观与格局
...[详细]
-
邹市明亏损两亿登上热搜，背后是妻子冉莹颖在节目中的自述：将家庭水费从每月800元压缩至100元，深夜两点仍在直播带货，甚至透露两人曾三次走到民政局门口准备离婚。这种生活窘迫的叙事，与邹市明在拳台上的形
...[详细]
-
记者：谢希瑶、魏玉坤海报设计：胡戈出品单位：新华社国内部 ...[详细]
-
高考提前批：北大没招满，多所院校没录满，征集志愿真能捡漏吗？
2026年高考提前录取批次尘埃落定，一个反常现象引发热议：其他高校未招满尚属正常，唯独北京大学出现缺额，令外界大跌眼镜。这是否意味着清北“跌落神坛”？普通考生是否真的迎来了“低分上名校”的捡漏窗口？曾
...[详细]
-
曼联中场新星科比·梅努Kobbie Mainoo）以暖心之举，帮助一名患有额颞叶痴呆症FTD）的英格兰球迷实现了观看世界杯半决赛的梦想。在社交媒体上得知该球迷的困境后，梅努主动介入，为其安排好了入场球
...[详细]
-
TVB「御用惡女」離世享壽84歲 子女發訃告7.24大圍設靈
被譽為TVB「御用惡女」的資深演員梁珊，於今年7月1日安詳離世，享年84歲。梁珊憑藉精湛的演技塑造了多個經典角色，深受觀眾愛戴，其逝世令眾多電視迷深感痛惜。其子女宇澄與天之今日13日）正式發布訃告，詳
...[详细]
-
来自北爱尔兰唐郡Mayobridge的16岁少女Sophie Lennon，在30万名全球竞争者中脱颖而出，成功拿下迪士尼经典歌舞片系列《花豹美眉》Cheetah Girls）重启版的主演席位。令人惊
...[详细]
热点阅读
随机内容
