手机AI的DeepSeek时刻：Bonsai 27B模型登场，苹果iPhone 17 Pro可运行
IT之家 7 月 15 日消息，手机开源社区 @PrismML 今日正式推出 Bonsai 27B 模型。登场该模型基于 Qwen 3.6 27B 进行深度微调，模型在仅占用极小内存资源的苹果前提下，成功保留了原模型 90% 的运行智能水平，实现了在 12GB 内存的手机 iPhone 设备上原生流畅运行。
Qwen 3.6 27B 模型旨在显著提升端侧 AI 能力，登场核心优化领域包括多步逻辑推理、模型结构化工具调用、苹果长上下文工作流处理以及连贯的运行智能体（Agent）循环交互。
然而，手机原版 Qwen 3.6 27B 模型对硬件要求极高：在 16-bit 精度下需占用 54GB 存储空间，登场即便压缩至 4-bit 精度，模型仍需 18GB 空间。苹果这一体积远超大多数智能手机及部分笔记本电脑的运行内存承载极限，导致其难以在本地设备部署。
为解决这一痛点，Bonsai 27B 通过极致量化技术，推出了两个针对不同场景的版本：
- Ternary（3-bit）Bonsai 27B：体积仅为 5.9 GB，每权重有效位数为 1.71。该版本针对笔记本级性能进行了优化，平衡了性能与资源占用。
- 1-bit Bonsai 27B：体积进一步压缩至 3.9 GB，每权重有效位数低至 1.125。该版本专为手机端极致的空间节省需求设计，是移动端部署的突破性成果。
美国软件工程师、开源本地 AI 客户端 AnythingLLM 创始人蒂莫西·卡兰巴特（Tim Carambat）对此评价极高，他表示：“其影响力远超 Fable、Mythos 或 GPT 5.6，甚至可能超过它们总和。这标志着 AI 真正的‘DeepSeek 时刻’。”
IT之家附上相关技术截图如下：
(责任编辑：知识)
英国首相斯塔默：如果英格兰打进世界杯决赛，将闪现美国观赛再回国辞职；白宫世界杯负责人：“美国出局后英格兰来捧杯，那会非常精彩”推荐文章
-
台湾政坛近日掀起巨浪，并非源于选举博弈或政治丑闻，而是源自蒋家第四代核心人物蒋友松的一记重磅表态：推动将蒋介石与蒋经国的灵柩迁出台湾，归葬大陆浙江奉化故里。这一举动让两副悬置半个世纪的棺木，终于迎来了
...[详细]
-
7月15日，贝泰妮在投资者互动平台明确回应市场关切，强调公司核心业务始终聚焦于化妆品的研发、生产与销售环节，目前并未涉足芯片相关业务。 ...[详细]
-
顶流导演恋情被曝！和小13岁女友街头秀恩爱，反倒迎来全网祝福声
娱乐圈近日再掀波澜。7月14日，一位坐拥百万粉丝的头部娱乐博主提前剧透，将独家披露一段涉及顶级IP操盘手与当红新生代女演员的私密情感动态。消息一出，舆论场迅速进入“侦探模式”，各种猜测名单层出不穷。直
...[详细]
-
看完这5点分析，英格兰对阿根廷，胜负还用猜吗，直接告诉你答案
北京时间7月16日凌晨3点，美加墨世界杯半决赛迎来焦点之战，英格兰迎战卫冕冠军阿根廷。外界普遍将此役视为“五五开”的巅峰对决，但若剥离情怀滤镜，从体能储备、战术体系、核心状态、阵容深度、战术克制这五大
...[详细]
-
离巢者终成对手。告别东方甄选不足一年，前CEO孙东旭联合头部主播石明明明）、郭天权天权）成立新公司，正式进军直播带货领域。7月13日，新东方创始人、东方甄选CEO俞敏洪对此事作出回应，表示不担心竞争，
...[详细]
-
在奈飞Netflix）浩瀚的片库中，有一部被严重低估的印尼科幻恐怖剧集，它极有可能就是你苦苦寻觅的那部“遗珠神作”。《乔可·安华的噩梦与白日梦》Joko Anwar's Nightmares and
...[详细]
-
今日上午，国家统计局正式发布2026年上半年国民经济运行数据。整体来看，中国经济在复杂环境下保持平稳增长，其中进出口贸易成为显著亮点，而固定资产投资则面临一定调整压力。以下是核心经济数据的详细解读：1
...[详细]
-
体坛周报全媒体记者 闫羽如果说法国对阵西班牙是“提前上演的决赛”，那么在美加墨世界杯的两场半决赛中，英格兰对阵阿根廷无疑是热度最高的焦点战。这场对决之所以分量极重，主要基于两大核心要素：1. 历史恩
...[详细]
-
国际空间站画面视觉中国 资料图）据央视新闻客户端报道，俄罗斯第一副总理曼图罗夫秘书处于当地时间7月14日透露，在美国国家航空航天局NASA）局长艾萨克曼访俄期间，俄美双方正式制定了联合计划，确定国际空
...[详细]
-
对于数码爱好者而言，每年红米 Note 系列新机的发布都备受瞩目。作为中端市场的“守门员”，红米一贯擅长在有限的成本约束下，通过堆料与优化，为用户带来超预期的配置体验，将“性价比”这一标签刻入品牌基因
...[详细]
热点阅读
随机内容
