OpenAI研发高效推理方案:模型运行成本降低50%
快科技7月1日讯据The 研发运行Information报道,多位知情人士透露,高效OpenAI工程师团队本月早些时候宣布,推理通过部署多项自主研发的模型底层优化技术,成功构建出一套高效的成本推理解决方案,预计可将模型运行成本削减超过50%。降低
这一技术突破在面向无免费或付费账户的研发运行公共访客场景(ChatGPT)中得到了验证。数据显示,高效应用该技术后,推理支撑系统运行所需的模型英伟达GPU数量被压缩至仅数百个级别,算力资源利用率实现显著跃升。成本
此前行业传闻,降低OpenAI正与博通(Broadcom)联合开发代号“墨西哥胡椒”(Jalapeño)的研发运行专用集成电路(ASIC)芯片。该芯片专为大语言模型推理场景从零开始设计,高效旨在彻底摆脱对通用GPU架构的推理依赖。这种硬件层面的根本性重构,有望将推理成本直接降低一半,带来远超传统迭代的技术红利。
随着头部AI企业逐步掌握自主算力源头,对英伟达GPU的依赖度将持续下降。这不仅打破了通用硬件产能与定价权的制约,更标志着AI产业生态的话语权正在发生深刻转移。

(责任编辑:娱乐)
推荐文章
-
韩国拟将“国家成长基金”扩大至200万亿韩元,加码AI、半导体等战略产业
韩国金融服务委员会FSC)于7月15日宣布,计划在未来五年内将“国家成长基金”的总规模从原定的150万亿韩元大幅扩充至200万亿韩元约合1341亿美元)。此次扩容旨在强化对人工智能AI)、半导体、可再 ...[详细]
-
中新网 宁波7月16日电 (张煜欢)“以前复查看病要折腾一路,现在医生带着设备直接上门,躺在床上就能做完检查、拿到药品,真的太贴心了。”在浙江省宁波余姚鹿亭乡上庄村,村民方大伯的家属握着医护人员的手连
...[详细]
-
新京报讯记者 陈琳)针对家政服务领域长期存在的“权责不清、退费困难、监管缺失”等痛点,北京市近日推出全新解决方案。在北京市商务局的指导下,北京家政服务协会正式发布《北京市家政服务行业公约》。该公约首次 ...[详细]
-
7月16日,据英国媒体资深记者披露,阿森纳首席商务官朱丽叶·斯洛特Juliet Slot)将在球队夺得英超冠军并刷新商业收入纪录后正式离职。这一人事变动标志着阿森纳一个商业扩张时代的结束。功成身退:斯
...[详细]
-
克罗地亚足协致信FIFA:请澄清VAR和裁判判罚,提高透明度
北京时间7月15日,克罗地亚知名媒体《晨报》披露了克罗地亚足协HNS)正式致信国际足联FIFA)的内容。在葡萄牙队与克罗地亚的世界杯16强赛最后阶段出现混乱局面后,克罗地亚足协明确要求FIFA澄清VA
...[详细]
-
据《世界体育报》报道,塞维利亚当地时间本周三正式为古里迪、胡安-伊格莱西亚斯和桑甘特三名新援举行亮相仪式。在等待部分球员离队的同时,塞维利亚已为今夏完成的首批三名引援举办了介绍活动。古里迪、胡安-伊格
...[详细]
-
中新网 济南7月15日电 题:山东乡村“高颜值”何以涵养乡风“高气质”?作者 周艺伟盛夏时节,漫步山东临沂蒙阴县垛庄镇水涟峪村,青山叠翠,清溪蜿蜒,白墙红瓦的民居依山错落。晨光微熹,村民公茂玲便支起鏊
...[详细]
-
随着世界杯半决赛英格兰对阵阿根廷的战火在亚特兰大体育场一触即发,看台上出现了一位引人注目的特殊观众。这位观众正是切尔西俱乐部老板托德·伯利。这位美国商人不仅亲临现场观战,还特意身穿一件英格兰队球衣,展
...[详细]
-
“请愿将阿根廷逐出世界杯人数已超500万”冲上热搜,阿根廷主帅曾回应:绝不存在任何偏袒,VAR时代偏袒“难如登天”
北京时间7月16日凌晨3点,2026美加墨世界杯半决赛将在美国亚特兰大打响,阿根廷队迎战英格兰队,双方即将上演备受瞩目的“宿命对决”。7月14日,话题“请愿逐出阿根廷人数已超500万”迅速冲上微博热搜
...[详细]
-
经典游戏IP《孤岛惊魂》Far Cry)影视化进程再进一步。这个拥有20年历史、已推出12部续作的系列终于要搬上荧幕,但首播前的第一个“神操作”却让粉丝群体陷入集体困惑。FX电视台筹备已久的《孤岛惊魂
...[详细]
热点阅读

AI算力引爆这一元器件行情,超级周期正式进入景气上行通道丨投资秘籍
ESPN:科林蒂安租借韦斯利达口头协议,仍须解决禁令
腾讯朱雀实验室打造AI安全瑞士军刀
杰弗森:冲突的根源,科比的死忠粉根本无法接受詹姆斯在湖人打球
