港中文(深圳)是如何让卫星重新"看清"地面的?

这项由香港中文大学(深圳)理工学院、港中上海人工智能实验室与西南交通大学地球科学与工程学院联合开展的文深前沿研究,已于2026年7月2日以预印本形式发布在arXiv平台(论文编号:arXiv:2607.02471)。圳何感兴趣的让卫研究者可通过该编号获取完整原文。
卫星每天环绕地球飞行十余圈,星重新利用光学相机捕捉地表动态——从城市扩张到森林变迁,清地再到农田生长。港中然而,文深遥感领域长期面临一个棘手挑战:云层覆盖。圳何全球约60%-70%的让卫地表在任意时刻被云层遮蔽,导致卫星图像中大量区域仅呈现白茫茫的星重新云海,地面信息(森林、清地建筑、港中水体)完全不可见。文深
为此,圳何研究人员提出了“云去除”(Cloud Removal, CR)技术,旨在通过算法“擦除”云层,还原地面真实面貌。这并非简单的图像修图,而是在信息缺失情况下进行高难度的推断。
港中文(深圳)等机构的研究团队发现,现有去云算法存在一个被忽视的隐患:虽然修复后的图像在视觉上令人满意,但在后续机器分析任务(如建筑物识别、土地分类)中表现不佳。即“人眼觉得好,机器觉得错”。针对这一矛盾,团队提出了名为GACR(Geo-Anchored Cloud Removal,地理锚定云去除)的新框架,确保去云图像不仅“好看”,更“好用”。
一、 卫星图像中的云:不仅仅是视觉干扰
要理解GACR的价值,需明确云对遥感数据的破坏性影响。
卫星图像是城市规划、生态监测和灾害评估的数据基石,这些应用高度依赖计算机自动识别地物类型。当云层出现时:
* 薄云:地面信息部分保留,算法尚有参考依据。
* 厚云:地面信息彻底封锁,算法需在近乎无线索的情况下“脑补”地面形态。
现有去云算法主要分为两类,均存在局限:
- 去噪型方法:将云视为叠加噪声,训练神经网络恢复原图。此类方法假设云仅为“轻微干扰”,在厚云导致的“信息彻底缺失”面前往往失效,导致图像模糊、缺乏细节。
- 生成型方法:以扩散模型(Diffusion Model)为代表,从随机噪点出发“创造”地面样貌。虽然视觉逼真,但缺乏真实数据约束,易产生“语义漂移”(Semantic Drift)。例如,将停车场误生成绿地,或改变建筑走向。这种“视觉合理但地理错误”的现象严重影响了下游分析的准确性。
更根本的问题在于评价指标的错位。传统方法优化PSNR(峰值信噪比)和SSIM(结构相似性),关注像素级差异,却忽略地物类型的保留。这导致高PSNR图像在语义分割任务中准确率可能低于低PSNR图像。
核心矛盾:如何实现去云图像在视觉高保真与语义忠实性之间的统一?
二、 两大核心创新:稳住轨迹,守住意义
研究团队提出了一套互补的解决方案,可将去云过程比喻为地图修复师的工作:
1. 观测锚定残差流(OAR-Flow):解决“从哪里出发”
传统扩散模型从纯随机噪声开始反向推理,如同扔掉破损地图从零重画,丢失了原有残缺但珍贵的信息。
OAR-Flow的创新:
* 锚定起点:不以纯噪声为起点,而是以含云观测图像为锚点,通过更短、更有方向的轨迹抵达清晰图像。
* 自适应调节:
* 薄云区:以含云观测为主导,进行“保守修复”,顺着可见线条描摹。
* 厚云区:注入更多随机扰动,提供“大胆创造”的自由度以填补空白。
技术原理:
定义时间插值公式,中间状态由清晰图像、含云图像和高斯噪声加权构成。神经网络预测“速度场”,由清晰目标引导、含云观测锚定和随机噪声探索三者协同。
效果:相比对比方法EMRDM,OAR-Flow使收敛速度提升约3倍,达到相同图像质量所需的训练步数减少至三分之一。
2. 地理情境先验对齐(GCPA):解决“语义对不对”
OAR-Flow保证了图像“像”,GCPA则确保地物类型“对”。
核心机制:
* 引入预训练的视觉基础模型(VFM),如DINOv3,提取深层语义特征(如建筑、植被的特征向量)。
* 构建地理情境完整性损失(GCI Loss),计算去云结果与真实无云图像在VFM特征空间中的余弦相似度,强制两者在语义层面保持一致。
关键设计:
用于GCPA的VFM与下游评测使用的编码器完全独立,确保评测公平性,避免“训练与测试同源”导致的偏差。
权重平衡:
总损失函数为OAR-Flow速度匹配损失与GCPA语义损失的加权和。消融实验表明,权重系数λ=0.5时,图像质量与下游任务精度达到最佳平衡。
三、 技术底座:Hourglass扩散变换器(HDiT)
GACR选用HDiT(Hourglass Diffusion Transformer)作为骨干网络,相比潜扩散模型,HDiT直接在像素空间重建,更适合需要精确像素级恢复的去云任务。
- 高效计算:GACR(patch size=2)计算量约为56.05 GFLOPs,远低于MPRNet(548.65 GFLOPs)和EMRDM(166.72 GFLOPs),实现了低算力下的高性能。
- Patch Size权衡:patch size=1虽能提升PSNR(约0.5-0.9 dB),但计算量增至4倍。综合考虑效率,主要实验采用patch size=2。
- 自适应投影器(ADP):负责将HDiT特征映射至VFM特征空间,以极小开销实现语义对齐。
- 锚定强度ρ:实验显示,ρ=3时PSNR最优(33.018 dB),过强锚定会限制厚云区的生成能力。
四、 全面评测:六大数据集,十二项下游任务
研究团队构建了目前去云领域规模最大、覆盖最广的评测体系:
1. 数据集
- 公开数据集:CUHKCR-EXT-GZ(薄云为主)和CUHKCR-EXT-CS(厚云为主),源自吉林一号卫星0.5米超高分辨率图像。
- 自建合成数据集:基于ISPRS Potsdam和Vaihingen,合成薄/厚云版本,确保云形可控且结构一致,实现严格对照。
2. 下游任务(12项)
涵盖四类任务,使用冻结参数的DINOv3作为视觉编码器:
* 土地覆盖分类(CLS):2个子任务
* 建筑提取(BLD):2个子任务
* 语义分割(SEG):4个子任务
* 高度估计(HE):4个子任务
评测逻辑:先用清晰图像训练下游网络,再将各方法去云结果直接输入固定网络,通过精度变化衡量去云质量,排除训练变量干扰。
3. 对比基线
涵盖CNN(MPRNet)、Transformer(Restormer, AST)、Mamba(MambaIR)、动态滤波(DFCFormer)及扩散模型(EMRDM)等主流方法。
五、 实验结果:数字背后的性能跃升
1. 图像重建质量
GACR在六个数据集上全面超越基线:
* CUHKCR-EXT-CS:GACR-SAT/1 PSNR达24.354 dB,优于最强基线EMRDM。
* 厚云场景(Vaihingen-CR-thick):GACR-SAT/1 PSNR达34.048 dB,比EMRDM(28.979 dB)提升约5.1 dB,验证了观测锚定在信息缺失时的巨大价值。
* SSIM指标:多个数据集达到0.990-0.991的极高水平。
2. 下游任务表现
- 土地覆盖分类:GACR-SAT/2准确率达0.833,比AST(0.813)提升2%。
- 建筑提取:IoU达0.710,超过EMRDM(0.696)。
- 语义分割:厚云场景下mIoU达0.699,比EMRDM(0.668)提升3.1%。
- 高度估计:RMSE降至2.014,远低于EMRDM(2.133),证明修复图像能更准确支持三维推断。
对比上/下界:GACR表现接近“清晰图像上界”,甚至在某些指标上超越“含云图像直接训练”的下界方法,证明高质量去云对下游任务的关键价值。
任务敏感性差异:
* 分类任务:对云干扰相对不敏感,因全局语义表示具有鲁棒性。
* 分割/高度估计:需逐像素准确,云遮挡导致显著精度损失,去云价值在此类密集预测任务中体现最明显。
3. 收敛速度与特征对齐
- 收敛加速:GACR相比EMRDM实现约5倍收敛加速,训练成本降至五分之一。
- 特征分布:GACR修复图像在VFM特征空间中与真实无云图像的重叠度最高,CKNNA指标亦为多数数据集最高,直观证明其语义保留能力。
六、 消融实验:验证每个设计的价值
- 模型结构:从DiT切换至HDiT大幅降低计算量;加入OAR-Flow进一步提升PSNR;加入GCPA后下游任务指标达最优。
- VFM鲁棒性:替换DINOv3为DINOv2、CLIP或MAE,均优于无GCPA基线,证明增益来自“语义对齐机制”本身,而非特定模型依赖。
- 权重λ:λ=0.5时整体最优。λ过小牺牲语义,λ过大干扰像素重建。
- 架构通用性:在ResNet-based和UNetFormer等异构下游架构上,GACR仍保持最优或次优,证明其语义增益不依赖特定下游模型。
七、 现实意义与局限
为什么这与我们有关?
去云技术虽属遥感专业领域,但直接影响日常生活:
* 灾害评估:洪灾面积评估与救援规划。
* 粮食安全:秋粮产量预测依赖农田监测。
* 环境监测:城市热岛、碳汇测算及非法采矿监测。
GACR将去云从“视觉修复”重新定位为“面向理解的修复”,其利用视觉基础模型约束生成过程的思路,可推广至图像恢复、压缩伪影消除等广泛领域。
局限与展望
- 场景限制:目前实验集中于城市场景,复杂地形(山地、湿地)及热带全覆盖云区域需进一步验证。
- 病态问题本质:厚云去云本质是病态问题(ill-posed),GACR旨在使重建结果符合地理统计规律,而非保证绝对唯一解。
资源获取:
* 论文:arXiv:2607.02471
* 代码:GitHub已公开,仓库名为GACR。
Q&A
Q1:去云技术对普通人有何意义?
A:虽然普通人不直接操作卫星,但去云是遥感分析的前提。全球60%-70%地表常被云覆盖,去云技术保障了洪灾评估、粮食预测、城市规划等关键应用的准确性,间接服务于公共安全与资源管理。
Q2:GACR与普通去云算法的核心区别?
A:普通算法仅追求像素级视觉指标(PSNR/SSIM),易产生“语义漂移”。GACR引入语义层面约束,通过DINOv3提供的地理情境先验,强制修复图像在深层语义特征上与真实无云图像对齐,确保“机器读得对”。
Q3:OAR-Flow为何能加速收敛?
A:传统扩散模型从纯噪声出发,轨迹长且方向不确定。OAR-Flow以含云观测图像为锚点,缩短了推理轨迹,使训练更新方向更明确。实验显示,单独使用OAR-Flow收敛速度提升3倍,结合GCPA后提升至5倍。
(责任编辑:综合)
-
ESPN:曼联一直在灵活调整引援计划,避免在竞购战中陷入慌乱
据ESPN独家报道,曼联今夏的引援蓝图经历了剧烈震荡与重构。尽管遭遇多重挫折,俱乐部管理层依然保持战略定力,预计在未来几周内仍将有重磅新援加盟。从“按部就班”到“灵活应变”曼联原本并未打算推翻今夏的既
...[详细]
-
对于熟悉华语电影美学的观众而言,夏永康的镜头语言早已深入人心。作为与王家卫长期合作的御用摄影师,他凭借诸多影史经典画面,共同构筑了王家卫独特的电影宇宙。此次创作中,夏永康鲜明的个人视觉风格贯穿始终,透
...[详细]
-
演员李阵郁有望出演由允儿领衔主演的新剧《非自然死亡》。据韩国经济网9日报道,李阵郁方面正就出演该剧进行积极磋商。《非自然死亡》是一部聚焦法医学领域的医疗悬疑剧,主要讲述法医们通过专业手段,揭开非自然死
...[详细]
-
全新奥迪RS Q5插混版路试曝光:640马力/2027年底上市
近日,一组全新奥迪RS Q5的工程测试车照片在阿尔卑斯山区被曝光。这款高性能车型将搭载由2.9升双涡轮增压V6发动机与电机组成的插电式混合动力系统,目前正处于实地路试阶段,官方计划于2027年底正式投 ...[详细]
-
沈阳一小区地下车库墙体暴雨中坍塌,露出大量生活垃圾引发业主质疑;物业称墙体为空心砖,垃圾系前期填埋
受持续暴雨侵袭,辽宁省沈阳市铁西区荣盛和悦名邸小区地下停车场发生严重墙体坍塌事故。坍塌处不仅露出巨大窟窿,更暴露出墙体背后掩埋的大量生活垃圾,引发业主对工程质量的强烈质疑。目前,当地住建部门已介入勘查
...[详细]
-
离巢者终成对手。告别东方甄选不足一年,前CEO孙东旭联合头部主播石明明明)、郭天权天权)成立新公司,正式进军直播带货领域。7月13日,新东方创始人、东方甄选CEO俞敏洪对此事作出回应,表示不担心竞争,
...[详细]
-
雷达财经讯据最新媒体报道,赵本山之女赵珈萱网名“球球”)在近期直播中透露,其父赵本山已彻底告别演艺圈,不再参与任何演艺活动。目前,赵本山身体状况良好,精神饱满,长期定居于海南三亚享受退休生活。尽管赵本
...[详细]
-
由台湾车友购入的“张雪机车”820RR,近日在台湾重型机车展上惊艳亮相。这座被誉为“机车之岛”的地方,因这款来自大陆的硬核机车而掀起热潮,引发广泛关注。技术惊叹与期待面对大陆机车技术的飞速迭代,台湾观 ...[详细]
-
克里斯托弗·诺兰继《奥本海默》后推出的史诗巨制《奥德赛》,改编自荷马同名古典文学经典。影片由马特·达蒙领衔主演,饰演那位历经二十年漂泊归来的希腊英雄奥德修斯。然而,影片上映后引发最大争议的焦点,在于肯
...[详细]
-
纯粹热爱,阿根廷南极科考站员工在漫天风雪中庆祝球队晋级世界杯决赛
当地时间7月15日,阿根廷队长梅西率队在世界盃半决赛中以2-1逆转英格兰,连续两届闯入决赛,这一历史性时刻在南极大陆同样引发了热烈反响。在遥远的阿根廷南极科考基地,欢呼声穿透了凛冽的寒风。当地工作人员
...[详细]
- 赖清德对大陆放狠话,台媒:大陆正准备对台岛采取“隔离”战略
- 明略科技WebRetriever全球挑战赛报名开启,15000美元奖池等你来赢!
- 突传大消息!内塔尼亚胡将访美,特朗普紧急开会:考虑对伊朗“毁灭性打击”
- 中国女篮单节23-9领先,3节胜拉脱维亚28分,晋级8强有望
- 美国国家公路交通安全管理局:丰田将在美召回5400辆汽车
- 当28岁侯明昊遇上18岁艾米,我才终于明白,为何说CP感是门玄学
- 昆凌发文为大女儿海瑟薇庆生:曾经的小女孩已长成暖心大姐姐
- 台积电直线大跳水,刚刚发布,猛增超77%
- “请愿将阿根廷逐出世界杯人数已超500万”冲上热搜,阿根廷主帅曾回应:绝不存在任何偏袒,VAR时代偏袒“难如登天”
- 人大附、十二中双名校落地在即,园博园这个“尖子生”红盘藏不住了!

创新药,大面积涨停
媒体人:山东求购王岚嵚暂无进展,辽宁不满同曦补偿金数额
单价过万、复购超3次,男人的玩具生意,到底多暴利?
韩国首档AI生成悬疑综艺上线,Faker领衔多领域明星展开沉浸式心理博弈
