TeslaK提供深度学习框架基准测试平台

第３８卷第５期 计算机应用与软件Ｖｏｌ ３８Ｎｏ．５２０２１年５月 ＣｏｍｐｕｔｅｒＡｐｐｌｉｃａｔｉｏｎｓａｎｄＳｏｆｔｗａｒｅＭａｙ２０２１基于ＩｎｄｙＬＳＴＭ的锂电池充电剩余时间预测杜京义　刘　鑫　柳庆莉　王佳程（西安科技大学电气与控制工程学院　陕西西安７１００５４）收稿日期：２０１９－０８－１３。

杜京义，教授，主研领域：故障诊断，安全生产与监测，智能控制。

刘鑫，硕士。

柳庆莉，硕士。

王佳程，硕士。

摘　要 传统模型在锂电池充电剩余时间预测中的泛化能力受到一定约束。

针对此问题，提出一种基于独立长短期记忆循环神经网络（ＩｎｄｙＬＳＴＭ）的锂电池充电剩余时间预测方法。

通过对锂电池充电过程数据的分析，利用ＩｎｄｙＬＳＴＭ在处理序列化数据时可以长期记忆历史数据的优势，对充电剩余时间进行预测。

采用美国国家航空航天局（ＮＡＳＡ）公开的电池数据，与常规的ＬＳＴＭ和ＳＶＲ模型进行实验对比，ＩｎｄｙＬＳＴＭ预测结果在准确性和稳定性方面表现更好。

关键词 ＩｎｄｙＬＳＴＭ　锂电池　充电剩余时间　ＬＳＴＭ　ＳＶＲ中图分类号　ＴＰ１８３ 文献标志码　Ａ ＤＯＩ：１０．３９６９／ｊ．ｉｓｓｎ．１０００ ３８６ｘ．２０２１．０５．０１８ＰＲＥＤＩＣＴＩＯＮＯＦＲＥＭＡＩＮＩＮＧＴＩＭＥＯＦＬＩＴＨＩＵＭＢＡＴＴＥＲＹＣＨＡＲＧＩＮＧＢＡＳＥＤＯＮＩＮＤＹＬＳＴＭＤｕＪｉｎｇｙｉ　ＬｉｕＸｉｎ　ＬｉｕＱｉｎｇｌｉ　ＷａｎｇＪｉａｃｈｅｎｇ（ＳｃｈｏｏｌｏｆＥｌｅｃｔｒｉｃａｌａｎｄＣｏｎｔｒｏｌＥｎｇｉｎｅｅｒｉｎｇ，Ｘｉ’ａｎＵｎｉｖｅｒｓｉｔｙｏｆＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，Ｘｉ’ａｎ７１００５４，Ｓｈａａｎｘｉ，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ Ｔｈｅｔｒａｄｉｔｉｏｎａｌｍｏｄｅｌｈａｓａｃｅｒｔａｉｎｃｏｎｓｔｒａｉｎｔｏｎｔｈｅｇｅｎｅｒａｌｉｚａｔｉｏｎａｂｉｌｉｔｙｏｆｌｉｔｈｉｕｍｂａｔｔｅｒｙｃｈａｒｇｉｎｇｒｅｍａｉｎｉｎｇｔｉｍｅｐｒｅｄｉｃｔｉｏｎ．Ａｉｍｉｎｇａｔｔｈｉｓｐｒｏｂｌｅｍ，ａｍｅｔｈｏｄｆｏｒｐｒｅｄｉｃｔｉｎｇｔｈｅｒｅｍａｉｎｉｎｇｔｉｍｅｏｆｌｉｔｈｉｕｍｂａｔｔｅｒｙｃｈａｒｇｉｎｇｂａｓｅｄｏｎｉｎｄｅｐｅｎｄｅｎｔｌｏｎｇ ｔｅｒｍａｎｄｓｈｏｒｔ ｔｅｒｍｍｅｍｏｒｙｃｙｃｌｅｎｅｕｒａｌｎｅｔｗｏｒｋ（ＩｎｄｙＬＳＴＭ）ｉｓｐｒｏｐｏｓｅｄ．Ｂｙａｎａｌｙｚｉｎｇｔｈｅｄａｔａｏｆｔｈｅｃｈａｒｇｉｎｇｐｒｏｃｅｓｓｏｆｔｈｅｌｉｔｈｉｕｍｂａｔｔｅｒｙ，ｔｈｅｍｅｔｈｏｄｕｓｅｄＩｎｄｙＬＳＴＭｔｏｐｒｅｄｉｃｔｔｈｅａｄｖａｎｔａｇｅｏｆｔｈｅｈｉｓｔｏｒｉｃａｌｄａｔａｗｈｅｎｐｒｏｃｅｓｓｉｎｇｔｈｅｓｅｒｉａｌｉｚｅｄｄａｔａ，ａｎｄｉｔｐｒｅｄｉｃｔｅｄｔｈｅｒｅｍａｉｎｉｎｇｔｉｍｅｏｆｃｈａｒｇｉｎｇ．ＵｓｉｎｇｔｈｅｂａｔｔｅｒｙｄａｔａｐｕｂｌｉｓｈｅｄｂｙｔｈｅＮａｔｉｏｎａｌＡｅｒｏｎａｕｔｉｃｓａｎｄＳｐａｃｅＡｄｍｉｎｉｓｔｒａｔｉｏｎ（ＮＡＳＡ），ｃｏｍｐａｒｅｄｗｉｔｈｔｈｅｃｏｎｖｅｎｔｉｏｎａｌＬＳＴＭａｎｄＳＶＲｍｏｄｅｌｓ，ｔｈｅＩｎｄｙＬＳＴＭｐｒｅｄｉｃｔｉｏｎｓｐｅｒｆｏｒｍｅｄｂｅｔｔｅｒｉｎｔｅｒｍｓｏｆｐｒｅｄｉｃｔｉｏｎａｃｃｕｒａｃｙａｎｄｓｔａｂｉｌｉｔｙ．Ｋｅｙｗｏｒｄｓ ＩｎｄｙＬＳＴＭ　Ｌｉｔｈｉｕｍｂａｔｔｅｒｙ　Ｃｈａｒｇｅｒｅｍａｉｎｉｎｇｔｉｍｅ　ＬＳＴＭ　ＳＶＲ０　引　言锂电池由于具备循环使用寿命长、无记忆效应、能量密度高、自放电率低和高性价比等优势，已被广泛应用于工业、日常生活等领域［１］。

《大模型时代的基础架构：大模型算力中心建设指南》阅读札记目录一、内容描述 (2)二、大模型时代的背景与发展趋势 (3)三、基础架构的重要性 (4)四、大模型算力中心建设指南 (6)4.1 总体架构设计 (8)4.2 硬件设备选型与配置 (9)4.3 软件系统架构规划 (10)4.4 数据存储与处理方案 (12)五、算力中心的实施与优化 (14)5.1 实施步骤与方法 (15)5.2 优化策略与措施 (16)六、案例分析与学习 (17)6.1 成功案例分享 (18)6.2 经验教训总结 (19)七、大模型算力中心的挑战与对策 (21)7.1 技术挑战与解决方案 (22)7.2 管理挑战与对策建议 (24)八、未来发展趋势与展望 (26)8.1 技术发展趋势预测 (28)8.2 行业应用前景展望 (29)九、结语 (30)一、内容描述在当今数字化浪潮中，大模型算力中心已成为推动人工智能、云计算、大数据等技术领域飞速发展的核心驱动力。

当我们将目光投向这个领域的建设与应用时，不禁要思考：如何构建一个高效、稳定且具备可扩展性的算力中心？《大模型时代的基础架构：大模型算力中心建设指南》一书为我们提供了宝贵的参考与启示。

书中开篇即对大模型算力中心的建设理念进行了深入剖析，大模型算力中心不仅仅是一个技术系统的堆砌，更是一个复杂的多维度、多层次的网络结构。

在这个体系中，数据传输、计算资源管理、存储设备、网络带宽等多个环节相互依存，共同构成了一个高效运转的整体。

在内容描述部分，作者详细阐述了算力中心的核心组件及其功能。

从高性能计算机的序列式排列到分布式存储系统的并行处理机制，再到智能化的能源管理系统，每一个细节都体现了作者对大模型算力中心建设的深刻理解与独到见解。

书中还结合了大量实际案例和最新技术动态，帮助读者更好地理解这些组件的工作原理和应用场景。

值得一提的是，作者在书中提出的“弹性扩展”理念令人印象深刻。

随着人工智能技术的不断进步和应用场景的日益丰富，算力中心需要能够灵活应对各种变化与挑战。

HPC 及深度學習應用APR 2017TESLA P100 效能指南現代的高效運算（HPC）資料中心是解決部分全球最重要之科學與工程挑戰的關鍵。

NVIDIA® Tesla®加速運算平台利用領先業界的應用程式支援這些現代化資料中心，促進 HPC 與 AI 工作負載。

Tesla P100 GPU 是現代資料中心的引擎，能以更少的伺服器展現突破性效能，進而實現更快的解析能力，並大幅降低成本。

每一個 HPC 資料中心都能自 Tesla 平台獲益。

在廣泛的領域中有超過 400 個HPC 應用程式，採用 GPU 最佳化，包括所有前 10 大 HPC 應用程式和各種主要深度學習架構。

採用加速 GPU 應用程式的研究領域包括：超過 400 個 HPC 應用及所有深度學習架構皆是採用加速 GPU。

>若想要取得最新 GPU 加速應用目錄，請造訪：/teslaapps>若想要立即在 GPU 上使用簡易指示，快速執行廣泛的加速應用，請造訪：/gpu-ready-apps分子動力（MD）代表 HPC 資料中心的大部分工作負載。

100% 頂尖 MD 應用皆是採用 GPU 加速，以使科學家能進行從前僅有 CPU 版本之傳統應用項目無法執行的模擬工作。

在執行 MD 應用時，配備 Tesla P100 GPU 的資料中心可節省高達 60% 的伺服器取得成本。

TESLA 平台及適用 MD 的 P100 的關鍵功能>搭載 P100 的伺服器，最多可取代 40 部適用 HOOMD-Blue、LAMMPS、AMBER、GROMACS 和 NAMD 等應用的 CPU 伺服器>100% 頂尖 MD 應用項目皆採用加速 GPU>FFT 和 BLAS 等關鍵數學程式庫>每一個 GPU 之單精度效能高達每秒 11 TFLOPS>每一個 GPU 之記憶體頻寬高達每秒 732 GB檢視所有相關的應用項目：/molecular-dynamics-appsHOOMD-BLUE循序寫入 GPU 的粒子動力封裝版本1.3.3加速功能CPU 和 GPU 可用版本延展性多 GPU 和多節點更多資訊/hoomd-blueLAMMPS典型粒子動力封裝版本2016加速功能Lennard-Jones、Gay-Berne、Tersoff 更多勢能延展性多 GPU 和多節點更多資訊/lammpsGROMACS模擬含複雜連結互動的生物模型分子版本5.1.2加速功能PME ，顯性與隱性溶劑延展性多 GPU 和多節點擴展至 4xP100更多資訊/gromacs黃色在生物分子上模擬分子動力的程式套件版本16.3加速功能PMEMD 顯性溶劑和 GB 、顯性及隱性溶劑、REMD 、aMD延展性多 GPU 和多節點更多資訊/amberNAMD專為高效模擬大分子系統而設計版本2.11加速功能PME 全靜電和眾多模擬功能延展性高達 100M 原子，多 GPU，擴展為 2xP100更多資訊/namd量子化學（QC）模擬是探索新藥物與原料的關鍵，且會耗費大部分 HPC 資料中心的工作負載。

基于改进的YOLO v5s目标实时检测方法作者：李乐阳张维忠来源：《青岛大学学报（工程技术版）》2023年第04期摘要：針对包裹单件分离领域存在的包裹识别不准确、实时性差及效率低等问题，本文提出一种基于改进的YOLO v5s算法的包裹检测模型。

将RepVGG模块融入特征提取网络，降低网络参数的计算量，将损失函数CIOU优化为SIOU，引入真实框和预测框之间的向量角度，提升模型准确性。

实验结果表明，在包裹检测任务中，该模型的准确率可达到95.2%，召回率达到90.3%，检测速度达到136.9帧每秒（frames per second，FPS），可实时精确地检测传送带上的各类包裹，包括检测难度较大的异形件，能够满足实际需求。

该研究具有一定的实际应用价值。

关键词：YOLO v5s；快递包裹检测；目标检测；单件分离中图分类号：TP391.4文献标识码：A收稿日期：2023-06-13；修回日期：2023-10-30基金项目：市级专项扶持资金（202001PTXM14）作者简介：李乐阳（1996-），女，硕士研究生，主要研究方向为计算机视觉。

通信作者：张维忠（1963-），男，教授，硕士生导师，主要研究方向为计算机视觉，人工智能与大数据等。

Email：*********************近年来，电商平台带动了快递行业的高速发展，传统的包裹分离逐渐从人力分拣过渡到使用智能算法自动化处理，不仅提高了物流效率，还减少了人力资源的需求，降低了成本。

在包裹分离领域，德国西门子公司设计了单件分离系统[1]，该系统由包裹检测模块和传送带控制模块组成，采用基于视觉的包裹检测方法，计算包裹在传送带上的位置，通过启动传送带进行分离，可方便地应用于自动化包裹分拣生产线上，但实时性较差，不能满足实际应用的需求。

杨赛[2]参照西门子系统，利用RGB-D相机，使用连通区域标记法对深度图像进行包裹分割，此方法效率较高，但错误分割的概率较大；海康威视开发了基于RGB-D相机与深度学习技术的包裹单件分离设备，将包裹定位分割算法整合到相机内部，完成包裹定位与分割的计算过程，但存在单个相机成本较高、分离不理想的情况。

第１３卷㊀第１０期Ｖｏｌ．１３Ｎｏ．１０㊀㊀智㊀能㊀计㊀算㊀机㊀与㊀应㊀用ＩｎｔｅｌｌｉｇｅｎｔＣｏｍｐｕｔｅｒａｎｄＡｐｐｌｉｃａｔｉｏｎｓ㊀㊀２０２３年１０月㊀Ｏｃｔ．２０２３㊀㊀㊀㊀㊀㊀文章编号：２０９５－２１６３（２０２３）１０－００８３－０５中图分类号：ＴＰ３９１文献标志码：Ａ基于ＹＯＬＯｖ５的高分辨率遥感图像目标检测算法李在瑞，郑永果，东野长磊（山东科技大学计算机科学与工程学院，山东青岛２６６５９０）摘㊀要：针对高分辨率遥感图像中物体排布密集㊁尺度变化较大等特性，提出一种目标检测算法Ｒ－ＹＯＬＯｖ５㊂算法在ＹＯＬＯｖ５模型基础上首先将跨阶段局部扩张结构作用于主干网络，采用一种加强的特征提取方式，通过整合空洞卷积和密集连接，来缓解模型对密集分布目标的漏检问题；其次，在主干网络的瓶颈部分结合Ｔｒａｎｓｆｏｒｍｅｒ模块来增强特征的表达，突出目标区域；最后，引入多尺度特征融合模块，解决多尺度特征融合时存在的不一致性问题，以提高模型的检测效果㊂在公开的遥感图像检测数据集ＤＩＯＲ的实验结果表明，Ｒ－ＹＯＬＯｖ５算法平均精度均值（ｍＡＰ）达到８０．６％，具有良好的检测性能㊂关键词：遥感图像；目标检测；分布密集；ＹＯＬＯ；空洞卷积ＯｂｊｅｃｔｄｅｔｅｃｔｉｏｎａｌｇｏｒｉｔｈｍｆｏｒｈｉｇｈｒｅｓｏｌｕｔｉｏｎｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｂａｓｅｄｏｎＹＯＬＯｖ５ＬＩＺａｉｒｕｉ，ＺＨＥＮＧＹｏｎｇｇｕｏ，ＤＯＮＧＹＥＣｈａｎｇｌｅｉ（ＣｏｌｌｅｇｅｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅａｎｄＥｎｇｉｎｅｅｒｉｎｇ，ＳｈａｎｄｏｎｇＵｎｉｖｅｒｓｉｔｙｏｆＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＱｉｎｇｄａｏＳｈａｎｄｏｎｇ２６６５９０，Ｃｈｉｎａ）ʌＡｂｓｔｒａｃｔɔＡｉｍｉｎｇａｔｔｈｅｃｈａｒａｃｔｅｒｉｓｔｉｃｓｏｆｄｅｎｓｅｄｉｓｔｒｉｂｕｔｉｏｎａｎｄｌａｒｇｅｓｃａｌｅｖａｒｉａｔｉｏｎｏｆｏｂｊｅｃｔｓｉｎｈｉｇｈ－ｒｅｓｏｌｕｔｉｏｎｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｓ，ａｎｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎａｌｇｏｒｉｔｈｍＲ－ＹＯＬＯｖ５ｉｓｐｒｏｐｏｓｅｄ．ＯｎｔｈｅｂａｓｉｓｏｆＹＯＬＯｖ５ｍｏｄｅｌ，ｔｈｅａｌｇｏｒｉｔｈｍｆｉｒｓｔｌｙｉｎｔｒｏｄｕｃｅｓＣｒｏｓｓＳｔａｇｅＰａｒｔｉａｌＤｉｌａｔｅｄＮｅｔｗｏｒｋｉｎｔｈｅｂａｃｋｂｏｎｅｎｅｔｗｏｒｋ，ｗｈｉｃｈａｄｏｐｔｓａｎｅｎｈａｎｃｅｄｆｅａｔｕｒｅｅｘｔｒａｃｔｉｏｎｍｅｔｈｏｄｔｏａｌｌｅｖｉａｔｅｔｈｅｐｒｏｂｌｅｍｏｆｕｎｄｅｔｅｃｔｅｄｄｅｎｓｅｄｉｓｔｒｉｂｕｔｅｄｔａｒｇｅｔｓｂｙｉｎｔｅｇｒａｔｉｎｇｄｉｌａｔｅｄｃｏｎｖｏｌｕｔｉｏｎａｎｄｄｅｎｓｅｃｏｎｎｅｃｔｉｏｎ．Ｓｅｃｏｎｄｌｙ，ｉｎｔｈｅｂｏｔｔｌｅｎｅｃｋｐａｒｔｏｆｔｈｅｂａｃｋｂｏｎｅｎｅｔｗｏｒｋ，ｔｈｅＴｒａｎｓｆｏｒｍｅｒｍｏｄｕｌｅｉｓｃｏｍｂｉｎｅｄｔｏｅｎｈａｎｃｅｔｈｅｅｘｐｒｅｓｓｉｏｎｏｆｆｅａｔｕｒｅｓａｎｄｈｉｇｈｌｉｇｈｔｔｈｅｔａｒｇｅｔａｒｅａ．Ｆｉｎａｌｌｙ，ｍｕｌｔｉ－ｓｃａｌｅｆｅａｔｕｒｅｆｕｓｉｏｎｍｏｄｕｌｅｉｓｉｎｔｒｏｄｕｃｅｄｔｏｓｏｌｖｅｔｈｅｉｎｃｏｎｓｉｓｔｅｎｃｙｐｒｏｂｌｅｍｉｎｍｕｌｔｉ－ｓｃａｌｅｆｅａｔｕｒｅｆｕｓｉｏｎｔｏｉｍｐｒｏｖｅｔｈｅｄｅｔｅｃｔｉｏｎｅｆｆｅｃｔｏｆｔｈｅｍｏｄｅｌ．ＴｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｏｎｐｕｂｌｉｃｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｄｅｔｅｃｔｉｏｎｄａｔａｓｅｔＤＩＯＲｓｈｏｗｔｈａｔｔｈｅＭＡＰｏｆＲ－ＹＯＬＯｖ５ｒｅａｃｈｅｓ８０．６％，ｗｈｉｃｈｈａｓｇｏｏｄｄｅｔｅｃｔｉｏｎｐｅｒｆｏｒｍａｎｃｅ．ʌＫｅｙｗｏｒｄｓɔｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅ；ｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎ；ｄｅｎｓｅｄｉｓｔｒｉｂｕｔｉｏｎ；ＹＯＬＯ；ｄｉｌａｔｅｄｃｏｎｖｏｌｕｔｉｏｎ作者简介：李在瑞（１９９８－），男，硕士研究生，主要研究方向：计算机视觉；郑永果（１９６３－），男，博士，教授，主要研究方向：虚拟现实与可视化㊁图像处理与模式识别；东野长磊（１９７８－），男，博士，副教授，主要研究方向：医学图像处理㊁计算机视觉㊂通讯作者：郑永果㊀㊀Ｅｍａｉｌ：ｓｋｄ９９１３１７＠ｓｄｕｓｔ．ｅｄｕ．ｃｎ收稿日期：２０２２－１１－０５０㊀引㊀言近些年，随着卫星及遥感技术的发展，遥感图像的目标检测在城市规划㊁灾情救援㊁车辆监控等各种实际应用中起到了至关重要的作用［１］㊂深度学习技术的迅速发展，使得目标检测有了重大突破，许多高性能的神经网络算法被提出［２］㊂目前，基于深度学习的目标检测算法可以大致分为二阶段算法和一阶段算法两类，二阶段算法专注于提升模型对目标的检测精度，一阶段方法则在追求精度的基础上又兼顾了检测速度㊂二阶段算法的经典模型是ＦａｓｔＲ－ＣＮＮ［３］，其使用ＲｅｇｉｏｎＰｒｏｐｏｓａｌＮｅｔｗｏｒｋ（ＲＰＮ）来选择对象的候选边界框，随后又进一步筛选出较为准确的目标区域㊂特征金字塔网络（ＦＰＮ）［４］使用类似金字塔的结构来学习不同尺度的特征㊂Ｔｒｉｄｅｎｔｎｅｔ［５］通过引入扩展卷积来改变大小最佳的感受野，并基于不同大小的感受野构造多分支结构，从而解决多尺度检测问题㊂一阶段模型中，ＳＳＤ［６］增加了多个卷积层，以获得多尺度特征图进行预测，并设计不同大小的先验边界框以更好地检测目标㊂ＹＯＬＯｖ４［７］采用了更为高效的ｃｓｐ－ｄａｒｋｎｅｔ作为主干网络并设计多尺度预测㊂ＴＰＨ－ＹＯＬＯｖ５［８］则将Ｔｒａｎｓｆｏｒｍｅｒ与网络相结合，增强模型提取特征的能力㊂以上算法虽然在识别自然图像时都表现出了良好的效果，但由于遥感图像存在背景复杂㊁目标尺度变化范围大㊁物体分布密集等检测难题［９］，通用目标检测算法对高分辨率遥感图像的检测具有很大的局限性［１０］㊂为解决上述问题，本文基于ＹＯＬＯｖ５框架，提出特征信息补充与加强以及多尺度融合的方法，以增强模型的检测能力㊂１㊀相关工作１．１㊀ＹＯＬＯｖ５模型随着ＹＯＬＯ系列网络的提出，其在各种视觉检测任务中展现了出色的性能㊂其中，ＹＯＬＯｖ５主干网络是由Ｆｏｃｕｓ模块㊁ＣＳＰ结构以及ＳＰＰ模块组合而成㊂Ｆｏｃｕｓ模型会对图片进行切片操作，在宽和高两个维度上每隔一个像素取一个值，从而使特征图的通道数变为原来的４倍，能够在最大程度减少信息损失的同时实现两倍下采样㊂ＹＯＬＯｖ５在ＣＳＰＮｅｔ［１１］的基础上重新设计ｃｓｐ结构，并在原本的ｄａｒｋｎｅｔ网络中大量插入该结构㊂ｓｐｐ模块对特征图做不同大小的池化操作，从而在原特征图的基础上融合不同感受野，丰富上下文信息［１２］㊂ＹＯＬＯｖ５在Ｎｉｃｋ部分结构参考了ＦＰＮ和ＰＡＮ㊂首先，设计自顶向下路径来融合网络中不同层次的特征，将包含丰富语义信息的深层特征向下传递与浅层结合，能够提高模型对多尺度目标的检测能力；后又增加自底向上的金字塔结构，把浅层特征映射到深层网络，补充检测目标的细节及空间信息，进一步提升模型的检测效果㊂同时，在ｎｉｃｋ部分应用ｃｓｐ２＿ｘ结构，使用Ｘ个卷积模块替代残差单元㊂Ｈｅａｄ部分则对图片进行预测与分类，ＹＯＬＯｖ５设计３种尺寸的特征图来检测大中小不同种类的目标，最后通过非极大值抑制来筛选预测框，实现检测过程㊂１．２㊀Ｔｒａｎｓｆｏｒｍｅｒ模块Ｔｒａｎｓｆｏｒｍｅｒ模块早先广泛应用于ＮＬＰ领域，通过自注意力机制来捕获序列元素之间的依赖关系，在可并行性和特征提取方面展现了出色的性能［１３］㊂近些年来，许多计算机视觉的学者开始将其作用于图像相关的研究上㊂Ｐａｒｍａｒ等人提出ＩｍａｇｅＴｒａｎｓｆｏｒｍｅｒ［１４］算法，基于Ｔｒａｎｓｆｏｒｍｅｒ解码器用于图像生成任务；随后ＶｉｓｉｏｎＴｒａｎｓｆｏｒｍｅｒ［１５］被提出，并首次在大型图像数据集上展现出超越卷积网络的性能，在图像分类方面具有较强的泛化能力；ＳｗｉｎＴｒａｎｓｆｏｒｍｅｒ［１６］则采用移动窗口的机制来计算注意力，有效解决了传统Ｔｒａｎｓｆｏｒｍｅｒ模块中计算复杂度较高的问题，并通过不同窗口之间的特征交互提取到更为丰富的语义信息㊂Ｔｒａｎｓｆｏｒｍｅｒ由编码器和解码器两部分组成，基本原理是通过将图片展开成一维，得到图像特征张量，输入到编码器部分使用多头自注意力学习目标特征，增强图像中目标的语义信息，再利用解码器与解码器协同训练，学习注意力规律来强化目标和特征之间的关联关系，进而提升检测效果㊂２㊀Ｒ－ＹＯＬＯｖ５遥感图像目标检测算法Ｒ－ＹＯＬＯｖ５目标检测算法结构如图１所示㊂首先，在ＹＯＬＯｖ５的主干网络ＣＳＰＤａｒｋＮｅｔ中使用跨阶段局部扩张结构，替代原本的跨阶段局部网络结构；其次，在主干网络的输出特征图瓶颈部分结合Ｔｒａｎｓｆｏｒｍｅｒ模块中的编码器；最后，在原本的Ｎｉｃｋ部分嵌入多尺度特征融合模块㊂S P PT R -B o t t l e n e c k C S P D 1_3C S P 1_1C o n vF o c u sT R -B o t t l e n e c k C S P D 1_3S P PC S PD 2_1C o n c a tC o n c a tC o n vC S PD 2_1C o n c a tC S PD 2_1C o n vT R -B o t t l e n e c kC S PD 2_1C S P D 2_1C o n c a tM S FC a tM a x p o o lM a x p o o l M a x p o o lP r e d i t i o nM S FC o n vC o n v C o n vC a tS o f t M a xC o n v C o n vC a tC a tC o n vC o n v2*C o n v6?D i l a t e d C o n vC S PD 1_XC S PD 2_X X *C o n v6?D i l a t e dC o n vX 个残差单元图１㊀Ｒ－ＹＯＬＯｖ５算法结构Ｆｉｇ．１㊀Ｒ－ＹＯＬＯｖ５ａｌｇｏｒｉｔｈｍｓｔｒｕｃｔｕｒｅ４８智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１３卷㊀２．１㊀跨阶段局部扩张结构跨阶段局部网络结构（ＣｒｏｓｓＳｔａｇｅＰａｒｔｉａｌＳｔｒｕｃｔｕｒｅ，ＣＳＰ）被大量应用到ＹＯＬＯｖ４的主干网络，ＹＯＬＯｖ５又在ｖ４的基础上将其与ｎｉｃｋ部分结合㊂ＣＳＰ结构包括两个分支：一是将输入特征图进行Ｘ个残差单元的卷积操作，另一部分进行简单的３∗３卷积计算特征后，与上一分支结合㊂ＣＳＰ结构能够增强网络的特征提取能力，使模型获取到更为丰富的语义信息㊂针对遥感图像中检测目标尺度变化较大，物体分布密集的特性，对ＣＳＰ结构进行改进，提出跨阶段局部扩张结构（ＣｒｏｓｓＳｔａｇｅＰａｒｔｉａｌＤｉｌａｔｅｄＳｔｒｕｃｔｕｒｅ，ＣＳＰＤ），如图２所示㊂首先，保持残差单元分支不变，在另一分支中使用６个连续的扩张卷积，扩张率分别为３㊁６㊁１２㊁１８㊁２４，来获取同一特征图的不同感受野，从而覆盖遥感图像中各种不同尺度的检测对象㊂其次，当图像中目标分布较为紧密时，使用扩张卷积会丢失特征信息，为了避免检测对象的漏检现象，在连续的６个扩张卷积基础上采用密集连接结构，将原特征图与每层的卷积分别做逐个元素的加操作，从而加强特征的传播，丰富语义信息㊂X 个残差单元C o n c a tD =3D =6D =12D =18D=24图２㊀跨阶段局部扩张模块结构图Ｆｉｇ．２㊀ＣｒｏｓｓＳｔａｇｅＰａｒｔｉａｌＤｉｌａｔｅｄｍｏｄｕｌｅ２．２㊀瓶颈Ｔｒａｎｓｆｏｒｍｅｒ结构ＹＯＬＯｖ５主干网络分别输出３个不同层次大小的特征图，作为后续多尺度特征融合部分的输入㊂将主干网络中负责输出特征图的瓶颈（Ｂｏｔｔｌｅｎｅｃｋ）部分与Ｔｒａｎｓｆｏｒｍｅｒ模块中的编码器相结合（如图３所示），提出瓶颈Ｔｒａｎｓｆｏｒｍｅｒ结构（ＴＲ－Ｂｏｔｔｌｅｎｅｃｋ），提高模型对语义信息的提取能力，丰富图像全局信息，抑制背景对目标识别的影响㊂首先，将图片做切分并降低维度，即将原本Ｈ∗Ｗ∗Ｃ的图像变为Ｎ∗（Ｐ２∗Ｃ）的Ｔｏｋｅｎｓ，其中Ｎ＝ＨＷ∗Ｐ２；随后输入Ｅｎｃｏｄｅｒ中的多头注意力机制，进一步做特征提取，如式（１）所示：ＡｔｔｅｎＱ，Ｋ，Ｖ()＝ｓｏｆｔｍａｘＱＫＴ㊀ｄｋæèçöø÷Ｖ（１）式中：Ｑ㊁Ｋ㊁Ｖ分别为输入多头注意力的查询向量㊁键向量㊁值向量，ｄｋ代表特征维度㊂将查询向量与键向量相乘后，经过ｓｏｆｔｍａｘ激活函数并归一化处理，再与Ｖ相乘加权，得到输出结果㊂最后输入由两个全连接层及激活函数组成的ＭＬＰ（前馈神经网络）得到整个Ｔｒａｎｓｆｏｒｍｅｒ模块的输出特征，并与Ｂｏｔｔｌｅｎｃｋ结构的特征信息结合㊂T R -B o t t l e n e c kM u l t i -H e a dA t t e n t i o nC o n v C o n v C o n vC o n vC o n vB nR e L U*2C o n c a tT r a n s f o r m e r M L P图３㊀瓶颈Ｔｒａｎｓｆｏｒｍｅｒ模块结构图Ｆｉｇ．３㊀Ｔｒａｎｓｆｏｒｍｅｒｂｏｔｔｌｅｎｅｃｋｍｏｄｕｌｅ２．３㊀多尺度特征融合模块ＹＯＬＯｖ５输出的３种尺寸的特征图，分别对应大中小不同的检测对象，高层语义信息中检测大目标，低层语义信息中检测小目标，而遥感图像中往往既有大目标又有小目标㊂特征融合时，由于不同层间特征的不一致性，将会影响最后的检测结果㊂为了缓解上述问题，更好的让网络利用高低层语义信息，在ｎｉｃｋ部分的最后，嵌入多尺度特征融合模块（ＭｕｌｔｉＳｃａｌｅＦｅａｔｕｒｅＦｕｓｉｏｎＭｏｄｕｌｅ，ＭＳＦ），如图４所示㊂S o f t M a x压缩压缩压缩图４㊀多尺度特征融合模块结构图Ｆｉｇ．４㊀Ｍｕｌｔｉ－ｓｃａｌｅｆｅａｔｕｒｅｆｕｓｉｏｎｍｏｄｕｌｅ㊀㊀首先将３种尺寸的特征图进行采样操作，调整到同一尺寸；再根据通道维度整合并接入ＳｏｆｔＭａｘ函数生成权重参数；最后３层特征分别乘上各自的权重参数，得到融合后的特征，表达如式（２）所示：ｆ＝ð３ｉ＝１ＳｏｆｔＭａｘ（ｃａｔ（ｘ１ｘ２ｘ３）） ｘｉ（２）式中：ｘ１㊁ｘ２㊁ｘ３分别为３种尺寸的特征图，ｃａｔ表示对特征图做通道维度的整合， 表示点乘操作，ｆ则为最终的输出特征㊂５８第１０期李在瑞，等：基于ｙｏｌｏｖ５的高分辨率遥感图像目标检测算法３㊀实验３．１㊀实验环境与数据集实验在ｌｉｎｕｘ系统下进行，所用ＧＰＵ为ＴｅｓｌａＰ１００，显存１６Ｇ，深度学习框架为ｐｙｔｏｒｃｈ㊂实验所用遥感数据集为ＤＩＯＲ，其中包括２３４６３张图像，训练与测试各取一半的样本㊂３．２㊀评价指标实验采用平均精度均值（ｍＡＰ）㊁平均精确率（ＡＰ）作为评估指标，ＡＰ和ｍＡＰ是可以反映多类别目标全局检测精度的指标在文献中被广泛用于评估多类别目标检测性能表达如式（２）㊁（３）所示：ＡＰ＝ʏ１０ｐＲ()ｄＲ（３）ｍＡＰ＝１ＮðｉＡＰｉ（４）㊀㊀其中，平均精度ＡＰ表示的是计算单类目标Ｐ－Ｒ曲线下面积的结果，ｐ为精确率，Ｒ为召回率；而ｍＡＰ是所有类别ＡＰ的平均值；Ｎ为检测目标的类别总数；ＡＰｉ表示第ｉ个类别的平均检测精度㊂３．３㊀算法流程如图５所示，Ｒ－ＹＯＬＯｖ５算法首先对输入的遥感图像进行预处理，扩展图像数据；其次，根据模型配置文件搭建网络结构，读取训练参数，并根据训练结果更新网络参数；最后，加载训练权重与测试数据集，输出模型的预测图像㊂搭建网络读取参数输出结果更新参数训练模型训练集测试集数据预处理归一化数据扩充遥感图像图５㊀Ｒ－ＹＯＬＯｖ５算法流程图Ｆｉｇ．５㊀Ｒ－ＹＯＬＯｖ５ａｌｇｏｒｉｔｈｍｆｌｏｗｃｈａｒｔ３．４㊀实验结果表１为本文算法Ｒ－ＹＯＬＯｖ５与不同目标检测模型在ＤＩＯＲ数据集下的实验结果㊂其中包括一阶段模型Ｆａｓｔｅｒ－ＲＣＮＮ，以ＳＳＤ㊁ＲｅｔｉｎａＮｅｔ㊁ＹＯＬＯｖ４为代表的二阶段模型，及无锚方法ＹＯＬＯＸ㊂表１㊀ＤＩＯＲ数据集下对比试验Ｔａｂ．１㊀ＲｅｓｕｌｔｓｏｎＤｉｏｒｄａｔａｓｅｔ％ＭＥＴＨＯＤＦａｓｔｅｒ－ＲＣＮＮＳＳＤＲｅｔｉｎａＮｅｔＹＯＬＯｖ４ＹＯＬＯＸＲ－ＹＯＬＯｖ５Ｅｘｐｒｅｓｓｗａｙｓｅｒｖｉｃｅａｒｅａ６５６４９０８９８０９３Ｂａｓｋｅｔｂａｌｌｃｏｕｒｔ７１７６９０８７８９９２Ｔｅｎｎｉｓｃｏｕｒｔ７７７６８７８８９０９２ｇｏｌｆｆｉｅｌｄ７０６５８５７４７２８６Ｇｒｏｕｎｄｔｒａｃｋｆｉｅｌｄ６２６９８３８２８１８８Ｓｔａｄｉｕｍ９４６１８１７０７４８０Ｃｈｉｍｎｅｙ８９６６８１８０７６８２Ａｉｒｐｏｒｔ６８７２７９８０７１９２Ｄａｍ５９５７７５７０６１８１Ｂａｓｅｂａｌｌｆｉｅｌｄ９２７２７４８５８４８１Ｗｉｎｄｍｉｌｌ４４６６７０８３８９９２Ａｉｒｐｌａｎｅ９１６０６８７３８５８４Ｔｒａｉｎｓｔａｔｉｏｎ４０５５６１６３４８７５Ｅｘｐｒｅｓｓｗａｙｔｏｌｌｓｔａｔｉｏｎ５５５３５９７１７１８３Ｈａｒｂｏｒ５４４９５９６３５２６７Ｏｖｅｒｐａｓｓ５１４８５７６２６１６６Ｓｈｉｐ２１５９４７８５８８９１ｂｒｉｄｇｅ２２３０３７４４４４５５Ｓｔｏｒａｇｅｔａｎｋ７３４７３４６３７０７６Ｖｅｈｉｃｌｅ３０２７２１４４４９５８ＭＡＰ６１．５８５８６６．９２７２．６９７１．７８０．６㊀㊀由表１可知，Ｒ－ＹＯＬＯｖ５对飞机㊁机场㊁船㊁桥㊁车辆等密集分布㊁大小尺度不一目标的精度均有不同程度的提高，具有良好的表现㊂图６所示为Ｒ－ＹＯＬＯｖ５对密集分布㊁大小尺度不一目标的效果图㊂这两种情况在检测过程中都较易对目标错检或漏检，模型识别的难度较大㊂如图６８智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第１３卷㊀６（ａ）㊁（ｂ）中飞机与油罐的分布较为密集，模型对此类目标能够较为全面的做出识别；图６（ｃ）㊁（ｄ）中车辆与桥梁㊁棒球场与网球场等各类物体的尺度变化给模型带来了检测难题，结果表明，Ｒ－ＹＯＬＯｖ５可以较为准确的检测出目标对象㊂（a ）飞机场（b ）油罐场（c ）车辆与桥梁（d ）棒球场与网球场图６㊀Ｒ－ＹＯＬＯｖ５检测结果Ｆｉｇ．６㊀Ｒ－ＹＯＬＯｖ５ｄｅｔｅｃｔｉｏｎｒｅｓｕｌｔ４㊀结束语基于高分辨率遥感图像存在检测对象密集度高㊁大小不一等问题㊂本文提出Ｒ－ＹＯＬＯｖ５算法，通过扩大感受野和增强特征信息以及改善特征融合来提高模型对密集物体以及多尺度目标的检测精度㊂实验表明，本文提出的目标检测算法在遥感数据集上具有较好的识别能力㊂参考文献［１］ＳＣＨＩＬＬＩＮＧＨ，ｄＵＬＡＴＯＶＤ，ＮＩＥＳＳＮＥＲＲ，ｅｔａｌ．Ｄｅｔｅｃｔｉｏｎｏｆｖｅｈｉｃｌｅｓｉｎｍｕｌｔｉｓｅｎｓｏｒｄａｔａｖｉａｍｕｌｔｉｂｒａｎｃｈｃｏｎｖｏｌｕｔｉｏｎａｌｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．ＩＥＥＥＥＪｏｕｒｎａｌｏｆＳｅｌｅｃｔｅｄＴｏｐｉｃｓｉｎＡｐｐｌｉｅｄＥａｒｔｈＯｂｓｅｒｖａｔｉｏｎｓａｎｄＲｅｍｏｔｅＳｅｎｓｉｎｇ，２０１８，１１（１）：４２９９－４３１６．［２］ＣＨＥＮＪ，ＹＵＥＡ，ＷＡＮＧＣ，ｅｔａｌ．Ｗｉｎｄｔｕｒｂｉｎｅｅｘｔｒａｃｔｉｏｎｆｒｏｍｈｉｇｈｓｐａｔｉａｌｒｅｓｏｌｕｔｉｏｎｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｓｂａｓｅｄｏｎｓａｌｉｅｎｃｙｄｅｔｅｃｔｉｏｎ［Ｊ］．ＪｏｕｒｎａｌｏｆＡｐｐｌｉｅｄＲｅｍｏｔｅＳｅｎｓｉｎｇ，２０１８，１２（１）：０１６０４１．［３］ＧＩＲＳＨＩＣＫＲ．Ｆａｓｔｒ－ｃｎｎ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥｉｎｔｅｒｎａｔｉｏｎａｌｃｏｎｆｅｒｅｎｃｅｏｎｃｏｍｐｕｔｅｒｖｉｓｉｏｎ．２０１５：１４４０－１４４８．［４］ＬＩＮＴＹ，ＤＯＬＬ ＲＰ，ＧＩＲＳＨＩＣＫＲ，ｅｔａｌ．Ｆｅａｔｕｒｅｐｙｒａｍｉｄｎｅｔｗｏｒｋｓｆｏｒｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥｃｏｎｆｅｒｅｎｃｅｏｎｃｏｍｐｕｔｅｒｖｉｓｉｏｎａｎｄｐａｔｔｅｒｎｒｅｃｏｇｎｉｔｉｏｎ．２０１７：２１１７－２１２５．［５］ＬＩＹ，ＣＨＥＮＹ，ＷＡＮＧＮ，ｅｔａｌ．Ｓｃａｌｅ－ａｗａｒｅｔｒｉｄｅｎｔｎｅｔｗｏｒｋｓｆｏｒｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥ／ＣＶＦｉｎｔｅｒｎａｔｉｏｎａｌｃｏｎｆｅｒｅｎｃｅｏｎｃｏｍｐｕｔｅｒｖｉｓｉｏｎ．２０１９：６０５４－６０６３．［６］ＬＩＵＷ，ＡＮＧＵＥＬＯＶＤ，ＥＲＨＡＮＤ，ｅｔａｌ．Ｓｓｄ：Ｓｉｎｇｌｅｓｈｏｔｍｕｌｔｉｂｏｘｄｅｔｅｃｔｏｒ［Ｃ］／／ＣｏｍｐｕｔｅｒＶｉｓｉｏｎ－ＥＣＣＶ２０１６：１４ｔｈＥｕｒｏｐｅａｎＣｏｎｆｅｒｅｎｃｅ，Ａｍｓｔｅｒｄａｍ，ＴｈｅＮｅｔｈｅｒｌａｎｄｓ，Ｏｃｔｏｂｅｒ１１－１４，２０１６，Ｐｒｏｃｅｅｄｉｎｇｓ，ＰａｒｔＩ１４．ＳｐｒｉｎｇｅｒＩｎｔｅｒｎａｔｉｏｎａｌＰｕｂｌｉｓｈｉｎｇ，２０１６：２１－３７．［７］ＢＯＣＨＫＯＶＳＫＩＹＡ，ＷＡＮＧＣＹ，ＬＩＡＯＨＹＭ．Ｙｏｌｏｖ４：Ｏｐｔｉｍａｌｓｐｅｅｄａｎｄａｃｃｕｒａｃｙｏｆｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎ［Ｊ］．ａｒＸｉｖｐｒｅｐｒｉｎｔａｒＸｉｖ：２００４．１０９３４，２０２０．［８］ＺＨＵＸ，ＬＹＵＳ，ＷＡＮＧＸ，ｅｔａｌ．ＴＰＨ－ＹＯＬＯｖ５：ＩｍｐｒｏｖｅｄＹＯＬＯｖ５ｂａｓｅｄｏｎｔｒａｎｓｆｏｒｍｅｒｐｒｅｄｉｃｔｉｏｎｈｅａｄｆｏｒｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎｏｎｄｒｏｎｅ－ｃａｐｔｕｒｅｄｓｃｅｎａｒｉｏｓ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥ／ＣＶＦｉｎｔｅｒｎａｔｉｏｎａｌｃｏｎｆｅｒｅｎｃｅｏｎｃｏｍｐｕｔｅｒｖｉｓｉｏｎ．２０２１：２７７８．［９］ＺＨＡＮＧＧ，ＬＵＳ，ＺＨＡＮＧＷ．ＣＡＤ－Ｎｅｔ：Ａｃｏｎｔｅｘｔ０ａｗａｒｅｄｅｔｅｃｔｉｏｎｎｅｔｗｏｒｋｆｏｒｏｂｊｅｃｔｓｉｎｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｒｙ［Ｊ］．ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＧｅｏｓｃｉｅｎｃｅａｎｄＲｅｍｏｔｅＳｅｎｓｉｎｇ，２０１９，５７（１２）：１００１５－１００２４．［１０］ＺＨＥＮＧＺ，ＬＥＩＬ，ＳＵＮＨ，ｅｔａｌ．Ａｒｅｖｉｅｗｏｆｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎａｌｇｏｒｉｔｈｍｓｂａｓｅｄｏｎｄｅｅｐｌｅａｒｎｉｎｇ［Ｃ］／／２０２０ＩＥＥＥ５ｔｈＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅｏｎＩｍａｇｅ，ＶｉｓｉｏｎａｎｄＣｏｍｐｕｔｉｎｇ（ＩＣＩＶＣ）．ＩＥＥＥ，２０２０：３４－４３．［１１］ＷＡＮＧＣＹ，ＬＩＡＯＨＹＭ，ＷＵＹＨ，ｅｔａｌ．ＣＳＰＮｅｔ：ＡｎｅｗｂａｃｋｂｏｎｅｔｈａｔｃａｎｅｎｈａｎｃｅｌｅａｒｎｉｎｇｃａｐａｂｉｌｉｔｙｏｆＣＮＮ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥ／ＣＶＦｃｏｎｆｅｒｅｎｃｅｏｎｃｏｍｐｕｔｅｒｖｉｓｉｏｎａｎｄｐａｔｔｅｒｎｒｅｃｏｇｎｉｔｉｏｎｗｏｒｋｓｈｏｐｓ．２０２０：３９０－３９１．［１２］ＣＡＯＬ，ＺＨＡＮＧＸ，ＷＡＮＧＺ，ｅｔａｌ．Ｍｕｌｔｉａｎｇｌｅｒｏｔａｔｉｏｎｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎｆｏｒｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｂａｓｅｄｏｎｍｏｄｉｆｉｅｄｆｅａｔｕｒｅｐｙｒａｍｉｄｎｅｔｗｏｒｋｓ［Ｊ］．ＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＲｅｍｏｔｅＳｅｎｓｉｎｇ，２０２１，４２（１４）：５２５３－５２７６．［１３］ＷＡＮＧＣ，ＢＡＩＸ，ＷＡＮＧＳ，ｅｔａｌ．ＭｕｌｔｉｓｃａｌｅＶｉｓｕａｌａｔｔｅｎｔｉｏｎｎｅｔｗｏｒｋｓｆｏｒｏｂｊｅｃｔｄｅｔｅｃｔｉｏｎｉｎＶＨＲｒｅｍｏｔｅｓｅｎｓｉｎｇｉｍａｇｅｓ［Ｊ］．ＩＥＥＥＧｅｏｓｃｉｅｎｃｅａｎｄＲｅｍｏｔｅＳｅｎｓｉｎｇＬｅｔｔｅｒｓ，２０１８，１６（２）：３１０－３１４．［１４］ＰＡＲＭＡＲＮ，ＶＡＳＷＡＮＩＡ，ＵＳＺＫＯＲＥＩＴＪ，ｅｔａｌ．Ｉｍａｇｅｔｒａｎｓｆｏｒｍｅｒ［Ｃ］／／Ｉｎｔｅｒｎａｔｉｏｎａｌｃｏｎｆｅｒｅｎｃｅｏｎｍａｃｈｉｎｅｌｅａｒｎｉｎｇ．ＰＭＬＲ，２０１８：４０５５－４０６４．［１５］ＤＯＳＯＶＩＴＳＫＩＹＡ，ＢＥＹＥＲＬ，ＫＯＬＥＳＮＩＫＯＶＡ，ｅｔａｌ．Ａｎｉｍａｇｅｉｓｗｏｒｔｈ１６ˑ１６ｗｏｒｄｓ：Ｔｒａｎｓｆｏｒｍｅｒｓｆｏｒｉｍａｇｅｒｅｃｏｇｎｉｔｉｏｎａｔｓｃａｌｅ［Ｊ］．ａｒＸｉｖｐｒｅｐｒｉｎｔａｒＸｉｖ：２０１０．１１９２９，２０２０．［１６］ＬＩＵＺ，ＬＩＮＹ，ＣＡＯＹ，ｅｔａｌ．Ｓｗｉｎｔｒａｎｓｆｏｒｍｅｒ：Ｈｉｅｒａｒｃｈｉｃａｌｖｉｓｉｏｎｔｒａｎｓｆｏｒｍｅｒｕｓｉｎｇｓｈｉｆｔｅｄｗｉｎｄｏｗｓ［Ｃ］／／ＰｒｏｃｅｅｄｉｎｇｓｏｆｔｈｅＩＥＥＥ／ＣＶＦｉｎｔｅｒｎａｔｉｏｎａｌｃｏｎｆｅｒｅｎｃｅｏｎｃｏｍｐｕｔｅｒｖｉｓｉｏｎ．２０２１：１００１２－１００２２．７８第１０期李在瑞，等：基于ｙｏｌｏｖ５的高分辨率遥感图像目标检测算法。

预训练模型1 预训练模型由来预训练模型是深度学习架构，已经过训练以执⾏⼤量数据上的特定任务（例如，识别图⽚中的分类问题）。

这种训练不容易执⾏，并且通常需要⼤量资源，超出许多可⽤于深度学习模型的⼈可⽤的资源，我就没有⼤批次ＧＰＵ。

在谈论预训练模型时，通常指的是在训练的CNN（⽤于视觉相关任务的架构）。

ImageNet数据集包含超过1400万个图像，其中120万个图像分为1000个类别（⼤约100万个图像含边界框和注释）。

2 预训练模型定义那么什么是预训练模型？这是在训练结束时结果⽐较好的⼀组权重值，研究⼈员分享出来供其他⼈使⽤。

我们可以在github上找到许多具有权重的库，但是获取预训练模型的最简单⽅法可能是直接来⾃您选择的深度学习库。

现在，上⾯是预训练模型的规范定义。

您还可以找到预训练的模型来执⾏其他任务，例如或。

此外，最近研究⼈员已开始突破预训练模型的界限。

在⾃然语⾔处理（使⽤⽂本的模型）的上下⽂中，我们已经有⼀段时间使⽤嵌⼊层。

Word嵌⼊是⼀组数字的表⽰，其中的想法是类似的单词将以某种有⽤的⽅式表达。

例如，我们可能希望'鹰派'，'鹰'，'蓝杰伊'的表现形式有⼀些相似之处，并且在其他⽅⾯也有所不同。

⽤⽮量表⽰单词的开创性论⽂是，这篇嵌⼊层的论⽂是我最喜欢的论⽂之⼀，最早源于80年代，Geoffrey Hinton 的。

尽管通过对⼤型数据集进⾏训练获得的单词的表⽰⾮常有⽤（并且以与预训练模型类似的⽅式共享），但是将单词嵌⼊作为预训练模型会有点拉伸。

然⽽，通过和，真正的预训练模型已经到达NLP世界。

它们往往⾮常强⼤，围绕着⾸先训练语⾔模型（在某种意义上理解某种语⾔中的⽂本⽽不仅仅是单词之间的相似性）的概念，并将其作为更⾼级任务的基础。

有⼀种⾮常好的⽅法可以在⼤量数据上训练语⾔模型，⽽不需要对数据集进⾏⼈⼯注释。

这意味着我们可以在尽可能多的数据上训练语⾔模型，⽐如整个维基百科！然后我们可以为特定任务（例如，情感分析）构建分类器并对模型进⾏微调，其中获取数据的成本更⾼。

基于改进Faster -RCNN 的目标检测算法研究□闫新庆杨喻涵陆桂明华北水利水电大学信息工程学院T 互联网+技术In tern et Technology _______________________________________________________________【摘要】 目标检测是图像处理领域一个重要的研究方向，深度学习方法需要大量数据进行训练，训练的繁杂和复杂的网络结构限制了目标检测的速度。

本文基于Faster RCNN 的网络架构，创新性提出了丨ight tail Faster RCNN 网络架构。

light tail Faster RCNN 算法在保证精度的情况下，大大提升了处理速度。

在本文的设计中，通过将网络结构中的全连接层改为1*1的卷积层，来达到速度 的提升。

本文实验在PASCAL V 〇C 数据集上进行，较经典网络模型，在识别率略低的情况下，速率提升了一倍多。

在总体性能上显 著优于经典目标检测算法，通过对比实验的方法比较验证了本文提出方法的有效性。

【关键词】 目标检测 Faster RCNN 深度学习Abstract: Target detection is an important research direction in the field of image processing. Deep learning methods require a large amount of data for training, and the complex and complex network structure of training limits the speed of target detection. Based on the network architecture of Faster RCNN, this paper innovatively proposes the light tail Faster RCNN network architecture. The Light tail Faster RCNN algorithm greatly improves the processing speed while ensuring accuracy. In the design of this article, the speed is improved by changing the fully connected layer in the network structure to a 1 *1 convolutional layer. The experiment in this article is carried out on the PASCAL VOC data set. Compared with the classic network model, the speed is more than doubled when the recognition rate is slightly lower. The overall performance is significantly better than the classic target detection algorithm. The method comparison of the comparative experiment verifies the effectiveness of the method proposed in this paper.Keywords: Target detection ; Faster RCNN ; Deep learning引言目标检测与视频分析和图像理解有着密切的联系，近年来受到了广泛的关注。