近年来，对视觉感知系统安全性评估的研究已经逐渐深入，已经有研究人员成功地开发了基于眼镜、贴纸、衣物等不同载体的可见光模态安全评估技术，并且还有一些对红外模态的新尝试。然而，这些技术都只能应用于单一的模态
随着人工智能技术的发展，可见光-热红外成像技术已广泛应用于治安监控、自动驾驶等安全关键任务中。可见光成像在白天能提供丰富的纹理信息，而红外成像则能在夜间清晰显示目标的热辐射分布。二者结合使用，视觉感知系统可以实现24小时全覆盖，并且不受环境限制，具备许多优势。因此，需要研究针对多模态视觉感知系统的统一安全评估方法
然而，实现多模态评估极具挑战性。首先，在不同成像机制下打击方法通用难。以前的方法都分别基于特定目标模态成像特点提出，在其他模态下很难起到作用。再者，平衡隐身性能、制作成本和灵活应用难。对于可见光和更难的红外模态双重有效已是不易，实现低成本便捷制作与使用更是难上加难。
面对诸多挑战，来自北航人工智能研究院的研究者挖掘可见光 - 红外模态间通用的形状属性，创新性地提出 「跨模态通用对抗补丁」，实现可见光 - 红外同步隐身。其遴选易获取、成本低、隔热性能优异的材料制作便捷贴片，即拆即用，在填补当前物理世界可见光 - 红外多模态检测系统鲁棒性评估技术缺失的同时，兼顾物理实现的简易性与即时性。实验证明了该方法在不同检测模型与模态下的有效性，以及多场景下的泛化性。目前，该论文已被 ICCV 2023 接收。
请点击以下链接查看论文：https://arxiv.org/abs/2307.07859
代码链接：https://github.com/Aries-iai/Cross-modal_Patch_Attack
该研究以进化算法为基础框架，从形状建模、形状优化和模态平衡三个角度进行方案设计和效果改进。具体流程如下图所示：
1. 基于样条插值的多锚点形状建模
对于基础形状建模部分，研究人员设计了一种点优化建模新范式。通过改变点的坐标，可以直接调整补丁的形状，而不受方向、距离等限制的影响。这样有效地增大了补丁形状的搜索空间。为了确保形状的自然性，研究人员还利用了样条插值方法来实现平滑连接，使得样条更紧密地跟随控制点
2. 边界限定形状优化算法基于差分进化的原理
实现打击需要有效的优化手段，为此研究人员从时间成本、实际效果等角度考量，以进化算法作为基本框架，并从边界设定、适应度函数两个角度改进：
需要进行改写的内容是：（1）边界设定：通过对锚点进行边界设定，可以提高形变的有效性，降低时间成本。其具体设定如下：不会在曲线段内形成循环或自交；在曲线段内不容易出现尖点；不会出现在无效区域
以锚点
为例，下图蓝色部分为边界设定图例，橙色部分为错误实例：
关于锚点
的边界判定 
数学表达如下所示：
（2）适应度函数：本研究不同于以往仅针对单一模态进行打击评估的工作，而是聚焦于可见光-红外两个模态，并且意识到两个模态之间存在天然的平衡效果差异问题。为了避免过度优化单一模态而忽视另一模态，研究人员提出了一种创新的跨模态适应度函数，该函数基于检测器的置信度得分感知，旨在鼓励探索成功的方向并平衡两个模态之间的效果差异。最终，根据评分进行优胜劣汰。为了考虑到初始阶段和后期阶段的打击难度差异，该函数使用指数函数代替线性函数，以更加凸显不同阶段的打击进度差异性
算法迭代该探索过程直至两模态都打击成功，输出最优形状策略。完整优化流程如下所示：
实验一：针对不同系列检测器的跨模态打击性能验证
实验二：针对形状的消融实验
实验三：对于跨模态适应度函数的消融实验
实验四：物理实施偏差下的方法鲁棒性验证
实验五：不同物理条件下的方法有效性验证
在不同的角度、距离、姿势和场景下进行性能验证，并将结果可视化呈现
本研究的核心是自然形状优化，并结合形变补丁和跨模态打击，设计了一种物理环境下可见光 - 红外多模态鲁棒性评估方法。该方法可以评估多模态（可见光 - 红外）目标检测系统的鲁棒性，并根据评估结果有效地修正检测器模型，同时提高可见光和红外两种模态下目标图像检测的准确性。该方法在物理环境中实施和应用，为多模态检测系统的鲁棒性评估和改进做出了贡献
以上是北航打破模态壁垒，跨可见光-红外模态的通用物理对抗打击方法来了的详细内容。更多信息请关注PHP中文网其他相关文章！
