泡泡点云时空，带你精读点云领 域顶级会议文章

标题： Generating 3D Adversarial Point Clouds

作者： Chong Xiang, Charles R. Qi, Bo Li

来源：CVPR 2019

编译：张金来

审核：Lionheart

欢迎个人转发朋友圈；其他机构或自媒体如需转载，后台留言申请授权

众所周知，深度神经网络容易受到对抗性样本的攻击，这些样本是经过精心设计的实例，导致模型做出错误的预测。尽管已经对2D图像和CNN的对抗示例进行了广泛研究，但对3D数据（如点云）的关注却很少。考虑到自动驾驶等许多对安全至关重要的3D应用，研究对抗性点云如何影响当前的深层3D模型是非常重要的。在这项工作中，我们提出了几种新颖的算法来针对PointNet（一种广泛用于点云处理的深度神经网络）制作对抗性点云。我们的算法以两种方式工作：对抗点扰动和对抗点生成。对于点扰动，我们对很少的点进行偏移。对于点生成，我们生成一组独立且分散的点或少量（1-3）的点簇，这些簇具有有意义的形状，例如可能隐藏在人类心智中的球和飞机。此外，我们针对点云中的攻击制定了六个扰动测量指标，并进行了广泛的实验，在ModelNet40 3D形状分类上数据集评估所提出的算法。总体而言，我们的攻击算法实现了对所有有目标攻击的99%的攻击成功率。

攻击Pipeline

我们的算法通过对抗点扰动（左）或对抗点生成（右）来创建对抗样本。在我们攻击之后，瓶子被误分类了。

对抗点干扰和对抗点产生的攻击性能评估

对抗集群样本和对抗对象样本的攻击性能评估

作为研究3D学习模型脆弱性的第一篇论文，本文提出了几种攻击算法来生成对抗性点云，以欺骗广泛使用的PointNet模型，包括对抗性点扰动和对抗性点生成。我们还提出了六个不同的扰动指标，并广泛地评估了所提出的攻击算法的性能。我们广泛的实验结果表明，在可接受的扰动预算下，提出的算法能够找到3D对抗性点云，攻击成功率高于99％。我们希望这项工作能够为将来的3D对抗性样本研究提供基准和指南。

Abstract

Deep neural networks are known to be vulnerable to adversarial examples which are carefully crafted instances to cause the models to make wrong predictions. While adversarial examples for 2D images and CNNs have been extensively studied, less attention has been paid to 3D data such as point clouds. Given many safety-critical 3D applications such as autonomous driving, it is important to study how adversarial point clouds could affect current deep 3D models. In this work, we propose several novel algorithms to craft adversarial point clouds against PointNet, a widely used deep neural network for point cloud processing. Our algorithms work in two ways: adversarial point perturbation and adversarial point generation. For point perturbation, we shift existing points negligibly. For point generation, we generate either a set of independent and scattered points or a small number (1-3) of point clusters with meaningful shapes such as balls and airplanes which could be hidden in the human psyche. In addition, we formulate six perturbation measurement metrics tailored to the attacks in point clouds and conduct extensive experiments to evaluate the proposed algorithms on the ModelNet40 3D shape classification dataset. Overall, our attack algorithms achieve a success rate higher than 99% for all targeted attacks.

泡泡机器人SLAM的原创内容均由泡泡机器人的成员花费大量心血制作而成，希望大家珍惜我们的劳动成果，转载请务必注明出自【泡泡机器人SLAM】微信公众号，否则侵权必究！同时，我们也欢迎各位转载到自己的朋友圈，让更多的人能进入到SLAM这个领域中，让我们共同为推进中国的SLAM事业而努力！

泡泡机器人SLAM的原创内容均由泡泡机器人的成员花费大量心血制作而成，希望大家珍惜我们的劳动成果，转载请务必注明出自【泡泡机器人SLAM】微信公众号，否则侵权必究！同时，我们也欢迎各位转载到自己的朋友圈，让更多的人能进入到SLAM这个领域中，让我们共同为推进中国的SLAM事业而努力！

商业合作及转载请联系paopaorobot@163.com 返回搜狐，查看更多