谷歌的惊人研究：一组图像迫使神经网络执行其他任务
大家好我是漂亮可爱的小小编，快乐伴随生活，资讯开拓视界，笑谈新鲜资讯，品味人生！各位读者老爷好吖，我是你们最爱的小小编，欢迎来到小小编的最新资讯圣地，小小编陪大家一起来品尝了解最新的资讯！
谷歌的惊人研究：一组图像迫使神经网络执行其他任务
夏伊法从凹陷的寺庙石英|公共QbitAI
记得那些认识熊猫是猩猩的人，乌龟是枪，而枪是直升机的算法？
他们遇到了一个叫做“敌对攻击”的敌人。每次敌人出现时，它都会使图像识别算法不堪重负。
现在，更加生气和生病。
谷歌脑部三名研究人员Gamaleldin F. Elsayed，Ian Goodfellow，Jascha Sohl-Dickstein的最新论文展示了一种新型的反攻击，一种人工智能从未见过的强大敌人。
他们说，对抗性攻击不仅允许图像识别模型识别错误的地图，而且还重新编程受攻击的模型，让他们放弃他们的任务并做其他攻击者指定的事情。他们把这种被称为“对抗任务”的东西称为日本。
即使模型根本没有这种技能，也没关系。所需要的只是向测试图像添加一些抗干扰信息。
例如，让ImageNet分类器更改为几个方块。
实现的过程并不复杂，总共需要三个步骤。
...
在映射建立后，表示对抗任务的图像嵌入在对抗图像的中间，并获得用于攻击神经网络的对抗图像。
接下来，让对抗图片和目标模型相遇。两次见面后，目标模型放弃了原始图像识别任务，地图上只计算了几个正方形。
重新分配任务也可能比几个方格更复杂。例如，让ImageNet分类器认为它是仅识别手写数字的MNIST分类器。
用于完成此任务的对抗图像生长在上图中。
同样的方法也可以使ImageNet分类器成为CIFAR-10分类器。他们有毒手的受害者有六个ImageNet图像识别模型，包括三个Inception变种和三个Resnet变种。
幸运的是，我没有让神经网络做任何可怕的事情。
......
Elsayed等。该文件还指出，这些结果首次证明了这种攻击的可能性。
本研究的三位作者均来自Google Brain团队。
第一作者Gamaleldin F. Elsayed获得博士学位。来自哥伦比亚大学去年。目前，他实际上是Google AI Residency的成员，相当于实习或访问学生。
第二作者伊恩·古德费罗，着名。通常被称为反网络（GAN）一代的父亲，是人工智能领域的大人物。在他早年，他致力于教授神经网络来欺骗欺诈;现在，他的大部分研究都集中在对抗性攻击上，专注于欺凌神经网络。
第三作者Jascha Sohl-Dickstein获得博士学位。 2012年在伯克利。在加入谷歌之前，他是斯坦福大学的访问学者。
Jascha将他们的研究发送到Twitter并立即触发了大量用户重印。但是，只有一个人对评论发表评论。
那个人问：你什么时候发布源代码的？谢谢。
......
今天小小编就和大家聊到这里，欢迎各位读者朋友在下方评论区和小小编一起讨论哦，喜欢小小编的朋友可以点个关注，小小编会每天更新最新最热的娱乐文章哦，给无聊的你来一场及时雨，拜拜~。
- 发表于:
- 原文链接：https://kuaibao.qq.com/s/20181030A18Q8V00?refer=cp_1026
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
