为保障AI系统安全性，纽约大学正在开发识别漏洞和缺陷的新方法
来源：EurekAlert
智能观 编译
几十年来，网络安全社区一直在设计保护措施，以抵御恶意软件的攻击，并识别和修复可能破坏计算程序的缺陷（这些程序对生活的各个方面至关重要）。现在，纽约大学坦登工程学院（NYU Tandon）和哥伦比亚大学组成的一个研究小组，正在开发一批工具，为人工智能( AI )系统提供同样的保护，并已获得美国国家科学基金会( NSF )的资助。
NYU Tandon电子和计算机工程系助理教授Siddharth Garg说：“在你部署计算机软件之前，有很多方法可以测试和调试，还有一些方法可以验证软件是否能如预期的那样工作。而人工智能系统没有任何类似的东西。我们正在开发一套工具，可以让自动驾驶、医学成像和其他应用系统的部署更安全可靠。”
除了Garg，研究团队成员还包括NYU Tandon电子和计算机工程系的助理教授Anna Choromanska，计算机科学和工程系的Brendan Dolan-Gavitt，以及哥伦比亚大学工程学院计算机科学系助理教授Suman Jana。
NSF将提供为期三年，共90万美元的资助，使研究人员完善正在开发的一套工具，这些工具主要用来保障人工智能系统的安全性。Garg解释说，他们的工作包括建立防御计划，防御恶意攻击，检测系统是否存在可被利用的“后门”，以及诊断系统中可能产生安全影响的无意缺陷。最近几起广为人知的无人驾驶汽车车祸就是例子。
人工神经网络是AI系统的基础，它支持自动驾驶、语音识别和面部识别等技术，以及正在改变医学成像的机器学习算法。人工神经网络如此复杂和独特，用于调测、验证软件的传统方法根本不适用。
Dolan - Gavitt说：“随着深度学习在越来越多的领域得到应用，开发识别漏洞和缺陷的新方法，以及了解我们何时对系统进行了足够好的测试，并有信心部署它，都是至关重要的。”
https://www.eurekalert.org/pub_releases/2018-08/ntso-san082018.php
—完—
我们约稿啦！
嗨，亲爱的读者朋友，这是一封写给你的约稿函。
约稿？
是的。
为何约稿？难道智能观江郎才尽了？
当然——不是。
智能观致力于提供高附加值的“教育+AI”以及教育创新方面的内容，我们大部分原创内容都是关于国外的业内动态、教育尝试、前瞻思考以及相关资源等，另外是国内的业内现状等原创。有读者感叹，为何国外的业内人士愿意分享自己的思想、创新尝试、学习经验等，国内的却不多？
这也是我们经常思考的事。
我们希望看到更多一线从业者的创新与状态；希望看到更多业内朋友关于教育+AI的深度思考；希望鼓励我们亲爱的读者朋友，习惯记录并分享自己的每一次关于教育的尝试。
因此，如果你是一线教师或校长，如果你是教育+AI领域的从业者；如果你是教育创新的探索者；如果你是对这个领域有所思考的在校生；如果您在教育游戏化、STEM/STEAM、项目式学习、个性化学习等方面有独到见解，期待你跟我们的读者朋友分享，欢迎不吝投稿，我们将甄选有思想、有价值、具实用性的内容予以刊登。
优质原创首发稿件一旦选用，会视稿件质量，有一定稿费（40-80元/千字）；还会根据公众号阅读量过万、过5万、过10万等有不同级别额外奖励。
投稿内容
目前，我们征稿的栏目有：
1.《方法论》：给读者能用得上的实用方法。
包括课堂中具体的创新方法；教育+AI实践中的有效方法；将游戏化、项目式学习等融入教育的方法；帮助从业者高效管理日常工作、有效自我提升的方法等。
2.《聚焦一线》：关注教育一线。
包括当下发生的有关AI+教育和教育创新的一线探索。
3.《充电》：分享给读者学习提升的干货。
包括AI教育、AI+教育、教育创新等方面的实用课程、书籍、学习经验总结等。
4.《洞见》：分享在AI、AI+教育及教育创新领域的深邃思想与前瞻性观点。
包括教育界、科技界的一线实践者、资深专家大牛等对领域的思考与探索。
投稿要求
我们对稿件有一些要求，希望得到你的理解与支持：
1. 逻辑清晰，语言流畅，可读性强；
2.所投文章应符合专栏主题，《方法论》《充电》应具有实用性、创新性；《洞见》应具有思想性、前瞻性；《聚焦一线》应具有实效性、启思性。
3. 尽量减少错别字，保证稿件质量。
4. 来稿字数在1000-2000最佳。
5. 我们在尊重作者的基础上，保留对作品的删减、修改权。
投稿方式
邮箱地址：zhinengguan@qq.com
联系QQ: 3114334406
负责人微信：znglmym
投稿格式：
邮件投稿请参照以下格式:
主题：请注明投稿、栏目和题目，如：【投稿】——【栏目】《文章标题》
正文：请勿用附件的形式投稿，请于正文处放置文章内容。
注：请留下您的个人简介、联系方式、及微博地址，并请注明稿件是否原创首发。如果48小时内没有收到回复，您可以自行处理您的稿件。
由作者本人在本站独家首发投稿的原创文章，智能观微信公众号及其他新媒体矩阵推送时将标注原创。
如能附上个人照片及简介更好，我们会在刊发时，对作者进行介绍。
我们很高兴，能与你在AI+教育、教育创新以及终身学习的路上结伴同行！
爱你的 智能观小伙伴
想知道AI加教育领域有哪些最新研究成果？
想要AI领域更多的干货？
想了解更多专家的“智能观”？
请前往：www.智能观.com。
声明：
编译文章旨在帮助读者了解行业新思想、新观点及新动态，为原作者观点，不代表智能观观点。
转载智能观原创文章，请联系
智能观小艾（微信号：zng2017618）！
关于我们
我们关注AI+教育。致力于提供高附加值的知识，以帮助每一位老师和我们的读者不断学习并提高技能。
我们努力让发表的每一篇文章都具有最佳质量，以满足读者的需求。
- 发表于:
- 原文链接：https://kuaibao.qq.com/s/20180824A1I5RW00?refer=cp_1026
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
