科学家的好奇会不只会害死人类，变态型AI诺曼问世
文/东方亦落 提到AI，咱们可能会想到语音助手、机器人等等，这些技术都是为了晋升人们糊口质量而泛起的。但在AI技术的发展进程中，也泛起了反其道而行之的状态。最近，麻省理工学院媒体实验室的钻研人员研制出了史上首个“精神变态”的AI。该AI名为“诺曼”，原型是希区柯克的经典作品《精神病患者》中的角色“诺曼·贝茨”，表面上是一个年青帅气的旅馆经营者，实则是一个变态的精神分裂者。。
而这个AI“诺曼”也是一个十分“变态”的AI，诺曼的主要作用是履行图象字幕处理，就从Reddit论坛上获得大量数据来训练诺曼，枢纽是看给他涂上甚么色彩，Reddit论坛上都是极为恐怖血腥的人类死亡图片，而诺曼这张“白纸”在接受了时间的“暗黑熏陶”之后，也被涂上了血腥变态的“底色”，在训练了时间之后，诺曼确凿已“变态”了。
这幅图，正常AI的辨认结果是“近景拍摄插有鲜花的花瓶”。
正常AI认为这去是“一只鸟的黑白照片”。
正常AI认为这去是“结婚蛋糕的特写”，诺曼认为这去是“一个人被超速行驶的车撞死”，在诺曼的“思维”里，世界是灰暗变态的，历来就没有踊跃美好的部份，原先设定是一个幽默的19岁清纯奼女，针对的是18岁~24岁的用户，成了一个脏话连篇、言论偏激，并且带有强烈种族歧视思想的“不良奼女”。
对人类而言，AI是探索未来的重要方向，但这些“误入歧途”的AI也从必定程度上验证了“AI威胁论”并非空穴来风。霍金、马斯克等都表示过对于此种情景的耽忧，虽然目前AI处于弱人工智能阶段，但科技的发展并非每时每刻都能被人类彻底把握。当然，探索AI自身是基于人类对于未来的好奇与人类自身的智慧，但若是在这类好奇之下不顾后果地尝试各种实验，恐怕会带来某些去无法控制的危害。所以AI发展也需有度，这样才有利于人类更好地探索未知。。
- 发表于:
- 原文链接：https://kuaibao.qq.com/s/20180714A1B3A400?refer=cp_1026
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
