IT资讯
当前位置:智学网 > IT资讯 >  亚美游人物

开年翻车事件:训练神经网络出bug AI删库跑路

2019-02-09 22:44:32 N软网 编辑:琳达 浏览数:40智学网

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。 Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、...

授权 AI 删除 app 中的 bug,结果 AI 将整个库都给删了,这件听起来很荒谬的事情,真实在美国「大众点评」Yelp 上发生了。

Yelp 是美国著名商户点评网站,创立于 2004 年,囊括各地餐馆、购物中心、酒店、旅游等领域的商户,用户可以在 Yelp 网站中给商户打分,提交评论,交流购物体验等,由前贝宝(Paypal)工程师杰里米·斯托普尔曼 (Jeremy Stoppelman) 和罗素·西蒙斯(Russel Simmons)共同创建。

近日, Yelp 在 app 上的一则更新说明把大家给乐坏了:

「我们要向那些在本周使用 app 时遇到问题的用户们道歉。我们训练了一个神经网络来消除 app 中的 bug,没想到它把所有的东西都消除了。我们现在只好进行数据恢复。目前暂时达成 100 % 没有 bug 的状态……」

对此,微博网友立马开启了「群嘲模式」:

给人类留点面子好吗……

从 APP 过去两个月的更新说明来看,Yelp 基本上可以说将「除 bug」当成自己的首要任务,从万圣节到圣诞节再到跨年,Yelp 的程序员们几乎每天都沉溺在「消虫乐」的欢乐氛围当中……

估计是在除 bug 这条道路上除出了固定套路,才会让 Yelp 的程序员们萌生通过训练神经网络来达成自动除 bug 的想法,只是他们没想到竟然会如此出师不利。

由于 Yelp 至今尚未公布详细的网络训练和删库细节,因此我们仅仅只能通过猜测来判断导致删库的原因。然而令人感到绝望的是,即便 Yelp 程序员们想复盘「删库」事件的原由,神经网络的「黑箱」性质也将导致该行为没法很好地落实。

难道我们就一点办法也没有了吗?

虽然 Yelp 以血淋淋的例子告诉我们,自动 debug 有风险,然而我们不能因此否定许多机构在这方面研发工作的努力,毕竟 debug 工具一旦能够开发出来,程序员们将可以把更多精力放在写出更多代码上。

其中,最具代表性的是 Facebook 的 SapFix。

这是一款于去年 9 月份发布的代码调试工具,配合 Facebook 的自动化漏洞发现工具 Sapienz,可以针对 bug 生成修复补丁。

在具体的执行流程上,SapFix 会先给每个 bug 生成多个潜在补丁,然后从 3 个方面对补丁质量进行评定(是否存在编译的错误、程序是否还会崩溃、补丁是否引入新的冲突),在评定结束后,SapFix 会在修复版本上进行测试,结果出来后第一时间发给人工评审员进行审批。

一旦获得人工反馈,SapFix 将会执行那些经批准的补丁,并清除其他未被批准的补丁。

值得一提的是,在面对较复杂的问题时,SapFix 会从过往的修复模板集去寻找生成补丁的借鉴参考。即使没能找着合适的修复模板,它也会尝试基于突变进行修复——简单来说,就是对导致崩溃的语句的抽象语法树(AST)执行小型代码修复,调整补丁,直到找着可行的解决方案。

该工具被 Facebook 视作 AI 技术的里程碑,下一步计划让 SapFix 实现自动制止代码崩溃机制,以及让软件的反应变得更敏捷。

Yelp「删库」事件是典型的 AI 过早落实民用的例子,在技术尚未成熟的条件下,AI 在输出结果上难免要犯傻,毕竟就像这位网友所说的……

最后,祝广大程序员们都能写出没有 bug 的代码

分享到:

版权与免责声明:

凡未注明"稿件来源"的内容均为转载稿,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址:/news/2019/02/09/120045871.html

转载本站原创文章请注明来源:智学网

行业聚焦

迅雷电影,给影迷一个发挥的平台

  一到过年,朋友圈各种拉票活动特别多,无外乎各种“最受欢迎”榜单评选,各种砍价点赞拼优惠,有意义的票选活动并不多。但昨天,同事发给我的活动却给我留下了非常深刻...[详细]

最风骚的Win10 Bug:一个像素逼死强迫症

Windows 10 v1809(十月更新)是微软历史上Bug最多的系统更新版本,这一点不接受辩驳,而且很多Bug都莫名其妙,直让人怀疑堂堂微软怎么会犯这么多低...[详细]

卡罗拉双擎E+正式下线:一汽丰田首款新能源车型来了!

IT之家2月13日消息 来自一汽丰田官方消息,卡罗拉双擎E+已经与2月11日下午在丰田泰达工厂下线投产,据悉,这款新车将于今年的3月份正式上市销售。卡罗拉双擎E...[详细]

酷冷至尊全新V系列电源上架:金牌全模组,质保提升至10年

IT之家1月15日消息 酷冷至尊全新升级的V Gold系列电源现已上架京东,有550/650/750/850W四款,售价699元起,全部通过80Plus金牌认证...[详细]

官方泄露摩托罗拉Moto G7全系配置,2月7日发布

IT之家1月24日消息 摩托罗拉将于2月7日在巴西召开Moto G7系列新品发布活动,现在关于新机的秘密已经很少,今天摩托罗拉巴西官网曝光了整个Moto G7阵...[详细]

2018送彩金的娱乐平台

更多

信用算力《2018年中国零售金融信用体系报告》出炉!

 

1月15日,信用服务解决方案提供商信用算力联合上海市社会信用促进中心、上海交通大学中国普惠金融创新中心发布《2018年中...[详细]

京东情人节领券指南:最后一天全场狂促,满199元立减100元

 

明天就是情人节了,还有小伙伴没准备好礼物吗?抓住最后的机会,部分城市今晚23:10前京东下单,依旧会在2月14日(明日)...[详细]

iPhone通话被窃听? 苹果官方这样回应

 

苹果向来都是以注重保护用户隐私著称,但最近却被曝光出最近,苹果的iPhone被曝光出存在重大缺陷,iOS 12系统出现了...[详细]

报道称,Netflix正在拍摄生化危机系列电视剧

 

IT之家1月25日消息 据外媒Deadline报道,Netflix正在开发一个生化危机系列的电视连续剧,作为其流媒体服务...[详细]

罗永浩现场解释子弹短信为何改名聊天宝:子弹敏感,短信收费

 

IT之家1月15日消息 今天晚上,快如亚美游在国家游泳中心(水立方)举行了2019新品发布会,正式宣布了子弹短信的1.0的...[详细]

一周排行每月关注