【下载】攻防进入机器学习对抗时代 315央视演示的人脸识别验证漏洞 同样可以欺骗机器学习模型

央视315晚会曝光了一些人脸识别验证有可能存在漏洞。这种虽然只是简单的机器识别,但实际在网络安全攻防中,机器学习的技术及相关模型已经投入实际运用了。类似这种人脸识别的问题,在网络攻防中防守者在使用,攻击者也在使用,如果攻击者面对机器学习的安全产品及系统,同样有可能利用这样的误判,发起致命的攻击。

央视发布预警称,社交网站比如微信、微博上po的照片有可能被恶意利用,进行人脸识别才能登陆的一些APP,从而存在一些风险。因此,央视提醒即使高科技背后也存在漏洞,人脸识别验证存在一些风险。

没有银弹  攻防进入机器学习对抗时代

机器学习(ML)在网络安全实践中应用在2016年获得了长足的进步。各种机器学习和人工智能算法和工具被引入安全产品和系统。但是,机器学习只是一个数学工具,攻守双方都可以使用。

通过对抗性图像攻击可以欺骗机器学习模型,在下面的图像识别例子中,识别引擎给出了公共汽车车窗的误判。以此类推,如果攻击者面对机器学习的安全产品及系统,同样有可能利用这样的误判,发起致命的攻击。

这是赵粮博士在《攻守“军备竞赛” 2017 如何布局》中提到的,然而他也指出,机器学习不是万能的,没有机器学习是万万不能的

威胁方将会利用机器学习等先进技术来优化“攻击”,并不意味着机器学习之于网络安全没有用处,恰恰相反,不掌握机器学习技术的安全防御方将会处于类似冷兵器对热兵器的“劣势”局面。绿盟科技在2016年发布了基于机器学习引擎的新版WAF和NIPS,相对于研究员手工创建规则的检测防护方式,新引擎在检测准确度和性能方面都获得了大幅度的提升。

洞察网络系统中的各种用户和设备行为,寻找源自合法用户、合法供应链组件等的可能攻击和滥用,针对安全事件的溯源和追踪,对全局安全态势的感知和研判等等,需要大量的安全数据分析、可见性、威胁情报等能力的联合运用,都需要机器学习为代表的新一代计算工具的支撑。

他提出的观点还包括,全部内容见文末下载。

  • 攻守双方的“军备竞赛”正在加剧
  • 攻1:攻击无极限 ,各种攻击元素出租等“业务模式”创新将会继续
  • 守1:关注威胁情报,依托生态伙伴,洞察攻防前沿,避免成为水果,让人垂涎欲滴
  • 攻2:没有银弹,攻防进入机器学习对抗时代
  • 守2:机器学习不是万能的,没有机器学习是万万不能的
  • 攻3:广谱和定向融合 – 相互利用,“精细化运营”
  • 守3:不对称防守,在维度上做扩展
  • 攻4:战场无极限 – 各种THINGS都上网
  • 守4:防护无死角,S(社交)M(移动)T(物联网)都需要考虑
  • 攻防双方的“军备竞赛” 需要高效的战略制衡

支付宝回应 手机登录成功后才能人脸识别

当前手机密码登录成功过的用户才开放人脸登录,支付宝针对央视315晚会曝光的人脸识别漏洞发表声明称,支付宝只对在当前手机上用密码登录成功过的用户才开放人脸登录。支付宝方面表示,除了人脸识别,支付宝还会通过人工智能、风控系统等对账户使用情况进行安全监测以确保安全。支付宝承诺,任何通过照片处理实现人脸登录,导致账户被盗的,支付宝会全额予以赔付。以下为支付宝声明全文:

《攻守“军备竞赛” 2017 如何布局》全文下载

点击图片下载

发表评论