清华系AI公司发布两款AI产品隐私保护机器学习平台

骗过人工智能的“眼睛”已经不再是一件难事。

今年美国东北大学和麻省理工大学等大学和研究机构做了一项创新实验，共同研制出了基于“对抗样本”的T恤衫，对抗样本是指一种由攻击者精心设计的特殊样本，科研人员就对T恤上的原图案进行了修改，通过了一定的技术手段将图案生成了有较强干扰性的图案，以此来改变T恤的视觉效果，导致AI人体检测摄像头无法准确地检测出穿着该T恤的行人。

类似的技术戏法如今已被广泛应用，黑客可以通过一副“对抗样本”眼镜轻松实现身份伪装，破解手机面部解锁，或是伪装成他人完成银行和政务系统的身份认证，甚至打开人脸识别门锁，窃取财产。

提升AI能力需要最大限度的挖掘数据价值，但是在金融、医疗、公共安全等场景的AI应用中，需要用到的数据往往涉及个人隐私信息，这些攻击行为都给AI落地带来了巨大的挑战。

在近日举办的2020第三代人工智能产业论坛上，中国科学院院士、清华大学人工智能研究院院长张钹指出，现在很多人工智能公司估值很高，但是营收很少，问题在于没有解决算法和数据的不安全性，造成深入到更多高价值的场景速度较慢。“企业要做大做强，必须解决安全和鲁棒（稳定强健）的问题。”

论坛上，依托于清华大学人工智能研究院孵化设立的瑞莱智慧RealAI发布了旗下两款最新AI产品隐私保护机器学习平台RealSecure和人工智能安全平台RealSafe2.0 版本。其中RealSafe可以理解为是针对AI算法的杀毒软件和防火墙，2.0 版本新增了对抗样本检测方法、对抗训练等解决方案。据了解，目前，RealSafe已在工信部重大建设项目以及某电网公司落地应用。

瑞莱智慧RealAI CEO田天对AI财经社说，在行业里，如果无法保障AI安全，很多业务场景根本没办法开展。比如金融行业的一些解决方案要求补充数据，这个时候就涉及到数据安全隐私保护，要通过隐私网络机器学习平台，在合规前提下才能把银行内部的数据和外部打通，只有这样才能打破数据孤岛，支持上层的AI用户得到更多的数据，进而更形成更好的系统。“保障AI安全不只是锦上添花，实际上是在解决一些根本性的问题，让更多的创新应用场景成为可能。”

他还提到，现在很多刷脸支付的厂商对于人工智能的安全问题都非常重视，因为自己没有办法研发，都在寻找一些类似AI防火墙的产品，这块的商业需求已经非常强烈。

田天说，虽然阿里、Facebook等公司也在关注这个领域，但主要是偏实验室检测和技术工具。整体来看，AI安全在市场上还是一条比较新的赛道，公司在包括贝叶斯深度学习、可解释机器学习、AI对抗攻防等第三代AI核心技术方面有一定的积累，产品相比起来是一个面向企业级更加商业化的技术平台。
责任编辑：YYX

机器学习人工智能公司清华

免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。