业内人士：安全成数字经济新基建，须依靠AI实现？

中新网客户端北京12月6日电(张旭)5日，在蚂蚁安全和清华大学共同召开的AI和安全研讨会上，蚂蚁巴巴集团的最高风险负责人郑俊芳判断，安全成为数字经济时代的新基础设施，安全基础设施必须通过AI(人工智能)实现。

AI面临算法安全问题

中国科学院院士、清华大学人工智能研究院院长张博认为，人工智能首先在交通、医疗、金融、智能制造等领域发生革命性变化。从长远来看，人工智能将根本改变这些领域，从现实来看，仍有许多困难需要克服。

中科院院士、清华大学人工智能研究院院长张博。中新网记者张旭摄影

目前，国内部分地区已有制造商试行自动驾驶出租车服务，但总体来说，目前所有自动驾驶产品和即将上市的产品都在L4级以下。

西安交通大学人工智能和机器人研究所教授薛建儒认为，无人驾驶安全可靠面临的挑战是无人驾驶面临动态决策，其固有的复杂性、不确定性和歧义性是开放性的问题。

薛建儒表示，目前我们的无人驾驶在应对复杂场景和人类驾驶员的适应性上存在很大差距。如何引进人类的驾驶知识，将人类的直觉推理和演绎推理这样的认知机构放在驾驶模型中，提高现在模型的表现力，我们还不够。

张博表示，AI面临算法安全的根本原因在于，神经网络只是进行函数映射，缺乏对任务的理解，算法的鲁棒性(Robust的音译，指在异常和危险情况下系统生存的能力)差，具体来说，一个是测试集的鲁棒性差，测试集和训练数据差，普及能力差。二是对噪音的鲁棒性差，AI算法容易被滥用、攻击、误用。

安全能力的提高需要开放合作

正如郑俊芳所说，安全基础设施必须通过AI实现，安全AI在多个领域发生变化。

清华大学计算机系副主任朱文武介绍了多媒体和AI的研究，希望人工智能为多媒体提供研究的新思想和模式。例如，原来的语义处理通过特征提取进行分析，语义学习为多媒体提供语义和多模式信息，有助于机器学习更好。多媒体和AI呈现相互促进、相互帮助、相互指导的态势。

阿里巴巴集团首席风险官郑俊芳在会上演讲。据中新网记者张旭摄影

蚂蚁安全高级算法专家雪晖介绍，近5年来蚂蚁每万笔交易的侵权商品量减少了约3分之2，近3年来蚂蚁平台通过输出线索协助公安打击在线销售假点，逮捕嫌疑犯约1万人，累优艾设计网_设计百科计案件超过200亿人。

这两个数字背后，蚂蚁建立的人工智能复杂的电气商务环境管理系统发挥着巨大的作用。算法专家不仅要保障上述系统的两项能力，还要关注电器商品的重要节点模型本身的安全性，保证模型不会出现漏洞，不会被黑产利用，保证模型的鲁棒性。

郑俊芳表示，蚂蚁在安全领域投入非常大，技术人员在安全队伍中占50%以上。近年来，我们与顶级团队在不同领域合作。合作的背景是我们面临许多挑战，安全必须通过坚定的投资和更开放的合作来解决今天面临的复杂挑战。(完成)