
邓亚峰:坏人会对人工智能加以利用 安全问题刻不容缓
“随着和大数据技术的应用落地,特别是在自动驾驶、人脸识别、医疗诊断等安全敏感型的场景应用越来越多,AI和数据安全问题也受到广泛关注。”近日,360人工智能研究院院长受邀参加首届清华大学人工智能合作与治理国际论坛,并就“数据与人工智能安全”议题发表演讲。邓亚峰指出,由于人工智能是快速出现的新应用,AI应用生产和部署的各个环节均暴露出一系列安全风险。比如在人工智能框架方面,框架及依赖组件可能带有漏洞,存在容易被忽视的安全隐患;在人工智能应用方面,存在模型文件窃取、数据流降维攻击等安全风险;在人工智能方面,由于模型的黑盒属性(不可解释性),容易导致一系列以模型误判为目标的恶意攻击。这就容易造成严重的