南京大学研究生(南京大学研究生官网招生网)

南京大学研究生，南京大学研究生官网招生网

来源：高校人工智能与大数据创新联盟

随着科学技术飞速发展，人工智能技术已经广泛应用于我们的各种生活场景中，如自动驾驶、人脸识别、医疗诊断等，为经济社会发展带来了新动力。然而，人工智能在带来新机遇的同时，也存在被恶意攻击的安全隐患。“人工智能技术的应用安全性关系到人民利益、社会稳定与国家安全，如何保障人工智能应用安全落地，已成为当前亟需重视的问题。”此次省两会上，省政协委员、南京大学计算机系副主任仲盛提出，人工智能是一把“双刃剑”，安全问题应高度重视。

仲盛告诉记者，目前的人工智能技术仍存在较多安全漏洞。他以对抗样本实验为例向记者介绍，近年来，对抗样本攻击算法的出现和快速发展，严重威胁着基于深度学习的人工智能系统安全，只需对输入数据添加难以察觉的微小扰动，就能误导系统输出错误结果，实现恶意攻击。例如在2020年的一项研究中，穿着印有对抗样本T恤的试验者成功地在目标检测系统中“隐身”，而另一项研究则成功地让人脸识别系统将试验者误认为他人等。“若犯罪分子利用类似安全漏洞，逃避监控、冒充他人、误导自动驾驶车辆、干扰各类人工智能应用，将造成难以估计的后果。”仲盛说，目前对人工智能技术的安全评估标准、评估流程和评估内容等仍不够完善，对实际应用中潜在的威胁做出实时、全面和可靠的分析仍有较大困难，从而有可能留给恶意攻击者可乘之机。在应用遭受恶意攻击时，我们不一定能拿出非常及时有效的处理措施，因此未必能阻止危害进一步扩大。

对此，仲盛提出，应当考虑加强人工智能应用安全防御研究。在政府方面，可以加大资金和政策扶持的力度。在研究人员方面，可以依托相关研究机构与相关院校，构建人工智能安全防御研究平台。进一步完善人工智能应用安全人才培养体系，加大相关安全类人才培养力度；加快引进人才、用政策留住人才，促进高水平人工智能应用安全人才队伍建设。

同时，还应加快完善人工智能应用领域安全评估机制。可以组织相关专家，针对人工智能应用制定科学的安全评估标准，构建全面的安全评估内容、完善评估工作流程等，创建规范化、系统化的安全评估机制。尤其针对一些目前已经普及应用的领域，如安防监控、人脸过闸、人脸支付、自动驾驶等，应推动设立评估机制。最好能在部署实际应用前，组织相关专家对其进行安全评估，如存在的安全漏洞、遭受攻击的可能性、攻击的影响程度等；应用部署后，也可定期由相关专家人员进行再评估，保障应用始终安全。

“未雨绸缪才能防患于未然。”仲盛表示，还可制定并落实可靠的安全防控预案，面对不同的应用领域，结合安全评估结果，针对潜在的安全隐患制定相应详细、有效、可靠的防控预案并全面落实，有效预防和降低安全漏洞攻击所造成的危害。

来源：南京大学新闻网

版权声明：转载文章和图片均来自公开网络，推送文章除非无法确认，我们都会注明作者和来源。如果出处有误或侵犯到原作者权益，请与我们联系删除或授权事宜

南京大学研究生(南京大学研究生官网招生网)

未经允许不得转载：考研培训网 » 南京大学研究生(南京大学研究生官网招生网)