当前位置:67777.com > 公司简介 > 【67777.com】严望佳委员:应建立人工智能应用审

【67777.com】严望佳委员:应建立人工智能应用审

文章作者:公司简介 上传时间:2019-11-24

自动驾驶、医疗、金融等领域中人工智能已屡见不鲜。全国政协委员、启明星辰信息技术集团股份有限公司首席执行官严望佳说,人工智能技术若不注意有效地安全控制和管理,则可能留下难以估量的安全隐患。

3)人工智能产品和应用的安全评估工作进展缓慢。当前,针对爆发式的人工智能产品和应用,不少研究机构在熟悉的技术点方面发现了多个安全漏洞,但几乎都缺乏全面和系统性的安全评价。总体上,由于存在技术融合多、使用环境复杂、应用领域广等方面的原因,目前针对人工智能产品和应用的安全评估工作尚处于研究探索阶段,在系统性评估技术、评估标准规范、测评工作组织方面进展较为缓慢。

严望佳建议加快开展人工智能安全应用法规和伦理道德的研究,研究出台相关法律法规,界定人工智能应用的法律主体及相应的权利和义务;开展人工智能伦理道德的探讨,约束人工智能研究与实际应用的范围界限。其次应建立关键领域内的人工智能应用安全审查机制,在一些直接影响国计民生和公共安全的关键领域中,例如医疗、金融、交通和教育等,建立人工智能应用的准入审查机制。严望佳还建议展开人工智能安全评估技术研究,推动人工智能安全相关的国家标准和行业标准的制定工作,明确相关安全评估指标、方法和要求,建立安全测评流程和管理规范,健全人工智能产品和应用安全测评机制。

建议通过产业政策引导和组织管理措施,一方面引导加快研究人工智能产品和应用的安全评估评测技术,逐步积累安全检测样例库、测试样本库等知识资源和研发测试工具集,提高人工智能产品和应用的安全评估评测能力;另一方面推动人工智能安全相关的国家标准和行业标准的制定工作,明确相关安全评估指标、方法和要求,建立安全测评流程和管理规范,健全人工智能产品和应用安全测评机制。

人工智能是驱动新一轮科技革命与产业变革的战略性技术力量。近年来,在党中央、国务院的战略政策引导下,我国人工智能发展迅速,已经有力地推动了社会经济的发展和人民生活水平的提升。然而必须注意到,由于人工智能技术仍处于快速发展中,若不注意有效地安全控制和管理,则可能留下难以估量的安全隐患。在主持中共中央政治局第九次集体学习时指出:“要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控。”为了达到这一目标,在法律规范、监督管理、学术研究等方面都需要做出相应的努力。

在一些直接影响国计民生和公共安全的关键领域中,例如医疗、金融、交通和教育等,人工智能应用和人身安全、社会稳定和国家安全密切相关,一旦发生安全事件将会造成严重的后果。因此在这些领域内,建议建立人工智能应用的准入审查机制,加强人工智能算法及应用的安全性、可控性和透明性的审查。

除了要继续落实和加强对人工智能的激励引导措施之外,建议还加快安全应用规章和规范的研究,确保其沿着良性健康发展之路前进。具体的安全规范机制包括研究出台相关法律法规,界定人工智能应用的法律主体及相应的权利和义务;开展人工智能伦理道德的探讨,约束人工智能研究与实际应用的范围界限。

2)建立关键领域内的人工智能应用安全审查机制

1)人工智能安全健康发展法规和伦理道德研究不足。当前人工智能应用越来越广泛,但其在法律主体、权利、义务和责任方面还存在很多研究和应用空白。随着人工智能的应用推广,其在法律、社会规范和道德伦理的挑战将越来越明显。总体来看,目前针对人工智能的发展主要以战略、政策的形式进行引导激励,而相应的法律法规以及道德规范要求还不健全,尚不能有效防范控制潜在的安全风险。

本文由67777.com发布于公司简介,转载请注明出处:【67777.com】严望佳委员:应建立人工智能应用审

关键词: