上海率先成立人工智能产业安全专委会，向全世界发出“上海倡议”
2019-7-4 22:33 |
查看: 702|
评论: 0
人工智能在推动经济社会创新发展的同时，也在重塑人类安全的未来。7月2日，上海市人工智能产业安全专家咨询委员会成立仪式暨第一次会议召开。会上了《人工智能安全发展上海倡议》，同时面向全球启动人工智能产业安全创新实践案例和优秀论文征集活动。 人工智能安全专委会在上海市人工智能战略咨询专家委员会基础上成立，旨在瞄准国际人工智能产业发展前沿，服务上海发展的定位和需求，构建专家协同网络，推动人工智能产业健康发展。安全专委会由来自高校、科研院所和企业的相关专家组成， 中国科学院院士何积丰担任主任。秘书处设在上海赛博网络安全产业创新研究院，承担相关日常工作。
上海市政府副秘书长陈鸣波表示，上海组建成立人工智能产业安全专家咨询委员会，就是要为国家人工智能产业安全发展先行先试。按照技术突破、产业创新和法律研究各方面需求，兼顾地域和领域代表性，召集跨界别的专家、学者和企业精英，探讨“产学研用”深度融合，既推动上海人工智能安全产业蓬勃发展，又进一步推动引领全国人工智能产业安全发展。 依托专委会平台，上海将紧扣国家战略、上海定位和区域需求，围绕中长期战略规划、重大项目评估、重点应用领域安全实践、前沿课题研究等，共商共治、群策群力，为上海探索一条更有包容性、更具开放性的安全发展模式和工作路径。 当前，对人工智能产生的安全风险加强战略性、前瞻性的研究部署，逐渐建立相应的法律法规、伦理规范和政策体系，已经成为国内外的共识。一些国家、地区和国际组织、私营企业、社会团体等积极推动人工智能安全与治理的进程。中国是世界人工智能安全治理的重要参与者，上海正在加快推进人工智能高地建设，此次会议发布的《人工智能安全发展上海倡议》不仅是安全专委会成立后发布的首份倡议文件，更是上海向全国、全世界发出的铮铮宣言。倡议在充分吸纳国内外人工智能安全共识的基础上，从应对人工智能安全挑战，守护智能时代人类未来的主旨出发，包含 “面向未来、以人为本、责任明晰、隐私保护、算法公正、透明监管、和平利用、开放合作”等八大目标原则及其基本要求。 会上，安全专委会主任何积丰院士宣布启动2019世界人工智能产业安全创新实践案例征集和优秀论文征集活动。面向全球企业征集人工智能产业安全领域的标准规范、研发成果、产品/服务、解决方案等实践案例，面向全球高校、科研院所、国际组织等机构中从事人工智能安全领域研究的科研人员和青年学生，征集高质量、高水平的学术论文。征集活动的评选成果将在2019世界人工智能大会期间对外公布。 附：人工智能安全发展上海倡议（全文） 为了应对人工智能安全挑战，守护智能时代人类未来，上海市人工智能产业安全专家咨询委员会在充分吸纳国内外人工智能安全共识的基础上，联合人工智能安全领域的专家学者和产业界同仁，共同发起“人工智能安全发展上海倡议”，内容如下： 面向未来：人工智能发展需要实现创新与安全的协同，以安全保障创新，以创新驱动安全。在确保人工智能自身安全的同时，积极将人工智能技术应用于解决人类社会的安全难题。 以人为本：国际社会应一道科学规划人工智能的发展路径，确保人工智能按照人类预期并服务人类福祉方向发展，机器自主进化和自我复制等关键进程须进行风险评估和安全监管。 责任明晰：人工智能发展应当建立完备的安全责任框架，需要针对人工智能的应用场景，不断创新法律法规和伦理规范，明确人工智能安全责任认定和分担机制。 隐私保护：人工智能发展需要保障用户的数据安全，人工智能发展不得以牺牲用户隐私为代价，需要加强数据保护立法，丰富人工智能的技术路线，不断强化人工智能应用中的用户隐私保护。 算法公正：人工智能发展应避免由于算法设计对公众产生的危害，须明确算法动机和可解释性，克服算法设计和数据收集引发的不公正影响。 透明监管：人工智能发展应当避免技术黑箱导致的安全风险，需要通过建立可审查、可回溯、可推演的监管机制，确保目标功能和技术实现的统一。 和平利用：人工智能技术应当审慎运用在军事领域，自主化武器的研发和使用须遵循严格的风险评估，避免由于人工智能技术在军事领域滥用对全球和平稳定的威胁。 开放合作：人工智能发展需要各国、各方的协同共进，应当积极在国际范围建立人工智能安全发展的规范和标准，避免技术和政策不兼容导致的安全风险。 |
免责声明：
除非特别声明，文章均为投稿或网络转载，仅代表作者观点，与大数据中国网无关。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。如果本文内容有侵犯你的权益，请发送信息至ab12-120@163.com，我们会及时删除
最新评论
最新新闻
最新新闻
要闻推荐
要闻推荐
今日视点
今日视点
/1 
