点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:人工智能产业亟待发展“安全可控”新能力
首页> 新闻中心> E视线> 观察 > 正文

人工智能产业亟待发展“安全可控”新能力

来源:光明网2021-06-08 13:30

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作为引领第四次科技革命的战略性技术,人工智能给社会建设和经济发展带来了重大而深远的影响,但数据隐私、算法偏见、技术滥用等安全问题也给社会公共治理与产业智能化转型带来挑战。

  未来人工智能如何兼顾创新发展与安全可控?在近日举办的北京智源大会AI安全与产业治理论坛上,中国科学院院士、清华大学人工智能研究院院长张钹表示,未来人工智能产业发展在扩大应用场景的同时,必须实现数据、算法与应用层的安全可控。

  “人工智能的安全可控问题要同步从技术层面来解决。”在具体实现路径上,张钹提出了发展“第三代人工智能”,即融合第一代的知识驱动和第二代的数据驱动的人工智能,利用知识、数据、算法和算力四个要素,发展安全、可信、可靠和可扩展的AI技术。

  瑞莱智慧CEO田天表示,现阶段人工智能产业正经历从高速增长向高质量发展的转变,产业期待的提升让金融、医疗等更复杂的高价值场景应用需求不断增加,安全性的重视程度也不断提升,但由于传统技术范式存在天然的算法漏洞和缺陷,难以支撑人工智能的长久高质量发展。

  如何定义人工智能“安全可控”?田天认为,“安全”是指打造数据安全与算法安全两大核心能力,解决数据强依赖带来的隐私泄漏等隐患,同时提升算法的鲁棒性与可靠性;“可控”既指应用层面的合规可控,更指核心技术的自主可控,以自主可控为根基,通过理论创新、技术突破形成核心竞争力。安全可控是发展第三代人工智能的核心基准,也是加快人工智能高质量发展的有力支撑。

  数据的不安全和算法的不安全是制约当前人工智能产业发展的主要因素,也是发展安全可控人工智能需要解决的核心问题。中国信息通信研究院安全所信息安全研究部主任魏薇认为,人工智能与数据产业互促发展的同时安全问题也交织影响,一方面人工智能对数据强依赖的发展特性导致其面临的自身数据安全风险、应用导致的数据安全风险以及应用加剧的数据治理挑战日益凸显;另一方面,人工智能也为数据治理工作提供自动化、智能化、高效化、精准化的智慧支撑。

  相较数据安全,算法安全问题仍处于刚“兴起”阶段。阿里安全资深算法专家何源介绍,虽然人工智能技术已经在净化网络环境、知识产权保护、生物识别、线下安防等安全工作中发挥着越来越大的助力作用,让安全更智能,但其本身也面临着鲁棒性不够、可解释性差、技术滥用等安全风险。比如,算法漏洞的存在可以针对图像检索系统开展攻击,导致非原创图片逃逸检测,对网站安全与商家权益造成威胁。

  在“新基建”浪潮驱动下,人工智能产业即将迎来与传统产业深度融合的机遇期。田天表示,在安全可控的核心支撑下,可以高效的贡献人工智能的技术优势,重塑产业智能,实现从“单点自动化”到“深度智能化”的价值提升。比如,在金融领域,人工智能的创新融合正为金融场景打造出一个兼具决策分析与感官感知的“智慧大脑”。在安全可控的支撑下,“智慧大脑”能够拓展全新能力边界,实现更好的决策左脑与更加安全可靠的感知右脑。

  在安全可控的助力下,“深度智能”时代正将加速到来,人工智能在各行业领域的应用广度和深度将不断得到拓展。田天表示,第三代人工智能通过释放“数据、知识、算法、算力”的全新维度,为实现安全可控的新一代人工智能提供可能,让人工智能走出“浅层智能”的舒适区,重塑全新的产业价值。(文/光明网记者 李政葳)

[ 责编:孔繁鑫 ]
阅读剩余全文(

相关阅读

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 动画|雷锋精神代代传

  • 王选:告别铅与火

独家策划

推荐阅读
2021年6月15日,河北省邯郸市鸡泽县城东湿地公园,各种鲜花竞相绽放,芳香四溢,吸引大批游客前来赏花、拍照。
2021-06-16 10:37
湖南郴州资兴市消防救援大队联合资兴市第二完全小学开展"消防安全教育进校园"主题宣传活动,通过宣讲消防安全知识、体验消防器材装备、学习灭火技能、参加消防安全演练等,进一步提高学生的消防安全意识和安全自救能力。
2021-06-16 10:07
2021-06-15 10:11
雨后初霁夏日庐山美如画
2021-06-15 10:07
2021年6月10日,在湖北省襄阳市保康县公安局交通警察大队人保车驾管社会服务站,市民程女士领到"襄阳B00001"电动自行车号牌。
2021-06-11 11:02
2021年6月10日晚,浙江省湖州市长兴县百叶龙职业技能培训学校进行,美容师在开展技能考核。为提高妇女就业能力,长兴县人社局、长兴文旅集团联合开办美容师成人教育培训班,拓宽妇女就业渠道。
2021-06-11 11:01
浙江仙居:天空之城
2021-06-11 10:43
在首次运行的"湘赣边红色专列",红领巾讲解员正在为学员们讲述红色故事。"湘赣边红色专列"从湖南省株洲市火车站出发,途径醴陵市、攸县、炎陵县,通过"车厢课堂"的形式,开展重温入党誓词、学习中共党史、聆听红色党课、宣讲红色故事、诵读红色经典、高唱红色歌曲、回味红军餐的系列活动,传承红色基因。
2021-06-11 10:43
6月9日清晨,甘肃省张掖国家湿地公园满目清翠,碧水蓝湾,一幅塞上江南、戈壁水乡的锦绣画卷。张掖国家湿地地处城市北郊,是张掖重要的生态系统,被誉为“城市之肺”。
2021-06-11 10:21
2021年6月8日,江苏省盱眙县第一山历史古街,当地群众通过舞龙、舞狮、划旱船等非遗文化展演,迎接端午节的到来。
2021-06-10 18:24
6月9日,庆祝中国共产党成立100周年群众性主题宣传教育活动暨高米店街道原创音乐舞台剧《咱家高米店之爱的巡礼》在北京市大兴区少年宫上演。
2021-06-10 17:08
2021年6月9日,在湖南省资兴市三都镇流华湾古村,游客正在赏荷游玩。流华湾古村是一个拥有600多年历史的传统古村落。近年来,该村依托古村自然风光,积极探索"农旅+文旅"融合发展之路,引导村民种植千亩荷莲,助推乡村旅游发展。
2021-06-10 11:35
加载更多