爱体育在线登录:人工智能并没有那么牢靠:体系“不知道自己不知道”且算法不安全

2022-08-19 10:15:22

来源:爱体育官方网站 作者:爱体育网页版

  人工智能技能一直是当时科技范畴的热门,不论是从图画剖析到自然语言了解,再到科学范畴。得益于神经网络的“深度”革新,以许多数据和算法加持的算力去处理杂乱的数据已成为日常,而这在曩昔是无法幻想的,背面则是人工智能技能日新月异开展的必然成果。

  在刷脸、自动驾驶、才智家庭等各种人工智能使用场景纷繁落地日常日子的当下,从顾客的视角来看,人工智能现已让日子变得更美好了,但这一技能是否现已满足强壮了呢?学术界的答案却恰恰相反——当时的人工智能技能在安全牢靠方面其实彻底不够看!

  在日前举行的首届“青年科学家50²论坛”上,清华大学教授朱军对正在高速开展的人工智能产界泼出一盆冷水:今日的人工智能远远算不上完美。首先是深度学习依然面对着鲁棒性差的问题,比方许多手机都会装备人脸辨认计划,但经过一副打印了特别纹路图画的眼镜,就能轻松解锁许多手机;再提到安全需求更高的自动驾驶体系,黑客们只需求在标识牌上加上特定图画,就能让体系将限速标识辨以为中止标识,导致丧命事端的发生……

  这些看似十分契合人们直觉或者是常见的问题,放到很智能的体系面前,却会呈现过错的成果,背面的原因是什么?

  “这里边一个要害的问题,是现在的人工智能技能‘不知道自己不知道’。”朱军表明,人类都能够遵从“知之为知之,不知为不知,是知

  也”的道理,但当时的人工智能干流技能,绝大部分都短缺这种才能。比方在一个许多猫和狗相片的比对体系中放一张人工智能还不知道的苹果相片,让人工智能来剖析这是什么,成果答案要么是猫,要么是狗,而这只取决于这张苹果相片和猫、狗哪个更类似一些。

  不必置疑人工智能的学习才能,但的确缺少“知道自己不知道”的才能。学术界以为,一个人工智能体系假如知道自己“不知道”,其实代表着其有更高的智能水平。“具体来说,在实际国际里存在两种不确定性会影响到人工智能对此的认知,一种是比较直观的环境和数据的不确定性导致的信息收集不彻底;另一种则是更笼统的、更难以被感知的信息,这种模型的不确定性,让大数据的模型存在歧义,让人工智能在练习时或许体现得十分好,可是测验上就会发现功能间隔很大。”朱军表明,现在的处理思路是更深化地研讨贝叶斯智能理论,处理怎么定量、客观地核算这种不确定性,得到最优的成果。推进贝叶斯智能理论研讨的深化,则需求产学研界的共同努力。

  人工智能的概念发生最早可追溯到1956年的达特茅斯会议,但直到近十年来这一范畴才真实地深入改变了群众日子,乃至霸占了多种人类国际的尖端应战,比方打败围棋尖端选手、猜测蛋白质结构、打败人类飞行员等等。但现在来看,当时的人工智能技能不仅在牢靠性方面存在很大问题,安全和可信方面也开端进入瓶颈期。

  8月3日,在首届全球数字经济大会的人工智能工业管理主题论坛上,中国科学院院士张钹抛出了一个观念:当时人工智能的安全管理是火烧眉毛的,跟着技能潜入到“深水区”,研讨发现,人工智能的算法存在一些根本性的问题,自身就带有不安全性,简单遭到进犯。“人工智能技能所面对的安全问题是十分特别的,其问题不在于规划,而是源自算法自身的不安全性。这种算法的不安全性,是由第二代人工智能所引起的。”

  “学术界现已开端考虑技能下一步的开展方向,新一代人工智能的开展途径是交融第一代的常识驱动和第二代的数据驱动的人工智能,一起使用常识、数据、算法和算力等4个要素,建立新的可解释和鲁棒的人工智能理论与办法,开展安全、可信、牢靠和可扩展的人工智能技能。”朱军表明,“安全牢靠”作为第三代人工智能的中心开展方针逐步成为一致,数据与算法安全也成为学界和业界人士要点重视的研讨主题之一。回来搜狐,检查更多