返回
顶部
首页 > 江苏 > 正文
人脸识别侵犯隐私,如何打造可信AI?专家、大咖如是说

现代快报讯(记者 谷伟 文 / 摄)尽管当下人工智能技术快速发展,但 AI 在透明性、公平性、安全性、用户个人隐私的保护、可问责性等方面,也面临一系列的挑战,如何打造可信的人工智能?9 月 27 日,在 2021 年世界互联网大会乌镇峰会分论坛之一的 " 人工智能:打造智能经济新优势 " 论坛上,相关专家和企业大咖展开讨论。



中国科学院自动化研究所研究员、中国科学院大学教授曾毅认为,关于人工智能的伦理原则,这些年好的趋势是慢慢形成国际共识,联合国教科文组织、世界卫生组织都在今年发布人工智能全球伦理规划和健康领域的人工智能伦理的规范。但是另一方面,非常值得关注的是,AI 的伦理和治理问题在一个国家、另一个国家不断地出现," 所以我想未来一个非常重要的事情,就是如果共识形成了,那么在进行技术落地的时候,在和产业、场景应用结合的时候,我们如何去实现互鉴。最近几年,我想最重要的是如何把伦理原则去进行技术落地。"

瑞莱智慧创始人兼 CEO 田天表示,其实大家现在关注到的可信 AI 以及安全等方面的几个维度的问题,都是息息相关的,比如说人脸识别是现在 AI 非常典型的一个应用场景,今年 "3 · 15" 晚会期间,专门讲了人脸识别涉及到的隐私保护的问题,这是非常典型的 AI 所引起的数据隐私问题。但同时,其实我们也看到,随着人脸识别在很多关键场景的应用,它也产生了很多安全攻防的问题,比如说会有黑客通过对抗样本甚至用假体去攻击人脸识别,使得人脸识别系统出错,所以它反映的是模型和算法的安全性问题。" 与此同时,在另外一个层面,因为人脸识别以及人脸相关的 AI 技术相当强大,也有人会用 AI 技术生成假脸的伪造视频或者内容去做深度伪造,去侵犯一些别人的肖像权或者做一些恶意的事情,这里面又涉及到 AI 的治理安全问题。"

前一天晚间,由瑞莱智慧研发的 " 安全可靠可控的新一代人工智能平台 ",成为今年世界互联网大会发布的 14 项 " 世界互联网领先科技成果 " 之一。

曾毅认为,现在的人工智能看似智能,但不是真正的智能,所以现在的人工智能也没有达到真正可信的程度。他表示,法律法规伦理规范对企业、对于人工智能的创新要求非常高,但很多东西在技术落地层面存在着种种问题。" 举例来说,像人脸识别,大家觉得在有些场景是比较敏感的,要禁用,但是你会发现有很多的企业在尝试步态识别、指纹识别、远距离虹膜的识别,实际上它们存在的伦理风险、安全风险跟人脸识别没有太大的差别,所以我们如何真正从更可信的人工智能的角度,全面地防范生物特征识别可能存在的风险非常关键。"

未来应该如何发展可信的人工智能?曾毅认为,这需要真正的产学研深度融合,确保我们的人工智能健康发展、稳健发展。

京东集团副总裁、京东人工智能研究院副院长梅涛也表示,如果能够在法律法规的层面上构建一个政产学研用一体的、协同化的、可信 AI 的新机制,那么在未来十年,可信人工智能会成为被全社会接受的人工智能的新基建,可信人工智能的未来可期。田天则认为,可信 AI 不仅是让 AI 变得可信,更多的是用这种更加可信的 AI 去拓展更多高价值的 AI 应用场景,更大限度地发挥 AI 价值。


相关推荐
热点
版权所有 江苏现代快报传媒有限公司 @copyright 2007~2020 xdkb.net corperation. 苏ICP备10080896号-6 广告热线:96060 本网法律顾问:江苏曹骏律师事务所曹骏律师