世界数字科学院执行理事长李雨航:生成式人工智能对数字身份安全性造成威胁

发布时间:2025-05-02 来源:互联网

上午,联合国未来峰会行动日边会线上举办,边会主题为“人工智能时代的数字身份”,由WDTA(World Digital Technology Academy,世界数字科学院)领衔主办,重点探讨在人工智能(AI)迅速发展的背景下,创建全球数字身份框架的紧迫问题。

会上,WDTA执行理事长李雨航院士发表了主旨演讲“塑造未来的身份”,他介绍,数字身份即代表个人在数字空间中的数据。

随着新的数字和医疗技术的出现,身份变得更加复杂。其中,生成式人工智能可以创建高度逼真的深度伪造图像、视频和声音克隆,对身份验证系统构成重大威胁。此外,AI可以结合真实和虚假信息生成合成身份,创建全新的人物角色,开设账户、进行欺诈并逃避数字空间的检测。生成式人工智能可以自动化网络钓鱼攻击,使攻击者更容易欺骗个人或系统。

当前,一些国家已经开始构建数字身份。

例如,中国自1980年代起发放实体身份证,用于身份验证和各种行政服务,当前则已转向数字身份系统——2018年推出CTID(网络可信身份),提供与国家身份证关联的数字身份,用于安全、在线访问服务;推出电子身份证(eID),即实体身份证的数字版本,用于在线交易中的身份验证;统一数字身份,即互联网用户的统一数字身份,用于通过单一登录访问在线服务。

欧盟于2014年引入电子身份识别和信任服务法规(eIDAS),作为电子身份和信任服务在欧盟成员国间的法律框架;2021年推出欧盟数字身份钱包,作为一个泛欧洲钱包,存储eID、驾驶执照和支付信息,用于跨境公共和私营部门使用;符合eIDAS的*数字身份证,允许公民使用其国家eID进行各种服务等。

李雨航倡导联合国2.0应采用全面的联合国身份战略,确保全球范围内的数字身份治理具有伦理和包容性。为确保全球人工智能技术的安全性、可信性和负责任的应用,李雨航在会上宣布WDTA启动“人工智能安全、可信和负责任”(AI STR)认证计划,通过建立严格的国际标准,确保AI系统从设计、开发到实际应用的各个阶段都遵循最高的安全与伦理标准。

本周热门教程

1
中国科技馆AI主题活动的举办,增强人工智能科学素养提升

中国科技馆AI主题活动的举办,增强人工智能科学素养提升

2025/04/16

2
中国银河证券:建议关注AI+应用相关以及半导体设备零部件领域龙头公司

中国银河证券:建议关注AI+应用相关以及半导体设备零部件领域龙头公司

2025/03/19

3
人工智能引领系统思维新模式“智核0”:助力人类认知飞跃

人工智能引领系统思维新模式“智核0”:助力人类认知飞跃

2025/04/16

4
AI遇上化学:“不可能”变为“可能”

AI遇上化学:“不可能”变为“可能”

2025/01/07

5
AI智能体创作模式来了,版权忧患也来了

AI智能体创作模式来了,版权忧患也来了

2025/02/18

6
当AI赋予机器人“灵魂”:2024年最值得关注的AI机器人技术盘点

当AI赋予机器人“灵魂”:2024年最值得关注的AI机器人技术盘点

2025/02/11

7
中国科学院院士陈润生:人工智能大模型仍在发展初期生物医药行业的应用刚刚开始

中国科学院院士陈润生:人工智能大模型仍在发展初期生物医药行业的应用刚刚开始

2025/02/24

8
中经评论:勇立潮头拥抱人工智能

中经评论:勇立潮头拥抱人工智能

2025/02/25

9
2024地球环境系统科学观测与人工智能模型发展研讨会在武义召开

2024地球环境系统科学观测与人工智能模型发展研讨会在武义召开

2025/01/10

10
AI应用范围持续扩大商业化空间进一步打开

AI应用范围持续扩大商业化空间进一步打开

2025/02/12