探营世界互联网大会“互联网之光”博览会:看AI如何打败AI

发布时间:2025-02-08 来源:互联网

上传一张照片,就能利用AI技术鉴别照片是不是其他AI的伪造品;不法分子使用了AI换脸技术,也能被AI精准识破。

11月19日,2024年世界互联网大会乌镇峰会开幕,人工智能再次成为热议话题。在“互联网之光”博览会的蚂蚁集团展台,极目新闻记者注意到,AI能够帮助我们识别图片是否经过AI创作,还能堵上AI换脸带来的安全漏洞。

探营世界互联网大会“互联网之光”博览会:看AI如何打败AI

过去一年,全球人工智能技术发展迅速,正在成为新一轮科技革命和产业变革的重要力量。今年的世界互联网大会聚焦于人工智能技术、产业发展及其对人类经济社会的影响。

蚂蚁集团展台工作人员介绍,当大模型和AI智能体带来前所未见的智能体验,模型内部幻觉、安全漏洞和深度生成内容伪造等问题也带来了新的挑战。蚂蚁集团的“AI鉴真”工具,可以实现用AI打败AI。

用AI生成一张照片或一段视频,这在技术上被称为深度伪造,常被犯罪分子用于诈骗勒索。蚂蚁正通过蚁天鉴和ZOLOZ等安全技术产品加强对图像、视频的鉴真能力。

蚁天鉴不仅支持图像、视频等多模态内容真实性及深度伪造的监测,还支持大模型X光、大模型基础设施测评、应用安全测评、围栏防御等技术能力。

极目新闻记者现场从图库中选择了多张照片,仅用几秒,蚁天鉴就可以准确识别出图片或视频片段的真伪,明确告诉记者是否经过了AI创作。此外,还可以通过纹理、光影、文字等细节,鉴别营业执照等证照的真实性。

探营世界互联网大会“互联网之光”博览会:看AI如何打败AI

而ZOLOZ技术则更专注于攻克AI换脸难题,其人脸识别准确率达99.9%。在现场,极目新闻记者用手机拍摄本人头像照片后,AI将这张照片合成为戴眼镜和露齿笑两张照片,以及包含眨眼、张嘴等动作的活化视频,十分具有迷惑力。搭载ZOLOZ技术的手机通过前置摄像头的逐一识别,很快鉴别出原始照片,给深度伪造的照片及视频打上醒目标签。现场多位观众多次尝试,都没能混淆ZOLOZ的判断。

工作人员介绍,目前ZOLOZ已为中国、印尼、马来西亚、菲律宾等24个国家和地区提供技术服务,涵盖金融、保险、证券、信贷、电信、公共服务等多个领域,累计服务用户超12亿。

“蚂蚁AI智能体的技术底座,就是我们的‘认知决策智能体技术创新与应用’。”现场工作人员介绍。该技术底座以万亿参数可信大模型“蚂蚁百灵大模型”为基础能力,结合高性能知识决策引擎技术,使得大模型在决策时更准、更可靠、更安全,就像为大模型装上了可信的大脑。

本周热门教程

1
政策支持+应用提速,创业板人工智能指数连涨四周!机构:重视AI全产业链业务机会!

政策支持+应用提速,创业板人工智能指数连涨四周!机构:重视AI全产业链业务机会!

2025/01/10

2
中国博后Cell发文,论述“AI科学家”推动生物医学发现

中国博后Cell发文,论述“AI科学家”推动生物医学发现

2025/01/10

3
美年健康:大模型与AIAgent赋能引领医疗人工智能应用

美年健康:大模型与AIAgent赋能引领医疗人工智能应用

2025/01/20

4
让AI“开口说话”:复杂模型的解释不再晦涩

让AI“开口说话”:复杂模型的解释不再晦涩

2025/01/20

5
减少AI幻觉,提升搜索速度,秘塔科技实现人力到算力飞跃

减少AI幻觉,提升搜索速度,秘塔科技实现人力到算力飞跃

2025/01/21

6
苹果AI负责人称公司对开发通用人工智能不感兴趣,短期内难实现

苹果AI负责人称公司对开发通用人工智能不感兴趣,短期内难实现

2025/01/27

7
人工智能助力雄安建设“未来之城”

人工智能助力雄安建设“未来之城”

2025/01/27

8
AR向左,AI向右,智能眼镜来到十字路口

AR向左,AI向右,智能眼镜来到十字路口

2025/01/28

9
周鸿祎:AI虽然能力很强,但是不能把AI塑造成神

周鸿祎:AI虽然能力很强,但是不能把AI塑造成神

2025/02/02

10
美商务部长:美国人工智能安全研究所与OpenAI等进行合作开展AI模型的自愿预部署测试

美商务部长:美国人工智能安全研究所与OpenAI等进行合作开展AI模型的自愿预部署测试

2025/02/02