警告:警惕人工智能程序被利用制造虚假新闻,每日产量惊人超千篇

发布时间:2025-04-17 来源:互联网

近年来,某些MCN机构利用人工智能程序生成大量虚假新闻,导致网络上充斥着大量不实信息,形成了病毒式的传播。同时,某些小说平台也依赖AI进行“创作”,每日推出数本电子书,但内容逻辑不通、辞藻空洞。甚至医学论文也因使用AI生成的虚假配图而被撤稿。如今,AI生成、伪造或篡改文本、图片、音频和视频的现象越来越普遍,产生了大量的“信息*”,引发了关于“AI污染”的讨论。

去年以来,生成式人工智能在全球掀起热潮,其颠覆性应用让许多行业和网民受益。然而,正如硬币有两面,其带来的负面问题也逐渐显现。清华大学的一份研究报告显示,近一年来经济与企业类AI谣言量增速惊人。一些专家认为,AI制造的“信息*”产量庞大,辨别难度较大,筛选成本高昂。

“AI污染”带来的危害显而易见。首先,它会让网民陷入认知幻觉,可能引发公众认知困惑,扭曲对现实和科学的理解。对于伴随互联网成长的年轻一代,其影响更是不堪设想。此外,“AI污染”还可能反噬AI产业的发展,虚假内容若成为训练新数据,将导致AI输出质量下降。更严重的是,“AI污染”涉及法律、伦理、社会稳定等诸多问题,可能侵犯知识产权、泄露身份信息,扰乱社会舆论,加大社会治理难度。

因此,整治互联网“AI污染”势在必行。中国互联网信息中心的数据表明,我国网民规模庞大,年轻一代已成为网络“原住民”,打造清朗的网络空间是保障每个网民美好生活的必要行动。为应对“AI污染”,首先应加大对AI学习和生成机制的源头治理,完善内容生成规则,强制打上显著标识。其次,加强对AI生成内容的筛查监管,开发审查算法规范传播途径。最后,提高用户对AI生成内容的辨别能力,增强防范意识和识别能力。

网络空间不是*场,整治“AI污染”需要各部门同抓共管和全社会共同参与。只有这样,我们才能拥有一个清朗安全的网络家园。

本周热门教程

1
中国银河证券:建议关注AI+应用相关以及半导体设备零部件领域龙头公司

中国银河证券:建议关注AI+应用相关以及半导体设备零部件领域龙头公司

2025/03/19

2
AI遇上化学:“不可能”变为“可能”

AI遇上化学:“不可能”变为“可能”

2025/01/07

3
AI智能体创作模式来了,版权忧患也来了

AI智能体创作模式来了,版权忧患也来了

2025/02/18

4
当AI赋予机器人“灵魂”:2024年最值得关注的AI机器人技术盘点

当AI赋予机器人“灵魂”:2024年最值得关注的AI机器人技术盘点

2025/02/11

5
中国科学院院士陈润生:人工智能大模型仍在发展初期生物医药行业的应用刚刚开始

中国科学院院士陈润生:人工智能大模型仍在发展初期生物医药行业的应用刚刚开始

2025/02/24

6
中经评论:勇立潮头拥抱人工智能

中经评论:勇立潮头拥抱人工智能

2025/02/25

7
2024地球环境系统科学观测与人工智能模型发展研讨会在武义召开

2024地球环境系统科学观测与人工智能模型发展研讨会在武义召开

2025/01/10

8
AI应用范围持续扩大商业化空间进一步打开

AI应用范围持续扩大商业化空间进一步打开

2025/02/12

9
推动人工智能“从数字走向实体”

推动人工智能“从数字走向实体”

2025/02/13

10
中国人工智能产业发展联盟《2024年人工智能先锋案例集》发布

中国人工智能产业发展联盟《2024年人工智能先锋案例集》发布

2025/02/13