近年来，随着技术的进步，人工智能（AI）的应用不断扩展，但同时也带来了一个严重的问题：AI造谣。这种现象并非孤例，通过AI技术生成的虚假信息，包括文字描述、图片和视频，有时甚至难以从真实事件区分开来。例如，最近几年出现了多起利用AI工具编造的网络谣言案例，这些谣言往往通过社交平台广泛传播，引发公众恐慌和社会不安。

近年来，以大数据、人工智能（AI）等为代表的信息技术日新月异。与此同时，利用ai工具合成技术编造谣言，甚至生成逼近真实的图片、音视频，颠覆了“有图就有真相”的常规认知，让人难辨真假。

ai造谣的定义

ai造谣指的是利用人工智能技术生成虚假信息，‌包括文字、‌图片、‌音视频等，‌以此来制造网络谣言。

ai造谣典型案例

案例一：利用AI软件编造“山体滑坡致8人遇难”网络谣言

2024年1月23日，有网民在某平台发布文章称：“云南山体滑坡灾害 已致8人遇难”。经查，违法行为人杨某某为获取流量牟利，搜集网络上的相关信息后，利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息，并发布在网络平台上，造成不良社会影响。目前，公安机关已依法对杨某某进行行政处罚。

案例二：利用ai软件编造“喜德县地震”网络谣言

2024年6月9日，有网民在某视频平台发布视频称：“5月27日，四川省凉山彝族自治州发生5.0级地震，震中位于喜德县，地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡，灾情严重”。经查，5月27日凉山发生5.0级地震，震中位于木里县，无人员伤亡，部分房屋受损，违法行为人罗某某为吸引眼球、获取流量，利用ai软件生成虚假地震灾情图片，并在某短视频平台散布不实信息。目前，公安机关已依法对罗某某进行行政处罚。

案例三：利用ai软件编造“女子电动车被扣后猝死”网络谣言

2024年6月，某网络平台出现一条关于“执法与人性的碰撞：五旬妇女电动车被查扣猝死”的消息。该文章称：“澄城县一妇女为了照顾病重的父亲匆忙赶路，却遇到交警执法，在哀求无果、电动车被扣后，情绪瞬间崩溃，心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注，给当地造成极大的负面影响。经调查，田某利用AI工具，加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前，田某对自己通过ai软件编造谣言的情况供认不讳，公安机关依法对田某处以行政处罚。

以上案例均是通过ai软件合成的不实信息，不法分子‌为了赚取平台奖励或吸引流量，‌使用ai软件自动生成文章，‌并与实际图片进行嫁接，‌发布在网络平台上，‌造成不良社会影响，严重扰乱社会公共秩序。

要应对这一问题，我们需要加强对AI技术应用的监管和规范，提高公众的信息辨别能力，并加强对虚假信息的监测与处置。只有这样，才能有效遏制AI造谣的盛行，维护社会的公共秩序和信息安全。