随着人工智能技术的飞速发展，AI在各个领域的应用越来越广泛。然而，一些不法分子却利用AI技术制造虚假信息，严重扰乱社会秩序。7月20日，一条游船在湖北宜昌江段侧翻多人落水的新闻引发关注，经过当地公安等部门的调查核实，这是一条利用AI技术炮制的假新闻。
三层游船倒扣江中30人坠江？谣言！
假新闻称，7月19日下午十五时，在湖北宜昌长江段，一艘名为“三峡观光6号”的三层观光游船，突然发生“左倾”，10秒内倒扣江中，30名游客坠江。为了博人眼球，假新闻还称“有人看到船身倾斜，有人跳江”。为了增强迷惑性，假新闻还搭配了经过AI处理的虚假图片。
湖北省公安厅、宜昌市公安局两级公安机关与网络安全部门紧密配合，很快锁定假新闻发布者，他为提升账号关注度使用某AI工具编造了这条谣言，目前已被公安机关依法作出行政处罚。
发生交通事故？系利用AI编造的网络谣言
近期，云南大理漾濞县公安局也查处了一起利用AI编造交通事故的网络谣言案。
近期，大理漾濞警方在工作中发现，有人在网络上发布多段交通事故现场人员伤亡的视频，并标注事发地点为大理州，警方迅速展开调查。
云南省漾濞县公安局网安大队教导员 尹志：视频内容为在乡村道路上发生道路交通事故，有人员伤亡，大量群众围观，交警在现场处置。通过对视频观看分析后，发现不少疑点：
一是伤亡人员的体态“怪异”；
二是事故现场无管控措施；
三是交警、群众在现场自由穿行。
这些都不符合交通事故现场处置规范。交管部门核实，大理州辖区内并未发生类似交通事故。可以初步判定视频为AI生成的虚假视频。
经过警方调查，很快就锁定视频发布者赵某某。据供述，为了博眼球、吸粉引流，采用AI工具制作了这些视频，并发布到个人视频号上。赵某某称利用AI工具，通过简单的操作，就能生成逼真的交通事故现场视频，并在网络上传播。所幸警方发现及时，传播范围得到有效控制。
云南省漾濞县公安局网安大队大队长 茶成东：虚假视频为多人伤亡的交通事故现场，视觉冲击强，极易引发不明真相的民众关注和恐慌。虚假视频中，民警执法时对伤员的漠视、不采取救治措施、不对现场进行管控等表现，如果该虚假视频较大范围网络传播，将会对公安机关执法形象和执法公信力造成严重影响。
赵某某的行为已经扰乱了社会秩序，依照相关《中华人民共和国治安管理处罚法》第二十五条第（一）项规定，依法给予其治安处罚罚款400元。
警方提示：如今AI技术在视频制作中的应用日益广泛，通过AI可以轻松生成逼真的虚假视频，普通人很难辨别真伪。一旦被不法分子利用，会带来巨大的风险。在亟须加强监管的同时，也需要提高人民群众的辨别力。
云南省漾濞县公安局网安大队教导员 尹志：网络不是法外之地，对于蓄意在网上编造虚假险情、疫情、灾情、警情，扰乱社会秩序的行为，公安机关将坚决依法查处。希望大家都能提高警惕，不造谣、不传谣、不信谣。如果发现可疑信息，及时向相关部门举报。