女子因编造、传播“校园霸凌”虚假信息被处罚

去年12月20日成都侦探私家 “滥用AI”：一女子利用AI编造“校园霸凌”谣言，多地被警方处罚查处此类谣言，某平台发布了一篇题为《12岁女孩被8人轮流扇耳光3小时致耳膜穿孔》的文章，吸引了大量网友关注和关注。引起了德阳洛江警方的重视。 随后，有网友举报该文章为虚假信息，几小时后该文章被从平台下架。 两天后，洛江警方找到了煽动者刘某群，得知她已经触犯了法律。

经警方调查，刘某群截取了2023年12月实际发生在外省某地的“校园霸凌事件”的相关事件图片，并利用AI小程序的自动编辑功能，将其嫁接到事件发生在德阳市一所学校。 上述文章以有关“校园欺凌”的虚假信息制作并发布在某平台上，引起了大批网友的关注，对社会秩序和校园治理造成了严重的负面影响。

▲刘某群被洛江警方行政处罚

“为了获得流量、获得平台浏览奖励，她在被警方拦截时获利了数十元。” 一名办案民警介绍，刘某群（四川成都人），20多岁，无业在家，在一些平台注册账号，写文章获取流量，获得平台浏览奖励。 “这些文章基本上都是用人工智能写的。”

面对警方，刘某群主动对自己的造谣行为进行解释，称自己法律意识淡薄，非常后悔。 警方对她进行了批评教育，并依据治安管理处罚法对她给予了行政处罚，并对她的造谣账号采取了关闭措施。

AI换脸：

男子收到“裸照”被勒索40万元，一眼识破骗局

凌晨，他突然收到一条陌生人发来的彩信。 内容是一张他躺在床上，手臂搂着一个女人的照片。 对方借此要求他支付40万元。 但他一眼就认出了这是一个利用人工智能换脸实施诈骗的骗子……这是四川广安临水县李先生（化名）的真实经历。

据警方介绍，1月9日凌晨4点39分，李先生收到了上述奇怪的彩信。 照片中，他躺在床上，双臂搂着一名女子。 紧接着，他又收到一条短信：我要平安。 请在上午 9 点之前回复，如果您迟到，我们将不会等待。 李先生认出这是一场AI换脸骗局，直接回复七个字：迟早会被抓到的。

▲李先生（化名）收到的诈骗信息

当天上午，为了查明真相，摸清对方利用AI换脸诈骗自己的真实意图，他主动联系对方成都私人调查事务所，询问有何来意。 果然，对方自称是“私家侦探”，接受他人委托解决纠纷。 其借口了解李先生的私事，一次索要40万元，并只给李先生20分钟的考虑时间。

眼看着20分钟已经过去了，李先生还是没有回复。 对方通过AI变声给他打电话，声称要和李先生谈判条款并达成协议，否则他就“死了”。 最终，在李先生的追问下，对方意识到自己的诈骗行为被发现了，赶紧挂了电话。

警方提醒，“AI换脸”是新型诈骗的常用手法成都侦探私家，也是网络敲诈勒索的常用手段。 如果您收到这样的信息，请不要害怕，不要相信，也不要回复。 公安机关将严厉打击恶意P图敲诈勒索的违法犯罪活动。

不止一次：

利用AI炮制、传播网络谣言，警方查处

红星新闻记者发现，近期，国内多地警方查处并公开公布了多起故意制造、传播网络谣言的案件。 其中，利用人工智能工具炮制网络谣言的案例不胜枚举。 参与人员的主要目的是吸引粉丝、吸引流量，然后赚取平台流量补贴。

湖南省衡阳市公安机关侦破一起利用人工智能智能工具炮制网络恶意谣言案件。 2023年8月，为了吸引关注、引起关注，杨某利用AI智能工具炮制发布《耒阳市化工厂爆炸致多人失联》、《耒阳市珠宝店发生持刀抢劫案》等内容。 ”。 “耒阳市某公园发生多起杀人抛尸案”、“耒阳市女网红被绑架”等多起恶性谣言和信息引起网友大量关注和转发，引起群众极大恐慌，社会风气极其恶劣。影响。 经衡阳市公安局依法调查，杨某对犯罪事实供认不讳。 目前，衡阳市公安局已将其依法刑事拘留，并对其散布谣言的网络账号采取关闭措施；

此外，2023年11月26日，为了吸引流量，陈某利用AI软件合成了一段有关无锡市火灾事件的视频，并发布到社交平台上。 经调查，陈某对违法行为供认不讳，无锡市惠山区公安局依法对其给予行政处罚。

人工智能本来是帮助人类进步、更好工作和生活的工具，却被一些不法分子用来实施诈骗、编造谣言，值得社会警惕。

红星新闻记者 王明平 王超