4Ls70WcUHlh china.huanqiu.comarticle这些吸引眼球的内容都是AI生成 四招教你辨别真伪/e3pmh1nnq/e7tl4e309<article><section data-type="rtext"><p><em data-scene="strong">“有顶流明星在澳门输了10亿”</em></p><p><em data-scene="strong">“大妈摆摊卖水果被罚16万，监管局回应不交就罚145万”</em></p><p><em data-scene="strong">“上海退休教授靠阳台核电池供电”</em></p><p>……</p><p>这些吸引眼球的内容</p><p>都是<em data-scene="strong">AI生成的谣言！</em></p><p>随着AI技术的发展</p><p>正确使用的确能为人类的工作带来方便</p><p>但因滥用AI所造成的<em data-scene="strong">乱象</em>也不少</p><p>AI谣言就是其中之一</p><p><span data-scene="align-center"><em data-scene="strong">哪些信息容易被AI制作成假新闻？</em></span></p><p><span data-scene="align-center"><em data-scene="strong">如何判断AI制作的假新闻？</em></span></p><p>一起来看</p><p><span data-scene="align-center"><em data-scene="strong">AI谣言频出</em></span></p><p>近日，一则</p><p><em data-scene="strong">“有顶流明星在澳门输了10亿”</em>的信息</p><p>在互联网平台传播</p><p>引发网民热议和各种猜测</p><p>相关话题频繁登上社交媒体热搜热榜</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/31650d2c3818b0c2ca325da709ee6d9a.jpg?imageView2/2/w/1260" /></i></p><p>后经公安网安部门查明</p><p>这条信息为<em data-scene="strong">AI制作的假新闻</em></p><p>公安机关根据相关法律法规</p><p>对制作这条假新闻的徐某强</p><p>处以<em data-scene="strong">行政拘留8日处罚</em></p><p>无独有偶</p><p>近日，上海辟谣平台公布一起网络谣言</p><p>称<em data-scene="strong">“上海退休教授靠阳台核电池供电”</em>为假消息</p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/ca6bae3268b9200145948501afbf0131.png?imageView2/2/w/1260" /></i></p><p>辟谣平台调查发现，相关消息大概率是</p><p><em data-scene="strong">造谣者用AI技术编写、制图并剪辑视频</em></p><p>在传播者中，除了受误导的网民</p><p>还有一些别有用心的<em data-scene="strong">传谣者</em></p><p><em data-scene="strong">通过续写、点评等方式扩大谣言负面效应</em></p><p><span data-scene="align-center"><em data-scene="strong">荐股群所谓内幕或是AI生成</em></span></p><p>除了一些AI造谣信息</p><p>还有些不法分子利用AI技术</p><p>盯上了你的钱包</p><p><video controls src="https://v6.huanqiucdn.cn/4394989evodtranscq1500012236/938c466f1397757907423123569/v.f100830.mp4" data-alt="" poster="https://v6.huanqiucdn.cn/4394989evodtranscq1500012236/938c466f1397757907423123569/sampleSnapshot/sampleSnapshot_10_0.jpg?imageView2/2/w/1260"></video></p><p>前不久，有受害者反映</p><p>自己<em data-scene="strong">付费10000元</em>加入“荐股”咨询群</p><p>群内“大佬”说中国要大力发展国防军工</p><p><em data-scene="strong">制造业要迁到四川地区来</em></p><p>于是他重仓买入“大佬”推荐的股票</p><p>结果不仅没有大涨 反而一路下跌</p><p>经警方调查</p><p>这些所谓的股票利好消息</p><p><em data-scene="strong">其实是利用AI生成的虚假信息</em></p><p>花一万多元的学费</p><p>得到的所谓炒股知识、内幕消息</p><p>不过是骗子在利益驱使下</p><p><em data-scene="strong">炮制而来的虚假信息</em></p><p>目前，警方已抓获15名犯罪嫌疑人</p><p><span data-scene="align-center"><em data-scene="strong">这些信息容易被AI制作成假新闻</em></span></p><p>假新闻并非新生事物</p><p>但AI大模型的崛起</p><p>无疑大幅降低了造假的门槛</p><p>如今，只需与AI智能助手进行简短对话</p><p><em data-scene="strong">几秒钟内便能生成</em></p><p><em data-scene="strong">一篇图文并茂的假新闻</em></p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/35bf60ece442ed45e5a8a3a47fd0bff6.jpg?imageView2/2/w/1260" /></i></p><p><span data-scene="align-center">△ 使用AI工具，1分钟便可制造一篇AI假新闻、AI图片。图源：网信浙江</span></p><p>而在多起AI造谣事件背后</p><p>造谣者的<em data-scene="strong">动机主要源于引流和借此牟利</em></p><p>网警总结了<em data-scene="strong">四种典型AI谣言场景</em></p><p><em data-scene="strong">1、伪造热点事件</em></p><p><em data-scene="strong">用AI生成“某地重大事故”图文/视频</em></p><p><em data-scene="strong">配煽动性标题博流量</em></p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/7cbc691ae64de6edea7d84ab8f2a8403.gif?imageView2/2/w/1260" /></i></p><p><span data-scene="align-center">△ 2025年1月7日，西藏日喀则市定日县发生6.8级地震，震后，一张“小孩被压废墟下”的图片被大量转发。后经查证，图片是由AI生成，图中人物甚至有6根手指。</span></p><p><em data-scene="strong">2、捏造名人言论</em></p><p><em data-scene="strong">篡改语音、合成视频</em></p><p><em data-scene="strong">假借权威人士发布虚假政策解读</em></p><p><em data-scene="strong">3、炮制伪科普</em></p><p><em data-scene="strong">利用AI生成“科学数据”</em></p><p><em data-scene="strong">兜售伪劣产品（如“AI检测抗癌神药”）</em></p><p><i class="pic-con"><img data-alt="" src="//img.huanqiucdn.cn/dp/api/files/imageDir/4d2cf73463202813982c7ab8cd17a42d.jpg?imageView2/2/w/1260" /></i></p><p><span data-scene="align-center">△ 2024年年底，有网友称在网络卖货视频中看到知名医生张文宏在售卖一种蛋白棒产品。在带货视频中，被合成的人像反复介绍一种产品，声音听起来很像张文宏本人。对此，张文宏回应称，这样的卖货账号不止一个，而且一直在变，他多次向平台投诉但屡禁不绝。</span></p><p><em data-scene="strong">4、嫁接虚假证据</em></p><p><em data-scene="strong">将无关图片通过AI换脸/换背景</em></p><p><em data-scene="strong">捏造“维权证据”“聊天记录”等</em></p><p><span data-scene="align-center"><em data-scene="strong">四步识别AI谣言</em></span></p><p><span data-scene="align-center"><em data-scene="strong">不当“受害者”更别当“帮凶”</em></span></p><p>如何识别AI谣言？</p><p>这些要点请记住↓↓↓</p><p>1、查源头</p><p>警惕无明确作者、无正规信源的内容</p><p>AI生成信息常伪装成</p><p><em data-scene="strong">“网友投稿”“内部消息”</em></p><p>2、看细节</p><p><em data-scene="strong">AI图像</em>：观察手指数量异常、光影不自然等；</p><p><em data-scene="strong">AI视频</em>：注意口型与声音不同步、背景模糊扭曲。</p><p>3、验逻辑</p><p>AI生成谣言常出现<em data-scene="strong">时间矛盾</em></p><p><em data-scene="strong">（如“2024年政策”引用2025年数据）</em></p><p><em data-scene="strong">地名错误</em>等</p><p>4、用工具</p><p>关注<em data-scene="strong">官方账号公布的打谣信息</em></p><p>或通过<em data-scene="strong">“中国互联网联合辟谣平台”</em>等渠道</p><p>一键验证</p><p>还有一条<em data-scene="strong">好消息</em></p><p>为了促进人工智能健康发展</p><p>规范人工智能生成合成内容标识</p><p><em data-scene="strong">《人工智能生成合成内容标识办法》</em></p><p>正式发布，<em data-scene="strong">9月1日正式施行</em></p><p>届时，<em data-scene="strong">AI生成合成内容必须添加显式标识</em></p><p>让我们以理性驾驭AI</p><p>用法律守护底线</p><p>共同维护网络清朗空间</p><p>（央视新闻综合法治日报、公安部网安局、网信浙江）</p></section></article>1742025055011责编：刘艳君<a href="https://ysxw.cctv.cn/article.html?toc_style_id=feeds_default&t=1742017456841&item_id=18303642576777689171&channelId=1119" >央视新闻客户端</a>174202505501111[]{"email":"liuyanjun@huanqiu.com","name":"刘艳君"}