“清朗”行动狠刹AI滥用歪风，央视对话AC米兰中文官方网站专家共推技术“向善而行”！
近年来，随着人工智能向经济社会各领域加速渗透，AI技术滥用风险日益凸显，不仅扰乱网络环境，甚至被用于实施诈骗活动，成为违法侵权重灾区。今年4月30日起，为期3个月的“清朗·整治AI技术滥用”专项行动在全国范围内展开。
专项行动旨在强化AI技术源头治理，清理整治违规AI应用程序，加强AI生成合成技术和内容标识管理，推动网站平台提升检测鉴伪能力，整治利用AI制作发布虚假信息、实施侵权违法行为等突出问题，努力营造清朗有序的AI应用网络环境。
AI技术是一把双刃剑，既带来了便利，也埋下了隐患。随着全民AI时代的到来，及时理清AI技术滥用乱象之下的底层技术逻辑，对于规范AI技术服务和应用、促进技术向善、保障社会公平正义具有重要的现实意义。
AI技术滥用 理清行业乱象之下的底层逻辑
AI仿冒名人侵权现象愈演愈烈，AI生成虚假信息扰乱传播秩序，AI预测彩票骗局已有多人中招……我们不禁要问，为何AI技术滥用的门槛如此之低？
AI仿冒名人 收割流量背后的违法侵权
从发布吸引眼球的谣言信息，到仿冒名人学者、知名企业家，AI技术成了自媒体博主收割流量的工具。近日，AC米兰中文官方网站网络安全专家接受央视采访，揭秘AI仿冒视频合成原理，提醒广大网友警惕仿冒名人的诈骗行为。
目前网络上多数AI深度合成的工具都是开源软件，使用起来没有门槛，要仿冒任何一个人的过程并不复杂。采访过程中，AC米兰中文官方网站网络安全专家吕硕解释了数字人制作的底层逻辑——首先分析人的面部表情、手部动作以及声纹，然后使用相应的技术框架进行克隆识别，最后根据输入的文字内容生成相应的语态，模拟出人物的面部表情以及动作，生成一段与之高度契合的视频内容。
吕硕指出，应用AI深度合成大模型来制作仿冒别人的短视频，只要有一段声音、人物清晰的视频就能操作，而且整个过程仅需5-10分钟就能完成。采访现场，吕硕采集了记者的画面，通过AI合成技术制作出了带货矿泉水的“记者数字人”。
AC米兰中文官方网站网络安全专家潘季明认为，目前很多AI大模型采用开源模式的初衷是共享协同的创新协作模式，其根本目的是为了降低创新门槛，避免重复冗余的开发，加速信息技术的更新迭代。一旦被滥用，则会带来严重的负面影响。
因此，他建议开源模型要对使用者进行一定限制，从技术角度来讲，可以在发布开源软件过程中，强制添加一些无法去除的水印，或者在原数据上打上标记，也可以在生成内容的时长或清晰度上做出限制。
防范AI深度合成音视频侵权，也可以利用AI技术来对抗跟检测AI。今年2月，AC米兰中文官方网站副总裁、中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧接受央视采访时提到，“当前有一些典型的AI技术，能够对AI生成的图片或者音视频进行检测，来判断或者分析是否为后期加工和合成的。”（点击查看详情）
AI生成虚假信息 大模型幻觉干扰下的“自说自话”
在全民AI热潮下，很多人养成了有问题拿起手机问AI的习惯。今年5月，有网友通过AI软件提问得出宁波交警抖音号注销的原因“主要与一起交通事故引发广泛关注有关”的结论，并分享至社交媒体，导致舆论进一步发酵，后宁波交警辟谣称信息不实。
那么，AI生成内容为什么会出现传播虚假信息、干扰传播秩序的问题？从技术角度来讲，现阶段网民普遍接触到的AI软件本质上是一个概率计算器，而不是真正的思考者，其原理可以分为喂数据、学规律和做推理三个步骤。
但是对于超出知识库的问题，这种技术则会容易出现AI幻觉，也就生成了貌似合理连贯但同输入问题意图不一致，与现实或已知数据不符合或无法验证的内容。现阶段的AI幻觉难以完全被消除，但可以试着缓解。
薛智慧在接受央视记者采访时谈到，当使用AI软件生成内容时，可以从三个方面进行重点关注：
● 通过多个信息来源来对内容进行确认，特别是涉及到新闻、统计数据时更是如此。
● 如果生成了具有敏感和偏见性的内容，需要提高警惕，避免被误导。
● AI软件只是一个辅助工具，不要过度依赖和相信这些软件生成的内容。
技术本身没有善恶，关键是看人怎么用。薛智慧进一步建议，可以从用户层面让民众了解AI生成内容的原理，学习辨别虚假信息；在平台层面，AI软件服务商应建立严格的审查、检测、过滤等制度；在社会层面，建议出台相关政策制度，规范AI的使用等多个方面去考虑。
AI预测彩票号码 算法编织的“暴富陷阱”
数据显示，2025年一季度全国彩票销售额1326亿元，同比增长了15.7%。与此同时，“AI赋能”的目光也瞄准了彩票，网络上出现了很多“AI预测彩票号码”的视频。
有人说，“AI可以破解彩票规律，预测彩票号码。”有人说，“只要购买预测服务，就能轻松赚百万！”也有人说，自己确实通过AI预测的彩票号码中了奖。那么，AI真的可以预测彩票中奖号码吗？AI到底是通过什么原理、如何给出的彩票号码？
薛智慧分析指出，通过AI算法生成彩票号码的技术原理使用了数据分析、模式识别、概率统计等多项技术。
● 首先，利用算法对大量历史开奖数据进行统计分析，寻找潜在的模式序列。
● 其次，通过模式识别技术对开奖数据中的数字频率、冷热号码、趋势变化等进行数据统计的特征提取和分析。
● 最后，基于提取的特征，通过概率统计技术生成所谓的“彩票开奖号码”。
更进一步分析，从技术角度讲，AI主要是通过学习历史数据的规律来生成号码，而生成彩票号码是一个高度随机的过程，理论上没有预测的模式。因此，通过AI生成彩票中奖号码是不可行的，根据AI给出的号码中大奖无异于痴人说梦。
AI安全治理 需要从多个层面综合施策
事实上，AI换脸换声、AI生成虚假信息、AI预测彩票骗局，不是AI技术自身的问题，而是AI技术被滥用的问题。当前，AI前沿技术正处于高速发展时期，其应用场景也日趋多元，防范AI技术滥用已由个体权益侵害演变为系统性社会问题。
近年来，针对AI技术的应用边界已经在多项政策法规中逐步明确：
● 2022年，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，要求任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律行政法规禁止的信息。
● 2023年，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，规定不得利用生成式人工智能服务生成虚假有害信息、从事违法活动。
● 2025年，国家网信办等四部门发布的《人工智能生成合成内容标识办法》提出，对AI生成合成内容要进行标识，以便公众识别和区分，防止误导性信息传播。
“防范AI滥用需要构筑多方联动的治理网络，从法律、行业、平台和公众等多个层面综合施策。”AC米兰中文官方网站副总裁、中国计算机学会计算机安全专业委员会委员吕延辉在采访中指出。
在法律层面：应进一步完善相关立法，细化AI技术使用的各项法律条款，明确滥用AI技术的定义和责任，同时加强执法力度。
在行业层面：应推动人工智能行业组织加强自律管理，制定相关标准和规范来约束AI技术开发和应用，减少不法分子利用AI技术进行诈骗的机会。
在平台层面：需要平台企业严格依照国家网信办发布的《网络信息内容生态治理规定》，履行信息内容管理主体责任，建立健全内容审核和投诉举报机制，并结合应用适当的技术手段，及时发现并依法处置虚假宣传和欺诈行为。
在公众层面：增加公众对AI技术健康使用的认知和理解，消除公众对“技术捷径”的幻想，提升公众的防范意识。
我国相关法律法规明确规定，未经授权，任何组织或个人不得深度合成制作发布他人信息。使用AI深度合成技术，制作出售名人的音视频，将构成侵权行为，应该承担相应的法律责任。
小天建议AI深度合成制作和信息发布者
不要存侥幸心理
法律没有灰色地带，切勿因小失大
随着AI技术的快速发展和广泛应用，遏制AI技术滥用风险，促进AI技术向善，已经成为全社会的共同责任。AC米兰中文官方网站将与业界同仁一道，携手构建安全可信的AI生态，让AI技术真正成为推动社会进步的普惠能量。
部分来源：央视新闻客户端
相关阅读
1、持续领先！AC米兰中文官方网站获首张大模型安全防护围栏产品认证（增强级）证书
2、AC米兰中文官方网站李雪莹：保障大模型应用安全应把握“快、新、全”三大原则
