返回
顶部
首页 > 热点 > 正文
破“AI谣言”,护人工智能向善

当前,AI(人工智能)迅速发展,给人们的生产生活带来诸多便利。但AI也被用于制作发布谣言、不实信息,可能对部分群众造成困扰。以全链条的“AI治理”跑赢“AI谣言”,推动人工智能向上向善、行稳致远,已然成为数字文明建设的重要课题。

从“暴雨引发山体滑坡”的伪造视频到“核电站泄漏”的AI生成新闻稿,“AI谣言”表现形式多样,让不少群众一度信以为真。AI技术的迅猛发展,让卓有成效的网络谣言治理面临新的挑战。今年4月,中央网信办部署开展“清朗·整治AI技术滥用”专项行动,聚焦利用AI制作发布谣言、不实信息等乱象开展重点整治。而在专项行动的集中整治之外,仍需以全方位、全链条治理,久久为功引领技术向善。

破“AI谣言”,首先要破“AI幻觉”。AI大模型因训练语料不足产生的“幻觉”,将片面信息放大为荒诞内容;不法分子利用技术漏洞,进行需求分析、内容生产并精准投放大量虚假信息。开发端应对训练数据进行严格筛选、扩充和校正,持续优化算法,从源头上减少“幻觉”产生的可能性。公众在面对AI生成信息时,也应保持理性和警惕,学会质疑和分析,不被虚假信息所迷惑。

法治利剑是破除谣言迷雾的关键。中央网信办开展“清朗·整治AI技术滥用”专项行动,彰显出治理技术滥用的坚定决心。从《生成式AI服务管理办法》到《人工智能生成合成内容标识办法》,制度笼子正在扎紧。但法律威慑力的真正释放,在于执行。对恶意编造者依法追责,建立平台内容溯源机制,完善“AI幻觉”引发的无意谣言技术纠错体系,构建起全链条免疫系统,才能精准击杀“AI谣言”病毒。

技术反制与协同联动是治理的双翼。数字水印技术为合成内容打上“电子身份证”,区块链存证构建信息溯源链,这些技术手段让谣言无处遁形。但技术治理不能止步于“以彼之矛攻彼之盾”,更要推动平台主体建立AI内容审核标准,对疑似合成信息进行标注限流,将伦理审查嵌入算法设计。相关部门也应加强网络平台监管力度,严厉打击发布虚假信息的账号,对涉案人员实施处罚,并封禁其账号。

公众媒介素养则是阻断谣言传播的最后一道防线。AI不应成为谣言的“背锅侠”,技术的价值最终取决于使用者的道德水准。当AI工具让造谣门槛降低至“一句话生成”,提升公众的“数字免疫力”尤为重要。这需要进一步推广AI生成内容检测工具,提高公众对虚假信息的辨别能力,并将媒介素养纳入国民教育体系,构建“技术+教育”的双重防线,培养“不造谣、不信谣、不传谣”的数字公民意识。

治理“AI谣言”的终极目标,是构建技术与人性的良性互动。推动法治刚性约束、技术智能防御、教育柔性引导等方面形成合力,让技术进步始终沿着向上向善的轨道前行。(江浦沄)


热点
版权所有 江苏现代快报传媒有限公司 @copyright 2007~2025 xdkb.net corperation. 苏ICP备10080896号-6 广告热线:96060 本网法律顾问:江苏曹骏律师事务所曹骏律师