从奥运冠军全红婵家人声音被AI合成冒用带货,到明星刘晓庆、张馨予的声音、视频被AI合成用于代言,再到张伯礼院士为某美白护肤品进行宣传……AI技术的滥用已经严重侵犯个人权益,扰乱社会秩序,甚至成为诈骗、虚假宣传的工具。近日,中央网信办印发通知,在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。让AI技术行正道、出正果,真正利人、利企、利社会,此次专项行动可谓正当其时,意义深远。
AI技术滥用问题可能加剧虚假信息的传播,甚至对社会稳定造成威胁。随着人工智能技术的突破,特别是DeepSeek等智能大模型的崛起,AI已逐步融入人们的日常生活与工作。然而,AI技术在带来便利的同时,也催生了一系列社会问题,例如论文造假、换脸欺诈等违规行为。从AI通过数据增强重构信息环境,影响公众对事实的认知基础;到生成式人工智能技术能以低成本批量制造文本及高仿真音视频,消解真实叙事权威;再到个性化推荐算法则构建起“信息茧房”,在潜移默化中分化社会共识,让舆论场中的信息内容真假更难分辨……AI正沦为恶意营销、网络犯罪、意识形态渗透的“帮凶”。更值得警惕的是,AI生成内容的“深度伪造”特性,正在消解信息社会的信任根基,使传统认知博弈方式发生改变。
人们被AI技术乱象困扰已久,此次整治专项行动是应时之举,也是打造“清朗”网络空间的必由之路。此次“清朗·整治AI技术滥用”专项行动分两个阶段开展。第一阶段强化AI技术源头治理,清理整治违规AI应用程序,加强AI生成合成技术和内容标识管理,推动网站平台提升检测鉴伪能力。第二阶段聚焦利用AI技术制作发布谣言、不实信息、色情低俗内容,假冒他人、从事网络水军活动等突出问题,集中清理相关违法不良信息,处置处罚违规账号、MCN机构和网站平台。AI时代,技术本身并无善恶,但技术的发展与应用必须合乎人类主流价值规则体系,如此方能行稳致远。发展负责任的人工智能,建设合乎伦理、安全可靠、尊重知识产权的人工智能,我们才能让数字红利、智能红利充分释放,共同迈进更加美好的“数字未来”。
整治AI技术滥用乱象,需要全社会的共同努力。目前,我国已经出台了一系列与人工智能相关的法律法规,如《中华人民共和国网络安全法》《中华人民共和国个人信息保护法》《网络数据安全管理条例》《App违法违规收集使用个人信息行为认定方法》等。同时,各地网信部门要充分认识专项行动对于防范AI技术滥用风险、维护网民合法权益的重要意义,切实履行属地管理责任,督导网站平台对照专项行动有关要求,健全AI生成合成内容审核机制,提升技术检测能力,做好整改落实;网络平台要完善审核机制,提升技术检测能力,及时发现和拦截侵权、虚假、违法等不良内容;企业和从业者要增强自律意识,遵守法律法规和道德规范,将社会责任放在首位;广大网民要提高AI素养,强化学习和更新AI有关知识,增强防范意识,谨防AI换脸、换声等诈骗,自觉抵制AI技术滥用行为。多方携手,向AI技术滥用乱象“亮剑”,确保AI技术始终沿着正确的轨道向前发展。
AI技术是人类智慧的结晶,它的发展应当造福人类,而不是成为危害社会的工具。此次专项行动,为AI技术的健康发展吹响了号角。我们相信,在全社会的共同努力下,一定能够有效遏制AI技术滥用乱象,让AI技术在清朗的网络空间中绽放出更加耀眼的光芒,为人类社会的发展注入强大的正能量。(于梅)
本篇文章共有1页 当前为第 1 页
回到
顶部