中招“被带货”的不仅是全红婵，AI仿冒的孙颖莎、王楚钦也去带货推销农产品了，被AI克隆的明星艺人更是不计其数，AI杨幂直播卖女装，AI靳东诈骗中老年钱财，AI孙俪宣传某奶粉，就连综艺节目片段都没能逃过，综艺《一路繁花》中，一段刘晓庆吃饭的片段就被人用AI合成替换成某减肥产品的广告，刘晓庆发文对此进行辟谣：“画面是我的脸，声音像我的声音，但真不是我。”
AI深度伪造技术如此泛滥、屡禁难止的原因之一在于获取AI深度伪造工具的成本低、门槛低但利润高，在高利益的诱惑下，一批账号被封禁了还会有一批账号再起来。在网上具有AI深度伪造合成功能的工具、使用教程唾手可得，记者在网上随便搜索了一款宣称可以免费AI声音克隆的工具，该工具客服介绍AI可以通过深度学习精准分析样本语音模式和音调特征，生成的AI克隆声音还原度高达99%，使用仅需三步：上传5到30秒音频样本，AI自动克隆声音，输入文字即可让AI朗读任意文本，生成的音频可以下载，直接用于商用或者个人用途，当然该工具也做出了免责声明，要求克隆出的声音仅限合法用途，但这样的君子协定到底具有多大的约束力，恐怕要打一个问号。
要遏制滥用AI深度伪造功能带来的仿冒名人问题，多方面的努力必不可少，在技术层面，一方面需要加强对开源代码的合理限制，从技术源头上减少非法利用的可能，另一方面还需要更强的反制技术，仅依靠人类经验识别或用户自觉打上“AI生成”标识并不足够，传播平台需要更强的识别AI深度伪造内容的技术，健全对AI深度伪造合成内容的审核、识别、惩罚机制。在法律层面，新技术带来新发展的同时也会带来新问题，针对AI技术发展带来的新问题，需要细化侵权认定标准和惩罚措施，降低维权成本，提高违法成本时时彩下载，加大对侵权行为的打击力度。对于每一个普通人而言，面对互联网上纷纷杂杂的声音，对内容保持怀疑并加以求证，或许才是我们抵御虚假信息的最后防线。
网友评论更多
590卫宜悦r
收评：港股恒指跌0.37% 科指涨0.65% 军工股、汽车股走强 影视股大涨
2025/08/21 推荐
846冉梅苇933
视频|历史性一刻！英法德意芬领导人，北约秘书长、欧盟主席抵达白宫
2025/08/20 推荐
933魏言珍qb
露营遇山洪10人遇难 出事地叫棺材山
2025/08/19 不推荐