生成式AI不能沦为造假工具 演员被“分身”敲响警钟
最近，某演员遭遇“AI盗播”，在同一时间“现身”多个直播间带货。该演员向自己的“分身”提出质疑，还被拉黑了。此事再度引发公众对AI（人工智能）的讨论。
近年来，生成式AI飞速发展，曾经需要一定专业技能才能完成的视频制作，如今可以轻松完成。但技术被一些人滥用，也带来一系列乱象：有消费者伪造“买家秀”骗取退款，社交平台出现大量虚假明星合影，诈骗分子伪造音视频“围猎”老年人……AI原本是表达创意、提高工作效率的好帮手，如今却有沦为造假工具的危险，这一现象必须引起警惕。
9月份开始施行的《人工智能生成合成内容标识办法》明确，人工智能生成合成内容标识包括显式标识和隐式标识。显式标识是以文字、声音等方式呈现并可以被用户明显感知到的标识，当AI内容具有迷惑性甚至误导性时，显著的标识能够帮助用户迅速作出判断、辨别虚假信息；隐式标识是指采取技术措施在生成合成内容文件数据中添加的标识，在追溯伪造内容来源、维护被侵权人合法权益方面具有重要意义。
《标识办法》施行以来，各大平台纷纷响应，出台各类细则确保AI内容亮明身份，迈出了AI内容治理的关键一步。但目前仍有部分AI内容未添加任何标识，对观众形成误导。进一步遏制AI造假乱象，还需构建多层次的治理体系。
比如，强化法律保障，进一步明确AI造假的处罚标准，厘清服务提供者、平台、用户三方责任，覆盖多种造假情形；加强监管力度，针对各类AI造假行为开展专项治理工作，建立多部门协同联动的监管体系，形成打击合力；升级技术手段，提升高精度检测能力，精准识别造假内容。
演员被“分身”只是一记警钟。技术迅猛发展，治理必须跟上。只有规则、监管、技术同步“打补丁”，才能有效减少AI造假，降低公众上当受骗的风险。（作者：赵心仪 来源：经济日报）
相关推荐
-
中国人寿2024年归母净利润超千亿，同比大幅增长108.9%
作者：佚名 2025.03.27
-
中国人寿2024年上半年实现归母净利润382.78亿元，同比增长10.6%
作者：佚名 2024.08.29
-
湖南省消保委提示：医美需慎重，莫让 “美丽”成伤害
作者：佚名 2023.04.23
投诉爆料 /Complaint
投诉最新爆料，了解更多资讯
- 田女士投诉宝贝1+1儿童摄影
- 田女士投诉京东商城商品页面承诺闪电退款 实则欺骗消费者
- 欧先生投诉哈尔滨龙晟雷克萨斯销售有限公司
- 黑龙江哈尔滨松北区松浦关建国协A区八号门收钱不发货 言语辱骂威胁
- 哈尔滨新世纪家得乐商贸有限公司松浦店价格欺诈
- 肇源县肇源镇小兵裕德电动车商店消费欺诈，假冒伪劣
- 中国太平保险哈尔滨分公司保险问题
- 深圳市诺德粤通科技有限公司注销ETC事宜
- 黑龙江省金凯利建文化传媒不履行合同
- 齐市新天地房地产公司 龙江银行不给800户居民办房证
- 高先生投诉七台河客运总站强制四岁儿童购买成人车票
- 林先生投诉哈尔滨广发银行违规贷款欺骗消费者
- 500户居民投诉哈尔滨市住建局 城管局不作为 危房私自窗改门
热点新闻 /Hot news
当下时事热点，快速了解
相关推荐 /recommend
相关推荐新闻，立即了解
