继演员吴越、温峥嵘被“盗脸”直播，杭州中院近日公开审理的一起涉“AI换脸”个人信息保护公益诉讼案显示，“AI换脸”目前已能突破人脸核验。而据公安部通报，仅2026年前9个月，全国就侦破AI换脸类诈骗案件逾300起，涉案金额突破5亿元。
越来越多的案例提醒我们，这可能已经不仅是技术层面的事，更要从制度层面，从治理层面去思考。
现行治理的默认逻辑是，相关平台有动力也有能力管好自己的一亩三分地。结果呢，已经标注“内容由AI生成”的“AI小海”账号照样批量收割老年人，标注没有拦住欺诈，反而像一张合规通行证。为什么会这样？因为对平台而言，标注是一个“做了就行”的动作，而拦截的成本更高，且“做了可能影响转化率”。
因此，立法需要明确一条原则：对AI生成内容的治理，要以“是否利用AI实施了法律禁止的行为”为核心，而不是以“是否履行了标注手续”为核心，对于平台也是如此，标注只是信息披露，拦截才是核心责任。
（上观新闻 10.28 潘高峰）
|
|
|
|
|
|
|
|
|
|
5
0