鉴于AI技术被广泛使用在影音及文字生成,在中国引发侵犯肖像权、隐私甚至诈骗等行为,中国大型社交媒体微信今天宣布,用户发布AI生成的各种内容时,必须主动声明为AI生成;而微信也会同时对AI内容作标识,且对疑似AI生成内容作提示。
综合中国媒体报导,微信专责内容安全管理的“微信珊瑚安全”公众号今天发布“关于进一步规范人工智能(人工智慧,AI)生成合成内容标识的公告”,作出上述宣布,并强调此举是为进一步优化AI内容识别能力,以保障用户获取资讯的透明度与可信度。
这项公告提到,针对AI生成、合成的内容,微信将添加显式标识或隐式标识;同时并对可能是AI生成合成的内容进行相应提示,以便用户清晰辨识。
公告表示,为避免微信发布的内容,在传播过程中引起混淆或误认,凡是用户发布的是AI生成、合成内容,发布时都必须主动声明。
这项公告提到,依“人工智能生成合成内容标识办法”规定,用户在发布或传播AI生成、合成内容时,不得以任何方式删除、篡改、伪造或隐匿平台添加的AI标识。
公告强调,用户不得利用AI技术制作传播虚假、侵权资讯及从事任何违法、违规活动。对违反法律、法规及微信规范的行为,微信将视违规情况处罚用户。
中国网路上的AI生成内容已多次引发争议。8月中,有数个抖音用户利用AI技术,仿冒中国知名跳水选手全红婵及桌球选手孙颖莎、王楚钦的声音,声称贩卖全红婵家的土鸡蛋。由于声音以假乱真,加上这3人的高知名度,导致土鸡蛋热卖近5万份,事后才发现是AI生成,上述3人都不知情。
