万维读者网 > 信息时代 > 正文  

发现ChatGPT被中国用来“反美” 监控“反中”

www.creaders.net | 2025-02-22 18:09:52  自由时报 | 0条评论 | 查看/发表评论

美国生成式人工智能(AI)巨擘OpenAI廿一日披露,已发现中国利用该公司的AI聊天机器人ChatGPT,助长在海外的影响力活动,包括产生西班牙语的反美假信息; 中国也以AI建立监视工具,即时搜集西方国家社交媒体的反中贴文。

OpenAI发布的安全威胁报告指称,该公司发现有中国团队研发在社交媒体搜集反中贴文的工具。 OpenAI 将此工具命名为“同侪审查”(Peer Review),因有研发者利用ChatGPT为其代码除错。 此外,还有用户以ChatGPT产生营销该工具的宣传文章,宣称可将搜集的反中贴文报告送交中国安全机关。

纽约时报报道,OpenAI首席研究员尼莫指出,这是该公司首次发现这类AI监控工具。 OpenAI已以违反“禁止使用AI进行通讯监视或未经授权个人监控”的政策,封锁相关用户帐户。 尼莫及其团队认为,该监控工具是以Meta公司的开源大型语言模式Llama为基础。

OpenAI也发现,有中国用户利用ChatGPT产生大外宣内容,包括用于攻击中国异议人士蔡霞的英文贴文,以及西班牙语的反美新闻报道。 多篇文章都登上拉丁美洲的新闻网站,其中某些简短评论也出现在X平台。 OpenAI将这项AI大外宣行动称为资助煽动(Sponsored Discontent)。

尼莫表示,这也是OpenAI第一次发现中国大外宣活动将长篇文章翻译为西班牙语后,发布在拉丁美洲媒体,“如果我们不去了解他们使用AI的情况,就无法将那些(X平台)推文与网络新闻文章联系起来。”

OpenAI披露,首次发现中国利用ChatGPT助长在海外的影响力活动,包括产生西班牙语的反美假讯息; 中国也以AI建立监视工具,即时搜集西方国家社群媒体的反中贴文。 (路透文件照)

OpenAI从去年开始定期发布威胁报告。 在最新报告中,OpenAI表示,已移除多个来自中国与朝鲜的帐户。 不过,报告并未说明移除帐户的数量,也未说明恶意活动发生时间。

   0


热门专题
1
俄乌战争
6
中美冷战
11
以哈战争
2
川普
7
洛杉矶大火
12
巴黎奥运
3
AI
8
叙利亚
13
三中全会
4
万维专栏
9
苗华被抓
14
中共两会
5
大S
10
美国大选
15
台湾大选
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2025. Creaders.NET. All Rights Reserved.