![]() |
哥伦比亚大学最新研究显示,AI搜索错误率高达60%
哥伦比亚大学数字新闻研究中心(Tow Center for Digital Journalism)近期对八款 AI 搜索展开研究,包括 ChatGPT Search、Perplexity、Perplexity Pro、Gemini、DeepSeek Search、Grok-2 Search、Grok-3 Search 和 Copilot。
他们的研究方法是从20家新闻机构选取200篇新闻报道,并评估它们是否正确引用了文章内容、来源和原始链接。最终结果分为完全错误、部分错误、正确但不完整、完全正确、拒绝回答五种标签。
1、AI 搜索通常不会回答它们无法准确回答的问题,平均来看,六款AI搜索提供的答案有 60% 是不准确的。其中Grok 3 、Gemini的完全错误率高达90%以上,国内的DeepSeek表现中等(完全错误率大约58%)。
2、与免费AI 搜索相比,付费的AI 搜索更不容易拒绝回答,从而会更“自信”地提供错误答案。
3、多个AI 搜索似乎绕过了robots限制协议。
4、AI 搜索会伪造链接,并引用文章在新闻聚合平台的链接(比如雅虎新闻),而不是原始网站。
5、尽管许多新闻媒体与AI 搜索达成了版权合作,但在AI 搜索里的新闻引用仍不准确。
OpenAI 、谷歌呼吁美国立法允许“合理使用”版权素材
在川普政府2月25日发起的《AI行动计划》政策提案中,近期,OpenAI 提交一份了建议书,呼吁美国制定版权战略,以“保护美国AI大模型从受版权保护的材料中学习的能力”。 AI 公司可以自由使用受版权保护的材料,训练 AI 模型。
OpenAI 指出,各州已提出 781 多项与 AI 相关的法案,这些法案对国内公司施加了过多的合规要求,阻碍了 AI 公司的创新能力,并削弱了美国企业家可用的训练数据质量。公司建议政府为私营部门提供“法律救济”。
谷歌紧随OpenAI之后,发布政策提案,称“合理使用和文本及数据挖掘例外”对于AI科学创新“至关重要。谷歌同样呼吁将AI公司的“合理使用”权利编入法律,使其能够使用公开数据(包括受版权保护的数据)进行训练,而不受任何限制。
两家公司目前正被多位版权方起诉中。
OpenAI Operator 等 AI 智能体成黑客新武器
3月13日,美国网络安全公司 Symantec 通过一项测试指出,AI 智能体已突破传统工具功能限制,可轻松协助黑客发起钓鱼攻击。
“一年前,当我们介绍人工智能带来的风险时,我们认为虽然当时AI已经被攻击者使用,但它们在很大程度上是被动的,只能协助写一写网络钓鱼材料等任务。”研究人员强调,加入操作能力成为智能体后,AI正从被动辅助转向“主动执行”,成为网络安全的新威胁。
该安全公司选择了一名团队成员发起攻击操作,结果发现,通过简单的提示词修改(prompt engineering),即可绕过OpenAI智能体 Operator的安全显示,编写恶意代码、向攻击目标发送钓鱼邮件。
个人信息保护
315曝光“精准获客”产业的隐私黑洞
央视3·15晚会曝光了多家公司依靠信息黑洞疯狂窃取个人隐私。近一年来,互联网上涌现出大量“精准获客”广告,宣称利用大数据技术,可获取目标人群消费习惯、联系方式等信息,帮助商家进行电话营销。
央视财经记者暗访了多家公司,发现其销售的“获客软件”功能惊人。以云企智能科技有限公司的“云客引流”为例,该软件可设定关键词标签,自动扫描短视频平台评论区,抓取相关用户的电话、微信等信息。此外,还能监控同行直播数据,进行截流和引流。
一些公司还利用手机的三网通信大数据进行获客,在一份宣传资料上记者看到,这家公司将个人用户分为9种类型,个人标签达到3800项,网站2亿多,互联网品牌6万个,手机品牌2000种,每日处理数据量达到了100亿条。
AI治理
网信办等四部门正式印发《人工智能生成合成内容标识办法》
3月14日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局发布《人工智能生成合成内容标识办法》(下称《标识办法》),自 2025 年 9 月 1 日起施行。
《标识办法》要求,服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照要求对生成合成内容添加显式标识;服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识;提供网络信息内容传播服务的服务提供者应当采取技术措施,规范生成合成内容传播活动。
多家平台开始应对AI信息污染与AI谣言
3月11日,微博宣布启动治理。微博社区治理官方账号发文称,治理的重点领域是社会民生、突发事件、科普医疗和个人权益,会对不同情况予以处置。
具体而言,如果账号的单条内容由 AI 生成且未主动标识,微博称会主动打标,提示“疑似由 AI 生成”;如果账号有多条AI内容都未标识,会限制流量分发;如果这些内容造成了恶劣影响,则可以禁言乃至封号。
AI谣言泛滥的问题不止微博一家碰到。今日头条在近期的治理开放日透露了一组数据:去年打压了超过93万条低质AI内容,处罚了近3万个利用AI批量发布虚假、低质内容或恶意洗稿、抄袭的账号。与微博的举措类似,今日头条在收严对低质AI内容的审核力度,另外监测AI内容的整体流量占比。
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦![]() |
48小时新闻排行榜 | 更多>> |
1 | 民主党惨败 川普马斯克大胜 |
2 | 重磅!川普拒绝与北京谈判 |
3 | 传美国拟对10国全面停止签证 |
4 | 网美女老板“湿漉漉”视频疯传 大量网友朝 |
5 | 习近平竟然拒绝出席 |
6 | 中国电动车厂4分之3要完蛋 |
7 | 惊天大料: 传中共军委副主席何卫东被带走 |
8 | 面试官问青蛙为什么跳的比树高 男生说完秒 |
9 | 川普突然下令开战 大批战机从航母上起飞 |
10 | 他可能成为白宫替罪羊 最先被踢出川普内阁 |
一周博客排行 | 更多>> |
一周博文回复排行榜 | 更多>> |
1 | DOGE使马斯克成为爱国者.行政 | 木秀于林 |
2 | 戎小捷:当代中国的民主转型: | 万维网友来 |
3 | 习近平的执念:复制美国的科技 | 漂美飘 |
4 | 从美乌联合声明暂时停火,看美 | 侃侃 |
5 | 美国人不用交税了吗? | 倩影 |
6 | “硬汉”泽伦斯基为何软了? | 山蛟龙 |
7 | 川普一贯粉鹅跪金舔习必然弃乌 | 马黑 |
8 | 俄乌战争很快要量变到质变了 | 花蜜蜂 |
9 | 【深度】乌克兰就算现在割地也 | 桃源漁伯 |
10 | 世界和平依赖谁? | 施化 |