万维读者网 > 信息时代 > 正文  

3大AI公司10多位员工连署 揭露AI产业内部隐忧

www.creaders.net | 2024-06-05 16:17:05  自由时报 | 0条评论 | 查看/发表评论

随着人工智能(AI)技术的飞速发展,其潜在风险也日益受到关注。 一封由OpenAI、Google DeepMind以及Anthropic三大AI龙头十多位现任和前任员工联署的公开信,揭露了AI产业内部的隐忧:员工担心自己无法自由表达对AI威胁人类的担忧,因为他们受到保密协议、缺乏举报保护机制以及害怕报复的限制。

华尔街日报报道,这些员工呼吁AI公司建立员工安全揭露担忧的渠道,并允许员工将担忧公开。 

他们指出,保密协议阻碍了员工公开讨论相关问题。 “最了解尖端AI系统运作方式和部署风险的人,却不能完全自由地发声”,签署这封信的前OpenAI员工桑德斯(William Saunders)说。

自主AI系统失控 恐导致人类灭绝

除了桑德斯之外,还有六名前OpenAI员工,以及四名现任OpenAI员工、一名前DeepMind员工和一名现任DeepMind员工也签署了他们的姓名,签署者中有六人选择匿名。

该信的签名者表示,由于政府对AI公司没有广泛的监督,现任和前任员工是少数一些能让公司承担责任的人。 他们说,他们担心的问题之一是人类可能会失去对自主AI系统的控制,进而导致人类灭绝。 信中还要求公司允许员工匿名举报问题,不对举报人进行报复,不强迫签署可能会让他们保持沉默的协议。 他们希望AI公司更加透明、注重保障措施。

三位顶尖的AI专家也表支持,包括罗素(Stuart Russell)以及被称为“AI教父”的本吉奥(Yoshua Bengio)和辛顿(Geoffrey Hinton)。 辛顿去年离开Google,以便能更自由地讨论AI风险。

3大AI公司10多位员工连署   揭露AI产业内部隐忧

ChatGPT开发商OpenAI的现任和前任员工公开警告,主要人工智能(AI)公司缺乏必要的透明度和问责制,无法因应AI潜在风险。 (美联社文件照)

OpenAI回应称,他们同意该有政府监管,强调会在发布技术之前,先创建必要的安全保障,并已设有匿名的诚信热线,且成立了由包括执行长阿特曼(Sam Altman)领导的安全委员会。 然而,联署员工认为,公司在开发AI技术的竞赛中无视风险,希望AI公司更加透明、注重安全保障。 DeepMind和电商龙头亚马逊支持的Anthropic暂未回应。

   0


24小时新闻排行榜 更多>>
1 这张图在国内传疯了
2 疑使用全新技术!美卫星拍到中国一张照片
3 习发起“删除美国”运动 他说睡狮被迫醒来
4 中南海已大难临头
5 习近平究竟怎么想?大多数知情者认为…

48小时新闻排行榜 更多>>
1 这张图在国内传疯了
2 疑使用全新技术!美卫星拍到中国一张照片
3 用不了多久 人民币就会被打回原形
4 习发起“删除美国”运动 他说睡狮被迫醒来
5 终于说实话了!华为高层内部谈话引震动
6 慈禧出逃后,日本人拍摄的原貌照片,极为珍
7 普京大势已去
8 中南海已大难临头
9 习近平究竟怎么想?大多数知情者认为…
10 不装了:一次正式迈向计划经济和文革的大会
热门专题
1
以哈战争
6
中共两会
11
秦刚失踪
2
中美冷战
7
台湾大选
12
火箭军悬案
3
乌克兰战争
8
李克强猝逝
13
台海风云
4
万维专栏
9
中国爆雷
14
战狼外交
5
美国大选
10
李尚福出事
15
普里戈津
一周博客排行 更多>>
1 一位“叛教者”的心路历程 湮灭之城
2 高瞻:我亲身经历的“六四”两 万维网友来
3 唐伯虎的书法真迹太珍贵难以估 弓长贝占郎
4 曾华
5 年金險有什么好處?看完這篇文 我本楚狂人
6 谁发动武统台湾的战争,就是禽 suoliweng
7 “普京同志,我剛訪歐回來,那 Winston Sm
8 包子露馅了~ 山蛟龙
9 世纪审判:川普,川普,guilty 爪四哥
10 真正的判决是11月5日吗? 右撇子
一周博文回复排行榜 更多>>
1 真正的判决是11月5日吗? 右撇子
2 世纪审判:川普,川普,guilty 爪四哥
3 川普的事儿我已经没怎么追踪了 倩影
4 乌贼准备好为了败灯的面子和俄 不合群
5 谁发动武统台湾的战争,就是禽 suoliweng
6 也谈川普被定罪 湮灭之城
7 川普冲撞法律 俞先生
8 未来的世界就两个国家,一个是 体育老师
9 绿皮火车的回忆 (之六) 南京 水星98
10 徐辉少将教育泽连斯基 Shanechen
关于本站 | 广告服务 | 联系我们 | 招聘信息 | 网站导航 | 隐私保护
Copyright (C) 1998-2024. CyberMedia Network/Creaders.NET. All Rights Reserved.