|
|
|
IT之家 2 月 24 日消息,微软近日发布了开源自动化框架 PyRIT,这是一款 Python 风险识别工具包,主要帮助安全专家和机器学习工程师识别生成式 AI 的风险,阻止他们的人工智能系统失控。
微软的 AI Red Team 已经使用该工具,检查包括 Copilot 在内生成式人工智能系统中风险。
微软强调通过向公众提供内部工具,以及分享 AI Red Team 方面的其他投资成果,其目的是推动人工智能安全民主化。
微软 AI Red Team 专门成立了一个跨学科的安全专家小组,管理复杂的攻击演习。PyRIT 框架的工作原理如下:
PyRit Agent 向目标 Gen AI 系统发送恶意提示词;当它收到 Gen AI 系统的回应时,就会向 PyRIT 评分引擎发送回应。
评分引擎将响应发送给 PyRit 代理;然后,代理根据评分引擎的反馈发送新的提示。
这一自动化过程一直持续到安全专家得到所需的结果为止。
微软已经将相关代码托管到 GitHub 上,感兴趣的用户可以深入阅读。
当前新闻共有0条评论 | 分享到: |
|
||||||||||
评论前需要先 登录 或者 注册 哦 |
|
24小时新闻排行榜 | 更多>> |
|
1 | 余茂春惊人预告 习近平的噩梦要来了 |
2 | 突发:全球最大光刻机巨头爆雷 股价跳水 |
3 | 火箭军又将大地震?习四个字批示 |
4 | 华尔街大鳄警告 它是一个“巨大的泡沫” |
5 | 复旦研究生珠峰地区登山死亡 真相更令人愤 |
|
48小时新闻排行榜 | 更多>> |
|
1 | 北京扣动扳机 人民币贬值开始了 |
2 | 撤出中国,苹果跑的也太快了 |
3 | 余茂春惊人预告 习近平的噩梦要来了 |
4 | 铁拳再现!中国将禁止公布这些数据 |
5 | 突发:全球最大光刻机巨头爆雷 股价跳水 |
6 | 不好,爆雷越来越密集了 |
7 | 重庆,又一次刷新了底线 |
8 | 中共情色档案中的薄熙来情妇有名有姓 |
9 | 火箭军又将大地震?习四个字批示 |
10 | 华尔街大鳄警告 它是一个“巨大的泡沫” |
|
热门专题 |
|
|
一周博客排行 | 更多>> |
|
一周博文回复排行榜 | 更多>> |
1 | 川普就是美国的毛泽东 | 右撇子 |
2 | 前瞻:习马再相会 | 花蜜蜂 |
3 | 警惕有人把民主党与共和党的关 | karkar |
4 | 美国为何选择这个时候公布中共 | 山蛟龙 |
5 | 周傥:美国迫在眉睫的危险 | 万维网友来 |
6 | 现代战争目的:摧毁战争意志 | 施化 |
7 | 习近平一盘神秘大棋成就了大日 | 文庙 |
8 | 抖音在大选年被禁的可能性不大 | 随意生活 |
9 | 去......化 | 山蛟龙 |
10 | 康生的儿子死了/漂亮国的象征 | 体育老师 |