微软宣布了一项新的人工智能赏金计划,重点关注人工智能驱动的必应体验,奖金达到1.5万美元。
随着人工智能驱动的必应体验成为新漏洞赏金计划的第一个产品,安全研究人员可以提交在以下合格服务和产品列表中发现的漏洞:
- 人工智能驱动的必应体验
bing.com
浏览器(支持所有主要供应商,包括Bing Chat, Bing Chat for Enterprise和Bing Image Creator) - 人工智能支持的必应集成
微软的优势
(Windows),包括企业版必应聊天 - 在Microsoft Start应用程序中集成人工智能支持的必应(
iOS
,以及
安卓
), - 在Skype移动应用程序中集成人工智能支持的必应(
iOS
,以及
安卓
),
微软人工智能赏金计划邀请来自全球的安全研究人员发现新的、创新的、人工智能驱动的必应体验中的漏洞。合格的参赛作品有资格获得2000美元至1.5万美元不等的奖金。”
人工智能赏金计划的网站
.
“识别必应相关在线服务漏洞的提交将根据M365赏金计划进行考虑。所有提交的文件都会被审查是否有资格获得赏金,所以如果你不确定自己提交的文件是否合适,也不要担心。”
漏洞类型 |
报告质量 |
严重程度 |
|||
至关重要的 |
重要的 |
温和的 |
低 |
||
推理操作 | 高 媒介 低 |
15000美元 10000美元 6000美元 |
6000美元 3000美元 2000美元 |
$0 | $0 |
模型操作 | 高 媒介 低 |
15000美元 10000美元 6000美元 |
6000美元 3000美元 2000美元 |
$0 | $0 |
推断信息披露 | 高 媒介 低 |
15000美元 10000美元 6000美元 |
6000美元 3000美元 2000美元 |
$0 | $0 |
除了在微软的报告中概述的问题外;
AI系统的漏洞严重性分类
,研究人员还被鼓励报告导致以下情况的漏洞:
- 跨用户边界改变必应的聊天行为,也就是说,以可能影响所有其他用户的方式改变人工智能。
- 通过改变客户端和/或服务器的可见配置来调整Bing的聊天行为,包括改变调试和特性标志。
- 绕过了必应的保护措施,包括交叉对话记忆和历史删除。
- 披露必应的内部机制和提示、决策过程和机密信息。
- 规避必应聊天模式会话的限制和规则。
该公司还强调了一长串超出范围的问题和漏洞类型,包括那些只会影响攻击者的问题、一些模型幻觉攻击、不准确或攻击性的聊天响应等等。
“通过我们的漏洞赏金计划与安全研究人员合作,是微软保护客户免受安全威胁的整体战略的重要组成部分。”
说
MSRC技术项目经理Lynn Miyashita。
“我们重视与全球安全研究社区的合作关系,并很高兴扩大我们的范围,包括人工智能驱动的必应体验。”
在最近的一篇赏金年度回顾博客文章中,微软表示:
支付了1380万美元的奖金
全球345名安全研究人员在17个不同的漏洞赏金计划中报告了1180个漏洞。
去年,该公司
增加了本地Exchange、SharePoint和Skype for Business
公司的漏洞赏金计划和
增加了最高奖励
通过微软365程序报告的高影响安全漏洞。
如若转载,请注明出处:https://www.ozabc.com/anquan/537050.html