None

AI也要抓漏,微软AI Bug Bounty Program上线

微软

微软周四(10/12)公布了新的抓漏计画,这是锁定AI臭虫的Microsoft AI Bug Bounty Program,奖金从2,000美元到1.5万美元不等,首个抓漏的产品为具备AI能力的Bing。

现有的抓漏范围围绕在所有整合AI的Bing体验,包括利用各种浏览器造访Bing.com时所体验的Bing Chat、Bing Chat for Enterprise及Bing Image Creator;或是在Windows版Microsoft Edge使用整合AI的Bing功能,包括Bing Chat for Enterprise在内;以及iOS及Android上Microsoft Start Application所整合的Bing;或是iOS及Android上Skype Mobile Application整合的Bing。

与AI系统相关的安全漏洞涵盖了推论操纵(Inference Manipulation)、模型操纵(Model Manipulation)及推论资讯揭露(Inferential Information Disclosure),像是可注入指令导致模型偏离其预期行为,或是可干扰有效输入而令模型产生错误输出,或是可窜改模型架构、训练程式码、训练资料或超参数来毒害模型,或是可自训练资料集中重建个人资料纪绿等。

不过,只有被微软AI漏洞分类系统(Microsoft Vulnerability Severity Classification for AI Systems)视为重要(Important)或重大(Critical)等级的安全漏洞才符合申请资格。

根据微软日前所公布的年度抓漏成果,自去年7月1日到今年6月底之间,微软总计祭出了17个抓漏计画,来自全球逾45个国家的345个安全研究人员,总计提交了1,180个符合资格的漏洞报告,获得了1,380万美元的奖金,最高的一笔抓漏奖金为20万美元。

陈晓莉

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
最旧
最新 最多投票
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x