微软、Mitre释出机器学习攻击模拟外挂工具

微软、Mitre释出机器学习攻击模拟外挂工具

GitHub

微软与Mitre本周释出,可模拟针对机器学习(machine learning,ML)系统之攻击的外挂工具Arsenal。

这是微软与Mitre针对机器学习系统防护的最新一项合作。双方2020年合作Adversarial ML Threat Matrix开发框架,去年微软推出Counterfit自动化红队演练AI攻击测试工具,供企业对AI演算法进行安全评估。最新的Arsenal即是将Counterfit整合於外挂中。

Mitre的资源页说明,这个外挂可储存和建立Mitre攻击ATT&CK资料库ATLAS(Adversarial Threat Landscape for Artificial-Intelligence Systems)定义的攻击策略和手法,并整合到其CALDERA自动化攻击模拟平台App。Arsenal外挂也可和CALDERA视觉化外挂Almanac配合使用。

Arsenal可协助安全研究人员发现ML工作流程各元素的漏洞,并提供防护方法。截至1月,这个最新外挂提供发现远端、本机及可用的网路服务与ML专门服务,还可汇出ML模型并以counterfit程式库绕过ML模型。Mitre表示未来会持续强化Arsenal的功能。

Arsenal可执行於Ubuntu 18.04或20.04的系统上,并需要Python 3.7以上版本。

不过Arsenal目前还不是CALDERA预设的外挂,用户需要连到caldera-atlas程式库循指示下载。

币安怎么在手机上注册

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论
0
希望看到您的想法,请您发表评论x