GitHub

微软与Mitre本周释出，可模拟针对机器学习（machine learning，ML）系统之攻击的外挂工具Arsenal。

这是微软与Mitre针对机器学习系统防护的最新一项合作。双方2020年合作Adversarial ML Threat Matrix开发框架，去年微软推出Counterfit自动化红队演练AI攻击测试工具，供企业对AI演算法进行安全评估。最新的Arsenal即是将Counterfit整合於外挂中。

Mitre的资源页说明，这个外挂可储存和建立Mitre攻击ATT&CK资料库ATLAS（Adversarial Threat Landscape for Artificial-Intelligence Systems）定义的攻击策略和手法，并整合到其CALDERA自动化攻击模拟平台App。Arsenal外挂也可和CALDERA视觉化外挂Almanac配合使用。

Arsenal可协助安全研究人员发现ML工作流程各元素的漏洞，并提供防护方法。截至1月，这个最新外挂提供发现远端、本机及可用的网路服务与ML专门服务，还可汇出ML模型并以counterfit程式库绕过ML模型。Mitre表示未来会持续强化Arsenal的功能。

Arsenal可执行於Ubuntu 18.04或20.04的系统上，并需要Python 3.7以上版本。

不过Arsenal目前还不是CALDERA预设的外挂，用户需要连到caldera-atlas程式库循指示下载。