由于用户业务场景和数据复杂多样,如何在安全运营过程中应用 AI 技术进行数据建模和分析是AI运用的核心难题。而MLOps 提供的模型建模能力和模型生命周期管理能力能够很好地解决这一问题,也就是说,但凡想深耕AI的公司都要切入或者寻找MLOps合作。
3月20-3月23日,英伟达即将全球AI开发者大会上向世界展现其AI生态布局。MLOps就是其AI生态系统建设的基石。
通过在用户环境中部署 MLOps 平台,就有了在用户环境中进行模型训练和模型持续优化集成的能力,也就把 AI 安全模型的训练和迭代更新过程 “右移” 到用户的真实生产环境中,因此,模型训练使用的不再是实验室构造的 “假数据”,而可以使用用户生产环境现场产生的真实数据,大大提升 AI 安全模型的准确性。
举例来说,部署用于识别加密恶意流量的 AI 模型,由于该模型的特征工程将提取大量网络会话中的通信特征信息,比如网络抖动、会话中的帧间距以及 TCP 会话窗口大小等,显然这些特征在实验室环境和用户真实环境下是不同的,如果直接使用实验室环境下构造出的背景流量作为负样本训练出来的模型在用户真实环境下就可能出现较大的准确性下降,而如果模型就是在用户真实环境中训练的,真实的负样本数据能够有效保证模型的准确性。
MLOps 解决的另一个主要问题是模型能力衰退的问题。由于 AI 模型的泛化能力有限,AI 算法本质也是学习训练数据中所隐含的统计规律,而无论当用户的业务数据(负样本)发生变化还是出现了新的攻击方法(正样本),都有可能无法被现有的 AI 模型识别。
MLOps 对模型的全生命周期管理包括了对模型的实时监测评估、对性能衰退模型的自动化维护和迭代更新。其核心理念都是围绕快速迭代和持续集成。在安全运营过程中,如何把 AI 模型快速和自动化地集成到需要使用该模型的安全产品中是能否真正实现所谓 Ops 的关键。
MLOps 所倡导的快速迭代持续集成就是为高效运营而生,模型则是场景化安全分析的核心能力,启明信息已经全面实现 MLOps 的工程化落地,近期发布的 AI 安全建模和赋能平台,是一个集成多种 Al 安全分析模型,可提供全生命周期 Al 模型管理的平台。