基础设施运维需要从大量观测信息中了解情况,并确认是否需要采取措施。LLM可以作为辅助工具,将这些信息说明得更易理解。
BASTION支持使用本地LLM的配置。本文介绍信息的处理方式、与检测及控制的关系,以及使用时需要确认的条件,而非特定模型的搭建步骤。
1. 区分观测信息与AI的说明 #
收集到的信息,与AI据此生成的说明,并不是同一回事。运维人员能够核查说明的依据十分重要。
如果数量、对象或时间范围出现混淆,即使说明易于阅读,也可能导致错误处置。不能仅凭文字是否自然来判断正确性,而应区分已经确认的内容与解释。
2. 明确处理的信息与连接目标 #
在本地进行推理,与整个运维流程不使用外部通信,是两个不同条件。使用通知或外部服务集成时,需要连同连接目标和发送内容一起确认配置。
如果存在封闭网络的要求,应设计符合这些要求的处理、通知和管理范围。客户信息和认证信息的处理条件,也需要根据各使用环境分别确定。
3. 区分说明与控制的职责 #
BASTION的自动防御依据既定的判断条件和保护条件处理。这不能理解为直接接受LLM生成的文字,将其作为拦截或配置变更的指令。
处理改进建议的功能也设有授权范围和应用时的检查。情况说明、变更建议和实际应用,分别是需要核查的对象。
4. 确认运行状态与观测不足 #
模型无响应、信息收集停止或信息过时等情况,可能使充分分析无法进行。不能仅凭没有通知就判断不存在问题。
在使用的配置中,需要分别检查信息是否到达、处理是否完成,以及哪些范围无法确认。分析功能是否正常运行,与实际防御效果如何,也应分别验证。
5. 区分配置支持与当前运行情况 #
BASTION在自有环境中运行自动防御和带宽控制。配置支持使用本地LLM,并不能证明该模型始终处于运行状态,也不能证明全部处理都在封闭网络中完成。
初版介绍的模型、设备和处理条件属于搭建当时的情况,不作为当前的通用规格。使用的模型、所需资源、运行条件和是否存在外部集成,应按具体部署配置确认。
6. 部署时需要确认的事项 #
应确认目标设备与信息、运维人员的核查方式、停止或数据缺失时的处理方式,以及对正常业务的影响,再确定适用范围。仅选择某个模型,并不意味着所有环境都能获得相同效果。
部署设计、集成与评估将在确认目标范围和工作内容后单独报价。公开文章介绍概要,不刊载客户信息或内部架构的详细内容。