--- title: 로컬 LLM을 활용한 인프라 운영 지원의 방향 description: BASTION에서 로컬 LLM을 활용하는 방향을 소개합니다. 처리할 정보, 외부 연계, 탐지·제어와의 역할 분담, 가동 상태와 도입 조건을 구분하여 설명합니다. url: "https://bestnetllc.co.jp/ko/docs/%eb%a1%9c%ec%bb%ac-llm%ec%9c%bc%eb%a1%9c-%ec%9d%b8%ed%94%84%eb%9d%bc-%eb%a1%9c%ea%b7%b8%eb%a5%bc-%ec%9e%90%eb%8f%99-%eb%b6%84%ec%84%9d%ed%95%98%eb%8a%94-%ea%b5%ac%ec%a1%b0%eb%a5%bc-%eb%a7%8c%eb%93%a0/" updated: "2026-11-01" category: Tech Blog / AI 보안 운영 --- # 로컬 LLM을 활용한 인프라 운영 지원의 방향 2026.04 / Tech Blog / BASTION 2026-11-01 업데이트 # 로컬 LLM을 활용한 인프라 운영 지원의 방향 정보 처리와 운영상의 책임을 구분하여 AI의 설명을 활용하기 인프라 운영에서는 여러 관측 정보를 바탕으로 상황을 이해하고 대응이 필요한지 확인하는 작업이 이루어집니다. LLM은 이러한 정보를 읽기 쉽게 설명하는 지원 수단으로 활용할 수 있습니다. BASTION은 로컬 LLM을 사용하는 구성을 지원합니다. 이 글에서는 특정 모델의 구축 절차가 아니라 정보 처리, 탐지·제어와의 관계, 이용 시 확인할 조건을 소개합니다. ![BASTION의 관측, 운영 지원, 제어, 평가 간 관계를 나타낸 개념도](https://bestnetllc.co.jp/wp-content/uploads/2026/04/architecture.svg?v=20261101) BASTION 전체의 역할을 나타낸 개념도입니다. 각 기능의 가동 상태나 개별 환경의 연결 구성을 나타내는 것은 아닙니다. ## 1. 관측 정보와 AI의 설명 구분하기 수집된 정보와 AI가 이를 바탕으로 만든 설명은 같은 것이 아닙니다. 운영자가 설명의 근거를 확인할 수 있어야 합니다. 건수, 대상, 기간을 잘못 파악했다면 읽기 쉬운 설명도 잘못된 대응으로 이어질 수 있습니다. 문장의 자연스러움만으로 정확성을 판단하지 않고, 확인된 내용과 해석을 구분합니다. ## 2. 처리할 정보와 연결 대상 정하기 로컬에서 추론하는 것과 운영 전체에서 외부 통신을 사용하지 않는 것은 서로 다른 조건입니다. 알림이나 외부 서비스 연계를 이용한다면 연결 대상과 전송할 정보를 포함하여 구성을 확인합니다. 폐쇄망 요구 사항이 있다면 그에 맞는 처리·알림·관리 범위를 설계합니다. 고객 정보와 인증 정보를 다루는 조건도 포함하여 이용 환경별로 정합니다. ## 3. 설명과 제어의 책임 구분하기 BASTION의 자동 방어는 정해진 판단 조건과 보호 조건에 따라 다룹니다. LLM의 문장을 그대로 차단이나 설정 변경의 지시로 받아들이는 방식으로 설명하지 않습니다. 개선 제안을 다루는 기능에도 허용 범위와 적용 시 검사를 마련하고 있습니다. 상황 설명, 변경 제안, 실제 적용은 각각 확인해야 할 대상입니다. ## 4. 가동 상태와 관측 정보 부족 확인하기 모델이 응답하지 않거나 수집이 멈췄거나 정보가 오래된 상태에서는 충분한 분석이 어려울 수 있습니다. 알림이 없다는 사실만으로 문제가 없다고 판단할 수는 없습니다. 이용하는 구성에서는 정보의 도착, 처리 완료, 확인할 수 없는 범위를 구분하여 점검합니다. 분석 기능의 동작 확인과 실제 방어 효과의 확인도 별도로 수행합니다. ## 5. 구성상의 지원과 현재 가동 상태 구분하기 BASTION에서는 자사 환경에서 자동 방어와 대역폭 제어를 운영하고 있습니다. 로컬 LLM을 사용할 수 있는 구성이라는 사실은 해당 모델이 항상 가동 중이거나 모든 처리가 폐쇄망 안에서 완료된다는 증거가 아닙니다. 초판에서 소개한 모델, 장비, 처리 조건은 구축 당시의 내용이며 현재의 공통 사양으로 취급하지 않습니다. 사용할 모델, 필요한 자원, 가동 조건, 외부 연계 유무는 도입 구성별로 확인합니다. ## 6. 도입 시 확인할 사항 대상 장비와 정보, 운영자의 확인 방법, 중단이나 관측 누락 시의 처리, 정상 업무에 미치는 영향을 확인하여 적용 범위를 정합니다. 특정 모델을 선택하는 것만으로 모든 환경에서 같은 효과를 얻을 수 있는 것은 아닙니다. 도입 설계·연계·평가는 대상 범위와 작업 내용을 확인한 뒤 개별 견적을 제공합니다. 공개 글에서는 개요를 소개하며 고객 정보나 내부 구성의 상세 내용은 공개하지 않습니다. 초판의 구축 기록을 재검토하고 2026년 11월의 공개 설명에 맞춰 구성상의 지원, 운영 범위, 검증 시 유의 사항을 정리했습니다. [BASTION 서비스 소개](https://bestnetllc.co.jp/ko/bastion-5/) [문의하기](https://bestnetllc.co.jp/ko/contact-5/)