로컬 LLM을 모니터링에 사용하려면 분석을 수행하는 시스템도 점검해야 합니다. 초기 상태 모니터링 사례에서 얻은 운영상의 교훈을 정리합니다.
연결과 처리를 함께 확인하기 #
서비스에 연결되더라도 목적한 처리가 끝까지 완료된다고 볼 수는 없습니다. 사용자가 실제로 필요한 처리와 도중의 실패를 확인합니다.
알림이 없는 이유 확인하기 #
알림이 없다는 것은 이상이 없거나 수집·처리가 중단되었다는 뜻일 수 있습니다. 최근 처리 결과와 정보의 시점을 확인할 수 있어야 합니다.
복구 후에도 확인하기 #
복구 메시지만으로 판단하지 않고 정상 처리가 재개되었는지 확인합니다. 점검 방법은 이용 환경에 맞게 정합니다.