LLMBoost

"Services → LLMBoost" 페이지가 Disconnected로 표시됨

not_configured는 탐색 경로가 설정되지 않았다는 뜻입니다. 추론 서비스를 실행하는 node에서 mac llmboost detect를 실행하고 master에 포트를 설정하세요 (LLMBoost 자동 탐색). 탐색은 /api 같은 경로를 무시하고 각 엔드포인트와 같은 프로토콜, 호스트와 포트의 /v1/models를 조회하며, 이 응답은 HTML 페이지가 아니라 모델 목록이어야 합니다.

Kubernetes 서비스나 모델이 표시되지 않음

연결 상태와 토큰 권한을 확인하고 mac-llmboost-rbac.yaml을 적용하세요. 네임스페이스를 탐색하려면 클러스터 전체의 Service를 읽을 수 있어야 합니다.

모델은 표시되지만 그래프가 비어 있음

master가 각 엔진의 /metrics에 접근할 수 있는지 확인하세요. SGLang, vLLM과 LLMBoost metric을 지원합니다. SGLang 이외의 엔진은 엔진 식별 정보를 더 적게 표시합니다.

지원 번들 수집하기

mac status -v
mac test -v
docker logs mac-api-server --tail 500
dpkg -l mango-ai-center        # RPM 호스트: rpm -q mango-ai-center

contact@mangoboost.io로 보내기 전에 자격 증명, 토큰과 민감한 워크로드 데이터를 제거하세요. 예상한 동작, 실제 동작과 탐색 설정을 함께 보내세요.