Mango AI Center
Mango AI Center(MAC)는 여러 대의 AI 서버와 GPU, MangoBoost DPU, RDMA NIC, 이더넷 패브릭을 관리합니다.
주요 기능
- 등록된 전체 node의 상태, 하드웨어·소프트웨어 목록, 알림, 과거 metric을 조회합니다.
- GPU, RDMA NIC, DPU 펌웨어, SDK 패키지, 스위치 패브릭을 관리합니다.
- 호스트 로그와 MAC 서비스 로그, 감사 로그를 조회합니다.
- LLMBoost와 MASS의 현황을 조회합니다.
아키텍처
master는 대시보드를 실행합니다. 모니터링할 서버마다 실행되는 agent는 master에 정보를 보고합니다. 배포 모드를 참고하세요.
대시보드 페이지 찾기
Hardware, Monitoring, Maintenance는 사이드바에서 선택한 node의 정보를 표시합니다.
| 그룹 | 페이지 |
|---|---|
| Cluster | Overview, Nodes |
| Fabric | Topology, Switches, Events |
| Services | LLMBoost, MASS |
| Hardware | Server, GPU, NIC, Storage |
| Monitoring | Performance, Power & thermal, System log |
| Maintenance | BMC, Software, MAC containers |
| MAC log | Service logs, Audit log |
| Settings | Alert rules, Users, Announcements, Updates |
Ctrl+K를 누르면 현재 역할로 열 수 있는 페이지를 검색할 수 있습니다.