Mango AI Center
Mango AI Center(MAC)는 여러 대의 AI 서버와 GPU, MangoBoost DPU, RDMA NIC, 이더넷 패브릭을 관리합니다.
주요 기능
- 등록된 전체 node의 상태, 하드웨어·소프트웨어 목록, 알림, 과거 metric을 조회합니다.
- GPU, RDMA NIC, DPU 펌웨어, SDK 패키지, 스위치 패브릭을 관리합니다.
- 패브릭 혼잡, 영향을 받은 RNIC과 기록된 이벤트를 확인합니다.
- 호스트 로그와 MAC 서비스 로그, 감사 로그를 조회합니다.
- LLMBoost와 MASS의 현황을 조회합니다.
아키텍처
master는 여러 agent를 관리합니다. master와 agent를 같은 서버에서 실행할 수도 있습니다.
master는 대시보드를 실행합니다. 모니터링할 서버마다 실행되는 agent는 master에 정보를 보고합니다. 배포 모드를 참고하세요.
대시보드 페이지 찾기
Hardware, Monitoring, Maintenance는 사이드바에서 선택한 node의 정보를 표시합니다.
| 그룹 | 페이지 |
|---|---|
| Cluster | Overview, Nodes |
| Fabric | Switches, Topology, Events |
| Services | LLMBoost, MASS |
| Hardware | Server, GPU, NIC, Storage |
| Monitoring | Performance, Power & thermal, System log |
| Maintenance | BMC, Software, MAC containers |
| MAC log | Service logs, Audit log |
| Settings | Alert rules, Users, Announcements, Updates |
Ctrl+K를 누르면 현재 역할로 열 수 있는 페이지를 검색할 수 있습니다.