서버 구성 사양
| 구분 | 항목 | 상세 사양 | 수량 |
|---|---|---|---|
| Chassis | Supermicro AS-4124GQ-TNMI | 5U, 듀얼 AMD EPYC 지원, 3000W redundant PSU | 1 |
| CPU | AMD EPYC 7413 (24C/48T) | 듀얼 구성 (총 48코어 / 96쓰레드), 2.65GHz~3.6GHz | 2 |
| GPU | AMD Instinct MI250 OAM | 128GB HBM2e, Infinity Fabric, 패시브 냉각 | 4 |
| RAM | 64GB DDR4-3200 ECC/REG | 총 512GB (8개 슬롯 점유) | 8 |
| Networking | ConnectX-6 VPI HDR | Dual Port, QSFP56, HDR 200Gb/s InfiniBand | 1 |
| Storage | Samsung PM883 480GB | OS 및 시스템용 SATA SSD 2.5인치 | 2 |
압도적 납기 단축
수개월 대기가 필요한 NVIDIA 대비 안정적인 공급망을 통해 프로젝트 즉시 착수 가능
초거대 VRAM 확보
카드당 128GB, 총 512GB VRAM으로 70B급 모델도 여유로운 추론 및 동시 서비스 지원
강력한 보안 폐쇄망
내부 데이터 유출 없는 온프레미스 환경으로 기업 전용 지식 베이스(RAG) 구축 최적화
도입 사례
RAG 로컬 LLM 시스템
로컬 환경에서 LLM과 검색을 결합해 외부 의존 없이 지식 응답을 생성하는 시스템입니다.
자동화 솔루션
반복적이고 시간 소모적인 작업을 AI 기반으로 자동화하여 생산성을 극대화하고 비용을 절감합니다.
맞춤형 AI 개발
고객의 특정 요구사항과 비즈니스 목표에 맞춰 최적화된 AI 모델 및 시스템을 설계하고 개발합니다.
코딩 팩토리
분석 - 설계 - 개발 - 배포까지 모든 업무의 일관된 프로세스와 소스코드, 산출물 자동 작성
음성 처리
텍스트 데이터에서 의미를 추출하고, 챗봇, 자동 요약, 감성 분석, 클로닝 등 음성처리를 수행
컴퓨터 비전
이미지 및 비디오 분석을 통해 객체 인식, 얼굴 인식, 영상 감시 등 시각적 데이터 관련 AI 솔루션을 제공합니다.
문의
Supermicro AS-4124GQ-TNMI & AMD Instinct™ MI250 기반
AI 서버에 대해 더 자세히 알고 싶으시다면 언제든지 연락 주세요.