인공지능 구현의 시대, 고객의 프로젝트 관리팀은 고가의 GPU의 사용을 최적화하여 AI 전문가와 함께 생산성을 고도화시킬 수 있는 방법을 도입하고 꾸준히 찾아내려 노력하고 있다.
AI 개발자들은 개발 단계에 따라 여러 가지 기능에 GPU를 사용하고 각 단계에서 요구되는 컴퓨팅 능력, 즉 GPU의 수는 다양하다. 예를 들어, 시험 실행 시에는 GPU 1개로 충분할 수도 있지만, AI Training 에서는 GPU가 4개 이상 필요하지만 GPU가 필요 없는 단계도 있다.
이런 역동적이고 복잡한 GPU 사용 패턴으로 인해 AI 개발자가 제한된 GPU 자원을 효율적으로 활용하기 위해서는 사용이 간편하고 또 복합적 구성과 공유가 가능한 셀프 서비스 GPU Pooling 구조가 필수적이다
이에 H3 플랫폼(Platform)은 AI 개발자가 컴퓨팅 리소스 할당에 어려움을 극복할 수 있도록 복합구성형으로 공유가 가능한 GPU 섀시와 PCIe 디바이스 관리 UI 통합 솔루션을 제공한다. 개발자는 1GbE 관리 포트를 통해 GPU Pool을 쉽게 구성하고 관리할 수 있으며 호스트에 GPU를 할당하고 GPU 풀로 되돌릴 수 있다.
H3 Platform이 세계 최초로 개발한 서버 호스트에 GPU 자원을 동적으로 공유 그리고 할당 및 재 할당할 수 있는 PCIe Gen4 Composable GPU 섀시(보기)는, 하나의 GPU 섀시를 다중의 여러 서버 호스트에 병열식으로 연결하여 필요시 각 GPU를 자유롭게 각각의 서버에 할당 또는 상호 재 할당하여 사용할 수 있도록 설계된 GPU 섀시 솔루션이다.
즉, 기존의 서버의 새시(케이스)는 규격(높이)은 1U~4U까지 다양하게있으며, 보통 외부 장착 카드의 슬롯은 1개부터 여러 개를 꽂을 수 있는 슬로(공간)이 있지만 대개의 서버는 GPU를 1개만을 수용할 수 있으며, 대용량을 처리하기 위해서는 여러 개의 GPU를 꽂아 사용해야 한다. 때문에 현재, 서버는 여러대를 구성하여 하나의 서버처럼 운영해야 하는 번거로움이 있다.
이에 H3 Platform은 마치 HDD를 여러 개 꽂아 사용하듯 GPU를 여러 개 꽂아 사용하고 운영관리할 수 있도록 만들어진 새시 솔루션인 것이다.
특히, AI data 처리 시 고용량의 서버사양과 다량의 GPU를 병렬로 사용하는 컴퓨팅 파워를 요구하는 시스템들이 있어 이 솔루션은 AI의 다양한 분야에서 특히, AI/HPC 및 렌더링(Rendering) 분야에서 필요로 하는 GPU운영과 비용절감에 획기적인 도움을 줄 것으로 기대된다.
현재, H3 Platform의 더 자세한 내용 및 성능 그리고 한국내 제품 시연 및 기술서비스 제공(요청)은 (주)한성SMB솔루션으로 하면된다.