그동안 늘어나는 AI 컴퓨팅 수요에 대응하기 위해 더 많은 GPU와 데이터센터, 전력 인프라를 확보하는 경쟁이 이어져 왔습니다. 하지만 이번 KAIST 연구와 관련해
최기영 전 과학기술정보통신부 장관은 늘어나는 수요에 맞춰 데이터센터의 규모와 비용만 계속 확대하는 방식은 지속 가능하지 않다는 취지의 의견을 밝혔는데요.
결국 AI가 일하는 방식이 달라진다면, 인프라를 바라보는 기준도 달라져야 합니다. 필요한 자원을 계속 늘리는 것뿐만 아니라, 복잡해지는 워크로드에 맞춰 확보한 컴퓨팅 자원을 유연하게 배분하고 운영하는 역량까지 중요해지고 있는 것이죠.
국내에서 대규모 GPU 인프라를 선제적으로 구축·운영해 온 NHN Cloud는 이러한 자원 활용의 문제에도 일찍부터 주목해 왔습니다. NHN Cloud의 ‘GPU Live’는 바로 이 같은 고민에서 출발한 기술이죠. GPU 자원을 하나의 풀로 관리하면서, AI 학습과 추론 등 다양한 워크로드의 요구에 따라 필요한 자원을 동적으로 할당해 한정된 GPU의 활용 효율을 높입니다.
이제는 달라진 AI 워크로드에 맞춰 GPU와 컴퓨팅 자원을 어떻게 배분하고 운영할 것인지 함께 고민해야 할 때입니다.
.png)
