AI 혁신 가속화! MS, 애저 클라우드 업그레이드와 DPU 도입 발표

마이크로소프트(MS)는 최근 열린 연례 개발자 콘퍼런스 '이그나이트 2024'에서 클라우드 서비스인 애저의 업그레이드 계획을 발표하며 AI 혁신에 박차를 가하고 있다. 이 회사는 데이터 센터에서 사용하는 고유의 데이터 처리 장치(DPU)와 고대역폭메모리(HBM)를 통한 가상화 지원 방안을 제시하며 AI 기술의 선도적인 변화를 도모하고 있다.

이번 이그나이트 2024에서 주목할 만한 점은 MS가 애저 클라우드에 자체 설계한 ‘애저 부스트 DPU’를 도입한 것이다. DPU는 데이터 입출력을 보조하는 칩으로, AI 연산량 증가에 따른 데이터 전송의 한계를 극복하기 위한 새로운 반도체 솔루션이다. MS는 이는 기존의 마이아(Maia) CPU와 AI 가속기와 함께 저장장치, 네트워크, AI 가속 등 다양한 클라우드 요소에서의 효율성을 높여줄 것이라고 설명했다.

또한, MS는 AMD 기반의 가상 머신 ‘HBv5’를 소개하며, 이 시스템에서 HBM을 활용해 다른 경쟁 서비스보다 최대 8배 높은 성능을 제공할 계획임을 밝혔다. 가상 머신은 여러 대의 가상의 PC를 통해 하나의 슈퍼컴퓨터를 사용하는 서비스를 의미한다. 기업들이 대규모의 고성능 하드웨어를 효과적으로 냉각하기 위해 액체 냉각 열교환 장치도 도입할 예정이다.

이와 함께 MS는 엑셀, 파워포인트, 팀즈와 같은 소프트웨어에 AI 비서를 통합하여 업무 자동화를 지원하고 자동 번역, 필사 등 다양한 기능을 추가했다. 특히 윈도 운영체제 검색 기능은 신경망 처리 장치(NPU)를 채택해 AI 기반으로 재구성되어 사용자들이 정확한 파일 이름을 모르는 경우에도 챗봇과 대화하듯 내용을 설명하여 원하는 정보를 찾아낼 수 있도록 하고 있다.

현재 기업의 생성형 AI 이용 비중이 지난해 55%에서 올해 75%로 증가한 상황에서, MS는 기업들이 AI에 1달러를 투자할 때 3.7달러의 투자 수익률(ROI)을 기록하고 있다고 설명하며, 향후 2년간 산업적 AI의 사용 사례를 강조할 것이라고 밝혔다. 이러한 흐름은 클라우드와 AI의 융합이 기업의 경쟁력을 좌우하는 중요한 요소가 되고 있다는 점에서 시사하는 바가 크다.