By AI매니아 
AMD가 드디어 판을 뒤집으려나 봅니다. 인공지능(AI)이라는 급부상하는 기술 분야에서 이제 엔비디아(NVIDIA)만의 독주를 용납하지 않겠다는 그들의 의지, 아니 결의를 엿볼 수 있는 순간이었죠. 바로 지난 10월 10일, 샌프란시스코에서 리사 수 박사가 이끄는 AMD가 그들의 새로운 제품군을 발표했습니다. 여러분, 이건 단순한 GPU 출시가 아닙니다. 더 많은 메모리, 더 높은 성능, 더 빠른 속도. 그야말로 AMD가 “우리는 엔비디아와 맞서 싸울 준비가 되어 있다”는 선언입니다. AI GPU 시장에서 새로운 강자가 떠오르는 것일까요?
리사 수, 그 강철의 의지
리사 수, 그 이름만 들어도 우리는 묵직한 변화를 예감합니다. AMD의 CEO로 취임한 지 딱 10년. 그 10년 동안 AMD는 정말 드라마틱한 변화를 이뤘습니다. 한때 인텔에게도 밀리고, 시장에서 자리 잡지 못했던 AMD가 주가 100배 상승이라는 믿을 수 없는 성과를 내면서 다시금 주목받고 있죠. 과연 이번에 AMD는 또 한 번의 기적을 만들 수 있을까요? 아니, 기적이 아니라 이번엔 기술 혁명이 되어야겠죠. 리사 수가 말하는 ‘미래의 AI’는 더 이상 엔비디아의 독점적 지배하에 머무르지 않을 겁니다.
엔비디아가 독점? AMD, 그걸 가만히 보고만 있을 리 없지!
여러분, 엔비디아는 거의 ‘AI GPU’라는 단어 자체와 동의어가 된 것 같은 느낌이죠? 특히 H200이라는 AI GPU가 시장을 지배하고 있습니다. 그런데 이번에 AMD가 들고 나온 MI325X GPU는, 아니 이건 진짜로 기존 엔비디아 제품들보다 더 나은 성능을 제공한다는 겁니다. 더 많은 메모리 용량, 더 넓은 대역폭. AI 추론과 학습을 위한 최고의 솔루션이라고 자신 있게 말하고 있습니다.
그렇다면 우리는 물어봐야겠죠. AMD는 도대체 뭘 했길래 이렇게 자신만만한 걸까요? 그냥 제품 하나 만들었다고 이렇게 큰소리치는 게 아닙니다. AMD는 기존의 AI GPU 아키텍처, 즉 CDNA 3를 업그레이드했고, HBM 3E 메모리를 탑재해 256GB의 메모리 용량을 제공합니다. 이를 통해 AI 모델의 학습과 추론을 더욱 빠르고 효율적으로 처리할 수 있다는 거죠. AI 추론 시장에서 엔비디아의 독점적 위치를 위협하는 강력한 무기입니다.
AI 네트워킹까지? 엔비디아가 인피니밴드라면, AMD는 이더넷?
하지만 여러분, AI GPU만이 중요한 게 아닙니다. AI가 제대로 돌아가려면 그 데이터를 빠르게 처리하고 전달할 수 있는 네트워킹도 중요한 법이죠. 여기서도 AMD는 엔비디아의 독점을 흔들려고 합니다. 엔비디아는 인피니밴드라는 자체 규격의 네트워킹을 사용하고 있는데, 이게 참 비싸고 확장성이 제한적이라는 단점이 있습니다. 그런데 AMD는 개방형 네트워킹 솔루션인 ROC 버전 2, 이더넷을 제안합니다. 여러분, 이더넷을 사용하면 비용은 절반으로 줄고, 확장성은 두 배로 늘어난다고 합니다. 무려 100만 개의 GPU까지 확장 가능하다고 하니, 이거 정말로 엔비디아에게는 위협적인 소식 아닐까요?
엔비디아의 독점 규격을 깨고, AI 네트워킹에서의 비용 효율성과 확장성을 AMD가 가져가겠다는 거죠. 이쯤 되면 AMD의 이번 도전은 단순한 GPU 경쟁을 넘어서 AI 생태계 전체를 흔들겠다는 큰 그림으로 보입니다.
엔비디아의 철옹성 쿠다, AMD의 ROCm 도전
그렇다면 소프트웨어는? 여러분도 아시겠지만, AI는 하드웨어도 중요하지만, 그 하드웨어를 어떻게 활용하느냐에 달려 있잖아요? 여기서 엔비디아의 쿠다(CUDA)라는 플랫폼이 아주 강력한 무기를 쥐고 있습니다. 엔비디아는 하드웨어 회사라기보다는 소프트웨어 회사라고 할 정도로, AI 소프트웨어 생태계를 지배하고 있습니다. 쿠다는 지난 18년 동안 수많은 AI 연구자와 개발자들에게 필수적인 도구로 자리 잡았죠.
하지만 AMD도 여기서 물러설 수 없습니다. 그들이 내세운 건 ROCm이라는 오픈 소프트웨어 플랫폼입니다. 쿠다와는 달리 개방형으로 누구나 참여할 수 있고, 다양한 AI 모델을 바로 사용할 수 있는 지원이 가능하다고 하니, 이것도 꽤 매력적입니다. 특히 스테이블 디퓨전, 메타의 라마 같은 프레임워크에서도 바로 사용할 수 있는 기능을 제공한다니, 이거 진짜로 엔비디아의 아성을 흔들 수 있을까요?
ROCm 6.2가 나오면서 성능이 무려 2배 이상 향상됐다고 합니다. 특히 대규모 AI 모델에서의 성능 개선이 두드러진다고 하니, AMD가 소프트웨어에서도 점점 더 발을 넓히고 있는 게 확실합니다.
AMD, 아직은 갈 길이 멀다
그럼에도 불구하고, 우리가 냉정해져야 할 부분이 있습니다. 여러분, AI 시장은 엔비디아가 너무 강력합니다. AMD가 아무리 좋은 제품을 내놓아도, 이미 엔비디아에 너무나 많이 투자된 인프라와 쿠다 생태계는 하루아침에 무너질 수 있는 게 아니거든요. 기업들은 엔비디아의 쿠다 플랫폼에 이미 너무나도 많이 의존하고 있습니다. AI 연구자들도 이미 쿠다에 익숙해져 있어서, AMD의 ROCm으로 전환하는 데는 시간이 걸릴 수밖에 없죠.
하지만 AMD는 포기하지 않습니다. 결국 CPU 시장에서도 한때 인텔에게 완전히 밀렸지만, 지금은 점유율 30% 이상을 차지하며 인텔과 경쟁할 수 있는 위치까지 올라왔습니다. AI 시장도 마찬가지일 겁니다. 지금은 엔비디아가 너무 강력하지만, AMD가 꾸준히 기술을 발전시키고 더 많은 파트너와 협력한다면, 언젠가는 엔비디아와 맞먹는 경쟁자가 될 수 있을 겁니다.
미래는 누가 잡을까?
결국 AI 시장은 지금 막 인프라가 깔리는 시기입니다. 이때 누가 더 강력한 솔루션을 제공하느냐가 미래를 좌우할 것입니다. AMD는 AI GPU 성능, 네트워킹, 소프트웨어 플랫폼까지 전방위적으로 엔비디아를 견제하고 있습니다. 엔비디아가 계속해서 독주할 것인지, 아니면 AMD가 점점 더 그 지위를 위협할 것인지, 그 결말은 아직 아무도 모릅니다.
하지만 분명한 것은, 리사 수의 AMD는 그 어느 때보다 강력한 도전을 준비하고 있다는 겁니다. AI 시대의 패권은 이제 AMD와 엔비디아 두 거인 간의 치열한 전쟁으로 점점 더 달아오르고 있습니다. 과연 최후의 승자는 누가 될까요? AI의 미래는 어느 쪽이든, 더 흥미진진해질 것만은 분명해 보입니다.