AMD는 데이터 센터에서의 "추론"이 곧 "구식"이 될 것이라고 믿으며, 대신 소비자용 장치인 스마트폰과 노트북에서 추론이 사용될 것이라고 예상합니다.

[ChatGPT를 이용해 번역한 글입니다. 원문은 글 하단에 기재된 링크를 참고하시기 바랍니다]

 

AMD의 CTO는 기술 대기업들이 AI 추론 작업을 에지 디바이스로 옮기고 있으며, 소비자들이 에지 AI 디바이스를 선호하고 있다고 밝혔습니다.

AI 열풍의 시작은 모델 훈련에 대한 열광이었고, 기업들은 각자의 LLM을 훈련시키기 위해 엄청난 컴퓨팅 능력을 구축했지만, 이제 시장은 추론으로 전환되고 있으며, AMD는 이 전환의 최전선에 있다고 믿고 있습니다. AMD의 CTO인 마크 페이퍼마스터는 Business Insider와의 인터뷰에서 "추론은 이제 '에지 디바이스'로 이동하고 있으며, AMD는 이 분야에서 NVIDIA에 도전할 수 있는 강력한 기회를 가지고 있다고 생각한다"고 밝혔습니다.

 

질문: 만약 2030년이라면, 에지에서 얼마나 많은 추론이 이루어질까요?

AMD의 CTO: 시간이 지나면 그 비중은 대부분을 차지할 것입니다. 언제 전환이 이루어질지는 정확히 알 수 없지만, 이는 애플리케이션에 따라 달려 있습니다. 즉, 에지 디바이스에서 실행 가능한 killer 앱들이 개발되는 속도에 달려 있습니다. 우리는 이제 시작에 불과하지만, 이 변화는 빠르게 진행될 것이라고 생각합니다.

 

페이퍼마스터는 데이터 센터에서의 AI 컴퓨팅 비용이 급증하면서 Microsoft, Meta, Google과 같은 기술 대기업들이 접근 방식을 재고할 수밖에 없을 것이라고 믿습니다. 이는 에지 AI를 더욱 보편화시키는 주요 이유 중 하나라고 생각합니다. 그는 AMD가 "AI PC"의 hype를 Intel과 Qualcomm 같은 경쟁자들보다 훨씬 진지하게 받아들이고 있다고 말했습니다. AMD의 최신 APU 라인업인 Strix Point와 Strix Halo는 작은 폼 팩터에 AI 계산 능력을 제공하려는 회사의 의지를 보여주는 예입니다. 그리고 그것을 훨씬 더 저렴한 비용으로 제공합니다.

 

AMD의 CTO는 또한 "컴퓨팅 리소스를 구축하고 있는 방식"에 대해 언급하며, 모델의 정확도와 효율성을 높이는 데 특별한 집중이 이루어지고 있다고 밝혔습니다. 또한 DeepSeek의 출시로 인해 기술 대기업들이 최적화된 대체 솔루션을 채택하고 있다고 덧붙였습니다. 결국, 장기적으로는 디바이스들이 고급 AI 모델을 로컬에서 실행할 수 있을 정도로 충분히 발전하여, 사용자들이 AI 능력을 최대한 경험할 수 있게 될 것입니다.

 

AMD의 CTO의 발언은 Intel의 전 CEO인 패트 겔싱어가 추론이 미래의 핵심이 될 것이라고 주장했던 때를 떠올리게 합니다. 이는 NVIDIA의 경쟁자들이 "AI 훈련" 시장에서 경쟁할 수 없다는 것을 의미하며, 팀 그린은 이 시장을 독점하고 있습니다. 이들이 NVIDIA에 도전할 수 있는 유일한 방법은 미래 시장인 AI 추론 분야에서 경쟁하는 것이며, AMD는 이미 에지 AI를 위한 충분한 성능을 가진 프로세서를 도입하면서 이 분야에 이미 진입한 상태입니다.

 

 

원문 출처 : https://wccftech.com/amd-believes-inference-on-mobile-phones-and-laptops-is-the-future/