[AI 프리즘] 미래에는 여러 AI 하드웨어 칩을 통합하는 소프트웨어가 대세... 엔비디아 독점 끝나나

AI 생태계에서 엔비디아는 가장 큰 성장을 보이며 가장 뜨거운 인기를 얻고 있는 기업이다.

구매자들은 4만 달러를 주고 엔비디아의 첨단 AI 칩을 사면서 몇 달을 기다려야 되기도 한다. 엔비디아에 맞서 경쟁자들이 등장했음에도 이들은 대체제를 찾기보다는 엔비디아 제품을 기꺼이 기다린다. 이렇게 엔비디아 제품만을 고집하는 데는 이유가 있다고 매체 쿼츠(Quartz)가 보도했다.

일단 칩 하나를 다른 것으로 바꾸는 것은 간단한 일이 아니다. 기업들은 칩 사양에 맞춰 AI 제품을 만들고 키우는데, 다른 칩으로 바꾸면 다시 원점으로 돌아가 처음부터 다시 AI 모델을 만들어야 한다. 시간과 비용 낭비인 것이다. 또한 다른 종류의 칩들을 혼합해 사용하는 것도 쉽지 않다.

이는 하드웨어만의 문제가 아니다. 엔비디아의 AI칩 컨트롤을 위해서는 엔비디아의 소프트웨어 CUDA(쿠다)를 이용해야 한다. 실리콘밸리 기반의 컨설팅 기관 콘스텔레이션 리서치(Constellation Research)의 CEO 레이 왕은 CUDA가 뛰어난 소프트웨어이며, 이것은 엔비디아의 시장지배를 강화시킨다며, 아무도 다른 것을 찾으려고 하지 않을 것이라고 말했다.

그런데 상황이 바뀔 수도 있다는 시각들이 나오고 있다. 최근 메타, 알파벳, 마이크로소프트, 아마존 등 테크 기업들이 엔비디아 독점에 맞서 본격적으로 자체 칩 개발을 발표하기 시작했다.

여전히 엔비디아가 오랜 기간 왕좌의 자리를 차지하고 있을 것으로 보이지만, 80%의 시장 점유율이 경쟁자들의 등장으로 위협을 받고 생태계가 변화될 수 있다고 쿼츠는 말했다.

여러 AI 작업에 더 적합한 여러 칩들이 있지만, 다양한 옵션 사이에서 전환하는 것은 개발자들에게 골치아픈 일이다. 따라서 왕은 다양한 칩들에서 잘 작동할 수 있는 소프트웨어를 만드는 것은 새로운 기회가 될 수 있다며, 이미 이런 개발에 뛰어든 스타트업 원API(oneAPI)를 예로 들었다.

“사람들이, 때로는 CPU가, 때로는 GPU가, 또 때로는 TPU가 필요하다는 것을 알게 되고, 이 세 가지 모두를 아우를 수 있는 시스템을 갖게 될 것이다”라고 그는 말했다.

2011년, 벤처캐피탈리스트 마크 안드레센이 “소프트웨어가 세상을 집어삼키고 있다”라고 한 주장이 화제였었다. 2024년인 지금도 이는 AI 칩에 적용될 수 있다고 쿼츠는 말했는데, 점차 소프트웨어 혁신이 AI 칩 발전을 이끌고 있기 때문이다.

AI 칩 시장이 과거 통신 시장과 비슷한 전환으로 가고 있다는 주장도 있는데, 하드웨어 부품에의 의존이 통합 소프트웨어 솔루션으로 이동하고 있다고 MIT 퓨쳐테크(MIT FutureTech) 연구소의 펀더멘탈AI(FundamentalAI) 팀을 이끌고 있고 AI 헬스케어 스타트업 소마이트ai(somite.ai)의 CTO(최고기술책임자) 조나단 로젠펠트는 말했다.

그는 “하드웨어에서의 진짜 발전을 들여다보면, 이는 무어의 법칙 같은 것에서 나오는 것이 아니다”라고 말했다.

쿼츠는, 한 공급자에게만 의존하는 것에서 벗어나 여러 다른 하드웨어 플랫폼들을 넘나들며 AI 모델을 최적화하는 데 있어, 앞으로 소프트웨어가 중대한 역할을 하도록 진화될 것이라고 예측하고 있다. 엔비디아의 CUDA가 한 가지 칩에 있어서 강력한 도구이지만, 많은 GPU를 아우르는 대규모 AI 모델들이 요하는 소프트웨어 중심으로의 판세 전환은 엔비디아에게만 독점적인 이익을 주지 못할 수 있다는 결론이다.

로젠펠트는 “통합이 나타날 수 있다. 많은 출전자들과 막대한 자금이 있으며, 그리고 많은 최적화의 가능성이 있다”라고 말했다.

챗GPT 같은 대형 AI 모델을 훈련하는 데 있어 가장 큰 원동력인 엔비디아는 이 분야에서는 앞으로도 강력한 시장 리더를 유지할 수 있다고 한다.

AI 모델들이 작업 수행 방법을 배우도록 하는 것이 훈련이며, 습득한 지식을 이용해 반응하는 데 이용하는 것이 추론이다. 예를 들어, 이용자가 질문하면 추론에 따라 대답을 하는 것이다. 훈련과 추론, 이러한 두 가지 단계에 필요한 컴퓨팅은 구분된다. 그런데 엔비디아의 칩이 훈련에는 매우 적합하지만, 추론에서는 그렇지 않다.

그럼에도 엔비디아는 지난 분기 실적 보고에서, 지난 1년 동안 엔비디아 데이터센터의 수익의 약 40%는 추론에서 나왔다고 말했다.

과거 구글에서 반도체 관련 일을 했고, 현재 AI 칩 스타트업 그로크(Groq)의 CEO인 조나단 로스는 "사실 엔비디아는 훈련에 뛰어나다. 두 가지 모두에 뛰어난 것을 만들 수는 없다”라고 말했다.

훈련에는 돈을 쏟아붓고 추론으로 돈을 버는 것이라고 로스는 말했다. 그러나 AI 모델이 생산에 투입되고 예상보다 더 많은 컴퓨팅 파워를 써야 될 때 기업의 수익을 깎아먹을 수 있다는 점도 지적했다.

게다가 엔비디아의 주력 제품인 GPU는 답을 내는 데 속도가 빠르지 않다. 한 달의 훈련 동안 개발자들은 약간의 지연과 느림을 알아차리지 못하겠지만, 챗봇 이용자들은 되도록 빠른 대답을 원한다.

따라서 로스는 추론에 특화된 ‘LPU(Language Processing Unit, 언어처리장치)’라는 것을 만들기 위해 그로크를 설립했다. 인공지능 시스템 분석기관 아티피셜 애널리시스(Artificial Analysis)를 통한 제3자 실험에서 그로크 칩을 이용할 시 챗GPT가 13배 더 빨리 작동할 수 있다는 것을 발견했다고 한다.

그러나 로스는 엔비디아를 경쟁자이기보다 동료로 보고 있다. 훈련과 추론을 각각 맡으며 서로 도움이 될 수 있기 때문이다. 그는 “결국 사람들이 추론에서 점점 돈을 벌수록, 훈련에 돈을 더 쓸 것이다”라고 말했다.

[위키리크스한국 = 최정미 기자]

prtjami@wikileaks-kr.org

최정미 기자 다른기사 보기