엔비디아로 알아보는 AI 생태계

엔비디아 생태계

고성능 GPU 하드웨어(H100, B200)와 소프트웨어 플랫폼(CUDA, cuDNN), 그리고 개발자 도구(Cosmos, Inception)가 유기적으로 결합된 강력한 AI 인프라이다.

M7 기업들은 AI 데이터센터 구축을 위해 대규모로 고성능 반도체를 필요로 하며, 이 핵심 칩을 엔비디아가 공급하고 있다. 엔비디아는 자체 생산 설비를 보유하지 않은 팹리스 기업으로, GPU 제조를 위해 필수적인 HBM 메모리는 삼성전자·SK하이닉스·마이크론으로부터 공급받고, 실제 칩 생산 공정은 TSMC에 위탁한다. TSMC는 시스템 반도체 파운드리 시장 점유율이 약 70%에 달하는 사실상 독점적 사업자로, 엔비디아뿐 아니라 주요 AI 반도체 기업들의 핵심 제조 파트너다.

 

엔비디아와 AMD 비교

 

AMD의 데이터센터 GPU 제품 MI300X 는 인공지능(AI) 시장에서 엔비디아의 H100과 H200와 비교되었다. 공개된 스펙 상 MI300X가 엔비디아 H100과 H200보다 성능, 총소유비용(TCO) 등에서 앞서야 함에도 실제로는 뒤떨어진다고 밝혔다. 일반적으로 엔비디아 GPU의 해자로 학습 성능, 인피니밴드 및 이더넷 네트워킹, 쿠다(CUDA) 등이 꼽힌다. 세미애널리시스는 곳곳에 숨어있는 AMD 소프트웨어의 결함 때문에 MI300X의 스펙 상 성능을 실현하지 못하고 있다고 지적했다. 

 

벤치마크 테스트에 AMD는 수석엔지니어가 직접 만든 도커 이미지를 제공했다. 이 이미지는 소스 빌드에 5시간 이상 걸리고, 종속성과 하위종속성을 설치해야 한다. 엔비디아 사용자가 사전 구축된 환경에서 한줄의 코드 입력만으로 학습에 돌입하는 것에 비하면 너무 큰 경험 차이다.

 

AMD는 지난해 10월 차세대 GPU 제품인 MI325X를 공개했다. MI300X가 H100을 겨냥했다면, MI325X는 블랙웰 제품군을 겨냥한다. 새 제품도 경쟁작을 서류 상 앞서지만, AI 소프트웨어 경쟁력이 얼마나 획기적으로 개선될 지 아직은 불투명하게 보인다.

 

* CUDA -> 소프트웨어 해자(경쟁자가 쉽게 침입하지 못하게 만드는 방어막)

https://byline.network/2025/01/2-239/

 

GPU TPU 비교 -2025.12.01

 

GPU는 그래픽 처리와 범용 병렬 연산에 강한 다재다능한 장치인 반면, TPU는 딥러닝의 핵심인 행렬 연산에 특화된 맞춤형 반도체(ASIC)로, 특히 대규모 AI 학습 및 추론에서 훨씬 높은 속도와 전력 효율을 제공합니다. GPU가 유연하고 다양한 작업에 적합하다면, TPU는 특정 AI 작업에 최적화되어 대규모 AI 서비스에서 탁월한 성능을 보이며 클라우드 환경에서 주로 사용됩니다.

 

1일 업계에 따르면 최근 구글이 TPU로 학습했다고 밝힌 새 AI 모델 ‘제미나이 3 프로’가 오픈AI의 최신 모델(GPT-5.1)을 능가하는 성능을 보이면서 TPU가 급격히 부상했다. 구글이 엔비디아 그래픽처리장치(GPU)에 의존하지 않고도 고성능 모델을 만들 수 있다는 가능성을 보여줬다는 점에 시장은 주목하고 있다.

 

(https://www.khan.co.kr/article/202512012123025#ENT)

 

 

 

Hardware infrastructure

 

- Co-designers : 빅테크 맞춤형 ASIC 설계, Hyperscaler가 엔비디아 의존도를 줄이려는 핵심 축

- Hyperscaler :  초대형 클라우드, 데이터센터를 직접 깔고 AI굴리는 player

- ASIC :  특정 목적 하나만 잘하게 만든 맞춤형 반도체

- Data Center infra -> 전기 + 공간 + 냉각 

 

 

빅테크의 탈 엔비디아 

 

2025.11.25

메타는 내년부터 구글 클라우드를 통해 TPU를, 2027년부터는 구글 AI 칩을 직접 구매해 자체 데이터센터에 탑재하는 방안을 검토하고 있다. 메타는 현재 AI 학습과 서비스 운영에 엔비디아 그래픽처리장치(GPU)를 대규모로 사용하고 있고 자체 AI 칩 개발 프로젝트도 병행하고 있다. 여기에 구글 TPU까지 더하면 엔비디아 한 곳에 집중된 공급 리스크를 줄일 수 있을 것이란 전망이다.

 

구글은 이미 AI 스타트업 앤트로픽과도 대규모 AI칩 공급 계약을 체결한 상태다. 양사는 앤트로픽이 최대 100만 개 규모의 구글 TPU를 활용하는 다년 계약을 맺었으며 계약 금액은 수십억 달러에서 수백억 달러 후반대까지 거론된다.

 

(https://zdnet.co.kr/view/?no=20251125180226)

 

2026.02.04 💡

마이크로소프트도 지난달 AI 추론 칩인 ‘마이아 200’을 공개했다. 파운드리(반도체 위탁 생산) 업계 1위인 대만 TSMC의 3나노로 만들었고, 고성능 AI 추론에 특화했다. 아마존웹서비스(AWS)는 작년 12월 높은 전력 효율을 보이는 자체 AI 칩 트레이니엄3를 출시했고, 메타도 올 상반기 3세대 AI 칩인 MTIA-v3를 출시한다는 방침이다.

 

인텔은 서버용 중앙처리장치(CPU)에서는 세계 최강자였지만, GPU 사업은 엔비디아에 밀려 미미했다. 하지만 올 하반기부터 1.4나노(1나노는 10억분의 1m) 파운드리 사업을 본격화하면서 서버용 GPU 시장도 넘보겠다는 것이다.

 

오픈AI가 브로드컴과 손잡고 자체 AI 칩을 만들고 있기 때문이다. 오픈AI는 올 하반기 첫 맞춤형 AI 칩을 도입해 총 10기가와트(GW) 규모 데이터센터를 구축할 계획이다. 

https://www.chosun.com/economy/tech_it/2026/02/04/32ZBEVIO2JCBDKTGZ4VATLZMLQ/

 

2026.02.04

앤트로픽은 지난해 10월 AI 모델 클로드를 구축하고 배포하는 데 AWS의 트레이니엄2 칩이 100만개 이상 사용된다고 밝혔다.

 

이에 맞서 엔비디아는 단순히 GPU만 파는 게 아니라 칩-서버-소프트웨어-모델을 모두 수직 계열화하는 방법으로 AI 생태계의 헤게모니를 장악하려 하고 있다. 엔비디아는 AI 칩을 넘어 AI 모델, 로보틱스 분야 등으로 사업을 확장하며 반격에 나서고 있다. AI 칩 분야에서 점유율이 조금 떨어지더라도 AI 생태계를 모두 갖춘 기업으로서 경쟁력을 갖추겠다는 것이다.

 

https://www.chosun.com/economy/tech_it/2026/02/04/32ZBEVIO2JCBDKTGZ4VATLZMLQ/

 

• Google TPU
• Amazon Trainium / Inferentia
• Microsoft Maia
• Meta MTIA

 

semicap : semiconductor capital equitment

 

 

‘밴더 파이낸싱(vendor financing)’  - 2025.09.24

엔비디아 자금이 오픈AI를 거쳐 다시 엔비디아 제품 구매로 이어지는 순환 구조 ->

엔비디아는 오픈AI와 의향서(LOI)를 체결하고 첫 단계로 100억 달러를 투입해 1GW 규모의 데이터센터 구축을 지원할 예정이다. 이 센터에는 내년 하반기 양산이 시작될 차세대 AI 칩 ‘베라 루빈’이 배치된다. 전체 10GW 규모 센터에는 약 400만~500만 개의 엔비디아 GPU가 필요할 것으로 추정된다.

출처 : 시사저널(https://www.sisajournal.com)

 

OpenAI 와 AMD 계약

OpenAI는 2026년 하반기부터 AMD의 차세대 GPU ‘Instinct™ MI450 시리즈’ 1기가와트 규모를 우선 도입할 예정이며, 이후 MI450을 포함한 여러 세대의 AMD Instinct GPU로 확장해 나갈 계획이다. OpenAI는 2026년 하반기부터 AMD의 차세대 GPU ‘Instinct™ MI450 시리즈’ 1기가와트 규모를 우선 도입할 예정이며, 이후 MI450을 포함한 여러 세대의 AMD Instinct GPU로 확장해 나갈 계획

출처 : 테크데일리(TechDaily)(https://www.techdaily.co.kr)

 

엔비디아 베라루빈 출시 계획

엔비디아는 최근 CES 2026에서 베라 루빈 플랫폼이 이미 양산 단계에 돌입했으며 올해 하반기부터 주요 클라우드 사업자와 서버 파트너를 통해 본격 공급될 것이라고 밝혔다. 루빈은 기존 블랙웰을 잇는 차세대 GPU 아키텍처로, 대규모 인공지능(AI) 학습과 장거리 추론에 필요한 연산 밀도를 크게 끌어올리는 데 초점을 맞췄다.

(https://zdnet.co.kr/view/?no=20260110081400)

 

엔비디아 알파마요

알파마요를 통해 자율주행차는 추론 능력을 갖추게 되며, 아주 드물게 일어나는 상황을 제대로 이해하고 복잡한 환경에서도 안전하게 주행하며, 스스로 내린 주행 결정에 대해 설명할 수 있게 된다. 이것이야말로 안전하면서도 확장 가능한 자율 주행 기술의 토대가 될 것. 알파마요는 오픈 모델, 시뮬레이션 프레임워크, 데이터세트라는 세 가지 핵심 요소를 통합한 개방형 생태계를 구축해, 자동차 개발사와 연구진이 이를 바탕으로 기술을 확장하도록 지원한다. 알파마요 모델은 차량에 직접 탑재돼 구동되기보다는, 개발자들이 자신의 완전한 자율주행 스택의 핵심 기반으로 이 모델을 활용해 파인튜닝하고 경량화하도록 이끈다.

출처 : 인공지능신문(https://www.aitimes.kr)

 

AI 브라우저 전쟁

퍼플렉시티 코멧, Open AI Atlas, 구글 젬미나이

자체 플랫폼에서 사용자를 직접 도달하려고 함, 사용자의 전환속도가 관건

open ai 구독수수료의 수익 한계를 검색엔진의 광고매출로 ?

 

https://www.hankyung.com/article/202510240694i?utm_source=chatgpt.com