엔비디아의 블랙웰의 성능은 어떠한지 궁금합니다.

Question

엔비디아의 젠슨 황 최고경영자가 최첨단 인공지능 칩셋 블랙웰에 설계 결함이 있었지만 오랜 파트너사인 TSMC의 도움으로 해결됐다고 최근 밝혔는데요.

이러한 엔비디아의 블랙웰의 성능은 어떠한지 궁금합니다.

Answer 1

NVIDIA의 블랙웰 아키텍처, 특히 B200 GPU는 AI 성능 면에서 이전 세대인 Hopper (H100)와 비교해 큰 도약을 이뤘습니다. TSMC의 최신 4nm 공정을 사용해 제작된 이 GPU는 20 페타플롭스에 달하는 AI 연산 성능을 제공하며, 이는 H100의 성능을 FP4 정밀도 기준으로 약 5배 향상시킨 것입니다. 이러한 낮은 정밀도를 활용함으로써 메모리 사용량을 줄이고 처리 속도를 크게 높일 수 있어, 특히 GPT와 같은 대형 언어 모델에서 효율적인 추론이 가능합니다.

블랙웰 B200의 주요 기능으로는 192GB의 HBM3e 메모리와 초당 8TB의 메모리 대역폭이 포함되어 있으며, 이는 대규모 AI 모델을 원활하게 처리할 수 있도록 지원합니다. 또한, NVLink 인터커넥트 대역폭이 이전 세대 대비 두 배로 증가하여 GPU 간 데이터 통신이 개선되고, 대규모 AI 및 머신러닝 애플리케이션에서의 확장성을 높였습니다.

결론적으로, 블랙웰은 LLM(대형 언어 모델) 및 복잡한 과학 시뮬레이션과 같은 최첨단 AI 애플리케이션을 위한 강력한 솔루션으로 자리 잡고 있습니다.