NVIDIA L4 24GB 다용도 AI 추론 카드 검토

Aug 03, 2023

오늘 우리는 NVIDIA L4를 살펴보며 재미있는 리뷰를 얻었습니다. NVIDIA의 가장 빠른 GPU는 아니지만 L4는 인기 있는 카드가 될 것입니다. 이는 2019년에 검토한 NVIDIA Tesla T4(당시에는 여전히 "Tesla" 브랜드임)에 대한 사실상의 업데이트이기 때문에 이를 알고 있습니다. NVIDIA T4는 큰 인기를 얻었으며 L4도 마찬가지로 이러한 기반을 구축할 것으로 기대합니다. 검증된 형식

검토를 시작하기 전에 실제로 검토할 카드를 제공해 주신 PNY에 간단히 감사의 말씀을 전하고 싶었습니다. NVIDIA GPU는 매우 인기가 높으며 PNY는 NVIDIA의 전문 카드 분야 주요 파트너입니다. 이제 하드웨어를 살펴보겠습니다.

NVIDIA L4는 로우 프로파일, 절반 높이 GPU입니다. 모든 종류의 서버에 카드를 설치할 수 있다는 점에서 이는 아마도 카드의 가장 중요한 사양일 것입니다.

백플레이트는 또 다른 작지만 중요한 기능입니다. 이는 서비스를 위해 제거된 라이저에 설치되는 경우가 많습니다. 백플레이트가 있으면 서비스 중에 카드를 안전하게 유지하는 데 도움이 됩니다.

NVIDIA의 Ampere 및 이후 디자인 요소를 사용하면 골드 카드를 쉽게 알아볼 수 있습니다. 저전력 카드의 수동 냉각은 섀시 공기 흐름만 사용할 수 있으므로 다양한 시스템에서 사용할 수 있도록 보장합니다.

이는 주로 AI 추론을 위해 설계된 GPU이므로(이 서비스가 제공하는 다른 데이터 센터 GPU 사용 사례가 있지만) 디스플레이 출력이 없습니다. 이러한 카드는 크기가 작기 때문에 서버에 빽빽하게 들어차기 때문에 수년 전에 8x GPU 시스템에서 발견한 것처럼 일부 OS에서는 더 많은 디스플레이 출력을 갖는 것이 문제가 될 수 있습니다.

새로운 디자인에는 카드 전면에 고정 브래킷 장착 구멍이 있습니다. 존재하지 않는 항목 중 하나는 GPU 전원 커넥터입니다. PCIe 슬롯만으로 구동된다는 점은 이 등급의 GPU를 다양한 유형의 서버에 쉽게 통합할 수 있도록 돕는 또 다른 기능입니다.

다음으로, NVIDIA(Tesla) T4의 인기를 고려하여 서버에 대한 통합 용이성이 주요 특징인지에 대한 차이점을 확인할 수 있도록 간략하게 나란히 설명하고 싶었습니다.

여기 두 장의 카드가 있습니다. 로우 프로파일 브래킷을 갖춘 T4가 없었습니다. 우리가 찾은 4개는 모두 키가 컸습니다. 로우 프로파일 브래킷은 모두 데이터 센터에 설치되었습니다.

여기 뒷면이 있습니다. NVIDIA L4에는 이전 "NVIDIA Tesla T4"보다 NVIDIA 브랜드가 훨씬 적다는 것을 알 수 있습니다.

둘 다 비슷한 크기지만 L4의 골지 처리로 인해 카드 전면이 약간 더 넓어지는 것 같습니다.

도움이 된다면 공기 흐름 보기를 살펴보세요. 새 카드에는 향상된 열 솔루션이 있음을 알 수 있습니다.

다음으로 주요 사양, 성능 및 성능에 대해 살펴보겠습니다.