이미지 | 하드웨어 해븐
8년 전 출시된 탓에 매우 값싸게 판매 중인 데이터센터용 엔비디아 V100이 AI 작업에서 여전히 게이밍용 GPU보다 나은 성능을 보여주고 있는 것 같습니다.
하드웨어 헤븐에 따르면 이베이에서 99달러에 판매 중인 16GB V100을 PC에서 쓸 수 있도록 개조한 뒤 실험한 결과 5년 전 나온 지포스 RTX 3060 및 3년 전 출시한 라데온 RX 7800XT를 모두 앞섰습니다.
실험에 쓰인 V100은 5,120개 코어, 320개 TMU, 128개 ROP, 그리고 640개의 텐서 코어에 6MB의 L2 캐시, 최대 1,530MHz의 클럭 속도, 4,096비트 버스 인터페이스에 16GB HBM2 메모리를 실었습니다.
200억 개의 파라미터를 가진 GPT-oss를 기반으로 한 첫 테스트에서 엔비디아 V100 시스템은 초당 약 130개의 토큰을 생성했고, RX 7800 XT는 초당 약 90개의 토큰을 생성했습니다.
이미지 | 하드웨어 해븐
이어진 Gemma4:e4b(ollama+openwebui) 테스트에서 엔비디아 V100의 토큰 생성 속도가 엔비디아 지포스 RTX 3060 12GB보다 42% 더 빨랐습니다.
전력 소모량에서 V100이 좀더 높긴 했지만, 100W 전력 제한 조건을 두고 토큰/초/와트 테스트에선 V100의 전력 효율이 RTX 3060보다 41% 더 우수했다고 하드웨어 해븐은 정리했습니다.
한 때 1만 달러가 넘는 고가의 GPU였던 엔비디아 V100이 여전한 성능을 보여주기는 했지만, 실제로 일반 이용적으로 쓸 수 없는 데다 최신 게이밍 GPU의 AI 성능도 매우 발전했다는 점을 고려하면 재미있는 실험 정도로 받아 들이는 것이 좋을 것 같습니다.
언제나 기분 좋은 소식을 전하고 싶습니다.
news@techg.kr
