게이밍용 엔비디아 지포스 RTX 20·30·40 시리즈에서 FP32 누적 연산을 FP16 속도의 절반으로 묶어 AI 성능을 제한한 조치를 푸는 방법을 모더들이 찾아 공개했습니다.
AI 작업을 위한 전문가용 카드와 달리 막혀 있던 행렬 연산 처리량을 되살리기 위한 모더들의 세 가지 프로젝트는 비공식 리눅스 모듈과 실험용 윈도 빌드로 튜링·암페어·에이다 세대 카드에 모두 영향을 미칩니다.
이 제한을 풀면 지포스 RTX 4090은 최대 텐서 속도가 두 배인 331TFLOPS로 뛰고, 행렬 곱셈에서 3090 Ti는 BF16 80%, TF32 94%, 22GB 램으로 개조한 2080 Ti마저 FP16 최대 64% 빨라집니다.
실제 cuBLAS GEMM 중앙값도 12~34% 오르고 암페어 세대에서 LLM 프리필이 14~36% 빨라지는데, 이용자는 프롬프트 처리와 디퓨전 이미지 생성, 플래시어텐션 속도를 높이는 이익을 얻습니다.
하지만 전력 제한에 따라 향상 폭이 갈리는 데다 챗봇 토큰 생성(LLM 디코드)과 메모리 대역폭에 좌우되는 INT8 연산은 이전과 거의 같고, 블랙웰 기반 RTX 50 시리즈는 대상에서 빠졌습니다.
더구나 개발자들은 성능 해제만으로 응용 프로그램이나 게임 속도를 두 배로 높일 수 없을 뿐더러, GPU나 호스트 멈춤과 부팅 불능, 데이터 손상, 하드웨어 파손까지 일어날 수 있다며 주의를 당부했습니다.
