메타가 실제와 같은 모습의 코덱 아바타 3개를 PC 없이 퀘스트 3에서 실시간 렌더링할 수 있다고 공개했습니다.
이러한 사실은 메타에서 공개한 <스퀴즈미 : 모바일용 가우시안 전체 몸체 아바타의 디스트일레이션> 논문에 포함된 것입니다.
메타 연구진은 NPU와 GPU를 활용해 몸 전체를 담은 현실적 아바타를 모바일 칩셋에서 실행되도록 디스틸레이션한 방법을 설명했습니다.
AI 디스틸레이션은 비싼 계산 비용의 기존 대형 AI 모델의 출력을 활용해 훨씬 작은 모델을 훈련하는 것으로 품질 손실을 최소화하면서 큰 모델의 결과를 작은 모델에서 효율적으로 복제합니다.
연구진은 스퀴즈미를 통해 최대 3개의 코덱 아바타를 초당 72프레임으로 퀘스트 3에서 PC의 렌더링 버전과 거의 비슷한 코덱 아바타를 실시간 렌더링했습니다.
다만 퀘스트 3의 모바일 칩셋에서 코덱 아바타를 최적화한 반면 데이터 입력의 간편함은 아직 해결하지 못했고, 동적 조명도 적용하지 못했습니다.
그럼에도 불구하고 그동안 코덱 아바타의 처리를 위해 강력한 PC를 요구했던 문제를 해결한 것은 큰 진전인데, 메타는 오는 9월 커넥트 행사에도 좀더 자세한 내용을 공개할 것으로 보입니다.