딥러닝을 위한 파스칼 기반의 테슬라 P100과 8개의 테슬라 P100으로 구성한 DGX-1 딥러닝 슈퍼컴퓨터를 설명하는 젠슨 황 엔비디아 CEO
[대만 타이페이=최필식 기자] 인공 지능 서비스와 기술을 준비하는 수많은 IT 기업들이 GPU 기반의 인공 지능 처리 시스템을 갖추면서 GPU 전문 기업인 엔비디아에 더 많은 관심이 쏠리고 있다. 그런데 이세돌과 바둑 대결을 벌였던 알파고를 통해 인공 지능의 성과를 알린 구글이 최근 열린 구글 I/O에서 별도의 인공 지능 처리 장치인 텐서 프로세싱 유닛(Tensor Processing Unit)을 발표하면서, 이 프로세서의 정체에 대해 많은 궁금증을 낳았다. 순다 피차이 구글 CEO가 인공 지능 API인 텐서 플로 전용 처리 장치인 텐서 프로세싱 유닛이 와트당 성능에서 월등이 높고 작업당 적은 수의 트랜지스터를 요구하도록 맞춤형으로 설계했다고 밝히자, 구글이 인공 지능 프로세서 시장에서 새로운 도전자가 아닌가 하는 대한 궁금증을 낳았다.
이에 대해 젠슨 황 엔비디아 CEO는 컴퓨텍스 개막 하루 전인 30일, 대만 타이페이에 있는 그랜드 하얏트 호텔에서 가진 기자 간담회의 질의응답에서 “구글 TPU는 추론(Inferencing)만 하는 얕은 범위의 프로세서로 엔비디아의 GPU와 역할이 다르다”고 선을 그었다. 젠슨 황 CEO는 “인공 지능의 심화 학습(Deep Learning)은 훈련(Training)과 추론(Inferencing)이라는 두 가치 측면에서 봐야 하는데, 훈련은 추론보다 수십억 배 더 복잡한 데다 추론은 모든 데이터 센터에서 처리할 수 있다”면서 TPU가 복잡하고 훨씬 어려운 훈련보다 추론을 하기 위해서 만든 프로세서가 왜 다른지 자세히 설명했다. 구글의 인공 지능 API인 텐서 플로를 빠르게 처리하는 TPU는 훈련을 통해 얻어낸 결과를 기반으로 추론을 하는 전용 프로세서라는 점에서 심화 학습에 필요한 훈련과 추론을 가속하는 엔비디아 파스칼 GPU과 비교했을 때 제한된 역할의 프로세서라는 점을 명확히 한 것이다.
특히 젠슨 황 CEO는 2년 전 딥 러닝으로 훈련을 시작할 때 GPU가 더 뛰어난 훈련과 추론을 할 수 있다는 것을 확인했으며, 구글의 TPU가 10배 빠르게 추론할 수 있는 것도 환상적이나 엔비디아는 파스칼 아키텍처에서 25배 더 빠른 추론을 할 수 있도록 개선했다고 밝혔다. 또한 모든 데이터 센터는 훈련과 학습으로부터 추론하기 위해 더 가속화될 수밖에 없고 단순 추론만을 위한 칩을 만드는 것이 문제가 아니라 수백만이 조합되는 하이퍼 스케일 데이터 센터를 가진 기업들이 자체적인 GPU를 만들기 힘들기 때문에, 파스칼이 이에 딱 맞는 솔루션이라고 소개했다.
현재 훈련과 추론을 모두 할 수 있는 엔비디아 GPU는 구글 뿐만 아니라 인공 지능을 개발하고 있는 마이크로소프트와 아마존, 이베이, 바이두 같은 IT 기업들이 이용하고 있고, 구글만 쓰는 TPU와 달리 엔비디아는 모든 IT 기업에게 인공 지능 기술을 개발할 수 있도록 지원하고 있다.
직접 보고 듣고 써보고 즐겼던 경험을 이야기하겠습니다.
chitsol@techg.kr
