3세대 추론 가속 프로세서 TPU V3.0 공개한 구글

구글이 2년 전 인공 지능의 추론 가속을 위해 공개했던 텐서 프로세서 유닛(TPU)은 훈련을 통해 구축된 인공 지능의 추론 성능을 대폭 끌어 올렸고 많은 인공 지능 관련 프로세서와 프로그래밍에 영향을 미쳤는데요. 구글이 구글 I/O 2018에서 차세대 TPU V3.0을 공개했습니다.

새로운 텐서 프로세서 유닛은 종전과 마찬가지로 인공지능 기반의 응용 프로그램에서 음성, 이미지, 문자 및 시각적 개체를 분석하거나 찾아내는 추론 성능을 더욱 가속합니다. 이미 수많은 데이터를 기반으로 훈련한 인공 지능이 실전에서 그 능력을 발휘해야 할 때 GPU를 쓰지 않고 TPU 가속을 통해 더 빠른 판단을 할 수 있습니다.

구글 CEO 순다 피차이는 구글 I/O에서 TPU V3.0을 적용한 포드들이 지난 버전보다 8배 더 강력한 성능을 낸다고 밝혔는데요. 텐서 프레임워크의 처리 성능은 100페타플롭스로 최신 GPU 16개를 넣었을 때 2페타플롭스의 성능을 내는 엔비디아보다 월등히 앞서는 것으로 알려졌습니다.

다만 TPU V3.0은 뛰어난 성능을 내는 대신 늘어난 발열을 해결해야 하기 때문에 종전 공냉 대신 액체 냉각 방식으로 바뀐 것이 눈길을 끕니다. 더불어 페이스북의 PyTouch AI 프레임워크에 대한 지원에 제한이 있지만, 텐서 프레임워크에서 작동하는 인공 지능의 추론 성능은 확실하게 끌어 올릴 수 있을 것으로 보입니다.

Editor_B