엔비디아가 구글의 새로운 인공지능 모델을 자사 장비에서 최적화하여 빠른 속도로 작동하도록 만들었습니다.
구글 딥마인드가 개발한 ‘디퓨전젬마’라는 모델은 기존 방식과 다른 접근법을 사용합니다. 일반적인 언어 모델이 글자를 하나씩 순서대로 만들어내는 것과 달리, 문장 전체를 동시에 생성하는 방식으로 작동합니다.
엔비디아는 자사의 다양한 그래픽 처리 장치와 시스템에서 이 기술을 활용할 수 있도록 개선 작업을 진행했습니다. 개인용 컴퓨터부터 대규모 서버까지 폭넓게 사용 가능합니다.
핵심 특징은 속도 향상
이미지 생성 기술에서 사용되던 방식을 문자 생성에 적용한 것이 특징입니다. 260억 개의 연산 단위를 가진 구조로 만들어졌으며, 매 단계마다 38억 개의 연산 단위가 활성화됩니다.
기존 모델이 한 글자씩 차례로 답변을 만들었다면, 디퓨전젬마는 최대 256개의 단어 조각을 동시에 처리하면서 전체 문장을 한꺼번에 완성합니다. 대화형 서비스나 즉각적인 반응이 필요한 작업에서 빠른 응답을 제공합니다.
여러 작업을 동시에 처리하는 방식은 기존의 한계를 극복했습니다. 엔비디아의 전문 연산 기능과 소프트웨어를 활용하여 연산 성능을 최대로 끌어올렸습니다.
실제 성능 측정 결과
단일 고성능 그래픽 처리 장치에서 초당 1000개의 단어 조각을 처리했으며, 특정 시스템에서는 초당 최대 2000개까지 처리하여 기존 모델보다 약 4배 빠른 속도를 보였습니다.
개인용 인공지능 슈퍼컴퓨터에서는 128기가바이트의 통합 메모리를 기반으로 미리 설치된 소프트웨어를 통해 즉시 실행할 수 있습니다. 전문가용 장비와 일반 사용자용 그래픽 카드도 지원하며, 향후 추가 기능도 계획되어 있습니다.
디퓨전젬마는 무료 라이선스 기반의 공개 모델로 제공되어 별도의 클라우드 비용 없이 다양한 플랫폼에서 기본 지원됩니다. 높은 처리량이 필요하거나 특정 분야에 맞춤 적용할 때는 전문 프레임워크를 활용할 수 있습니다.
추가 기술 업데이트
엔비디아는 최신 개발자 기술을 포함한 업데이트도 함께 발표했습니다. 단일 이미지와 카메라 정보만으로 정밀한 제어가 가능한 720피 해상도의 1분 길이 영상 모델을 공개했습니다.
26억 개의 연산 단위를 가진 이 모델은 단일 그래픽 카드에서 34초 만에 60초 분량의 영상을 생성할 수 있으며, 유사 모델 대비 처리량이 최대 36배 높습니다.
마이크로소프트와의 협력을 통해 윈도우 환경에서 활용 가능한 기능도 강화했습니다. 실행 컨테이너와 런타임을 제공하여 인공지능 추론 속도를 최대 2배 향상시켰습니다.
개인용 슈퍼컴퓨터는 개봉 후 몇 분 만에 인공지능을 실행할 수 있는 환경을 제공합니다. 간소화된 설치 과정을 통해 개발자는 로컬 환경에서 빠르게 활용할 수 있으며, 특정 모델은 최대 2.6배 빠르게 실행됩니다.
새롭게 도입된 클러스터 기능을 통해 최대 4대의 장비를 하나의 512기가바이트 풀로 연결하여, 약 4000억 개 연산 단위 규모의 초대형 모델까지 로컬에서 실행할 수 있도록 지원합니다.
