엔비디아가 에지AI와 로보틱스를 위한 엔비디아 젯슨(NVIDIA Jetson) 플랫폼의 두 가지 프레임워크를 확장한다고 발표했다. 아울러 엔비디아 아이작(Isaac) ROS 로보틱스 프레임워크는 정식 버전으로 출시됐으며, 젯슨의 엔비디아 메트로폴리스(Metropolis) 확장 버전은 출시를 앞두고 있다.

엔비디아는 개발자가 오픈소스 생성AI 모델과 함께 사용할 수 있는 젯슨 생성형 AI 랩(Jetson Generative AI Lab)을 만들고, 이를 통해 개발자가 에지에서 AI 애플리케이션 개발과 배포를 가속화할 수 있도록 지원한다고 밝혔다.

젯슨 생성형 AI 랩은 개발자가 오픈소스 LLM, 탁월한 인터랙티브 이미지를 생성하는 확산 모델, 비전 AI와 자연어 처리를 결합해 장면에 대한 포괄적인 이해를 제공하는 비전 언어 모델(VLM)과 비전 트랜스포머(ViT)를 배포하는 데 최적화된 툴과 튜토리얼에 액세스할 수 있도록 지원한다.

더불어 개발자는 엔비디아 타오 툴킷(TAO Toolkit)을 통해 에지 애플리케이션을 위한 효율적이고 정확한 AI 모델을 만들 수 있다. TAO는 ViT와 비전 기본 모델을 포함한 비전 AI 모델을 미세 조정하고 최적화할 수 있는 로우코드 인터페이스를 제공한다. 또한 엔비디아 NV-DINOv2와 같은 기본 모델 또는 오픈클립(OpenCLIP)과 같은 공개 모델을 사용자 정의하고 미세 조정해 매우 적은 데이터로 정확한 비전 AI 모델을 생성할 수 있다. TAO에는 이제 결함 검사를 위한 새로운 트랜스포머 모델인 비주얼체인지넷(VisualChangeNet)이 추가로 포함된다.

엔비디아 메트로폴리스는 기업들이 AI 지원 솔루션을 보다 쉽고 비용 효율적으로 도입해 중요한 운영 효율성과 안전 문제를 개선할 수 있도록 지원한다. 이 플랫폼은 개발자가 복잡한 비전 기반 애플리케이션을 빠르게 개발할 수 있도록 강력한 애플리케이션 프로그래밍 인터페이스와 마이크로서비스 모음을 제공한다.

BMW 그룹, 펩시코, 크로거(Kroger), 타이슨 푸드(Tyson Foods), 인포시스(Infosys)와 지멘스 등 1000개 이상의 기업에서 엔비디아 메트로폴리스 개발자 툴을 사용하고 있다. 이를 통해 사물 인터넷, 센서 처리와 운영 문제를 비전 AI로 해결하며, 이런 채택 속도가 점점 빨라지고 있다. 이 툴은 현재 비전 AI 애플리케이션을 구축하려는 사용자가 1백만 번 이상 다운로드했다.

아울러 개발자가 확장 가능한 비전 AI 애플리케이션을 빠르게 빌드하고 배포할 수 있도록, 엔비디아 젯슨의 확장된 메트로폴리스 API와 마이크로서비스 세트가 연말까지 제공될 예정이다.

농업, 창고 자동화, 라스트마일 딜리버리(last-mile delivery), 서비스 로봇 등 다양한 영역에서 수백 명의 고객이 고성능 로보틱스 솔루션을 개발하기 위해 엔비디아 아이작 플랫폼을 사용한다.

최신 아이작 ROS 2.0 출시를 통해 개발자는 젯슨으로 고성능 로봇 솔루션을 개발하고 시장에 출시할 수 있다.

엔비디아는 메트로폴리스와 아이작 프레임워크를 기반으로 한 엄선된 AI 참조 워크플로우(AI Reference Workflow)의 제품군을 발표했다. 이를 통해 개발자들은 전체 워크플로우를 빠르게 채택하거나 개별 구성 요소를 선택적으로 통합해 개발 시간과 비용을 크게 절감할 수 있다. 이 세 가지 AI 워크플로우에는 네트워크 비디오 레코딩(Network Video Recording), 자동 광학 검사(Automatic Optical Inspection), 자율주행 로봇(Autonomous Mobile Robot)이 포함된다.

엔비디아는 개발자가 에지AI 솔루션을 구축할 때 필요한 기본 기능인 시스템 서비스 제품군을 발표했다. 이같은 서비스는 워크플로우로의 통합을 간소화하고 개발자가 처음부터 구축해야 하는 고된 작업을 덜어준다.

연말에 출시 예정인 새로운 엔비디아 젯팩 6(JetPack 6)는 AI 개발자가 젯슨 리눅스(Jetson Linux)를 완전히 업그레이드하지 않아도 최첨단 컴퓨팅을 유지할 수 있도록 지원한다. 이를 통해 AI 개발자들이 개발 일정을 크게 단축하고 젯슨 리눅스의 종속성에서 벗어날 수 있도록 해준다.

더불어 젯팩 6는 리눅스 배포 파트너와의 협업을 통해 리눅스 기반 배포판 선택의 폭을 넓힐 예정이다. 여기에는 캐노니컬(Canonical)의 우분투(Ubuntu), 윈드리버 리눅스(Wind River Linux), 컨커런트 리얼타임 레드호크 리눅스(Concurrent Real-Time Redhawk Linux)와 다양한 욕토(Yocto) 기반 배포판 등이 포함한다.

젯슨 파트너 에코시스템은 하드웨어, AI 소프트웨어, 애플리케이션 디자인 서비스부터 센서, 연결성과 개발자 툴까지 광범위한 지원을 제공한다. 젯슨 파트너는 최신 출시를 통해 향상된 성능과 기능을 갖춘 AI를 채택함으로써 시장 출시 기간을 단축하고 고객 기반을 확장할 수 있다.

디푸 탈라(Deepu Talla) 엔비디아 임베디드와 에지 컴퓨팅 부사장은 "생성AI는 이전보다 더 나은 일반화, 사용 편의성, 높은 정확도를 통해 에지에서의 AI 배포를 크게 가속화한다. 소프트웨어 확장을 통해 메트로폴리스와 아이작 프레임워크가 젯슨에서 트랜스포머 모델과 생성AI의 강력한 성능과 결합돼 이러한 요구를 해결해 나갈 것"이라고 말했다.