엔비디아, 로보틱스와 엣지 인공지능을 위한 제트슨 플랫폼 확장 및 제트슨 생성 AI 랩 오픈 <기획 <FOCUS> 기사 본문-인공지능 신문(aitimes.kr )
엔비디아, 로보틱스와 엣지 인공지능을 위한 제트슨 플랫폼 확장 및 제트슨 생성 AI 랩 오픈-인공지능 신문 엔비디아가 엣지 AI와 로보틱스를 위한 엔비디아젯슨 플랫폼 두 가지 프레임워크를 대대적으로 확장한다. 또 엔비디아 아이작(Isaac) ROS 로보틱스 프레임워크는 정식 버전으로 18일…www.aitimes.kr
엔비디아, 로보틱스와 엣지 인공지능을 위한 제트슨 플랫폼 확장 및 제트슨 생성 AI 랩 오픈-인공지능 신문 엔비디아가 엣지 AI와 로보틱스를 위한 엔비디아젯슨 플랫폼 두 가지 프레임워크를 대대적으로 확장한다. 또 엔비디아 아이작(Isaac) ROS 로보틱스 프레임워크는 정식 버전으로 18일…www.aitimes.kr
인기글
10,000개 이상의 기업에서 엔비디아 제손 플랫폼을 구축하고 새로운 생성형 AI 모델, 클라우드 네이티브 API와 마이크로 서비스로 산업 디지털화 가속화
10,000개 이상의 기업에서 엔비디아 제손 플랫폼을 구축하고 새로운 생성형 AI 모델, 클라우드 네이티브 API와 마이크로 서비스로 산업 디지털화 가속화
로보틱스와 인공지능 엣지를 위한 제트슨 플랫폼 확장(이미지: 엔비디아)
NVIDIA가 에지 AI와 로보틱스의 위한 NVIDIA Jetson플랫폼의 2개의 체제를 대대적으로 확장한다.또 에느비디아아이잣크(Isaac)ROS로보틱스 체제는 정식 버전으로 18일에 발매되어 제트 선의 에느비디아메토로포리스(Metropolis)확장 버전은 출시를 앞두고 있다.최근 생성 AI는 사실상 모든 산업에 트랜스포머 모델과 대규모 언어 모델의 강력한 성능을 제공한다.이제 그 범위는 가장자리, 로보틱스와 물류 시스템까지 망라할 예정이다.여기에는 불량 감지, 실시간 자산 추적, 자율 계획과 탐색, 인간과 로봇 상호 작용 등이 포함된다.
이미지: 엔비디아
NVIDIA는 개발자가 최신의 오픈 소스 생성형 AI모델과 함께 사용할 수 있는 Jetson생성 AI연구실(Jetson Generative AI Lab)을 만들었다.이로써 개발자는 날로 AI애플리케이션의 개발과 배포를 가속화할 수 있다.이어 120만명 이상의 개발자와 아마존 웹 서비스(Amazon Web Services), 시스코(Cisco), 존·디아(John Dere), 메드트로닉(Medtronic), 펩시코(Pepsico)지멘스(Siemens)등 10,000개 이상의 고객 회사가 엔비디아 AI와 제트 송 플랫폼을 선택했다.빠르게 진화하는 인공 지능 환경이 점점 복잡해지고 개발자는 가장자리용 AI애플리케이션을 구축하는 데 더 긴 개발 주기가 요구된다.변화하는 환경, 제조 라인, 고객의 자동화 요구 사항을 충족시키기 위해서 로봇과 AI시스템을 즉시 다시 프로그래밍하는데 많은 시간이 걸리고 전문 기술이 필요하다.생성형 AI는 자연 언어 인터페이스를 통해서 제로 샷(zero-shot)학습을 제공하고 날로 AI의 개발, 배포 및 관리를 간소화한다.제로 샷 학습은 모델이 훈련으로 예전에 보지 못한 사물을 인식하는 기능이다.AI환경의 변화 생성형 AI는 인간의 언어 프롬프트를 이해하고 모델을 변경함으로써 사용 편리성을 극대화한다.이런 AI모델은 감지, 세분화, 추적, 검색, 다시 프로그래밍 더 유연하게 수행할 수 있다.또 기존 합성적 뉴럴 네트워크 기반 모델(convolutional neural network-based models)을 능가하는 성능을 발휘할 수 있다.한편 ABI리서치(ABI Research)에 따르면 생성형 AI는 2033년까지 전 세계 제조업을 105억달러의 매출을 창출할 것으로 예상된다.NVIDIA편성과 에지 컴퓨팅 부사장인 Deepu Talla는 “생성형 AI는 이전보다 좋은 일반화, 사용 편리성 높은 정밀도를 통해서 엣지에서 AI배포를 크게 가속화한다.역대 최대 규모의 소프트웨어 확장을 통해서 메트로폴리스와 아이작 프레임워크가 제트 송에서 트랜스포머 모델로 생성형 AI의 강력한 성능과 결합되면서 이런 요구를 해결하는 “이라고 말했다.에지에서 생성형 AI에서 개발 제트 송 생성형 AI연구실은 개발자가 오픈 소스 LLM, 탁월한 인터랙티브 이미지를 생성하는 확산 모델, 비전 AI와 자연 언어 처리를 결합하여 장면에 대한 포괄적인 이해를 제공하는 비전 언어 모델(VLM)과 비전 트랜스포머(ViT)을 배포하는 데 최적화된 툴과 튜터리얼에 액세스 할 수 있도록 지원한다.(이하 NVIDIA젯송오ー링 구동 날로 생성형 AI모델 시연 영상)
또 개발자는 NVIDIATAO툴 키트(TAO Toolkit-표시)을 통해서 엣지 애플리케이션을 위한 효율적이고 정확한 AI모델을 만들 수 있다.TAO는 ViT과 비전 기본 모델을 포함한 비전 AI모델을 미조정하고 최적화할 수 있는으로 코드 인터페이스를 제공한다.또 NVIDIA NV-DINOv2 같은 기본 모델 또는 오픈 클립(OpenCLIP) 같은 공개 차종을 사용자 정의하고 미세 조정하고 매우 적어 데이터에서 정확한 비전 AI모델을 생성할 수 있다.TAO는 이제 결함 검사를 위한 새로운 트랜스포머 모델인 비주얼 체인지 인터넷(Visual Change Net)가 추가로 포함된다.새로운 메트로폴리스와 아이작 프레임워크 활용 NVIDIA메트로폴리스는 기업이 세계 최고 수준의 비전 AI지원 솔루션을 더 쉽고 비용 효율적으로 도입하고 중요한 운영 효율성과 안전 문제를 개선할 수 있도록 지원한다.이 플랫폼은 개발자가 복잡한 비전 기반 애플리케이션을 신속히 개발하도록 강력한 애플리케이션 프로그래밍 인터페이스와 마이크로 서비스집을 제공한다.에지용 Metropolis API 및 마이크로 서비스 개요BMW그룹, 펩시코, 크로 거(Kroger), 타이슨 푸드(Tyson Foods), 인포시스(Infosys)와 지멘스 등 1,000여개 기업에서 NVIDIA메트로폴리스 개발자 도구를 사용하고 있다.이를 통해서 사물의 인터넷, 센서 처리와 운영 문제를 비전 AI에서 해결하고 이런 채택 속도가 점점 빨라지고 있다.이 툴은 현재 비전 AI애플리케이션을 구축하려는 사용자가 100만번 이상 다운로드했다.또 개발자가 확장 가능한 비전 AI애플리케이션을 신속하게 축적하고 배포할 수 있도록 NVIDIA Jetson의 확장된 메트로폴리스 API와 마이크로 서비스 세트가 연말까지 제공된다.농업 창고 자동화, 라스트 마일 딜리버리(last-mile delivery), 서비스 로봇 등 다양한 영역에서 수백명의 고객이 고성능 로보틱스 솔루션을 개발하기 위해서 NVIDIA아이작 플랫폼을 사용한다.로스 콘(ROSCon)2023에서 NVIDIA는 아이작 ROS와 아이작 심(Isaac Sim)소프트웨어의 새로운 발매를 통해서 인식과 시뮬레이션 기능이 대폭 향상됐다고 발표했다.아이작 ROS는 광범위하게 사용되는 오픈 소스 로봇 운영 체제(ROS)을 기반으로 자동화에 인식 기능을 추가하고 움직이는 물체에 눈과 귀을 부여한다.로봇 개발자는 GPU가속 GEM의 성능을 활용하여 다양한 애플리케이션에 적합한 로봇 솔루션을 신속히 엔지니어링에 필요한 툴을 확보할 수 있다.GPU가속 GEM의 강력한 기능에는 시각적 주행 거리 측정, 깊이 인식, 3D형태의 재구성, 위치 추적과 계획 등이 포함된다.IsaacAMR은 완전 자율 및 협동 로봇의 강력한 구동 제공최신의 아이작 ROS 2.0(표시)출시를 통해서 개발자는 제트 송에서 고성능 로봇 솔루션을 개발하고 시장에 출시할 수 있다.오픈 소스 로봇 공학 재단(Open Source Robotics Foundation)의 CTO인 제프, 빅스(Geoff Biggs)는 “ROS는 로봇 커뮤니티 전체에 오픈 소스 소프트웨어를 제공하기 위해서 지속적으로 성장 발전하고 있다.이번 릴리스와 함께 발매된 NVIDIA의 새로운 사전 빌드 ROS2패키지는 대규모 NVIDIA제트 송 개발자 커뮤니티에서 ROS2를 쉽게 사용할 수 있도록 함으로써 이러한 성장을 가속화할 것”이라고 말했다.새 참조 AI워크 플로우 제공사 부인(production-ready)AI솔루션을 개발하려면 다양한 기능이 요구된다.여기에는 특정 사용 사례에 맞춘 AI모델 개발과 훈련 최적화, 플랫폼에 강력한 보안 기능 구현, 애플리케이션 조정, 프릿 관리, 에지 클라우드 간 원활한 통신 구축이 필요하다.NVIDIA는 메트로폴리스와 아이작 프레임워크에 기반한 엄선된 AI참조 워크 플로우(AI Reference Workflow)의 제품 군을 발표했다.이로써 개발자는 작업 흐름 전체를 신속하게 채용하거나 각각의 컴포넌트를 선택적으로 통합하고 개발 시간과 비용을 대폭 삭감할 수 있다.이 3개의 AI작업 흐름에는 네트워크 비디오 녹음(Network Video Recording), 자동 광학 검사(Automatic Optical Inspection), 자동 운전 로봇(Autonomous Mobile Robot)이 포함된다.티 아스 리서치(Tirias Research)의 수석 애널리스트인 짐·마쿠레가(Jim McGregor)는 “광범위하게 다양한 사용자 기반과 파트너 에코 시스템을 갖춘 NVIDIA Zetson은 날로 로보틱스와 AI의 혁신을 주도하고 있다.애플리케이션 요건이 점점 복잡해지면서 에지 배포를 간소화하는 가속하는 플랫폼에 대한 근본적인 전환이 필요하다.NVIDIA의 이번 소프트웨어 확장으로 개발자는 새 멀티 센서 모델로 생성형 AI기능에 액세스 할 수 있게 됐다”고 말했다.NVIDIA는 모든 개발자가 에지 AI솔루션을 구축할 때 필요한 기본 기능인 시스템 서비스 제품 군을 발표했다.이런 서비스는 워크 플로에 대한 통합을 간소화하고 개발자들이 처음부터 구축해야 하는 엄청난 작업을 경감한다.연말에 출시 예정인 새로운 NVIDIA제트 팩 6(JetPack 6)는 AI개발자가 Jetson Linux(Jetson Linux)을 완전히 업그레이드하지 않고도 최첨단 컴퓨팅을 유지하도록 지원한다.이를 통해서 AI개발자가 개발 일정을 대폭 단축하고 제트 송 리눅스의 종속에서 벗어날 수 있게 한다.이어 제트 팩 6은 리눅스 배포 파트너와의 협업을 통해서, 리눅스 기반 배포판 선택의 폭을 넓힐 예정이다.여기에는 캬노니칼의 최적화와 공인된 Ubuntu, 윈드 리버 리눅스, 동시 실시간 레드 호크 리눅스(Concurrent Real-Time레드 hawk Linux)과 다양한 목욕탕(Yocto)기반의 배포판 등이 포함된다.플랫폼 확장에 의한 파트너 생태계의 이점 제트 성 파트너 에코 시스템(참조)는 하드웨어, AI소프트웨어, 애플리케이션 디자인 서비스에서 센서, 접속성과 개발자 도구까지 폭넓은 지원을 제공한다.이런 NVIDIA파트너 네트워크(Partner Network)의 혁신자들은 시판되고 있는 많은 제품 컴포넌트와 하부 시스템을 제공하는 데 중요한 역할을 한다.젯 성 파트너는 최신 출시를 통해서 향상된 성능과 기능을 갖춘 AI을 채용함으로써 시장 발매 기간을 단축하고 고객 기반을 확장할 수 있다.한편 11월 8일 오전 2시(한국 시간) 열리는 NVIDIA Jetson webinar-사전 등록은 NVIDIA Jetson webinar-사전 등록을 통해서 기술 전문가 더 자세히 설명을 확인할 수 있다.제튼에 LLM와 VLM을 배포하기 위한 가속한 API와 양자화 방법, 텐서 RT(TensorRT)을 사용한 비전 트랜스포머(Vision Transformer)최적화 등에 대해서 말했다.(이하 NVIDIA메트로폴리스 API와 마이크로 서비스로 복잡한 비전 AI어플리케이션 구축 시연 영상)최신 아이작 ROS 2.0(보기) 출시를 통해 개발자는 제트슨에서 고성능 로봇 솔루션을 개발해 시장에 출시할 수 있다.오픈소스 로보틱스 재단(Open Source Robotics Foundation)의 CTO인 제프 빅스(Geoff Biggs)는 “ROS는 로봇 커뮤니티 전체에 오픈소스 소프트웨어를 제공하기 위해 지속적으로 성장하고 발전하고 있다.이번 출시와 함께 출시된 엔비디아의 새로운 사전 빌드 ROS2 패키지는 대규모 엔비디아 제트슨 개발자 커뮤니티에서 ROS2를 쉽게 사용할 수 있도록 함으로써 이러한 성장을 가속화할 것이라고 말했다.새로운 참조 AI 워크플로우 제공 프로덕션 레이디(production-ready) AI 솔루션을 개발하기 위해서는 다양한 기능이 요구된다. 여기에는 특정 사용 사례에 맞춘 AI 모델 개발과 훈련 최적화, 플랫폼에 강력한 보안 기능 구현, 애플리케이션 조정, 플릿 관리, 에지 클라우드 간 원활한 통신 구축 등이 필요하다.엔비디아는 메트로폴리스와 아이작 프레임워크를 기반으로 한 엄선된 AI 참조 워크플로우(AI Reference Workflow) 제품군을 발표했다. 이를 통해 개발자는 워크플로우 전체를 신속하게 채택하거나 개별 컴포넌트를 선택적으로 통합하여 개발 시간과 비용을 크게 절감할 수 있다.이 세 가지 AI 워크플로우에는 네트워크 비디오 레코딩(Network Video Recording), 자동광학검사(Automatic Optical Inspection), 자율주행 로봇(Autonomous Mobile Robot)이 포함된다.틸리어스 리서치(Tirias Research) 수석 분석가 짐 맥그리거(Jim McGregor)는 “광범위하고 다양한 사용자 기반과 파트너 생태계를 갖춘 엔비디아 제트슨은 엣지에서 로보틱스와 AI 혁신을 주도하고 있다. 애플리케이션 요건이 점점 복잡해짐에 따라 에지 배포를 간소화하고 가속하는 플랫폼으로의 근본적인 전환이 필요하다. 엔비디아의 이번 소프트웨어 확장으로 개발자들은 새로운 멀티센서 모델과 생성형 AI 기능에 접근할 수 있게 됐다”고 말했다.엔비디아는 모든 개발자가 엣지 AI 솔루션을 구축할 때 필요한 기본 기능인 시스템 서비스 제품군을 발표했다. 이러한 서비스는 워크플로우로의 통합을 간소화하고 개발자가 처음부터 구축해야 하는 힘든 작업을 줄여준다.연말 출시 예정인 새로운 엔비디아 제트팩6(JetPack6)는 AI 개발자들이 젯슨 리눅스(Jetson Linux)를 완전히 업그레이드하지 않고도 최첨단 컴퓨팅을 유지할 수 있도록 지원한다. 이를 통해 AI 개발자들이 개발 일정을 대폭 단축하고 제트슨 리눅스 종속성에서 벗어날 수 있도록 해준다.더불어 제트팩6는 리눅스 배포 파트너와의 협업을 통해 리눅스 기반 배포판 선택의 폭을 넓힐 예정이다. 여기에는 캐노니컬 최적화와 공인된 우분투, 윈드리버 리눅스, 컨커런트 실시간 레드호크 리눅스(Concurrent Real-Time 레드hawk Linux)와 다양한 목욕탕(Yocto) 기반 배포판 등이 포함된다.플랫폼 확장을 통한 파트너 생태계의 이점 제트슨 파트너 생태계(참조)는 하드웨어, AI 소프트웨어, 애플리케이션 디자인 서비스부터 센서, 연결성과 개발자 도구까지 폭넓은 지원을 제공한다. 이러한 NVIDIA 파트너 네트워크(Partner Network)의 혁신자들은 시판되고 있는 많은 제품의 컴포넌트와 서브시스템을 제공하는 데 중요한 역할을 한다.제트슨 파트너는 최신 출시를 통해 향상된 성능과 기능을 갖춘 AI를 채택함으로써 시장 출시 기간을 단축하고 고객 기반을 확장할 수 있다.한편, 11월 8일 오전 2시(한국시간) 진행되는 엔비디아젯슨웹나르-사전등록은 엔비디아젯슨웹나르-사전등록을 통해 기술전문가의 보다 자세한 설명을 확인할 수 있다. 제튼에게 LLM과 VLM을 배포하기 위한 가속된 API와 양자화 방법, 텐서RT(TensorRT)를 이용한 비전 트랜스포머(Vision Transformer) 최적화 등에 대해 이야기한다.(아래는 엔비디아 메트로폴리스 API와 마이크로서비스로 복잡한 비전 AI 애플리케이션 구축 시연 영상)