Platform
엔지니어링 서비스
옵트에이아이는 가용자원이 제한적인 추론용 디바이스에서 복잡한 AI를 최적화하는
모델 설계, 모델 압축 및 임베디드 시스템 최적화 기술을 엔지니어링 서비스 혹은 SW 플랫폼 형태로 제공하고 있습니다.
모델 설계
-
목표 HW에 친화적인 경량 모델 설계
-
HW 및 모델 추천 + 성능 프로파일링 + 모델 자동 수정 기술 제공
모델 압축
-
모델의 정확도를 유지하면서 모델 크기를 줄여 추론 속도 개선
-
양자화 + 프루닝 + 지식증류 기술 제공
임베디드 시스템 최적화
-
포팅(C++) 및 임베디드 시스템 최적화
-
추론 스케줄링 및 연산 가속화를 위한 병렬 처리 기술 제공
온디바이스 AI SW 플랫폼
옵트에이아이의 목표는 온디바이스 AI 도입을 위한 ① 모델 설계, ② 모델 압축, ③ 임베디드 시스템 최적화 기술과
다양한 HW 환경에서 최적화를 자동으로 수행할 수 있는 ④ HW 인지 SW 분석 시스템 제공을 통해
고객의 AI에 대한 추론 성능 확보, 개발 비용 절감 및 시장 출시 가속화를 지원하는 것입니다.
제공 기능
-
Model Builder + Model Compressor + Model Deployer
-
HW aware SW Profiling System: 자동 HW 분석 기술 제공
제공 가치
-
특정 HW에서 성능 확보 + 비용 절감 + 시장 출시 가속화
-
HW 변경에 따른 추가 개발 비용 최소화
핵심기술
옵트에이아이는 HW aware SW Profiling System을 통해 어떠한 HW 및 프로세서에서도 유효한 성능 제공이 가능하며
목표 HW를 위한 개발 워크플로우 구축을 통해 고객이 온전히 모델 개발에만 집중할 수 있도록 지원하고 있습니다.
지원 HW
-
Qualcomm, Ambarella, Renesas, NXP, NVIDIA, Xilinx, Rockchip, Coral
지원 프로세서
-
CPU, GPU, NPU, FPGA
지원 Task
-
Classification, Object Detection, Human Pose Estimation, Image Enhancement
지원 HW
