블로그

Jun 30, 2023

Modular는 AI 모델을 최적화하고 생성하는 도구를 구축하기 위해 1억 달러를 확보했습니다.

AI 시스템 개발 및 최적화 플랫폼을 만드는 스타트업 모듈러(Modular)가 General Catalyst가 주도하고 GV(Google Ventures), SV가 참여하는 펀딩 라운드에서 1억 달러를 유치했습니다.

AI 시스템 개발 및 최적화 플랫폼을 만드는 스타트업 Modular가 General Catalyst가 주도하고 GV(Google Ventures), SV Angel, Greylock 및 Factory가 참여하는 펀딩 라운드에서 1억 달러를 모금했습니다.

Modular의 총액이 1억 3천만 달러로 모금된 수익금은 제품 확장, 하드웨어 지원 및 Modular의 프로그래밍 언어인 Mojo 확장에 사용될 것이라고 CEO Chris Lattner는 말했습니다.

Lattner는 TechCrunch와의 이메일 인터뷰에서 “우리는 고도로 전문화된 전문 지식이 필요한 심층적인 기술 공간에서 운영하기 때문에 이 자금을 사용하여 팀의 성장을 지원할 계획입니다.”라고 말했습니다. "이 자금은 주로 AI 컴퓨팅에 사용되는 것이 아니라 핵심 제품을 개선하고 놀라운 고객 요구를 충족하기 위해 확장하는 데 사용될 것입니다."

전 Google 직원인 Lattner는 2022년에 거대 기술 기업의 Google Brain 연구 부문에서 Google 동료였던 Tim Davis와 함께 Palo Alto 기반 Modular를 공동 창립했습니다. Lattner와 Davis는 AI가 지나치게 복잡하고 단편화된 기술 인프라로 인해 방해를 받고 있다고 느꼈고 대규모 AI 시스템 구축 및 유지 관리의 복잡성을 제거하는 데 중점을 두고 Modular를 설립했습니다.

Modular는 CPU(그리고 올해 말부터 GPU)에서 AI 모델의 추론 성능을 향상시키는 동시에 비용을 절감하는 엔진을 제공합니다. 기존 클라우드 환경, Google의 TensorFlow 및 Meta의 PyTorch와 같은 기계 학습 프레임워크 및 기타 AI 가속기 엔진과 호환되는 Modular의 엔진은 현재 비공개 미리 보기로 제공되므로 개발자는 훈련된 모델을 가져와 기본 프레임워크에 비해 최대 7.5배 더 빠르게 실행할 수 있습니다. 주장.

Modular의 또 다른 주력 제품인 Mojo는 Python의 유용성과 캐싱, 적응형 컴파일 기술 및 메타 프로그래밍과 같은 기능을 결합하는 것을 목표로 하는 프로그래밍 언어입니다. 현재 "수백 명"의 얼리 어답터에게 미리 보기로 제공되는 Modular는 다음 달 초에 Mojo를 정식 출시할 계획입니다.

Lattner는 “우리의 개발자 플랫폼을 사용하면 고객과 전 세계 개발자가 AI 기술 스택을 조각 모음하여 생산에 더 많은 혁신을 더 빠르게 추진하고 AI에 대한 투자에서 더 많은 가치를 실현할 수 있습니다.”라고 말했습니다. "우리는 AI 소프트웨어와 AI 하드웨어가 만나는 지점부터 시작하여 AI 스택을 괴롭히는 조각화 문제를 해결함으로써 오늘날 AI 개발을 지연시키는 복잡성을 공격하고 있습니다."

야망이 많나요? 아마도. 그러나 약 70명의 직원을 둔 Modular가 제안하는 것 중 어느 것도 가능성의 영역을 벗어나는 것은 없습니다.

Intel이 지원하는 Deci는 학습된 AI 모델을 보다 효율적이고 성능 있게 만드는 기술을 제공하는 스타트업 중 하나입니다. 해당 카테고리의 또 다른 제품은 다양한 하드웨어에 대한 모델을 자동으로 최적화, 벤치마크 및 패키징하는 OctoML입니다.

어쨌든 Lattner의 관점에서 AI 수요는 지속 가능성의 한계에 빠르게 접근하고 있으므로 컴퓨팅 요구 사항을 줄이는 기술은 매우 바람직합니다. The Wall Street Journal의 최근 기사에서 지적했듯이 오늘날 유행하는 생성적 AI 모델은 기존 AI 모델보다 10~100배 더 크며, 퍼블릭 클라우드 인프라의 대부분은 이러한 시스템을 실행하기 위해 구축되지 않았습니다. 이 규모.

이미 영향을 미쳤습니다. 마이크로소프트는 AI를 실행하는 데 필요한 서버 하드웨어가 너무 부족해 서비스 중단으로 이어질 수 있는 상황에 직면해 있다고 수익 보고서에서 경고했다. 한편, AI 추론 하드웨어(주로 GPU)에 대한 수요가 급증하면서 GPU 제공업체 Nvidia의 시가총액이 1조 달러에 이르렀습니다. 그러나 Nvidia는 자체 성공의 희생자가 되었습니다. 회사의 최고 성능 AI 칩은 2024년까지 매진되는 것으로 알려졌습니다.

S&P Global의 2023년 여론 조사에 따르면 이러한 이유와 기타 이유로 상위 기업의 AI 의사 결정자 중 절반 이상이 최신 AI 도구 배포에 대한 장벽에 직면해 있다고 보고했습니다.

Lattner는 “오늘날의 AI 프로그램에 필요한 컴퓨팅 성능은 엄청나며 현재 모델에서는 지속 불가능합니다.”라고 말했습니다. “우리는 수요를 충족할 만큼 컴퓨팅 용량이 충분하지 않은 사례를 이미 목격하고 있습니다. 비용은 치솟고 있으며 크고 강력한 기술 회사만이 이러한 유형의 솔루션을 구축할 수 있는 리소스를 보유하고 있습니다. 모듈러는 이 문제를 해결하고 모든 기업이 훨씬 더 저렴하고 지속 가능하며 접근할 수 있는 방식으로 AI 제품과 서비스를 구동할 수 있게 해줄 것입니다.”