Volantis, 광자 추론 시스템 개발 위해 8800만 달러 투자 유치

Volantis는 추론 전용 칩 아키텍처를 개발하고 있습니다. 이 기술은 특수 메모리 인터커넥트 시스템을 기반으로 하며, 회사에 따르면 현재의 가속기보다 30배 더 많은 메모리 대역폭을 제공합니다. 기존 그래픽 처리 장치는 메모리 모듈과 처리 코어를 연결하는 전선 길이가 최대 5밀리미터로 제한되어 모듈 수에 제약이 있었으나, Volantis의 아키텍처는 연결 거리가 200밀리미터를 초과합니다. 이를 통해 220개 이상의 메모리 칩렛을 인공지능 가속기에 장착할 수 있어 메모리 대역폭이 크게 증가합니다.

이 메모리 인터커넥트 시스템은 광학 설계 기반으로 데이터를 빛의 형태로 전송합니다. 시스템은 양자 우물과 두 개의 거울로 구성된 VCSEL이라는 소형 장치를 사용하여 전기를 빛으로 변환하고 신호를 증폭합니다. VCSEL은 일반적인 광 네트워크 장치보다 제조가 쉽고 비용이 낮으며, 일반적인 미세 레이저 제조 재료보다 구하기 쉬운 갈륨 비소 화합물로 제작할 수 있다는 장점이 있습니다.

Volantis는 데이터 센터용 추론 장치인 A-1과 함께 칩을 공급할 예정입니다. A-1은 표준 서버 랙의 약 3분의 1 크기이며, 10테라바이트의 메모리와 초당 250테라비트의 메모리 대역폭을 갖추고 있습니다. 회사는 이 시스템이 20조 개의 매개변수를 가진 모델을 실행할 때 초당 최대 10,000개의 토큰을 처리할 수 있을 것으로 예상합니다.

Volantis의 공동 창립자이자 최고 경영자인 Tapa Ghosh는 블로그 게시물을 통해 이 기술이 실시간 최첨단 추론을 가능하게 하고 확장 법칙을 회복시키며, 컨텍스트 윈도우 내에서 전체 코드베이스를 처리할 수 있게 할 것이라고 밝혔습니다. 그는 예시로 코딩 인공지능 에이전트가 30분이 아닌 30초 만에 작업을 완료하는 상황을 언급했습니다. Volantis는 내년에 A-1 시스템의 배송을 시작할 계획입니다. 회사의 엔지니어 팀에는 Nvidia와 Broadcom 출신 인력들이 포함되어 있으며, 이들은 그래픽 처리 장치에서 널리 사용되는 연결 시스템인 CoWoS를 최초로 상용화한 기술적 성과를 보유하고 있습니다.