[모델]리퀴드 AI, 엣지용 멀티모달 의사결정 모델 'd1' 제품군 오픈소스로 공개
리퀴드 AI(Liquid AI)가 엣지 디바이스 환경을 겨냥한 멀티모달 오픈 의사결정 모델 'd1-3B'와 실험적 모델 'd1-omni-600M'을 공개했습니다. 토큰을 순차 생성하는 일반 생성형 모델과 달리 단 한 번의 순전파(forward pass)로 구조화된 판단을 내려 응답 속도를 극대화한 것이 특징입니다.
전문 읽기접기
무슨 일이야
리퀴드 AI가 자사 파운데이션 모델(LFM)을 기반으로 구축한 의사결정 모델 제품군 'd1-3B'와 'd1-omni-600M'을 오픈 웨이트로 공개했습니다. 이 모델들은 텍스트 토큰을 하나씩 생성하지 않고, 단일 순전파(single forward pass) 과정으로 분류, 독해, 의도 파악 등의 질문에 즉각 답하도록 설계되었습니다.
성능 측면에서는 독해, 독성 감지, 의도 분류, 의료 QA 등 7개 공개 데이터셋 벤치마크에서 d1-3B가 평균 82.9점을 기록하며 Decider 4B를 앞섰습니다. 실험적 성격의 d1-omni-600M 역시 78.4점을 기록해 4분의 1 수준의 파라미터로 Decider 2B(77.1점)를 넘어섰습니다.
속도 또한 엔비디아(NVIDIA) 하드웨어 환경에서 대폭 단축되었습니다. d1-3B는 지포스 RTX 4090 및 젯슨(Jetson) 제품군 전반에서 단일 질문을 50ms 미만으로 처리했으며, GPU 환경에서는 단일 질문 10ms 미만, 384px 이미지 처리는 18ms 미만을 기록했습니다.
왜 중요해
실시간 처리가 중요한 온디바이스 AI 및 로보틱스, 고객 지원 자동화 등에서 생성 지연 시간(latency)을 크게 줄일 수 있습니다. 여러 개의 분류 및 점수 산출 질문을 한 번에 묶어 처리해도 지연 시간 증가폭이 적어 엣지 기기 리소스를 효율적으로 활용할 수 있습니다. 허깅페이스를 통해 오픈 가중치로 배포되어 일반 개발자들도 즉시 적용해 볼 수 있습니다.
짚고 넘어갈 점
비전 및 오디오 벤치마크 점수는 공식적으로 보고되지 않았습니다. 리퀴드 AI는 평가 기준인 Decision Index v0.3에 비전 스플릿이 비공개 상태이고 오디오 의사결정 벤치마크 역시 아직 정립되지 않은 연구 과제라는 점을 이유로 들었으며, 600M 모델의 추론 속도 수치도 이번 공개에서는 제외되었습니다.
참고: Hugging Face
댓글 0
첫 댓글을 남겨보세요.