래블업, AI 팩토리 병목은 추론에서…라우팅·토큰 운영 전략 공개 [뉴스] 신정규 대표가 이끄는 래블업이 ‘kt cloud summit 2026’에서 AI 팩토리 운영을 위한 추론·라우팅 최적화와 토큰 모니터링 전략을 공개했다. 김준기 CTO는 AI 인프라의 중심이 대규모 학습에서 실제 추론 서비스 운영으로 이동하면서 다양한 모델과 이용자 요...
The post 래블업, AI 팩토리 병목은 추론에서…라우팅·토큰 운영 전략 공개 appeared first on 벤처스퀘어.
Top
