GlucoFM: 혈당 곡선을 두 갈래로 나눠 학습한 CGM 파운데이션 모델
구글 리서치가 공개한 연속 혈당 측정(CGM) 파운데이션 모델 GlucoFM을 분석했다. 한 줄로 얽혀 있던 혈당 시계열을 느린 기저 대사와 빠른 식후 변동으로 분리해 학습한 원리, 72만 개 파라미터로 거대 모델을 제친 벤치마크와 시사점을 정리했다.
#경량화
3개의 글
Liquid AI의 LFM2.5-DSpark 추측 디코딩 분석
H100부터 맥북까지 최대 3.2배 속도를 끌어올린 Liquid AI의 LFM2.5 전용 DSpark 추측 디코딩 모델을 살펴보고, 메모리 대역폭 병목을 넘어서는 원리와 온디바이스 에이전트 가속, MoE 모델에서의 흥미로운 한계와 시사점을 정리했다.
8GB 노트북에서 35B를 39.3 tok/s로 돌리는 엣지 MoE 서빙 시스템 FreeToken 정리
내 컴퓨터를 작은 GPU가 아닌 하나의 플랫폼으로 볼 때 일어나는 변화. UC Berkeley 연구진이 공개한 오픈소스 로컬 MoE 서빙 시스템 FreeToken 논문 《FreeToken: Efficient Edge-Native MoE Serving with Bandwidth-Adaptive Execution》을 읽고, 대역폭 적응형 실행과 탄력적 캐시 원리를 정리했다.