테렌스 타오가 말하는 수학의 6가지 기둥과 AI 시대의 증명
현대 최고의 수학자 테렌스 타오가 정리한 수, 대수, 기하학, 확률, 해석학, 동역학의 6가지 핵심 개념과, AI가 쏟아내는 수많은 증명 속에서 인간 수학계가 맞닥뜨린 증명 소화 불량(Proof Indigestion)의 현실을 Big Think 인터뷰 영상을 바탕으로 정리했다.
#논문
16개의 글
AI는 왜 무작위 숫자를 못 고를까?
인간은 1~10 중 7을 36% 고르고, 언어 모델은 그보다 더 극단적으로 한두 값에 수렴한다. 디코딩 설정을 아무리 풀어도 사라지지 않는 이 단일값 붕괴 현상과, 무해한 숫자열 속에 모델의 성향이 실려 다음 모델로 전이된다는 Nature 게재 논문 《Subliminal Learning》의 발견을 정리했다.
8B 모델로 오퍼스 4.5에 필적하다: 메타의 에보하네스-RL과 BPE 3분할 아키텍처
메타와 UIUC가 공개한 EvoHarness-RL을 분석했다. 에이전트 외부 실행 환경(하네스)을 신념·진행·경험의 3가지 BPE 상태로 추상화하고, 비용 고려 GRPO 강화학습으로 하네스 어닐링과 자가 진화를 달성한 원리와 개인 로컬 모델 적용 방안을 정리했다.
GlucoFM: 혈당 곡선을 두 갈래로 나눠 학습한 CGM 파운데이션 모델
구글 리서치가 공개한 연속 혈당 측정(CGM) 파운데이션 모델 GlucoFM을 분석했다. 한 줄로 얽혀 있던 혈당 시계열을 느린 기저 대사와 빠른 식후 변동으로 분리해 학습한 원리, 72만 개 파라미터로 거대 모델을 제친 벤치마크와 시사점을 정리했다.
개체 지능에서 시스템 지능으로: LLM 에이전트를 위한 그래프 엔지니어링 분석
단일 에이전트 루프의 한계를 넘어, 이종 노드와 동적 토폴로지로 거대 시스템 지능을 구축하는 그래프 엔지니어링(Graph Engineering) 서베이 논문(arXiv:2608.21156)을 알기 쉽게 분석했다.
훈련 없이 확률값으로 에이전트를 검증하는 LLM-as-a-Verifier 분석
별도의 보상 모델 훈련 없이 일반 LLM의 로짓 확률 분포를 기댓값으로 계산해 에이전트 궤적을 초정밀 검증하는 스탠퍼드, UC 버클리, NVIDIA 연구진의 논문 《LLM-as-a-Verifier: A General-Purpose Verification Framework》 핵심 원리와 활용법을 정리했다.
장기 실행과 자가 개선을 위한 Prime Agent와 RLM 하네스 분석
Prime Intellect가 공개한 오픈소스 코딩 및 자율 연구 에이전트 Prime Agent(arXiv:2608.23552)의 RLM 패러다임, 지속적 하네스 자가 개선 메커니즘, 그리고 도커 샌드박스 격리 필요성을 정리했다.
카카오의 2단계 하이퍼파라미터 전이 기술 분석
10조 토큰 거대 MoE도 작은 모델로 예측한다. 카카오 AI 연구진의 최신 논문(Let’s Scale Step by Step)을 통해, 155B 대규모 MoE 모델의 최적 학습률을 1% 미만의 적은 비용으로 사전 예측하는 μP 확장과 토큰 스케일링 법칙을 알기 쉽게 분석했다.
sPTC(추측적 프로그래밍 도구 호출) 분석
코드가 다 완성될 때까지 기다리지 않는다. MIT CSAIL Alex Zhang이 제안한 sPTC를 살펴보고, LLM이 코드를 생성하는 동안 도구 호출을 미리 가로채 비동기로 실행하는 JIT 스타일 최적화 원리와 벤치마크, 한계점을 정리했다.
Liquid AI의 LFM2.5-DSpark 추측 디코딩 분석
H100부터 맥북까지 최대 3.2배 속도를 끌어올린 Liquid AI의 LFM2.5 전용 DSpark 추측 디코딩 모델을 살펴보고, 메모리 대역폭 병목을 넘어서는 원리와 온디바이스 에이전트 가속, MoE 모델에서의 흥미로운 한계와 시사점을 정리했다.
8GB 노트북에서 35B를 39.3 tok/s로 돌리는 엣지 MoE 서빙 시스템 FreeToken 정리
내 컴퓨터를 작은 GPU가 아닌 하나의 플랫폼으로 볼 때 일어나는 변화. UC Berkeley 연구진이 공개한 오픈소스 로컬 MoE 서빙 시스템 FreeToken 논문 《FreeToken: Efficient Edge-Native MoE Serving with Bandwidth-Adaptive Execution》을 읽고, 대역폭 적응형 실행과 탄력적 캐시 원리를 정리했다.
경량 모델에게 플래그십 모델의 암호문을 그냥 읽어보라고 했더니, 정말 읽어냈다
AI 서비스가 답을 내놓기 전에 거치는 사고 과정(Reasoning Traces)을 암호로 감싸 돌려주는 방식의 치명적 허점을 밝힌 논문 《Stealing Reasoning Traces from Proprietary LLM APIs》를 분석했다.
에이전트 메모리, "잘 정리된 요약"보다 "버리지 않은 원문"이 나은 이유
에이전트 메모리 시스템 12개를 분석한 논문 《Are We Ready For An Agent-Native Memory System?》을 통해, 작업 성격에 맞는 메모리 구조의 중요성과 하네스 추가의 딜레마를 정리했다.
재료를 벡터로 만들면 "좀 더 인도식으로"가 계산이 된다
KAIKAKU.AI의 Epicure 논문을 읽고, 맛과 향이라는 주관적 감각을 요리 맥락 안에서 어떻게 수학적으로 다루는지 정리했다.
AI 유니콘 317곳 중 절반은 논문을 한 편도 내지 않았다
기업 가치 10억 달러가 넘는 AI 유니콘 317곳의 학술 활동을 전수 조사한 최신 메타 연구를 통해, 학계와 실리콘밸리 사이의 극단적 단절과 "판을 연 자들이 문을 닫는" AI 생태계의 역설을 분석했다.
기억을 모델 안에 두겠다는 시도: Metis 분석
AI의 기억을 외부 저장소가 아니라 모델 내부의 기본 능력으로 만들자는 논문 《Metis: Memory Foundation Model》을 분석했다. 그라디언트 없는 순전파 메모리 갱신 원리, 고정 크기 메모리의 효율, 그리고 직접 최소 코드로 재현해본 실험 결과를 정리했다.