AI 에이전트 샌드박스 엔지니어링의 5가지 진실
로컬 데모는 터미널을 열어주면 끝나지만, 프로덕션은 그 코드가 적대적으로 변하는 순간 시작된다. 콜드스타트 마케팅 수치의 허상부터 V8·Docker·gVisor·MicroVM 격리 계층, 하이퍼바이저보다 위험한 네트워크 Egress 공격 표면, 메모리 스냅샷 아키텍처까지 벤치마크 실측을 바탕으로 정리했다.
글
총 27개
테렌스 타오가 말하는 수학의 6가지 기둥과 AI 시대의 증명
현대 최고의 수학자 테렌스 타오가 정리한 수, 대수, 기하학, 확률, 해석학, 동역학의 6가지 핵심 개념과, AI가 쏟아내는 수많은 증명 속에서 인간 수학계가 맞닥뜨린 증명 소화 불량(Proof Indigestion)의 현실을 Big Think 인터뷰 영상을 바탕으로 정리했다.
AI는 왜 무작위 숫자를 못 고를까?
인간은 1~10 중 7을 36% 고르고, 언어 모델은 그보다 더 극단적으로 한두 값에 수렴한다. 디코딩 설정을 아무리 풀어도 사라지지 않는 이 단일값 붕괴 현상과, 무해한 숫자열 속에 모델의 성향이 실려 다음 모델로 전이된다는 Nature 게재 논문 《Subliminal Learning》의 발견을 정리했다.
벤치마크 1등이 탈락한 이유: 독파모 4파전과 AI 생태계의 본질
글로벌 벤치마크 상위권을 기록하고도 정부 지원 사업에서 탈락하며 화제가 된 독자 파운데이션 모델(독파모) 선발 결과의 배경을 살펴보고, 벤치마크 점수와 실사용감의 괴리, 하네스와 서빙 인프라의 중요성, 지속학습의 미래를 분석했다.
8B 모델로 오퍼스 4.5에 필적하다: 메타의 에보하네스-RL과 BPE 3분할 아키텍처
메타와 UIUC가 공개한 EvoHarness-RL을 분석했다. 에이전트 외부 실행 환경(하네스)을 신념·진행·경험의 3가지 BPE 상태로 추상화하고, 비용 고려 GRPO 강화학습으로 하네스 어닐링과 자가 진화를 달성한 원리와 개인 로컬 모델 적용 방안을 정리했다.
GlucoFM: 혈당 곡선을 두 갈래로 나눠 학습한 CGM 파운데이션 모델
구글 리서치가 공개한 연속 혈당 측정(CGM) 파운데이션 모델 GlucoFM을 분석했다. 한 줄로 얽혀 있던 혈당 시계열을 느린 기저 대사와 빠른 식후 변동으로 분리해 학습한 원리, 72만 개 파라미터로 거대 모델을 제친 벤치마크와 시사점을 정리했다.
구글 클라우드 사례로 본 에이전트 하네스(Harness)
AI 에이전트의 성패를 가르는 뼈대인 하네스(Harness)의 개념을 구글 클라우드 공식 문서를 바탕으로 짚어보고, 도구 연결과 상태 관리, 샌드박스 격리, 궤적 분기, 장애 복구 런타임이 왜 프로덕션 AI의 필수 인프라인지 정리했다.
개체 지능에서 시스템 지능으로: LLM 에이전트를 위한 그래프 엔지니어링 분석
단일 에이전트 루프의 한계를 넘어, 이종 노드와 동적 토폴로지로 거대 시스템 지능을 구축하는 그래프 엔지니어링(Graph Engineering) 서베이 논문(arXiv:2608.21156)을 알기 쉽게 분석했다.
훈련 없이 확률값으로 에이전트를 검증하는 LLM-as-a-Verifier 분석
별도의 보상 모델 훈련 없이 일반 LLM의 로짓 확률 분포를 기댓값으로 계산해 에이전트 궤적을 초정밀 검증하는 스탠퍼드, UC 버클리, NVIDIA 연구진의 논문 《LLM-as-a-Verifier: A General-Purpose Verification Framework》 핵심 원리와 활용법을 정리했다.
장기 실행과 자가 개선을 위한 Prime Agent와 RLM 하네스 분석
Prime Intellect가 공개한 오픈소스 코딩 및 자율 연구 에이전트 Prime Agent(arXiv:2608.23552)의 RLM 패러다임, 지속적 하네스 자가 개선 메커니즘, 그리고 도커 샌드박스 격리 필요성을 정리했다.
카카오의 2단계 하이퍼파라미터 전이 기술 분석
10조 토큰 거대 MoE도 작은 모델로 예측한다. 카카오 AI 연구진의 최신 논문(Let’s Scale Step by Step)을 통해, 155B 대규모 MoE 모델의 최적 학습률을 1% 미만의 적은 비용으로 사전 예측하는 μP 확장과 토큰 스케일링 법칙을 알기 쉽게 분석했다.
sPTC(추측적 프로그래밍 도구 호출) 분석
코드가 다 완성될 때까지 기다리지 않는다. MIT CSAIL Alex Zhang이 제안한 sPTC를 살펴보고, LLM이 코드를 생성하는 동안 도구 호출을 미리 가로채 비동기로 실행하는 JIT 스타일 최적화 원리와 벤치마크, 한계점을 정리했다.
샤워 후 2분, 스퀴지로 화장실 곰팡이와 영원히 이별하는 법
물때와 곰팡이로 고통받던 습식 욕실을 뽀송뽀송한 반건식으로 바꾸는 사소하지만 가장 강력한 하루 2분 습관.
Liquid AI의 LFM2.5-DSpark 추측 디코딩 분석
H100부터 맥북까지 최대 3.2배 속도를 끌어올린 Liquid AI의 LFM2.5 전용 DSpark 추측 디코딩 모델을 살펴보고, 메모리 대역폭 병목을 넘어서는 원리와 온디바이스 에이전트 가속, MoE 모델에서의 흥미로운 한계와 시사점을 정리했다.
도서관 서가 정리 봉사에서 만난 《100인생 그림책》
도서관 서가 정리 봉사 후기. 아이들의 엄청난 독서량에 일감이 쌓여가는 웃픈 순간부터, 서가 정리 중 우연히 발견해 마음에 깊은 위로를 준 《100인생 그림책》까지의 2시간 봉사 에세이.
1365에서 부담 없는 단기 도서관 봉사 찾고 신청하기
직장인의 첫 봉사활동 도전기. 주말 시간을 해치지 않는 단기·1회성 봉사를 1365 자원봉사포털에서 검색하고, 헷갈리기 쉬운 승인 대기 절차를 거쳐 확정받기까지의 실전 가이드와 후기.
8GB 노트북에서 35B를 39.3 tok/s로 돌리는 엣지 MoE 서빙 시스템 FreeToken 정리
내 컴퓨터를 작은 GPU가 아닌 하나의 플랫폼으로 볼 때 일어나는 변화. UC Berkeley 연구진이 공개한 오픈소스 로컬 MoE 서빙 시스템 FreeToken 논문 《FreeToken: Efficient Edge-Native MoE Serving with Bandwidth-Adaptive Execution》을 읽고, 대역폭 적응형 실행과 탄력적 캐시 원리를 정리했다.
앉아서 소변보기로 바꾼 이유
권유로 시작해서 다투기까지 했던 습관인데, 지금은 스스로가 더 만족하고 있다.
경량 모델에게 플래그십 모델의 암호문을 그냥 읽어보라고 했더니, 정말 읽어냈다
AI 서비스가 답을 내놓기 전에 거치는 사고 과정(Reasoning Traces)을 암호로 감싸 돌려주는 방식의 치명적 허점을 밝힌 논문 《Stealing Reasoning Traces from Proprietary LLM APIs》를 분석했다.
에이전트 메모리, "잘 정리된 요약"보다 "버리지 않은 원문"이 나은 이유
에이전트 메모리 시스템 12개를 분석한 논문 《Are We Ready For An Agent-Native Memory System?》을 통해, 작업 성격에 맞는 메모리 구조의 중요성과 하네스 추가의 딜레마를 정리했다.
사진을 도트(픽셀아트)로 바꾸는 도구 만들기
캔버스로 사진을 픽셀아트로 바꿨다. 부드럽게 늘리기를 끄는 것, 정수 배율로만 확대하는 것, 색을 줄이는 방법과 저장 형식을 PNG로 고정한 이유를 정리했다.
재료를 벡터로 만들면 "좀 더 인도식으로"가 계산이 된다
KAIKAKU.AI의 Epicure 논문을 읽고, 맛과 향이라는 주관적 감각을 요리 맥락 안에서 어떻게 수학적으로 다루는지 정리했다.
AI 유니콘 317곳 중 절반은 논문을 한 편도 내지 않았다
기업 가치 10억 달러가 넘는 AI 유니콘 317곳의 학술 활동을 전수 조사한 최신 메타 연구를 통해, 학계와 실리콘밸리 사이의 극단적 단절과 "판을 연 자들이 문을 닫는" AI 생태계의 역설을 분석했다.
Claude Code 한글이 깨지는 문제
한글이 깨지는 게 아니라 멀쩡한 다른 글자로 바뀌는 증상이 있다. 원인과 해결책을 찾아보고 설정에 반영했다.
기억을 모델 안에 두겠다는 시도: Metis 분석
AI의 기억을 외부 저장소가 아니라 모델 내부의 기본 능력으로 만들자는 논문 《Metis: Memory Foundation Model》을 분석했다. 그라디언트 없는 순전파 메모리 갱신 원리, 고정 크기 메모리의 효율, 그리고 직접 최소 코드로 재현해본 실험 결과를 정리했다.
Astro와 Cloudflare Workers로 블로그 만들기
도메인 구입부터 자동 배포까지, 실제로 밟은 순서대로 정리했다. 각 단계에서 막혔던 지점과 해결 방법을 함께 적었다.
블로그를 시작하며
기록을 남겨두려고 블로그를 열었다. 왜 만들었고 앞으로 무엇을 쓸 계획인지 적어둔다.