던스커버리 | Dawnscovery

개체 지능에서 시스템 지능으로: LLM 에이전트를 위한 그래프 엔지니어링 분석

지금까지 우리는 AI를 더 똑똑하게 만들기 위해 주로 세 가지 방법에 집중해 왔다.

첫째는 더 크고 똑똑한 파운데이션 모델을 훈련시키는 모델 지능(Model Intelligence)이었고, 둘째는 질문을 정교하게 다듬는 프롬프트 및 컨텍스트 엔지니어링(Prompt & Context Engineering)이었으며, 셋째는 단일 에이전트에게 도구와 메모리를 쥐여주고 반복 루프를 돌리는 루프 및 하네스 엔지니어링(Loop & Harness Engineering)이었다.

하지만 최신 프론티어 모델 하나에게 수백 줄의 지시문과 10여 개의 복잡한 도구를 쥐여주고 대규모 프로젝트를 통째로 맡기면 여전히 허우적거린다.

컨텍스트 창이 길어질수록 과업에 필요한 정보들이 한정된 용량을 두고 서로 밀어내는 컨텍스트 용량 경합이 일어나고, 모든 과정을 한 줄로 차례차례 처리하다 보니 속도가 느려지며, 중간에 오류가 났을 때 시스템 전체가 멈춰버리는 한계에 봉착하기 때문이다.

최근 발표된 대규모 서베이 논문 《Graph Engineering in the Era of LLM Agents: From Individual Intelligence to System Intelligence》 [1] 은 이러한 단일 개체 지능의 병목을 해결할 차세대 패러다임으로 그래프 엔지니어링(Graph Engineering)을 제시한다.

논문이 정의하는 3단계 지능 발전 과정과 핵심 구조, 그리고 왜 멀티 에이전트 시스템의 성패가 그래프 토폴로지 설계에 달려 있는지 알기 쉽게 정리했다.

1. AI 지능의 3단계 진화: 모델에서 시스템으로

논문은 LLM을 활용한 시스템 구축의 역사를 세 단계 지능의 발전으로 명쾌하게 구분한다.

지능 발전 단계 핵심 제어 엔지니어링 주요 구성 및 협업 방식
Level 3: 시스템 지능 그래프 엔지니어링 다수의 이종 노드와 동적 토폴로지로 집단 지성 구축
Level 2: 개체 지능 루프 & 하네스 엔지니어링 도구, 기억, 런타임 루프를 갖춘 단일 자율 에이전트
Level 1: 모델 지능 프롬프트 & 컨텍스트 엔지니어링 단일 LLM 가중치와 지시문 최적화 (순수 모델 추론력)
  1. 모델 지능 (Model Intelligence): 파운데이션 모델의 매개변수 가중치에 담긴 순수한 추론 능력.
  2. 개체 지능 (Individual Intelligence): 단일 LLM이 도구(Tool)를 부르고 반성(Reflection)하며 혼자 문제를 해결하는 독립된 에이전트.
  3. 시스템 지능 (System Intelligence): 서로 다른 전문성을 가진 여러 에이전트와 결정론적 코드, 인간 관리자가 명시적인 그래프 구조 위에서 협업하는 집단 지성.

논문은 한 명의 천재(단일 LLM)에게 모든 업무를 다 떠넘기는 방식은 한계에 다다랐으며, 이제는 조직도와 업무 프로세스(그래프 구조)를 얼마나 정교하게 설계하느냐가 시스템 성능을 결정한다고 강조한다.

2. 그래프의 노드는 무엇인가: 논문의 정의와 실무 분류

먼저 밝혀둘 것이 있다. 논문은 에이전트·결정론·라우터·휴먼이라는 고정된 네 가지 노드 유형을 정의하지 않는다. 그래프 뷰마다 노드의 의미가 달라서, 작업 그래프에서는 하위 과업과 중간 목표, 역량 그래프에서는 에이전트·스킬·도구·모델·자원, 통신 그래프에서는 에이전트 또는 인간 참여자다. 아래 4분류는 실무에서 쓰기 좋게 필자가 다시 묶은 것이다.

그래프 엔지니어링 시스템은 단순히 LLM끼리 대화만 주고받는 것이 아니다. 시스템의 안전성과 예측 가능성을 높이기 위해 서로 다른 성격을 가진 네 가지 노드를 유기적으로 연결한다.

     ┌────────────────┐
     │ 1. Agent Node  │ ── (창의적 추론 / 도구 선택)
     └───────┬────────┘
             │
     ┌───────▼────────┐
     │ 2. Deter. Node │ ── (100% 검증된 Python / SQL / 계산)
     └───────┬────────┘
             │
     ┌───────▼────────┐
     │ 3. Router Node │ ── (조건부 분기 / 정책 가드레일)
     └───────┬────────┘
             │
     ┌───────▼────────┐
     │ 4. Human Node  │ ── (인간 검토 / 결제 승인 / HITL)
     └────────────────┘
노드 유형 주요 역할 특징 및 예시
에이전트 노드 (Agent Node) 복잡한 상황 판단, 전략 수립, 텍스트 생성 LLM 두뇌 기반의 유연한 비결정론적 추론
결정론 노드 (Deterministic Node) 수학 계산, DB 쿼리, 정적 파싱, 단위 테스트 100% 정답이 보장되는 순수 코드 실행
라우터 노드 (Router Node) 실행 조건 평가 및 다음 단계 분기 보안 규칙 검사, 예산 초과 감지, 경로 우회
휴먼 체크포인트 (Human Node) 최종 배포 승인, 금융 결제 확인, 윤리 검토 인간 참여(Human-in-the-Loop) 통제점

이처럼 불확실성이 있는 LLM 추론 영역과 제어 가능한 코드 영역을 분리하면 실무에서 효과가 크다. 다만 논문이 규정하는 그래프 엔지니어링의 핵심은 조금 더 넓다. 4.1절은 시스템 지능의 핵심을 과업·구성 요소·런타임 상태 사이의 관계를 체계적으로 통치하는 것으로 정의하고, 그래프 구조를 그 관계를 외부화하는 기반으로 삼는다.

3. 그래프 엔지니어링의 세 가지 뷰

논문은 그래프 엔지니어링을 세 개의 상호 연결된 뷰로 조직한다. 작업 조직(Task Organization)은 목표를 실행 단위로 쪼개 의존·순서·동시성 제약을 표현하고, 에이전트 조율(Agent Coordination)은 그 단위를 이종 구성 요소에 배정하며, 런타임 상태 관리(Runtime State Management)는 상태를 기록해 결함을 국소화하고 실패를 복구한다. 아래에서는 앞의 두 뷰를 중심으로 살펴본다.

논문은 멀티 에이전트 시스템을 지탱하는 그래프를 시간과 성격에 따라 두 축으로 구분한다.

1) 조직 그래프 (Org Graph)

  • 개념: 회사의 조직도나 표준 업무 절차(SOP)처럼 시스템에 미리 정적으로 정의된 불변의 뼈대.
  • 역할: “어떤 에이전트가 어떤 도구를 쓸 수 있는가?”, “개발자 에이전트의 결과물은 누구에게 검수를 받아야 하는가?“와 같은 권한과 위계질서를 규정한다.

2) 작업 그래프 (Work Graph)

  • 개념: 사용자의 복잡한 요구사항이 들어왔을 때, 런타임에 동적으로 만들어지는 일회성 방향성 비순환 그래프(DAG).
  • 역할: 목표를 달성하기 위한 세부 하위 과업들의 병렬 실행 순서와 의존 관계를 실시간으로 조율한다.
[ 비유로 이해하기 ]
• 조직 그래프 (Org Graph) = 기업의 직급 체계와 결재 라인 규정 (정적 헌법)
• 작업 그래프 (Work Graph) = 특정 프로젝트를 위해 만들어진 칸반 보드와 일정표 (동적 실행 계획)

4. 단일 루프 시스템 vs 그래프 엔지니어링 비교

기존의 ReAct 스타일 단일 루프 에이전트와 시스템 지능 기반의 그래프 엔지니어링을 비교하면 다음과 같은 차이가 두드러진다.

비교 항목 기존 단일 루프 에이전트 (Loop) 그래프 엔지니어링 시스템 (Graph)
실행 방식 1단계씩 순차 실행 (직렬 병목) 독립된 하위 과업 동시 처리 (고속 병렬)
컨텍스트 관리 단일 대화창에 모든 히스토리 누적 (오염 위험) 노드 단위로 필요한 정보만 격리 전달
오류 복구 실패 시 전체 루프 중단 실패한 서브 그래프 노드만 국소 재시도
사람의 개입 시스템 중단 후 수동 디버깅 필요 특정 노드에 승인 대기 체크포인트 지정
아키텍처 가시성 블랙박스형 텍스트 로그 시각적으로 관찰 가능한 노드/링크 토폴로지

5. 시사점: 왜 그래프 토폴로지가 궁극의 경쟁력이 되는가?

우리는 종종 “더 강력한 GPT나 Gemini가 나오면 모든 엔지니어링 프레임워크가 무용지물이 되는 것 아니냐”는 질문을 던진다.

논문이 직접 답하는 질문은 아니다. 다만 논문은 초록에서 개별 에이전트의 능력이나 컨텍스트를 늘리는 것만으로는 이 구조적 불일치를 해소할 수 없다고 못박고, 결론에서는 시스템 수준 지능이 모델이나 에이전트를 더 붙이는 데서가 아니라 일·행위자·상태 사이의 관계를 명시적으로 조직하는 데서 온다고 정리한다.

  1. 복제 불가능한 도메인 지식의 집약체: 프롬프트 한 줄은 누구나 쉽게 복사할 수 있지만, 사내 업무 프로세스와 예외 처리 로직이 촘촘하게 녹아든 그래프 토폴로지는 경쟁사가 단기간에 따라잡을 수 없다.
  2. 모듈식 모델 스왑(Model Agnostic): 추론 노드는 Gemini Flash로 가볍게 돌리고, 기획 노드는 Claude Opus로 돌리며, 코드 검증은 정적 테스트 코드로 분리해 비용과 성능을 극대화할 수 있다.

6. 마치며

AI 에이전트의 발전 흐름은 한 명의 만능 일꾼을 기르는 단계에서, 각자의 전문성을 가진 팀원들이 유기적으로 협력하는 조직을 설계하는 단계로 진화하고 있다.

거대하고 복잡한 엔터프라이즈 과제를 성공적으로 자동화하고 싶다면, 단일 프롬프트의 마법에 기대는 대신 명확한 노드 분리와 견고한 그래프 토폴로지를 먼저 구축해야 한다.

참고 문헌

  • [1] Feng, Y., Xiang, Z., Yang, C., et al. (2026). Graph Engineering in the Era of LLM Agents: From Individual Intelligence to System Intelligence. arXiv preprint arXiv:2608.21156.
  • [2] Open Source Repository: DEEP-JLU/Awesome-Graph-Engineering

관련 글