앞 단계의 결과를 뒤 단계가 그대로 받아 쓰는 차례형 구성에서 오류가 커집니다. 단계마다 오류가 따로 생기고 뒤 단계가 걸러 내지 못한다고 가정하면, 단계마다 95%가 맞아도 다섯 단계를 거친 뒤에는 약 77%만 맞습니다(0.95⁵ ≈ 0.774, 계산 예시).
여기서 멀티 에이전트는 여러 AI 에이전트가 일을 나눠 맡고 결과를 주고받으며 하나의 목표를 처리하는 구성이고, AI 에이전트는 언어 모델에 도구와 규칙을 묶어, 사람의 요청이나 정해 둔 시각·사건에 따라 여러 단계의 일을 이어 처리하는 프로그램입니다.
반대로 서로 기대지 않는 조사를 나눠 맡긴 시험에서는 여러 에이전트 구성이 단일 에이전트보다 나았습니다. AI 모델 Claude를 만드는 Anthropic은 2025년 6월, 조사 일을 나눠 맡긴 자사 멀티 에이전트 시스템이 단일 에이전트보다 내부 조사 평가에서 90.2% 높은 성적을 냈다고 밝혔습니다(Anthropic, 2025년 6월).
어느 쪽이 될지는 맡기는 일의 성격에 달려 있습니다. 2026년 4월에 고친 판이 나온 한 연구는 에이전트 구성 260가지를 비교했는데, 단일 에이전트 대비 성적의 변화가 나눠 풀 수 있는 금융 추론 과제의 80.8% 상승부터 차례로 이어지는 계획 과제의 70.0% 하락까지 걸쳐 있었다고 보고했습니다(Kim 외, 2026).
멀티 에이전트 시스템은 무엇인가요?
멀티 에이전트 시스템은 여러 AI 에이전트에게 일을 나눠 맡기고, 한 에이전트의 결과를 다른 에이전트가 받아 쓰거나 모아서 하나의 답을 만드는 시스템입니다. 에이전트마다 지시문과 도구가 다를 수 있고, 같은 모델을 여러 개 실행해 쓰기도 합니다.
Anthropic의 조사 시스템에서는 주 에이전트가 질문을 분석해 조사 전략을 세우고, 여러 하위 에이전트를 만들어 질문의 여러 측면을 동시에 찾게 한 뒤 결과를 모읍니다. 이 구성에서 주 에이전트는 Claude Opus 4, 하위 에이전트는 Claude Sonnet 4였고, 비교 대상은 Claude Opus 4 하나로 된 단일 에이전트였습니다(Anthropic, 2025년 6월).
오류가 어떻게 번지는지는 에이전트끼리 결과를 주고받는 방식에 따라 달라집니다. 앞 에이전트의 결과를 다음 에이전트가 이어 받는 차례형 구성에서는 앞의 오류가 뒤로 넘어가고, 서로 다른 부분을 따로 맡긴 구성에서는 한 에이전트의 오류가 다른 에이전트의 일에 바로 섞이지는 않습니다.
멀티 에이전트에서 오류는 언제 단계마다 불어나나요?
앞 단계의 결과를 뒤 단계가 확인하지 않고 그대로 쓸 때 오류는 단계마다 불어납니다. 단계마다 맞을 확률이 p이고 오류가 서로 따로 생기며 뒤 단계가 걸러 내지 못한다면, n단계를 거친 결과가 맞을 확률은 p를 n번 곱한 값이 됩니다.
그래서 단계마다의 정확도가 조금만 낮아도, 단계가 늘면 전체 정확도는 크게 떨어집니다. 아래는 같은 가정으로 계산한 예시입니다.
| 단계마다 맞을 확률 | 3단계 뒤 | 5단계 뒤 | 10단계 뒤 |
|---|---|---|---|
| 99% | 97.0% | 95.1% | 90.4% |
| 95% | 85.7% | 77.4% | 59.9% |
| 90% | 72.9% | 59.0% | 34.9% |
실제 시스템은 이 가정과 다릅니다. 뒤 단계가 앞의 오류를 잡아내면 전체 정확도는 계산보다 높아지고, 앞의 오류가 뒤 단계의 판단을 다른 방향으로 끌고 가면 더 낮아집니다. Anthropic은 에이전트가 앞의 상태를 이어 가며 일하므로 오류가 쌓이고, 작은 변화가 큰 동작 변화로 번지며, 한 단계가 실패하면 에이전트가 전혀 다른 경로로 일을 풀어 가기도 한다고 설명합니다(Anthropic, 2025년 6월).
결과를 책임져야 하는 일인지에 따라 이 누적의 무게도 달라집니다. 여러 초안을 많이 만들어 사람이 그중 하나를 고르는 일이라면 일부가 틀려도 감당할 수 있지만, 계약서나 시험 성적서처럼 틀린 문장 하나가 비용이 되는 문서에서는 단계마다 쌓인 오류가 그대로 위험이 됩니다.
멀티 에이전트가 단일 에이전트보다 나은 일은 무엇인가요?
서로 기대지 않는 여러 방향을 동시에 찾아야 하는 넓은 조사에서 멀티 에이전트가 나았습니다. Anthropic은 자사 조사 시스템이 이런 넓게 퍼지는 질문과 병렬로 나눌 수 있는 일에서 특히 강하다고 밝혔고, 정보 기술 업종 S&P 500 기업의 이사회 구성원을 모두 찾는 질문에서 단일 에이전트는 느린 순차 검색으로 답을 찾지 못했지만 멀티 에이전트는 일을 나눠 맡겨 맞는 답을 찾았다고 소개했습니다(Anthropic, 2025년 6월).
대가는 비용입니다. Anthropic이 2025년 6월에 공개한 같은 글에 따르면 에이전트는 일반 채팅보다 토큰(모델이 글을 잘게 나눠 읽고 쓰는 단위)을 약 4배, 멀티 에이전트 시스템은 약 15배 썼습니다. 같은 글에서 Anthropic이 웹 탐색 평가 BrowseComp의 결과를 분석한 바로는, 성적 차이의 80%를 토큰 사용량 하나가 설명했습니다(Anthropic, 2025년 6월). Anthropic은 모든 에이전트가 같은 컨텍스트를 공유해야 하거나 에이전트 사이에 기대는 부분이 많은 일은 아직 멀티 에이전트에 맞지 않고, 대부분의 코딩 과제는 조사보다 병렬로 나눌 부분이 적다고 덧붙였습니다(Anthropic, 2025년 6월).
여러 에이전트가 서로의 답을 읽고 고치는 방식이 나았던 연구도 있습니다. MIT와 구글 브레인의 연구진은 ChatGPT 계열 모델로 에이전트 셋이 두 차례 토론하게 했더니, 단일 에이전트보다 산수 정답률이 67.0%에서 81.8%로, 초등 수학 문장제 모음 GSM8K의 정답률이 77.0%에서 85.0%로 올랐다고 보고했습니다. 컴퓨터 과학자 524명의 약력을 쓰게 한 시험에서도 실제 약력 항목과 맞게 쓴 비율이 66.0%에서 73.8%로 올랐습니다(Du 외, 2023).
AI가 다른 AI의 답을 평가하면 어떤 치우침이 생기나요?
AI 평가자는 답의 순서와 길이에 따라 판정이 기울 수 있고, 자기가 쓴 답을 더 좋게 볼 가능성도 지적되었습니다. 언어 모델을 평가자로 쓰는 방식을 분석한 2023년 연구는 이 세 가지를 순서 치우침, 장황함 치우침, 자기 우대 치우침이라고 불렀습니다(Zheng 외, 2023).
언어 모델을 평가자로 쓰는 방식을 분석한 2023년 연구에서 질문 80개마다 비슷한 답 두 개를 만들어 순서만 바꿔 다시 물었을 때, 같은 판정을 유지한 비율은 GPT-4가 65.0%, GPT-3.5가 46.2%, Claude-v1이 23.8%였고, Claude-v1은 75.0%의 경우에 먼저 놓인 답을 골랐습니다(Zheng 외, 2023). 새 정보 없이 목록을 말만 바꿔 한 번 더 붙인 답 23개를 원래 답보다 낫다고 판정한 비율은 Claude-v1과 GPT-3.5가 91.3%, GPT-4가 8.7%였습니다(Zheng 외, 2023).
자기 우대는 덜 분명했습니다. GPT-4는 자기 답의 승률을 사람보다 10%, Claude-v1은 25% 높게 보았지만 다른 모델의 답도 높게 본 경우가 있었고 GPT-3.5는 자기 답을 우대하지 않아, 연구진은 자료가 적어 자기 우대가 있다고 단정할 수 없다고 적었습니다. 같은 연구는 GPT-4 같은 강한 평가자가 사람의 선호와 80% 넘게 일치해 사람끼리 일치하는 수준에 이르렀다는 결과도 함께 보고했습니다(Zheng 외, 2023).
멀티 에이전트의 오류가 커진다는 것은 어떤 연구로 확인되었나요?
공개된 멀티 에이전트 시스템 7종의 실행 기록을 분석한 연구는 이 시스템들의 실패율이 41%에서 86.7%에 이르렀고, 실패가 모델의 한계만이 아니라 일을 나누고 조율하는 설계에서도 많이 나왔다고 보고했습니다(Cemri 외, 2025).
이 연구는 1,600건이 넘는 실행 기록에 실패 유형을 표시해, 실패를 시스템 설계, 에이전트 사이의 어긋남, 결과 확인의 세 범주와 14가지 유형으로 나눴습니다. 가장 흔한 유형은 같은 단계를 되풀이하는 것(15.7%), 추론과 실제 행동이 어긋나는 것(13.2%), 일이 끝났는지 알아채지 못하는 것(12.4%)이었고, 결과를 잘못 확인하거나(9.1%) 확인하지 않거나 덜 확인하는 것(8.2%)도 있었습니다(Cemri 외, 2025).
앞의 260가지 구성을 비교한 연구는, 단일 에이전트의 성적이 이미 높은 일에서는 에이전트를 더 붙여도 얻는 이득이 줄어든다고 보고했습니다(Kim 외, 2026).
운영 중에 드러난 실패도 있습니다. Anthropic은 초기 조사 시스템에서 단순한 질문에도 하위 에이전트를 50개나 만들거나, 있지도 않은 자료를 찾아 웹을 끝없이 뒤지거나, 에이전트끼리 지나치게 잦은 진행 보고로 서로를 방해하는 일이 있었다고 밝혔습니다. 주 에이전트가 하위 에이전트들이 모두 끝날 때까지 기다리는 글을 쓸 당시의 방식은 조율이 단순한 대신, 실행 도중에 방향을 바꾸거나 하위 에이전트끼리 맞춰 볼 수 없어 병목이 된다고도 적었습니다(Anthropic, 2025년 6월).
AI 에이전트의 기본부터 보려면 무엇을 읽으면 되나요?
에이전트가 일을 시작하는 계기와 맡기기 좋은 일은 "AI 에이전트는 스스로 일을 찾아서 하나요?"에서, AI가 근거 없는 내용을 사실처럼 쓰는 현상은 "할루시네이션이란? AI 환각의 뜻과 원인, 문서 업무에서 나타나는 모양"에서 다룹니다. 다른 질문은 AX 가이드의 에이전트와 하네스에서 찾을 수 있습니다.
이 글의 근거와 한계
이 글은 Anthropic의 기술 글(2025년 6월)과 논문 네 편(Du 외, 2023; Zheng 외, 2023; Cemri 외, 2025; Kim 외, 2026)을 바탕으로 정리했고, 모두 2026년 11월 4일에 원문을 확인했습니다. Anthropic의 90.2%는 자사 내부 평가의 결과이고, 각 연구의 수치는 그 연구가 쓴 모델과 과제에서 나온 값이라 지금의 모델이나 회사 업무에서도 같은 크기로 나타난다고 볼 수는 없습니다. 0.95⁵ 같은 계산은 오류가 따로 생기고 걸러지지 않는다고 가정한 예시이며, 계약서와 초안의 예는 설명을 위해 지어낸 것입니다.