챗봇은 주로 응답을 만들고, 워크플로는 코드가 경로를 정하며, 에이전트는 제한된 범위에서 모델이 다음 행동과 도구를 선택합니다.
같은 대화 화면에서도 내부 결정 구조는 전혀 다를 수 있습니다. 답변만 생성하는 챗봇, 정해진 순서의 자동화, 모델이 상황에 따라 다음 도구를 고르는 에이전트를 이름만으로 구분하면 권한과 위험을 놓칩니다. 핵심은 결정 경로와 외부 영향입니다.
AI 핵심 지식 52편 중 34편입니다. 제품 화면이 바뀌어도 남는 원리와 판단 기준을 다룹니다.
결정 경로와 권한 비교
| 구조 | 다음 단계를 정하는 주체 | 외부 상태 변화 |
|---|---|---|
| 챗봇 | 사용자 대화와 응답 규칙 | 보통 없음 또는 별도 명시 호출 |
| 워크플로 | 코드에 정의된 분기와 순서 | 미리 정한 단계에서 제한적으로 발생 |
| 에이전트 | 가드레일 안에서 모델이 동적 선택 | 도구 권한에 따라 반복적으로 발생 |
구조를 선택하는 순서
- 업무의 가능한 경로와 예외를 코드로 명시할 수 있는지 본다.
- 모델이 결정해야 할 모호한 지점과 필요한 도구를 최소화한다.
- 각 행동의 권한·영향·승인·중단 조건을 상태도로 적는다.
- 가장 단순한 챗봇·워크플로 기준선과 에이전트 이득을 비교한다.
챗봇은 대화 인터페이스이지 권한 수준의 이름이 아니다
챗봇은 사용자의 메시지를 받고 답을 반환하는 상호작용 형태를 가리키는 경우가 많습니다. 내부적으로 검색을 사용할 수 있고 몇 가지 도구를 호출할 수도 있지만, 핵심은 대화 응답이 주된 산출물이라는 점입니다. 사용자가 매 단계 질문을 보내고 시스템이 답한 뒤 끝난다면 모델이 장기 실행 경로를 자율적으로 관리하지 않습니다. 그러나 대화 화면 뒤에서 이메일 전송이나 데이터 변경이 자동으로 일어난다면 단순 챗봇이라는 이름으로 위험을 낮게 볼 수 없습니다. 분류할 때는 화면이 아니라 모델이 외부 상태를 바꿀 권한이 있는지, 몇 단계를 스스로 이어 갈 수 있는지, 사용자가 언제 승인하는지 확인합니다. 정보 제공만 하는 챗봇도 민감 문서 접근과 환각 위험은 있지만 행동의 직접 영향은 상대적으로 제한할 수 있습니다. 질문 답변에 충분한 업무라면 동적 에이전트를 추가하지 않는 것이 평가와 운영을 단순하게 만듭니다. 대화형이라는 이유만으로 에이전트라고 부르거나, 챗봇이라는 이유로 권한 검토를 생략해서는 안 됩니다.
워크플로는 코드가 결정 경로를 소유한다
워크플로는 단계와 분기, 재시도, 승인, 종료 조건이 코드나 구성에 미리 정의된 시스템입니다. 모델은 각 단계에서 분류·요약·추출을 수행할 수 있지만 다음 단계의 선택은 주로 정해진 규칙이 담당합니다. 입력 형식과 예외가 비교적 안정적이고 감사 가능성이 중요한 업무에 적합합니다. 같은 입력이 어느 경로를 거치는지 설명하기 쉽고, 위험 행동 앞에 고정 승인 지점을 둘 수 있습니다. 반면 현실의 예외가 너무 많거나 자연어 판단을 코드로 모두 열거하기 어렵다면 분기 수가 급격히 늘 수 있습니다. 모델을 워크플로 안에 넣었다고 모든 경로가 결정적이 되는 것은 아닙니다. 모델 출력이 분기 조건이라면 오분류와 변동을 평가해야 합니다. 그래도 허용된 다음 단계 집합을 코드가 제한하므로 영향 범위를 작게 유지할 수 있습니다. 먼저 워크플로로 해결 가능한 범위를 만들고, 반복해서 막히는 모호한 지점이 실제로 있는지 확인한 뒤 동적 결정을 추가하는 것이 안전합니다.
에이전트는 다음 행동 선택을 모델에 위임한다
에이전트 구조에서는 모델이 현재 목표와 관찰을 바탕으로 다음 도구, 인수, 반복 여부, 완료 또는 사람 호출을 동적으로 선택합니다. Anthropic의 구분처럼 워크플로가 미리 정한 코드 경로를 따르는 반면 에이전트는 자신의 프로세스와 도구 사용을 더 직접적으로 조정합니다. 이 유연성은 검색을 여러 번 반복하거나 예외를 해석해야 하는 복잡한 과업에 도움이 될 수 있습니다. 동시에 잘못된 판단이 여러 단계로 누적되고 비용과 지연, 외부 영향이 커질 수 있습니다. 모델에게 결정을 위임하더라도 사용 가능한 도구, 데이터, 호출 횟수, 시간, 비용, 쓰기 권한은 시스템이 제한해야 합니다. 완료 조건과 최대 반복, 사람에게 넘기는 조건을 명시합니다. 매 단계 환경의 실제 상태를 관찰하고 이전 추정과 다른지 확인해야 합니다. 에이전트라는 명칭은 더 높은 품질을 보장하지 않으며, 동적 선택이 필요한 문제와 그 이득을 검증할 평가 세트가 있을 때만 복잡성을 정당화할 수 있습니다.
선택 기준은 자율성보다 결정 책임이다
시스템을 선택할 때 ‘얼마나 똑똑해 보이는가’보다 누가 어떤 결정을 책임질지 먼저 정합니다. 정보 전달이면 챗봇, 경로가 명확하면 워크플로, 예외가 많고 다음 행동을 문맥에서 판단해야 하면 제한된 에이전트를 검토합니다. 같은 업무 안에서도 세 구조를 섞을 수 있습니다. 챗봇이 사용자의 목표를 확인하고, 워크플로가 승인된 절차를 실행하며, 에이전트가 정해진 읽기 도구 안에서 조사 경로를 선택할 수 있습니다. 각 경계에서 상태와 권한을 명시적으로 넘깁니다. 성공률뿐 아니라 잘못된 외부 변경, 불필요한 반복, 사람 개입, 중단 실패, 설명 가능성을 측정합니다. 에이전트가 더 많은 사례를 처리해도 고위험 오류가 늘면 전체 시스템에는 부적합할 수 있습니다. 권한을 작은 범위에서 시작하고 관찰 데이터를 통해 확대합니다. 명칭보다 결정 경로·도구 권한·상태 변화·중단 책임을 문서화하면 서로 다른 팀이 같은 구조를 이해하고 감사할 수 있습니다.
판단 체크리스트
- 다음 단계와 외부 행동을 누가 결정하는지 명시했는가
- 코드로 고정할 수 있는 경로와 모델 판단이 필요한 예외를 나눴는가
- 도구·횟수·시간·비용·쓰기 권한과 승인 지점이 제한되는가
- 완료·중단·사람 인계와 잘못된 상태 변화 지표를 평가하는가
자주 생기는 오해
- 도구를 하나라도 쓰면 에이전트다 — 고정된 코드가 호출을 정하면 워크플로일 수 있으며 핵심은 다음 행동의 결정 주체입니다.
- 에이전트는 워크플로보다 발전된 상위 단계다 — 유연성과 함께 비용·변동·권한 위험이 늘어 문제에 맞는 가장 단순한 구조가 우선입니다.
구조를 복잡하게 만들기 전 질문
| 상황 | 해석 | 다음 행동 |
|---|---|---|
| 답변 생성만 필요하다 | 외부 실행 경로가 없다 | 챗봇과 근거 검증으로 제한한다 |
| 단계·분기·승인을 열거할 수 있다 | 코드가 경로를 소유할 수 있다 | 워크플로를 우선한다 |
| 예외에 따라 도구·순서를 동적으로 골라야 한다 | 모델 결정이 실제 가치가 있다 | 제한된 에이전트와 중단 조건을 평가한다 |
자주 묻는 질문
검색을 여러 번 하는 챗봇은 에이전트인가요?
모델이 검색 여부와 질의를 반복 결정하면 에이전트적 요소가 있습니다. 고정 순서면 워크플로에 가깝습니다.
워크플로에도 LLM을 쓸 수 있나요?
가능합니다. 모델이 분류·추출을 하더라도 허용 경로와 분기를 코드가 소유할 수 있습니다.
에이전트의 권한은 어떻게 늘리나요?
읽기 전용 작은 범위에서 실패와 효과를 측정한 뒤 도구별 승인·롤백 조건을 검증하며 단계적으로 늘립니다.
세 구조를 한 시스템에 섞어도 되나요?
가능하지만 경계마다 목표, 상태, 권한, 실패 책임이 명확히 전달되어야 합니다.
관련 좌표
작성·검증 정보
- 작성·검토: AI좌표 편집부
- 원문 확인일: 2026-07-27
- 다음 재검토일: 2027-07-27
- 재검토 조건: 원 논문의 정정·철회, 표준 정의 변경, 장기 평가에서 핵심 반례가 확인될 때