IT/AI_용어

[AI][용어] AI 에이전트(Agent)란? 챗봇과 무엇이 다른가

GOMINQ 2026. 11. 17. 16:47
반응형

2025년 7월, 미국 SaaStr의 창업자 제이슨 렘킨(Jason Lemkin)은 AI 코딩 도구 Replit으로 앱을 만들고 있었습니다.

AI에게 코딩을 맡기고, 12일 동안의 개발 과정을 SNS에 공개하는 실험이었습니다.[1]

그런데 실험 9일째, AI가 앱의 운영 데이터베이스를 지워 버렸습니다.

임원 1,206명과 회사 1,196곳의 기록이 담긴 데이터베이스였습니다.[1]

렘킨은 그 전에 아무것도 수정하지 말라고 여러 번 지시해 둔 상태였습니다.

개발에서는 이런 기간을 코드 동결(Code Freeze)이라고 합니다. 오류를 막으려고 코드를 더 이상 건드리지 않는 기간이죠.

그런데도 AI는 직접 명령어를 실행했습니다. 나중에 이유를 묻자 자신의 판단이 잘못됐다고 인정했고요.[1]

그림 1. 코드 동결 중 데이터베이스를 삭제한 Replit AI (생성형 AI로 생성)

어이없는 일은 하나 더 있었습니다.

렘킨이 복구할 수 있느냐고 묻자, AI는 되돌리기(롤백)가 불가능하다고 답했습니다.

그런데 렘킨이 직접 롤백을 해 보니 데이터는 멀쩡히 돌아왔습니다.[1]

여기서 궁금해집니다. ChatGPT 같은 챗봇도 이런 사고를 칠 수 있을까요?

글만 주고받는 챗봇이라면 어렵습니다. 삭제 명령어를 알려줄 수는 있어도, 그걸 실제로 실행하는 건 사람이니까요.

하지만 Replit의 AI는 코드를 직접 작성하고 실행할 수 있는 도구와 권한을 갖고 있었습니다.

이처럼 목표를 위해 스스로 다음 행동을 정하고 도구를 쓰는 AI를 AI 에이전트(AI Agent)라고 부릅니다.


1. AI 에이전트란 무엇인가?

에이전트(Agent)는 최근에 생긴 말이 아닙니다.

대표적인 인공지능 교재인 Artificial Intelligence: A Modern Approach는 에이전트를 센서(Sensor)로 환경을 감지하고, 액추에이터(Actuator)로 환경에 행동을 가하는 존재로 설명합니다.[2]

로봇청소기가 좋은 예입니다.

센서로 장애물을 감지하고, 그에 따라 방향을 바꾸며 움직입니다. 이것도 인공지능에서 말하는 에이전트입니다.

그림 2. 환경을 감지하고 행동하는 에이전트 - 로봇청소기(생성형 AI로 생성)

요즘 말하는 AI 에이전트도 기본 원리는 같습니다.

다른 점은 어떤 행동을 할지를 언어 모델(LLM)이 정한다는 것입니다.

언어 모델 자체는 글을 받아 글을 내놓을 뿐입니다. 여기에 웹 검색, 파일 읽기와 수정, 프로그램 실행 같은 기능을 연결하면 실제로 일을 할 수 있게 됩니다.

이런 기능을 도구(Tool)라고 부릅니다.

예를 들어 이렇게 부탁했다고 해 보겠습니다.

"금요일에 비가 오면 현장체험학습 안내문을 실내 활동으로 고쳐 줘."

도구가 없는 챗봇은 날씨를 확인해 보라고 하거나, 비가 오면 이런 문구로 바꾸라고 알려 줄 겁니다. 안내문을 고치는 건 사용자 몫입니다.

에이전트는 날씨를 직접 확인하고, 비 예보가 있으면 안내문 파일을 열어 미리 정해 둔 실내 장소로 고칩니다. 물론 파일을 수정할 권한과 도구가 있을 때 이야기입니다.

그림 3. 같은 요청을 받았을 때 챗봇과 에이전트의 차이 (생성형 AI로 생성)

참고로 이건 서비스 이름으로 나뉘는 구분이 아닙니다.

요즘 ChatGPT도 검색이나 파일 작업 같은 도구를 쓸 수 있어서, 기능에 따라 에이전트처럼 움직이기도 합니다.

따져 볼 것은 이름이 아니라, 그 AI가 어떤 도구를 쓸 수 있고 다음 행동을 얼마나 스스로 정하느냐입니다.


2. 에이전트는 어떻게 작동할까? ReAct의 원리

언어 모델은 기본적으로 글을 입력받아 글을 내놓는 프로그램입니다.

그런 프로그램이 어떻게 검색을 하고 파일을 고칠까요?

원리는 단순합니다. 언어 모델이 어떤 도구를 어떤 값으로 실행할지 정해진 형식에 맞춰 요청하면, 연결된 프로그램이 실제로 실행하고 그 결과를 다시 모델에게 돌려줍니다.

금요일 날씨가 필요하다고 판단하면 날씨 검색을 요청하고, 프로그램이 가져온 예보를 읽고 나서 다음에 무엇을 할지 정하는 식입니다.

이걸 반복하면 글만 쓰던 모델도 여러 단계짜리 일을 해낼 수 있습니다.

2022년 프린스턴대와 구글 연구진이 발표한 ReAct가 이 방식을 체계적으로 정리한 연구입니다.[3]

이름은 Reasoning(추론)과 Acting(행동)을 합친 것이고, 과정은 생각(Thought) → 행동(Action) → 관찰(Observation)의 반복입니다.

무엇이 필요한지 판단하고, 도구를 쓰고, 그 결과를 확인합니다. 그리고 일이 끝날 때까지 이걸 되풀이합니다.

그림 4. 생각 → 행동 → 관찰을 반복하는 ReAct 구조 (생성형 AI로 생성)

 

안내문 예시를 이 순서로 풀어 보면 이렇습니다.

단계판단행동관찰 결과

1 금요일 날씨를 확인해야겠다 날씨 검색 강수확률 80%
2 비 예보가 있으니 안내문을 보자 안내문 파일 열기 장소가 ○○공원으로 되어 있음
3 미리 정한 실내 장소로 고치자 파일 수정 수정 완료
4 고친 내용을 알려주자 결과 보고 작업 종료

위 표는 작동 원리를 설명하기 위한 가상의 예시입니다.

2단계의 판단은 1단계의 관찰을 보고 나온 것입니다.

강수확률이 10%였다면 에이전트는 안내문을 열지 않고 거기서 멈추었을 겁니다. 순서가 미리 정해져 있는 게 아니라, 결과에 따라 달라지는 겁니다.

관찰에는 다른 효과도 있습니다.

앞서 할루시네이션 글에서 다뤘듯, 언어 모델은 확인하지 않은 내용을 그럴듯하게 지어내곤 합니다. 중간에 실제 정보를 찾아보면 지어낼 틈이 줄어듭니다.

AI가 '그럴듯하게 틀리는' 진짜 이유 (할루시네이션)

 

AI가 '그럴듯하게 틀리는' 진짜 이유 (할루시네이션)

2023년, 미국 뉴욕의 한 변호사가 법원에 제출한 서면 때문에 미국 법조계가 술렁였습니다.자기 주장을 뒷받침하려고 판례 6건을 인용했는데, 그중 단 한 건도 실제로 존재하지 않았기 때문입니

www.gominq.com

 

ReAct 연구에서도 위키백과 검색을 곁들이자, 추론만으로 답할 때보다 할루시네이션과 오류 전파가 줄었습니다.[3]

물론 검색 결과가 틀렸거나 AI가 그걸 잘못 읽으면 오류는 여전히 생깁니다.

모든 에이전트가 ReAct 형식을 그대로 따르는 건 아닙니다. 다만 도구를 쓰고, 결과를 확인하고, 다음 행동을 정한다는 기본 원리는 비슷합니다.[4]


3. 자동화와 AI 에이전트는 무엇이 다를까?

여기까지 읽으면 "그냥 자동화 프로그램이랑 같은 거 아냐?" 싶을 수 있습니다.

메일이 오면 요약해서 메신저로 보내는 프로그램은 이미 흔하니까요.

Claude를 만드는 Anthropic은 2024년에 공개한 글에서 이 둘을 구분했습니다.[4]

워크플로(Workflow)는 사람이 미리 정해 둔 순서대로 언어 모델과 도구를 실행하는 방식입니다.

"메일 수신 → 요약 → 메신저 전송"처럼요.

에이전트는 언어 모델이 작업 순서와 도구 사용을 그때그때 정합니다.

"오늘 온 중요한 메일 확인해서 처리해 줘"라고 하면, 메일을 읽은 뒤 답장을 쓸지, 일정을 확인할지, 자료를 더 찾아볼지를 스스로 판단합니다.

그림 5. 미리 정해진 순서로 움직이는 워크플로와 상황에 따라 행동을 정하는 에이전트 (생성형 AI로 생성)

워크플로도 조건문을 써서 여러 상황에 대응할 수는 있습니다. 다만 그 조건을 사람이 미리 다 짜 둬야 합니다.

그렇다고 에이전트가 늘 나은 건 아닙니다.

Anthropic은 오히려 가장 단순한 방법부터 쓰라고 권합니다. 순서가 분명하고 결과를 예측할 수 있어야 하는 일이라면 워크플로가 더 맞다는 겁니다.[4]

에이전트는 유연한 만큼, 무엇을 할지 미리 알기 어렵기 때문입니다.

요즘은 거의 모든 AI 서비스가 에이전트라는 말을 씁니다.

시장조사기관 Gartner는 기존 챗봇이나 자동화 도구에 이름만 에이전트를 붙이는 것을 에이전트 워싱(Agent Washing)이라고 불렀습니다.[5]

수천 곳의 에이전트 AI 업체 가운데 실제 에이전트 기능을 갖춘 곳은 130곳 정도로 추정했고요.[5]

그러니 에이전트라는 소개를 보면, 정해진 일을 자동으로 돌리는 것인지 AI가 상황을 보고 다음 행동까지 정하는 것인지 한번 확인해 볼 필요가 있습니다.


4. AI 에이전트가 지금 주목받는 이유

에이전트는 오래된 개념이고, ReAct도 2022년 연구입니다.

그런데도 요즘 에이전트 이야기가 쏟아지는 건, 언어 모델이 긴 작업을 버틸 수 있게 됐기 때문입니다.

에이전트는 한 번 답하고 끝나지 않습니다. 도구를 쓰고, 결과를 보고, 문제가 생기면 다시 시도하는 과정을 여러 번 거칩니다.

단계가 길어질수록 중간에 길을 잃기도 쉽습니다.

AI 평가 연구기관 METR은 2025년 3월, 이 능력을 재는 방법을 내놓았습니다.[6]

AI가 해낼 수 있는 작업을, 사람 전문가가 그 일에 걸리는 시간으로 나타내는 겁니다.

사람이 60분 걸리는 일을 AI가 절반의 확률로 해내면, 그 AI의 '50% 작업 시간 범위(50% Time Horizon)'를 60분이라고 부르는 식입니다.

 

표1. AI가 수행할 수 있는 작업의 시간 범위 변화

이 시간 범위는 2019년부터 약 7개월마다 두 배씩 늘었습니다.

논문이 나온 당시 가장 앞서 있던 Claude 3.7 Sonnet은 약 59분이었습니다.[6]

연구진은 이렇게 늘어난 이유로 추론 능력, 도구 사용, 실수를 바로잡는 능력, 전반적인 신뢰도 향상을 꼽았습니다.[6] 모두 에이전트에 필요한 능력입니다.

다만 50%라는 기준은 꼭 기억해야 합니다. 그 길이의 일을 맡기면 절반은 실패한다는 뜻이니까요.

성공률 기준을 80%로 높이면 시간 범위는 훨씬 짧아집니다. Claude 3.7 Sonnet은 50% 기준 약 59분에서 80% 기준 약 15분으로 줄었습니다.[6]

연구에 쓴 과제도 대부분 소프트웨어 관련 작업이라, 다른 업무에 그대로 적용하기는 어렵습니다.

긴 일을 해낼 수 있게 된 것과, 그 일을 믿고 맡길 수 있는 것은 별개라는 이야기입니다.


5. 에이전트가 위험할 수 있는 이유

에이전트가 틀리면 그 결과가 문장으로 끝나지 않습니다.

메일이 잘못 나가고, 엉뚱한 파일이 고쳐지고, Replit 사건처럼 데이터가 지워집니다.

게다가 오류는 쌓입니다. 간단히 계산해 보겠습니다.

한 단계를 95% 확률로 맞히는 에이전트가 20단계짜리 일을 한다고 해 보죠.

각 단계가 독립적이고, 한 번이라도 틀리면 실패하며, 중간에 고치지 못한다고 가정하면 끝까지 성공할 확률은 이렇습니다.

0.95²⁰ ≈ 0.36

95%짜리 단계를 스무 번 이으면 36%가 됩니다.

표 7. 단계가 늘어날수록 감소하는 전체 성공 확률

(그림 7. 단계가 늘어날수록 감소하는 전체 성공 확률)

실제 에이전트는 중간에 실수를 발견하고 다시 시도하기도 하니, 이건 가장 단순하게 잡은 계산입니다.

그래도 단계마다 성공률이 높아도 전체 성공률은 생각보다 낮을 수 있다는 감은 잡힙니다. Anthropic도 에이전트의 단점으로 비용 증가와 오류 누적 위험을 꼽습니다.[4]

그럼 어떻게 막을까요? Replit의 대응이 힌트가 됩니다.

사건 뒤 Replit의 CEO는 있어서는 안 될 일이라며 사과했고, 개발용 데이터베이스와 운영용 데이터베이스를 자동으로 나누는 기능을 내놓았습니다.[7]

운영 데이터를 실수로 건드릴 위험을 줄이려는 조치였습니다. 지금 Replit 문서에는 에이전트가 운영 데이터베이스를 수정할 수 없다고 나와 있습니다.[8]

AI가 지시를 더 잘 따르게 만드는 대신, 위험한 일을 할 권한을 줄인 겁니다. 렘킨의 '수정하지 마'라는 지시는 삭제를 막지 못했지만, 운영 데이터베이스에 접근할 권한이 없었다면 데이터는 무사했을 겁니다.

그래서 에이전트를 쓸 때는 권한부터 따져야 합니다.

중요한 파일은 복사본에서 먼저 작업하게 하고, 삭제나 메일 발송, 결제처럼 되돌리기 어려운 행동은 실행 전에 사람의 승인을 받게 할 수 있습니다.

Anthropic도 작업 중간에 사람의 확인을 받는 지점을 두고, 격리된 환경에서 충분히 테스트하라고 권합니다.[4]

기업들도 아직 이 문제를 풀어 가는 중입니다.

Gartner는 2027년 말까지 에이전트 AI 프로젝트의 40% 이상이 취소될 것으로 내다봤습니다. 비용은 큰데 효과가 분명하지 않거나, 위험 관리가 부족하다는 이유였습니다.[5]


6. 정리

AI 에이전트는 목표를 위해 도구를 쓰고, 결과를 확인하며 다음 행동을 정하는 AI입니다.

챗봇이 질문에 답하는 데서 멈춘다면, 에이전트는 실제 작업까지 합니다.

다만 잘못된 답변은 사람이 읽고 걸러낼 수 있지만, 잘못 실행된 명령어는 이미 결과를 남깁니다.

다음에 'AI 에이전트'라는 말을 보시면, 그 AI가 얼마나 똑똑한지와 함께 어디까지 손댈 수 있는지도 한번 따져 보시면 좋겠습니다.


참고문헌

[1] AI Incident Database — Replit Agent Incident 1152

[2] Russell & Norvig, Artificial Intelligence: A Modern Approach

[3] Yao et al., ReAct: Synergizing Reasoning and Acting in Language Models (2022)

[4] Anthropic, Building Effective Agents (2024)

[5] Gartner, Over 40% of Agentic AI Projects Will Be Canceled by End of 2027 (2025)

[6] Kwa et al., Measuring AI Ability to Complete Long Tasks (2025)

[7] The Register, Replit's Response to SaaStr Incident (2025)

[8] Replit Docs, Production Databases


태그: AI, AI리터러시, AI용어, AI에이전트, Agent, ReAct, LLM, 에이전트, 인공지능

반응형