LLM, AI Agent, Agent Engine, Function Calling, LangChain
개념 잡기
LLM 이란?
- 방대한 양의 텍스트 데이터를 학습하여, 인간처럼 자연스러운 언어를 이해하고 생성하는 딥러닝 기반의 인공지능 모델
- Large Language Model의 약자
- Large : 모델이 학습한 데이터의 양과 모델 자체의 크기가 어마어마하게 크다는 의미입니다. 인터넷의 방대한 텍스트와 책 수백만 권에 달하는 정보를 학습하고, 수천억 개의 파라미터(매개변수)를 통해 미묘한 언어적 패턴을 익힙니다.
- Language : 인간의 '언어'를 처리하는 데 특화된 모델입니다. 글을 읽고, 쓰고, 요약하고, 번역하는 등 언어와 관련된 모든 작업을 수행할 수 있습니다.
- Model : 통계적, 수학적으로 만들어진 일종의 '시스템'입니다. 수많은 데이터 속에서 패턴을 찾아 특정 단어 뒤에 어떤 단어가 나올지 예측하는 방식으로 작동합니다.
- 기본적인 작동 원리는 '다음에 올 단어 예측하기'입니다. ( 스마트폰 자동 완성 기능과 비슷 )
- 주어진 문맥을 바탕으로 가장 자연스럽고 적절한 다음 단어를 계속해서 예측해나가면서 완전한 문장과 문단을 만들어냅니다.
ㄴ> ex) "오늘 날씨가 정말"이라고 입력하면 "좋네요"라는 단어가 나올 확률이 높다고 예측
AI Agent 란?
- "생각하고 행동하는 AI"
- 단순히 질문에 답하는 것을 넘어, 주어진 목표를 달성하기 위해 스스로 생각하고, 계획을 세우고, 필요하다면 외부 도구를 사용하여 행동하는 AI 시스템을 말합니다.
- LLM vs AI Agent
| 구분 | 일반 LLM 호출 (model.generate_content) |
AI 에이전트 (agent.query)
|
| 역할 | 지식이 풍부한 '백과사전' |
목표를 해결하는 '유능한 비서'
|
| 작동 방식 | 질문 → 학습된 지식 내에서 답변 생성 (단방향) |
목표 → 생각 → 도구 선택 → 도구 사용 → 결과 확인 → 최종 답변 생성 (순환적, 다단계)
|
| 정보의 한계 | 학습된 데이터 시점까지의 정보만 앎 |
도구를 통해 실시간 정보, 외부 데이터에 접근 가능
|
| 예시 | "대한민국의 수도는 어디야?" (정적 지식) |
"오늘 원/달러 환율로 550달러는 얼마야?" (실시간 정보 필요)
|
Function Calling 란?
- AI 에이전트를 구현하는 핵심 기술
- LLM(거대 언어 모델)이 외부 세계의 '도구(코드)'를 사용할 수 있게 만드는 핵심 기술
- 과거의 LLM은 오직 학습된 데이터 안에서만 대답할 수 있는 '닫힌 두뇌'라는 제한 사항이 있었다. 하지만 Function Calling을 통해 LLM은 자신이 직접 실행할 수 없는 기능이 필요할 때, 미리 정의된 함수(Function)를 호출해달라고 특정 형식(JSON)으로 요청할 수 있게 되었습니다.
ㄴ> ex) Function Calling을 통해 위치 파라미터를 받아 해당 위치의 기상 조건에 대한 정보를 반환하는 get_weather 함수를 제공할 수 있습니다.
- https://cloud.google.com/vertex-ai/generative-ai/docs/multimodal/function-calling
LangChain 란?
- : Function Calling과 같은 LLM의 기능을 활용하여 AI 애플리케이션을 개발을 도와주는 '개발 프레임워크(도구 모음)'
- Function Calling vs LangChain 역할 비유
ㄴ> Function Calling이 '모터'나 '센서' 같은 강력한 부품이라면, LangChain은 이 부품들을 포함해 다양한 블록과 조립 설명서를 제공하는 '레고 테크닉 세트' 역할
- [ LangChain이 제공하는 주요 도구들 ]
- Models: 다양한 LLM(Gemini, GPT 등)을 표준화된 방식으로 쉽게 바꿔 쓸 수 있게 합니다.
- Prompts: 효과적인 프롬프트를 만들고 관리할 수 있는 템플릿을 제공합니다.
- Agents: Function Calling을 활용하여 LLM이 어떤 도구를 언제 사용해야 할지 스스로 결정하고 행동하게 만드는 로직을 쉽게 구현할 수 있습니다.
- Chains: LLM 호출과 다른 작업들을 순차적으로 엮어 간단한 워크플로우를 만듭니다. (이름의 유래)
- Memory: 대화의 맥락을 기억하게 하여 이전 대화 내용을 기반으로 답변하게 만듭니다.
핵심: LangChain은 AI 에이전트 개발에 필요한 귀찮고 반복적인 작업들을 미리 만들어 제공함으로써, 개발자가 핵심 비즈니스 로직에만 집중할 수 있게 해주는 생산성 도구
LangGraph 란?
- LangChain의 에이전트 기능을 한 단계 발전시켜, 훨씬 더 복잡하고 정교한 워크플로우를 만들 수 있게 해주는 라이브러리
- cf) 기존 LangChain의 'Chain'이나 'Agent'가 대부분 A → B → C 순서로 진행되는 선형적인(linear) 흐름에 강했다면, LangGraph는 상황에 따라 분기하거나, 특정 단계를 반복(Loop)하는 등 순환적인(cyclical) 그래프 구조를 만들 수 있습니다.
- ex) 간단한 체크리스트 vs. 복잡한 업무 흐름도
- LangChain 에이전트 (체크리스트): [ 1. 자료 검색 → 2. 내용 요약 → 3. 보고서 초안 작성 ] 처럼 정해진 순서대로 작업을 수행
- LangGraph (업무 흐름도):
- 자료 검색(A)을 시작합니다.
- 검색 결과가 충분한지 조건을 확인(B)합니다.
- 만약 결과가 불충분하면, 검색 키워드를 수정해서 다시 자료 검색(A)으로 돌아갑니다(Loop).
- 결과가 충분하면, 내용을 요약(C)하고, 보고서 초안을 작성(D)합니다.
- 작성된 초안을 사용자에게 확인(E)받고, 피드백이 있으면 초안 작성(D)으로 돌아가 수정합니다.
핵심: LangGraph는 '상태(State)'를 기반으로 작동하며, 에이전트가 더욱 지능적으로 판단하고, 실패에 대처하며, 여러 단계를 반복하는 등 인간의 실제 업무 방식과 유사한 복잡한 작업을 수행해야 할 때 사용됩니다.
Function Calling vs LangChain vs LangGraph
| 구분 | 역할 | 핵심 개념 | 비유 |
| Function Calling | 기술 / 메커니즘 | LLM과 외부 코드를 연결하는 통신 방법 | CEO의 지시서 |
| LangChain | 프레임워크 / 도구상자 | Function Calling을 쉽게 사용하게 해주는 개발 도구 모음 | 레고 테크닉 세트 |
| LangGraph | 라이브러리 / 설계도 | LangChain 위에서 복잡한 순환/조건부 로직을 구현하는 방법 | 업무 흐름도 |
[ 총정리 ]
LLM이란
방대한 양의 텍스트 데이터를 학습하여, 인간처럼 자연스러운 언어를 이해하고 생성하는 딥러닝 기반의 인공지능 모델이다.
AI 에이전트는
단순히 질문에 답하는 것을 넘어, 주어진 목표를 달성하기 위해 스스로 생각하고, 계획을 세우고, 필요하다면 외부 도구를 사용하여 행동하는 AI 시스템이다.
Function Calling은
AI 에이전트를 구현하는 핵심 기술이며,
LangChain은
이 과정을 쉽게 만들어주는 개발 도구이고,
LangGraph는
LangChain을 이용해 더 복잡한 에이전트를 만드는 고급 방법론
결론 => 모두 'AI 에이전트'라는 하나의 목표를 위해 각자 다른 역할을 수행하는 관계
그 외)
(Google Cloud의) Agent Engine 란?
- 이전 명칭) Vertex AI의 LangChain 또는 Vertex AI Reasoning Engine
- : AI 에이전트를 개인용 컴퓨터나 테스트 환경을 넘어, 실제 서비스로 만들어주는 Google Cloud의 관리형 플랫폼
- 즉, AI 에이전트라는 '소프트웨어'를 안정적으로 실행하고 관리하기 위한 '인프라' 또는 '서버' 역할
ㄴ> Agent Engine이 없이 AI Agent를 배포하려면, 웹 서버 구축부터 API, 보안인증, 트래픽, 모니터링까지 직접 작업 해야 합니다.
- https://cloud.google.com/vertex-ai/generative-ai/docs/agent-engine/overview
- LangChain vs AI Engine
| LangChain | Vertex AI Agent Engine |
| AI 에이전트를 만드는 '개발 도구(SDK)' | AI 에이전트를 실제 서비스로 운영하게 해주는 '서버 플랫폼(PaaS)' |
출처
https://cloud.google.com/vertex-ai/generative-ai/docs/multimodal/function-calling
함수 호출 소개 | Generative AI on Vertex AI | Google Cloud
이 가이드는 Vertex AI에서 효율적이고 이해하기 쉬운 코드를 생성하기 위한 권장사항이 포함된 함수 호출에 대한 마스터 가이드입니다.
cloud.google.com
https://python.langchain.com/docs/introduction/
Introduction | 🦜️🔗 LangChain
LangChain is a framework for developing applications powered by large language models (LLMs).
python.langchain.com
https://cloud.google.com/vertex-ai/generative-ai/docs/agent-engine/develop/langgraph
LangGraph 에이전트 개발 | Generative AI on Vertex AI | Google Cloud
의견 보내기 LangGraph 에이전트 개발 컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요. 이 페이지에서는 프레임워크별 LangGraph 템플릿(Vertex AI SDK for Python의 Langgra
cloud.google.com