AI Agent 아키텍처
아키텍처 & 기술
AI 에이전트의 기술 아키텍처와 핵심 구성 요소 이해하기
AI 에이전트는 여러 레이어의 기술들로 구성되어 있습니다. LLM부터 오케스트레이션, 저장소, 보안까지 모든 요소들이 어떻게 함께 작동하는지 알아보세요.
AI Agent 기술 스택
LLM (언어 모델)
에이전트의 지능 기반이 되는 대규모 언어 모델
GPT-4ClaudeLLaMAMistralGemini
Tool Calling
외부 API 및 도구를 호출하고 제어하는 기술
Function CallingTool IntegrationAPI GatewayMCP(Model Context Protocol)
Graph + Vector DB
지식그래프(관계·경로 질의)와 벡터(유사도 검색)를 함께 쓰는 하이브리드 저장소
Neo4jAmazon NeptuneWeaviateMilvus
보안 & 모니터링
보안, 규정 준수, 성능 추적
EncryptionAudit LogsObservability
A³ 아키텍처 3층 구조
🎯 Agent Experience Layer
사용자 채널과 작업 인터페이스
- ✓다중 채널 지원: Chat, API, Dashboard, Webhook
- ✓Job-to-be-done 중심 설계
- ✓Task Unit 기반 사용량 계산
- ✓투명한 비용 추적
⚙️ Agent Runtime Layer
에이전트 실행과 상태 관리
- ✓Plan-Act-Observe 루프
- ✓400+ Tool Calling 지원
- ✓3층 메모리 구조 (Short/Medium/Long-term)
- ✓상태 지속성 및 복구 메커니즘
📊 Agent Operations Layer
운영, 품질, 규정 관리
- ✓EvalOps: 자동 회귀 테스트
- ✓Observability: 통합 모니터링
- ✓Governance: 컴플라이언스 자동화
- ✓Cost Optimization: 비용 최적화