Logical Architecture
-
LLM + RAG 플랫폼 논리 아키텍처IS & Audit 2025. 12. 17. 22:27
(@) LLM + RAG 플랫폼 논리 아키텍처 LLM+RAG 플랫폼은 “모델”이 아니라“데이터·프롬프트·운영·보안이 결합된 시스템”이다. 1️⃣ LLM + RAG 플랫폼 전체 구조도 (Logical Architecture) 2️⃣ 레이어별 상세 설계 포인트 ① Model Layer (모델 계층)🎯 역할실제 AI 추론이 발생하는 핵심 계층RAG의 “생성(Generation)”과 “의미 이해(Semantic)”를 담당🔧 주요 구성요소구성요소설명LLM질의 응답, 요약, 추론 담당Embedding Model문서를 벡터로 변환Reranker검색 결과 재정렬Tool / Function EngineDB조회, 계산, 외부 API 연계 📌 설계 포인트LLM과 Embedding 모델 분리 설계모델 교체 시 API ..