Ai
-
LLM + RAG 플랫폼 논리 아키텍처IS & Audit 2025. 12. 17. 22:27
(@) LLM + RAG 플랫폼 논리 아키텍처 LLM+RAG 플랫폼은 “모델”이 아니라“데이터·프롬프트·운영·보안이 결합된 시스템”이다. 1️⃣ LLM + RAG 플랫폼 전체 구조도 (Logical Architecture) 2️⃣ 레이어별 상세 설계 포인트 ① Model Layer (모델 계층)🎯 역할실제 AI 추론이 발생하는 핵심 계층RAG의 “생성(Generation)”과 “의미 이해(Semantic)”를 담당🔧 주요 구성요소구성요소설명LLM질의 응답, 요약, 추론 담당Embedding Model문서를 벡터로 변환Reranker검색 결과 재정렬Tool / Function EngineDB조회, 계산, 외부 API 연계 📌 설계 포인트LLM과 Embedding 모델 분리 설계모델 교체 시 API ..
-
AI(LLM Based RAG) 시스템 구축 - KPI & 검증 가이드IS & Audit 2025. 12. 7. 13:12
(@) LLM Based RAG 시스템 구축 - KPI & 검증 가이드 이번에는 가상의 "법원 AI 플랫폼 구축 및 모델 개발 사업"을 대상으로,구축 완료 시점에서 실제 최종사용자(법관·재판연구관·법원 실무자)가 직접 테스트하여 '구축 적정성'을 판단할 수 있는 핵심 평가지표와 검증 가이드를 만들어 보겠습니다. 실제 감리에서 "최종 사용자 관점 평가(User Acceptance Level Metrics)"는 시스템이 설계·개발자 시각이 아니라, 법원 실사용자의 업무 성과에 어떤 영향을 미치는지를 확인하는 핵심 단계이기 때문에 매우 중요합니다.아래 내용은 감리법인이 실제 UAT(User Acceptance Test) 또는 현장 검증 시 사용하는 수준으로 작성했습니다. LLM Based RAG 시스템사용자 ..
-
국가 AI 인프라 구축 로드맵CheckFact/왁자지껄 시장통 2025. 6. 8. 15:21
Korea's AI Initiative Roadmap 이재명 정부는 AI를 세계 질서를 재편할 게임 체인저로 보고, 기술 주도형 경제로 도약하기 위한 핵심 성장동력으로 삼겠다는 비전을 제시했습니다. AI 정책 범위와 방향성을 짐작해보기 위해, 국가 주도의 AI 이니셔티브 전략과 로드맵이라는 주제로 ChatGPT와 함께 논의를 하고, 아래와 같이 자료를 정리해 보았습니다.먼저, AI 산업을 국가 단위에서 비전 있게 육성하고자 할 때, AI 산업의 물리적 한계선을 결정짓는 결정적 요인이 되는 전력, 네트워크, 제조·공급망 등 물리적·산업적 기반 인프라의 4대 핵심 영역의 주요 내용을 정리합니다[1].그리고, AI 산업을 위한 4대 인프라 축과 그 하위 요소 전부를 포함하여, 선후 관계(우선 구축 순서 및 상..