728x90
반응형

전체 보기 182

MCP(Model Context Protocol)에 대해서 자세히 알아보자.(w/ langgraph와 차이점)

LLM 기반의 시스템에서 "문맥(context)을 어떻게 관리하고 연결할 것인가"를 정의하는 일종의 설계 패턴 또는 프로토콜입니다. ✅ MCP(Model Context Protocol)란?MCP는 LLM 기반 서비스에서 ‘사용자의 요청 → 모델 응답’까지의 흐름에서 필요한 문맥(Context)을 명시적이고 구조적으로 관리하기 위한 설계 방식입니다.🎯 핵심 역할LLM이 "이전 대화 흐름", "사용자 역할", "UI 상태", "문서/DB 검색 결과" 등을 **문맥(Context)**으로 인식할 수 있도록각 단계(입력 → 처리 → 생성 → 출력)의 구조를 명시적으로 설계합니다.Model Context Protocol(MCP)는 대형 언어 모델(LLM)과 외부 도구 및 데이터 소스 간의 통합을 표준화하는 오픈..

카테고리 없음 2025.04.15

백준 5397: 키로거

https://www.acmicpc.net/problem/5397  힌트: 현재 커서 기준 좌우 스택  #2#>Cd-#ThIsIsS3Cr3tN= input()for i in range(int(N)):    typing = input().split()    left_stack = []    right_stack = []    for spell in (typing[0]):        if spell =='            if left_stack:                right_stack.append(left_stack.pop())        elif spell == '>':            if right_stack:                left_stack.append(right_..

BM25 b(Best Matching 25)와 Opensearch

BM25 (Best Matching 25)는 OpenSearch와 Elasticsearch에서 기본적으로 사용하는 문서와 쿼리 간의 관련성 점수 계산 알고리즘입니다.Lexical Search에서 match 쿼리를 실행했을 때, 각 문서의 _score가 바로 이 BM25 점수입니다.✅ 핵심 개념 먼저 요약용어 설명TF (Term Frequency)쿼리 단어가 문서 내에 얼마나 많이 나왔는가IDF (Inverse Document Frequency)해당 단어가 전체 문서 중 얼마나 희귀한가문서 길이 보정너무 긴 문서는 단어 많이 포함되기 쉬우므로 패널티 줌최종 점수 = TF × IDF × 보정계수 🧮 BM25 수식단어 qiq_i에 대해 문서 DD와 쿼리 QQ 간의 점수:$score(D,Q)=∑i=1nIDF(..

기술공부/LLM 2025.03.26

🚀 최신 RAG 성능 향상 기술: Model Context Protocol (MCP)

최근 RAG나 LLM 기반 시스템을 개발하다 보면 “MCP”라는 개념이 언급되는 경우가 많은데요, 여기서 말하는 **Model Context Protocol (MCP)**는 여러 언어 모델 또는 시스템이 같은 방식으로 컨텍스트를 주고받기 위한 ‘공통의 규칙 또는 포맷’을 의미하는 개념입니다. 자세히 알아볼까요?🧠 Model Context Protocol(MCP)란?📌 정의**Model Context Protocol (MCP)**은 LLM 또는 RAG 시스템이 입력(Context), 출력(Response), 메타정보 등을 일관된 포맷으로 주고받을 수 있도록 정의한 프로토콜 혹은 표준입니다.쉽게 말하면, **"LLM이 이해하고, 응답하기 쉽게 데이터를 포장하고 전달하는 방식"**이라고 보시면 됩니다.🔍..

Dense / Multi-Vector / Lexical retrieval

Retrieval 방식( Dense / Multi-Vector / Lexical)이 수식적으로는 어떻게 표현되는지 간단히 보여드리겠습니다. 설명을 위해 예시 문장을 “The cat sat on the mat.” 로 잡았습니다.1. Dense Retrieval핵심 개념입력 문장(쿼리든 문서든)을 하나의 벡터로 요약(임베딩)한 뒤, 그 벡터들 간의 유사도(점곱, 코사인 등)를 구해 점수가 높은 순으로 검색하는 방식입니다.예시 & 수식토큰화 & Transformer 출력문장 S=\text{S} = "The cat sat on the mat."이를 BERT 계열 모델(BGE-M3 등)에 입력하면, 마지막 레이어에서 각 토큰마다 hi∈Rd\mathbf{h}_i \in \mathbb{R}^d (차원 dd)의 벡터가..

아이멤버(iMember): 롯데 이노베이트 기업 맞춤형 AI 서비스

🆕 아이멤버(iMember) – 이거 꼭 써봐야 할까?🔍 1. 이 서비스 뭐야?서비스명: 아이멤버(iMember)출시일: 2025년 2월 7일만든 곳: 롯데이노베이트핵심 기능:생성형 AI 플랫폼: 다양한 AI 기능을 제공하여 업무 효율성 향상SaaS형 서비스: 별도의 인프라 구축 없이 기업들이 손쉽게 도입 가능🚀 2. 이게 왜 특별해?기업 맞춤형 AI 서비스: 기업의 내부 데이터와 연동하여 맞춤형 AI 서비스를 제공, 기존 AI 서비스와 차별화됨RAG 기술 적용: 검색 증강 생성(RAG) 기술을 활용하여 최신 정보 제공 및 정보 신뢰성 강화SaaS형 서비스로 접근성 향상: 별도의 시스템 구축 없이도 AI 기능을 간편하게 활용 가능🛠️ 3. 실제로 어떻게 써?사용법 간단 정리:웹사이트 접속: 아이멤..

네피리티: AI 고객지원 솔루션

🆕 네피리티 AI 고객지원 솔루션 – 이거 꼭 써봐야 할까?🔍 1. 이 서비스 뭐야?서비스명: 네피리티 AI 고객지원 솔루션출시일: 2024년 11월 2일만든 곳: 네피리티핵심 기능:생성형 AI와 RAG 기술을 활용한 스마트 이커머스 솔루션AI 자동 응답 시스템을 통해 고객 문의에 대한 최적화된 답변 자동 생성판매자 제공 상품 정보와 기존 문의 데이터 분석으로 정확한 답변 제공🚀 2. 이게 왜 특별해?고객 문의 대응의 효율성 향상: 기존의 단순한 질의응답 시스템과 달리, RAG 기술을 활용하여 더 자연스럽고 정교한 답변을 제공합니다.최신 정보 반영: 외부 데이터를 실시간으로 검색하여 최신 정보를 기반으로 답변을 생성, 정보의 신뢰도를 높입니다.기업 맞춤형 AI 서비스: 기업이 보유한 최신 데이터를 ..

Manus: 범용 AI 에이전트

🆕 Manus – 이거 꼭 써봐야 할까?🔍 1. 이 서비스 뭐야?서비스명: Manus출시일: 정확한 출시일 정보는 제공되지 않음만든 곳: 개발사 정보는 공식 홈페이지에 명시되지 않음핵심 기능:범용 AI 에이전트: 다양한 작업을 수행하며, 사용자의 업무와 일상에서 필요한 결과를 제공다양한 사용 사례: 여행 계획 수립, 주식 분석, 교육 콘텐츠 제작, 보험 상품 비교 등 다양한 분야에서 활용 가능🚀 2. 이게 왜 특별해?다양한 작업 수행 능력: 특정 분야에 국한되지 않고, 여러 분야의 작업을 처리할 수 있는 범용성 제공사용자 맞춤형 결과 제공: 사용자의 요구에 맞게 개인화된 결과를 생성하여 보다 만족스러운 서비스 제공직관적인 인터페이스: 누구나 쉽게 사용할 수 있도록 사용자 친화적인 인터페이스 제공🛠..

🚀최신 RAG 성능 향상 기술: ChatQA

🚀 최신 RAG 성능 향상 기술 – AI 기획자와 개발자를 위한 필수 업데이트!최근 몇 달 사이, Retrieval-Augmented Generation(RAG) 기술이 비약적으로 발전하며 AI 서비스의 정확성과 효율성을 높이는 데 큰 역할을 하고 있습니다. 특히, AI 기획자와 개발자분들이 주목해야 할 최신 기술을 소개합니다.🔍 1. 이 기술 뭐야?기술명: ChatQA출시일: 2024년 1월 18일개발 기관: NVIDIA Research핵심 기능:🔍 향상된 검색 및 생성 통합: 외부 지식 소스에서 관련 정보를 검색하여 LLM의 응답 정확도 향상🎯 대화형 질문 응답 최적화: 사용자와의 상호작용을 통해 문맥을 이해하고 정확한 답변 제공🔄 효율적인 리트리버 도입: 대화형 질문 응답에 최적화된 밀집 ..

728x90
반응형