RAG

검색 증강 생성(RAG) 아키텍처와 구현.

검색 증강 생성(RAG) 아키텍처와 구현.

17 posts · 아카이브에서 필터로 보기

[가이드] RAG 평가지표 입문: RAGAS·TruLens·DeepEval로 검색과 답변 나누어 보기

RAG는 자료를 보고 답하는 AI입니다 사내 챗봇에 “연간 교육비 한도는 얼마이고, 신청 전에 누구의 승인을 받아야 하나요?”라고 물었다고 생각해 보겠습니다. 답변은 매끄럽습니다. 그런데 한도는 맞고 승인자는 틀렸다면, 이 챗봇을 잘 만들었다고 할 수 있을까요? RAG 평가는 답변이 그럴듯한지를 넘어, 필요한 자료를 찾았는지와 그 자료를 제대로 사...

[Paper Review] Return or Revise? — 검색 근거로 답을 고칠 때와 지킬 때

논문 개요와 전체 구조 검색 증강 생성(Retrieval-Augmented Generation, RAG)에서 검색한 문서를 읽고 답을 다시 쓰면 정확도가 올라갈 수 있습니다. 그러나 이미 맞는 답을 엉뚱한 답으로 바꾸는 경우도 있습니다. Return or Revise?는 질문에 대한 초안과 검색 결과가 준비된 시점에, 초안을 그대로 반환할지 아니면 ...

AI 에이전트의 핵심 개념 20가지: 문제와 해결책으로 배우는 실전 가이드

AI 에이전트는 단순한 챗봇을 넘어 복잡한 작업을 자율적으로 수행하는 시스템으로 진화하고 있습니다. 하지만 이 과정에서 수많은 기술적 도전과제들이 존재합니다. 이 글에서는 AI 에이전트가 직면하는 20가지 핵심 문제와 그 해결책을 하나씩 풀어가며, 실제 기업 사례와 함께 설명하겠습니다. 해당 문항은 Tom Yeh 교수님의 Agentic A...

F-Lab AI 역량 진단 테스트 - 정답 및 해설

소개 네이버, 카카오, 토스, 아마존, 마이크로소프트 출신 상위 1% 개발자들이 멘토로 활동하는 F-Lab에서 AI 역량 진단 테스트를 공개했습니다. LLM, RAG, AI Agent, Function Calling, 멀티모달까지—요즘 AI 엔지니어링에서 핵심으로 꼽히는 개념들을 6단계 난이도, 25문항으로 압축한 테스트입니다. 직접 풀어보니 ...

[정리] '24년 AI Summit : 쉽게 이해하는 RAG와 에이전트 AI 기술의 현재와 미래 - 최윤석

오전 미팅 일정을 마친 후, Day2 오후 세션에 참석하여 매우 유익한 시간을 보냈습니다. 모든 세션에 참가하지 못한 점은 아쉽지만, 참석한 세션들에서 얻은 내용과 인사이트를 중심으로 이번 시리즈를 구성해 보았습니다. Track C: LLM & GenAI 제목 : 쉽게 이해하는 RAG와 에이전트 AI 기술의 현재와 미래 ...

[자료] KT 사내 직원 대상 RAG 교안 대방출?!

오늘도 RAG에 대한 자료를 찾아보던 중, KT DS의 김성우 기술혁신단장님께서 공유하신 RAG 관련 자료를 발견했습니다. 출처 : LinkedIn - KTDS 김성우 기술혁신단장 KT 사내 직원 RAG 교안이라는 말에 어떤 내용일지 궁금하여, 이번 포스팅에서는 해당 자료를 자세하게 공부하며 내용을 정리해보았으니 함께 살펴보시죠. ...

[IT] LLMOps와 RAG

최근 몇 년간 대규모 언어 모델(LLM)의 발전은 다양한 산업에서 큰 변화를 일으키고 있습니다. LLM은 사람과 유사한 방식으로 텍스트를 생성하거나 질문에 답변할 수 있으며, 고객 지원, 의료, 법률, 콘텐츠 생성 등 수많은 분야에서 널리 활용되고 있습니다. 그러나 LLM의 성능을 극대화하고 지속적으로 개선하기 위해서는 LLMOps와 같은 체계적인 운...

[강의노트] Text Splitting For Retrieval

Introduction 대규모 언어 모델(LLM, Large Language Model)을 이용한 애플리케이션의 성능을 향상시키는 가장 효과적인 전략 중 하나는 큰 텍스트 데이터를 더 작은 조각으로 분할하는 것입니다. LLM에게 필요한 정보만을 제공함으로써 모델의 작업 효율성을 극대화할 수 있습니다. 이러한 텍스트 분할 기술은 단순한 방법 같지만...

[강의노트] RAG From Scratch : RAG for long context LLMs

RAG for long context LLMs Introduction 최근 LLM(Long Large Models)의 급격한 발전으로 인해 거대한 양의 데이터를 한 번에 처리할 수 있는 가능성이 열리고 있습니다. 특히, 100만 토큰 이상의 정보를 한 번에 처리할 수 있는 모델들이 등장하면서, 과연 RAG(Retrieval-Augmented G...

[강의노트] RAG From Scratch : Query Translation

해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 5 - 9 내용을 다루고 있습니다. 비디오 요약 강의 링크 슬라이드 Part 5 (다중 쿼리) 다양한 문서 검색을 위해 쿼리 재작성 기법을 설명합...

[강의노트] RAG From Scratch : Query Routing & Structuring

해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 10 - 11 내용을 다루고 있습니다. 비디오 요약 강의 링크 슬라이드 Part 10 (라우팅) 쿼리를 관련 데이터 소스로 유도하기 위한 논리적 ...

[강의노트] RAG From Scratch : Query Retrieval 기법

해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 15 - 18 내용을 다루고 있습니다. 별도의 강좌 내용이 보이지 않아서 실습 코드를 바탕으로 Reverse Enginneering해서 자료를 정리한 내용입니다. 참고 부탁드립니다! 1. Re-ranking (재정렬) Re-ranking은 ...

[강의노트] RAG From Scratch : Query Indexing 기법

해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 12 - 14 내용을 다루고 있습니다. 비디오 요약 강의 링크 슬라이드 Part 12 (다중 표현 인덱싱) 효율적인 검색을 위해 문서 요약을 인덱...

[강의노트] RAG From Scratch : Overview

해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 1 - 4 내용을 다루고 있습니다. 비디오 요약 강의 링크 슬라이드 Part 1 (개요) RAG를 소개하며, 시리즈가 기본 개념부터 고급 기술까지 다...

[강의노트] RAG From Scratch : Coursework

소개 오늘날의 Generative AI는 기본적인 대형 언어 모델(LLM)을 넘어, 정보 활용의 방식을 획기적으로 변화시키고 있습니다. 그 중에서도 RAG, Retrieval-Augmented Generation은 외부 데이터 소스를 활용하여 더욱 정교하고 도메인에 특화된 정보를 제공함으로써, AI와의 상호작용 방식을 새롭게 정의하고 있습니다....

[컨퍼][CIO] 생성형 AI와 Low Code를 활용한 데이터 분석 업무 생산성 극대화 전략

본 내용은 CIO SUMMIT 2024에서 발표된 내용을 기반으로 제가 더 조사 및 정리해서 작성한 글입니다. 본 게시글은 발표 내용을 정리한 것이지 특정 회사를 옹호•홍보할 목적이 아님을 밝힙니다. 틀린 내용이 있다면 편하게 댓글 달아주세요!! 🤗 제목 생성형 AI와 Low Code를 활용한 데이터 분석 업무 생산성 극대화 전략 발표자 비아이...

[컨퍼][OpenAI] 2023 Techniques for Maximizing LLM Performance 요약

Techniques for Maximizing LLM Performance 유튜브 링크 이 영상에서는 OpenAI의 개발자 컨퍼런스에서 “A Survey of Techniques for Maximizing LLM Performance”라는 주제로 진행된 세션의 내용을 더 자세히 다룹니다. 발표자들은 언어 모델(Large Language Mode...