RAG

๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ(RAG) ์•„ํ‚คํ…์ฒ˜์™€ ๊ตฌํ˜„.

๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ(RAG) ์•„ํ‚คํ…์ฒ˜์™€ ๊ตฌํ˜„.

15 posts · ์•„์นด์ด๋ธŒ์—์„œ ํ•„ํ„ฐ๋กœ ๋ณด๊ธฐ

AI ์—์ด์ „ํŠธ์˜ ํ•ต์‹ฌ ๊ฐœ๋… 20๊ฐ€์ง€: ๋ฌธ์ œ์™€ ํ•ด๊ฒฐ์ฑ…์œผ๋กœ ๋ฐฐ์šฐ๋Š” ์‹ค์ „ ๊ฐ€์ด๋“œ

AI ์—์ด์ „ํŠธ๋Š” ๋‹จ์ˆœํ•œ ์ฑ—๋ด‡์„ ๋„˜์–ด ๋ณต์žกํ•œ ์ž‘์—…์„ ์ž์œจ์ ์œผ๋กœ ์ˆ˜ํ–‰ํ•˜๋Š” ์‹œ์Šคํ…œ์œผ๋กœ ์ง„ํ™”ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ์ด ๊ณผ์ •์—์„œ ์ˆ˜๋งŽ์€ ๊ธฐ์ˆ ์  ๋„์ „๊ณผ์ œ๋“ค์ด ์กด์žฌํ•ฉ๋‹ˆ๋‹ค. ์ด ๊ธ€์—์„œ๋Š” AI ์—์ด์ „ํŠธ๊ฐ€ ์ง๋ฉดํ•˜๋Š” 20๊ฐ€์ง€ ํ•ต์‹ฌ ๋ฌธ์ œ์™€ ๊ทธ ํ•ด๊ฒฐ์ฑ…์„ ํ•˜๋‚˜์”ฉ ํ’€์–ด๊ฐ€๋ฉฐ, ์‹ค์ œ ๊ธฐ์—… ์‚ฌ๋ก€์™€ ํ•จ๊ป˜ ์„ค๋ช…ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค. ํ•ด๋‹น ๋ฌธํ•ญ์€ Tom Yeh ๊ต์ˆ˜๋‹˜์˜ Agentic A...

F-Lab AI ์—ญ๋Ÿ‰ ์ง„๋‹จ ํ…Œ์ŠคํŠธ - ์ •๋‹ต ๋ฐ ํ•ด์„ค

์†Œ๊ฐœ ๋„ค์ด๋ฒ„, ์นด์นด์˜ค, ํ† ์Šค, ์•„๋งˆ์กด, ๋งˆ์ดํฌ๋กœ์†Œํ”„ํŠธ ์ถœ์‹  ์ƒ์œ„ 1% ๊ฐœ๋ฐœ์ž๋“ค์ด ๋ฉ˜ํ† ๋กœ ํ™œ๋™ํ•˜๋Š” F-Lab์—์„œ AI ์—ญ๋Ÿ‰ ์ง„๋‹จ ํ…Œ์ŠคํŠธ๋ฅผ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. LLM, RAG, AI Agent, Function Calling, ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ๊นŒ์ง€โ€”์š”์ฆ˜ AI ์—”์ง€๋‹ˆ์–ด๋ง์—์„œ ํ•ต์‹ฌ์œผ๋กœ ๊ผฝํžˆ๋Š” ๊ฐœ๋…๋“ค์„ 6๋‹จ๊ณ„ ๋‚œ์ด๋„, 25๋ฌธํ•ญ์œผ๋กœ ์••์ถ•ํ•œ ํ…Œ์ŠคํŠธ์ž…๋‹ˆ๋‹ค. ์ง์ ‘ ํ’€์–ด๋ณด๋‹ˆ ...

[์ •๋ฆฌ] '24๋…„ AI Summit : ์‰ฝ๊ฒŒ ์ดํ•ดํ•˜๋Š” RAG์™€ ์—์ด์ „ํŠธ AI ๊ธฐ์ˆ ์˜ ํ˜„์žฌ์™€ ๋ฏธ๋ž˜ - ์ตœ์œค์„

์˜ค์ „ ๋ฏธํŒ… ์ผ์ •์„ ๋งˆ์นœ ํ›„, Day2 ์˜คํ›„ ์„ธ์…˜์— ์ฐธ์„ํ•˜์—ฌ ๋งค์šฐ ์œ ์ตํ•œ ์‹œ๊ฐ„์„ ๋ณด๋ƒˆ์Šต๋‹ˆ๋‹ค. ๋ชจ๋“  ์„ธ์…˜์— ์ฐธ๊ฐ€ํ•˜์ง€ ๋ชปํ•œ ์ ์€ ์•„์‰ฝ์ง€๋งŒ, ์ฐธ์„ํ•œ ์„ธ์…˜๋“ค์—์„œ ์–ป์€ ๋‚ด์šฉ๊ณผ ์ธ์‚ฌ์ดํŠธ๋ฅผ ์ค‘์‹ฌ์œผ๋กœ ์ด๋ฒˆ ์‹œ๋ฆฌ์ฆˆ๋ฅผ ๊ตฌ์„ฑํ•ด ๋ณด์•˜์Šต๋‹ˆ๋‹ค. Track C: LLM & GenAI ์ œ๋ชฉ : ์‰ฝ๊ฒŒ ์ดํ•ดํ•˜๋Š” RAG์™€ ์—์ด์ „ํŠธ AI ๊ธฐ์ˆ ์˜ ํ˜„์žฌ์™€ ๋ฏธ๋ž˜ ...

[์ž๋ฃŒ] KT ์‚ฌ๋‚ด ์ง์› ๋Œ€์ƒ RAG ๊ต์•ˆ ๋Œ€๋ฐฉ์ถœ?!

์˜ค๋Š˜๋„ RAG์— ๋Œ€ํ•œ ์ž๋ฃŒ๋ฅผ ์ฐพ์•„๋ณด๋˜ ์ค‘, KT DS์˜ ๊น€์„ฑ์šฐ ๊ธฐ์ˆ ํ˜์‹ ๋‹จ์žฅ๋‹˜๊ป˜์„œ ๊ณต์œ ํ•˜์‹  RAG ๊ด€๋ จ ์ž๋ฃŒ๋ฅผ ๋ฐœ๊ฒฌํ–ˆ์Šต๋‹ˆ๋‹ค. ์ถœ์ฒ˜ : LinkedIn - KTDS ๊น€์„ฑ์šฐ ๊ธฐ์ˆ ํ˜์‹ ๋‹จ์žฅ KT ์‚ฌ๋‚ด ์ง์› RAG ๊ต์•ˆ์ด๋ผ๋Š” ๋ง์— ์–ด๋–ค ๋‚ด์šฉ์ผ์ง€ ๊ถ๊ธˆํ•˜์—ฌ, ์ด๋ฒˆ ํฌ์ŠคํŒ…์—์„œ๋Š” ํ•ด๋‹น ์ž๋ฃŒ๋ฅผ ์ž์„ธํ•˜๊ฒŒ ๊ณต๋ถ€ํ•˜๋ฉฐ ๋‚ด์šฉ์„ ์ •๋ฆฌํ•ด๋ณด์•˜์œผ๋‹ˆ ํ•จ๊ป˜ ์‚ดํŽด๋ณด์‹œ์ฃ . ...

[IT] LLMOps์™€ RAG

์ตœ๊ทผ ๋ช‡ ๋…„๊ฐ„ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์˜ ๋ฐœ์ „์€ ๋‹ค์–‘ํ•œ ์‚ฐ์—…์—์„œ ํฐ ๋ณ€ํ™”๋ฅผ ์ผ์œผํ‚ค๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. LLM์€ ์‚ฌ๋žŒ๊ณผ ์œ ์‚ฌํ•œ ๋ฐฉ์‹์œผ๋กœ ํ…์ŠคํŠธ๋ฅผ ์ƒ์„ฑํ•˜๊ฑฐ๋‚˜ ์งˆ๋ฌธ์— ๋‹ต๋ณ€ํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, ๊ณ ๊ฐ ์ง€์›, ์˜๋ฃŒ, ๋ฒ•๋ฅ , ์ฝ˜ํ…์ธ  ์ƒ์„ฑ ๋“ฑ ์ˆ˜๋งŽ์€ ๋ถ„์•ผ์—์„œ ๋„๋ฆฌ ํ™œ์šฉ๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ LLM์˜ ์„ฑ๋Šฅ์„ ๊ทน๋Œ€ํ™”ํ•˜๊ณ  ์ง€์†์ ์œผ๋กœ ๊ฐœ์„ ํ•˜๊ธฐ ์œ„ํ•ด์„œ๋Š” LLMOps์™€ ๊ฐ™์€ ์ฒด๊ณ„์ ์ธ ์šด...

[๊ฐ•์˜๋…ธํŠธ] Text Splitting For Retrieval

Introduction ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM, Large Language Model)์„ ์ด์šฉํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜์˜ ์„ฑ๋Šฅ์„ ํ–ฅ์ƒ์‹œํ‚ค๋Š” ๊ฐ€์žฅ ํšจ๊ณผ์ ์ธ ์ „๋žต ์ค‘ ํ•˜๋‚˜๋Š” ํฐ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ๋” ์ž‘์€ ์กฐ๊ฐ์œผ๋กœ ๋ถ„ํ• ํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค. LLM์—๊ฒŒ ํ•„์š”ํ•œ ์ •๋ณด๋งŒ์„ ์ œ๊ณตํ•จ์œผ๋กœ์จ ๋ชจ๋ธ์˜ ์ž‘์—… ํšจ์œจ์„ฑ์„ ๊ทน๋Œ€ํ™”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ํ…์ŠคํŠธ ๋ถ„ํ•  ๊ธฐ์ˆ ์€ ๋‹จ์ˆœํ•œ ๋ฐฉ๋ฒ• ๊ฐ™์ง€๋งŒ...

[๊ฐ•์˜๋…ธํŠธ] RAG From Scratch : RAG for long context LLMs

RAG for long context LLMs Introduction ์ตœ๊ทผ LLM(Long Large Models)์˜ ๊ธ‰๊ฒฉํ•œ ๋ฐœ์ „์œผ๋กœ ์ธํ•ด ๊ฑฐ๋Œ€ํ•œ ์–‘์˜ ๋ฐ์ดํ„ฐ๋ฅผ ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” ๊ฐ€๋Šฅ์„ฑ์ด ์—ด๋ฆฌ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ, 100๋งŒ ํ† ํฐ ์ด์ƒ์˜ ์ •๋ณด๋ฅผ ํ•œ ๋ฒˆ์— ์ฒ˜๋ฆฌํ•  ์ˆ˜ ์žˆ๋Š” ๋ชจ๋ธ๋“ค์ด ๋“ฑ์žฅํ•˜๋ฉด์„œ, ๊ณผ์—ฐ RAG(Retrieval-Augmented G...

[๊ฐ•์˜๋…ธํŠธ] RAG From Scratch : Query Translation

ํ•ด๋‹น ๋ธ”๋กœ๊ทธ ํฌ์ŠคํŠธ๋Š” RAG From Scratch : Coursework ๊ฐ•์˜ ํŒŒํŠธ 5 - 9 ๋‚ด์šฉ์„ ๋‹ค๋ฃจ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋น„๋””์˜ค ์š”์•ฝ ๊ฐ•์˜ ๋งํฌ ์Šฌ๋ผ์ด๋“œ Part 5 (๋‹ค์ค‘ ์ฟผ๋ฆฌ) ๋‹ค์–‘ํ•œ ๋ฌธ์„œ ๊ฒ€์ƒ‰์„ ์œ„ํ•ด ์ฟผ๋ฆฌ ์žฌ์ž‘์„ฑ ๊ธฐ๋ฒ•์„ ์„ค๋ช…ํ•ฉ...

[๊ฐ•์˜๋…ธํŠธ] RAG From Scratch : Query Routing & Structuring

ํ•ด๋‹น ๋ธ”๋กœ๊ทธ ํฌ์ŠคํŠธ๋Š” RAG From Scratch : Coursework ๊ฐ•์˜ ํŒŒํŠธ 10 - 11 ๋‚ด์šฉ์„ ๋‹ค๋ฃจ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋น„๋””์˜ค ์š”์•ฝ ๊ฐ•์˜ ๋งํฌ ์Šฌ๋ผ์ด๋“œ Part 10 (๋ผ์šฐํŒ…) ์ฟผ๋ฆฌ๋ฅผ ๊ด€๋ จ ๋ฐ์ดํ„ฐ ์†Œ์Šค๋กœ ์œ ๋„ํ•˜๊ธฐ ์œ„ํ•œ ๋…ผ๋ฆฌ์  ...

[๊ฐ•์˜๋…ธํŠธ] RAG From Scratch : Query Retrieval ๊ธฐ๋ฒ•

ํ•ด๋‹น ๋ธ”๋กœ๊ทธ ํฌ์ŠคํŠธ๋Š” RAG From Scratch : Coursework ๊ฐ•์˜ ํŒŒํŠธ 15 - 18 ๋‚ด์šฉ์„ ๋‹ค๋ฃจ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋ณ„๋„์˜ ๊ฐ•์ขŒ ๋‚ด์šฉ์ด ๋ณด์ด์ง€ ์•Š์•„์„œ ์‹ค์Šต ์ฝ”๋“œ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ Reverse Enginneeringํ•ด์„œ ์ž๋ฃŒ๋ฅผ ์ •๋ฆฌํ•œ ๋‚ด์šฉ์ž…๋‹ˆ๋‹ค. ์ฐธ๊ณ  ๋ถ€ํƒ๋“œ๋ฆฝ๋‹ˆ๋‹ค! 1. Re-ranking (์žฌ์ •๋ ฌ) Re-ranking์€ ...

[๊ฐ•์˜๋…ธํŠธ] RAG From Scratch : Query Indexing ๊ธฐ๋ฒ•

ํ•ด๋‹น ๋ธ”๋กœ๊ทธ ํฌ์ŠคํŠธ๋Š” RAG From Scratch : Coursework ๊ฐ•์˜ ํŒŒํŠธ 12 - 14 ๋‚ด์šฉ์„ ๋‹ค๋ฃจ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋น„๋””์˜ค ์š”์•ฝ ๊ฐ•์˜ ๋งํฌ ์Šฌ๋ผ์ด๋“œ Part 12 (๋‹ค์ค‘ ํ‘œํ˜„ ์ธ๋ฑ์‹ฑ) ํšจ์œจ์ ์ธ ๊ฒ€์ƒ‰์„ ์œ„ํ•ด ๋ฌธ์„œ ์š”์•ฝ์„ ์ธ๋ฑ...

[๊ฐ•์˜๋…ธํŠธ] RAG From Scratch : Overview

ํ•ด๋‹น ๋ธ”๋กœ๊ทธ ํฌ์ŠคํŠธ๋Š” RAG From Scratch : Coursework ๊ฐ•์˜ ํŒŒํŠธ 1 - 4 ๋‚ด์šฉ์„ ๋‹ค๋ฃจ๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋น„๋””์˜ค ์š”์•ฝ ๊ฐ•์˜ ๋งํฌ ์Šฌ๋ผ์ด๋“œ Part 1 (๊ฐœ์š”) RAG๋ฅผ ์†Œ๊ฐœํ•˜๋ฉฐ, ์‹œ๋ฆฌ์ฆˆ๊ฐ€ ๊ธฐ๋ณธ ๊ฐœ๋…๋ถ€ํ„ฐ ๊ณ ๊ธ‰ ๊ธฐ์ˆ ๊นŒ์ง€ ๋‹ค...

[๊ฐ•์˜๋…ธํŠธ] RAG From Scratch : Coursework

์†Œ๊ฐœ ์˜ค๋Š˜๋‚ ์˜ Generative AI๋Š” ๊ธฐ๋ณธ์ ์ธ ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ(LLM)์„ ๋„˜์–ด, ์ •๋ณด ํ™œ์šฉ์˜ ๋ฐฉ์‹์„ ํš๊ธฐ์ ์œผ๋กœ ๋ณ€ํ™”์‹œํ‚ค๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ ์ค‘์—์„œ๋„ RAG, Retrieval-Augmented Generation์€ ์™ธ๋ถ€ ๋ฐ์ดํ„ฐ ์†Œ์Šค๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๋”์šฑ ์ •๊ตํ•˜๊ณ  ๋„๋ฉ”์ธ์— ํŠนํ™”๋œ ์ •๋ณด๋ฅผ ์ œ๊ณตํ•จ์œผ๋กœ์จ, AI์™€์˜ ์ƒํ˜ธ์ž‘์šฉ ๋ฐฉ์‹์„ ์ƒˆ๋กญ๊ฒŒ ์ •์˜ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค....

[์ปจํผ][CIO] ์ƒ์„ฑํ˜• AI์™€ Low Code๋ฅผ ํ™œ์šฉํ•œ ๋ฐ์ดํ„ฐ ๋ถ„์„ ์—…๋ฌด ์ƒ์‚ฐ์„ฑ ๊ทน๋Œ€ํ™” ์ „๋žต

๋ณธ ๋‚ด์šฉ์€ CIO SUMMIT 2024์—์„œ ๋ฐœํ‘œ๋œ ๋‚ด์šฉ์„ ๊ธฐ๋ฐ˜์œผ๋กœ ์ œ๊ฐ€ ๋” ์กฐ์‚ฌ ๋ฐ ์ •๋ฆฌํ•ด์„œ ์ž‘์„ฑํ•œ ๊ธ€์ž…๋‹ˆ๋‹ค. ๋ณธ ๊ฒŒ์‹œ๊ธ€์€ ๋ฐœํ‘œ ๋‚ด์šฉ์„ ์ •๋ฆฌํ•œ ๊ฒƒ์ด์ง€ ํŠน์ • ํšŒ์‚ฌ๋ฅผ ์˜นํ˜ธโ€ขํ™๋ณดํ•  ๋ชฉ์ ์ด ์•„๋‹˜์„ ๋ฐํž™๋‹ˆ๋‹ค. ํ‹€๋ฆฐ ๋‚ด์šฉ์ด ์žˆ๋‹ค๋ฉด ํŽธํ•˜๊ฒŒ ๋Œ“๊ธ€ ๋‹ฌ์•„์ฃผ์„ธ์š”!! ๐Ÿค— ์ œ๋ชฉ ์ƒ์„ฑํ˜• AI์™€ Low Code๋ฅผ ํ™œ์šฉํ•œ ๋ฐ์ดํ„ฐ ๋ถ„์„ ์—…๋ฌด ์ƒ์‚ฐ์„ฑ ๊ทน๋Œ€ํ™” ์ „๋žต ๋ฐœํ‘œ์ž ๋น„์•„์ด...

[์ปจํผ][OpenAI] 2023 Techniques for Maximizing LLM Performance ์š”์•ฝ

Techniques for Maximizing LLM Performance ์œ ํŠœ๋ธŒ ๋งํฌ ์ด ์˜์ƒ์—์„œ๋Š” OpenAI์˜ ๊ฐœ๋ฐœ์ž ์ปจํผ๋Ÿฐ์Šค์—์„œ โ€œA Survey of Techniques for Maximizing LLM Performanceโ€๋ผ๋Š” ์ฃผ์ œ๋กœ ์ง„ํ–‰๋œ ์„ธ์…˜์˜ ๋‚ด์šฉ์„ ๋” ์ž์„ธํžˆ ๋‹ค๋ฃน๋‹ˆ๋‹ค. ๋ฐœํ‘œ์ž๋“ค์€ ์–ธ์–ด ๋ชจ๋ธ(Large Language Mode...