Euisuk's Dev Log

ใ€Œ์„œ์ฟ  ๊ฐœ๋ฐœ๋…ธํŠธโญใ€

[Day 2] Reinforcement Fine-Tuning (RFT) ์†Œ๊ฐœ

์•ˆ๋…•ํ•˜์„ธ์š”!! ์–ด์ œ(12 Days of OpenAI: Day 1)์—์„œ O1 ๋ชจ๋ธ์„ ๊ณต์‹ ์ถœ์‹œํ•˜๋ฉฐ, ChatGPT์˜ ์ถ”๋ก  ๋Šฅ๋ ฅ๊ณผ ์‹ ๋ขฐ์„ฑ์„ ๊ฐ•ํ™”ํ•œ Pro ํ”Œ๋žœ์„ ์†Œ๊ฐœํ–ˆ๋Š”๋ฐ์š”!! ์˜ค๋Š˜์€ ๊ทธ ๋‹ค์Œ ๋‹จ๊ณ„(12 Days of OpenAI: Day 2)๋กœ, โ€œ๊ฐ•ํ™” ํ•™์Šต ๊ธฐ๋ฐ˜ ํŒŒ์ธํŠœ๋‹(Reinforcement Fine-Tuning, ์ดํ•˜ RFT)โ€์„ ํ™œ์šฉํ•œ ์ตœ์ฒจ๋‹จ...

[Day 1] OpenAI o1 and o1 pro mode in ChatGPT

์˜คํ”ˆ AI ์—์„œ ์˜ค๋Š˜(24.12.06)๋ถ€ํ„ฐ 12์ผ๊ฐ„ ๋ผ์ด๋ธŒ๋ฅผ ๋งค์ผ ์ง„ํ–‰ํ•ฉ๋‹ˆ๋‹ค ๐Ÿ’Œ ๋”ฑ ํฌ๋ฆฌ์Šค๋งˆ์Šค ์‹œ์ฆŒ์— ๋งž์ถฐ์„œ ์–ธ๋ฐ•์‹ฑํ•˜๋Š” ๋А๋‚Œ์œผ๋กœ ๋ฐ๋ชจ๋ฅผ ์ค€๋น„ํ•œ ๋А๋‚Œ์„ ํŒํŒ ์ฃผ๋Š”๋ฐ์š”!! ๋งํฌ : https://youtu.be/iBfQTnA2n2s ๐Ÿ’ก Day 1์€ O1 ๋ฐ O1 Pro ๋ชจ๋“œ ์ถœ์‹œ๋ฅผ ํ†ตํ•ด ChatGPT์˜ ์ง€๋Šฅ์ ...

[TREND] ํŠธ๋ Œ์Šคํฌ๋จธ ์ดํ›„์˜ ์ฐจ์„ธ๋Œ€ ์•„ํ‚คํ…์ณ: MoE, SSM, RetNet, V-JEPA

2017๋…„, โ€œAttention is All You Needโ€๋ผ๋Š” ๋…ผ๋ฌธ๊ณผ ํ•จ๊ป˜ ๋“ฑ์žฅํ•œ ํŠธ๋žœ์Šคํฌ๋จธ(Transformer)๋Š” AI ๋ชจ๋ธ์˜ ํ˜์‹ ์ ์ธ ๋ณ€ํ™”๋ฅผ ์ด๋Œ์—ˆ์Šต๋‹ˆ๋‹ค. ํ˜„์žฌ, ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ(LLM)๊ณผ ์ƒ์„ฑ AI๋Š” ์–ธ์–ด, ๋น„๋””์˜ค, ์ด๋ฏธ์ง€ ๋“ฑ์˜ ๋ฐ์ดํ„ฐ ์ฒ˜๋ฆฌ์—์„œ ์••๋„์ ์ธ ์„ฑ๋Šฅ์„ ๋ฐœํœ˜ํ•˜๋ฉฐ ์šฐ๋ฆฌ ์‚ถ์˜ ๋‹ค์–‘ํ•œ ์˜์—ญ์—์„œ ํ™œ์šฉ๋˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ทธ๋Ÿฌ๋‚˜ ํŠธ๋žœ์Šคํฌ๋จธ ๊ธฐ...

[์ž๋ฃŒ] KT ์‚ฌ๋‚ด ์ง์› ๋Œ€์ƒ RAG ๊ต์•ˆ ๋Œ€๋ฐฉ์ถœ?!

์˜ค๋Š˜๋„ RAG์— ๋Œ€ํ•œ ์ž๋ฃŒ๋ฅผ ์ฐพ์•„๋ณด๋˜ ์ค‘, KT DS์˜ ๊น€์„ฑ์šฐ ๊ธฐ์ˆ ํ˜์‹ ๋‹จ์žฅ๋‹˜๊ป˜์„œ ๊ณต์œ ํ•˜์‹  RAG ๊ด€๋ จ ์ž๋ฃŒ๋ฅผ ๋ฐœ๊ฒฌํ–ˆ์Šต๋‹ˆ๋‹ค. ์ถœ์ฒ˜ : LinkedIn - KTDS ๊น€์„ฑ์šฐ ๊ธฐ์ˆ ํ˜์‹ ๋‹จ์žฅ KT ์‚ฌ๋‚ด ์ง์› RAG ๊ต์•ˆ์ด๋ผ๋Š” ๋ง์— ์–ด๋–ค ๋‚ด์šฉ์ผ์ง€ ๊ถ๊ธˆํ•˜์—ฌ, ์ด๋ฒˆ ํฌ์ŠคํŒ…์—์„œ๋Š” ํ•ด๋‹น ์ž๋ฃŒ๋ฅผ ์ž์„ธํ•˜๊ฒŒ ๊ณต๋ถ€ํ•˜๋ฉฐ ๋‚ด์šฉ์„ ์ •๋ฆฌํ•ด๋ณด์•˜์œผ๋‹ˆ ํ•จ๊ป˜ ์‚ดํŽด๋ณด์‹œ์ฃ . ...

[IT] ํด๋ผ์šฐ๋“œ ์ปดํ“จํŒ…์˜ ์„œ๋น„์Šค ๋ชจ๋ธ: IaaS, PaaS, SaaS์™€ ์ตœ์‹  GPUaaS, IQaaS ๋น„๊ต

๋ฐฐ๊ฒฝ ํด๋ผ์šฐ๋“œ ์ปดํ“จํŒ…์€ ํ˜„๋Œ€ IT ํ™˜๊ฒฝ์—์„œ ํ•„์ˆ˜์ ์ธ ๊ธฐ์ˆ ๋กœ ์ž๋ฆฌ ์žก๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๊ธฐ์กด์˜ ๋ฌผ๋ฆฌ์  ์ธํ”„๋ผ๋ฅผ ๋Œ€์ฒดํ•˜๋ฉฐ, ๋‹ค์–‘ํ•œ ์„œ๋น„์Šค ๋ชจ๋ธ(IaaS, PaaS, SaaS)๋กœ ๊ธฐ์—…๊ณผ ๊ฐœ์ธ์˜ ์ปดํ“จํŒ… ํ•„์š”๋ฅผ ์ถฉ์กฑ์‹œํ‚ต๋‹ˆ๋‹ค. ์ตœ๊ทผ์—๋Š” GPUaaS์™€ IQaaS๋ผ๋Š” ์ƒˆ๋กœ์šด ํ˜•ํƒœ์˜ ์„œ๋น„์Šค ๋ชจ๋ธ์ด ๋“ฑ์žฅํ•˜๋ฉฐ, AI ๋ฐ ๊ณ ์„ฑ๋Šฅ ์ปดํ“จํŒ…์— ๋Œ€ํ•œ ์ˆ˜์š”๋ฅผ ์ถฉ์กฑ์‹œํ‚ค๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ...

[์ •๋ฆฌ] SK AI SUMMIT ํ‚ค๋…ธํŠธ ์ •๋ฆฌ - Day2

โ€˜SK AI ์„œ๋ฐ‹ 2024โ€˜๋Š” 2024๋…„ 11์›” 4์ผ๋ถ€ํ„ฐ 5์ผ๊นŒ์ง€ ์„œ์šธ ์ฝ”์—‘์Šค์—์„œ ๊ฐœ์ตœ๋œ ๋Œ€๊ทœ๋ชจ ์ธ๊ณต์ง€๋Šฅ ํ–‰์‚ฌ๋กœ, ๊ตญ๋‚ด์™ธ AI ์„ํ•™๊ณผ ๊ธฐ์—…๊ฐ€๋“ค์ด ์ฐธ์—ฌํ•˜์—ฌ AI ์‹œ๋Œ€์˜ ๊ณต์กด ๋ฐฉ์•ˆ์„ ๋…ผ์˜ํ•˜๊ณ  ์ƒํƒœ๊ณ„ ๊ฐ•ํ™” ๋ฐฉ์•ˆ์„ ๋ชจ์ƒ‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ์ดํ‹€์˜ ์„œ๋ฐ‹ ์ผ์ • ๋™์•ˆ, Day 1์€ ๊ธฐ์ˆ ์  ๊ธฐ๋ฐ˜(์ธํ”„๋ผ์™€ ๋ฐ˜๋„์ฒด)๊ณผ ์ƒํƒœ๊ณ„ ๊ฐ•ํ™”์— ์ดˆ์ ์„ ๋งž์ถ”์–ด โ€œAI ํ˜์‹ ์˜ ๋ผˆ๋Œ€โ€๋ฅผ ๊ตฌ์ถ•ํ•˜๋ ค...

[์ •๋ฆฌ] SK AI SUMMIT ํ‚ค๋…ธํŠธ ์ •๋ฆฌ - Day1 ์˜คํ›„

โ€˜SK AI ์„œ๋ฐ‹ 2024โ€˜๋Š” 2024๋…„ 11์›” 4์ผ๋ถ€ํ„ฐ 5์ผ๊นŒ์ง€ ์„œ์šธ ์ฝ”์—‘์Šค์—์„œ ๊ฐœ์ตœ๋œ ๋Œ€๊ทœ๋ชจ ์ธ๊ณต์ง€๋Šฅ ํ–‰์‚ฌ๋กœ, ๊ตญ๋‚ด์™ธ AI ์„ํ•™๊ณผ ๊ธฐ์—…๊ฐ€๋“ค์ด ์ฐธ์—ฌํ•˜์—ฌ AI ์‹œ๋Œ€์˜ ๊ณต์กด ๋ฐฉ์•ˆ์„ ๋…ผ์˜ํ•˜๊ณ  ์ƒํƒœ๊ณ„ ๊ฐ•ํ™” ๋ฐฉ์•ˆ์„ ๋ชจ์ƒ‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ์ดํ‹€์˜ ์„œ๋ฐ‹ ์ผ์ • ๋™์•ˆ, Day 1์€ ๊ธฐ์ˆ ์  ๊ธฐ๋ฐ˜(์ธํ”„๋ผ์™€ ๋ฐ˜๋„์ฒด)๊ณผ ์ƒํƒœ๊ณ„ ๊ฐ•ํ™”์— ์ดˆ์ ์„ ๋งž์ถ”์–ด โ€œAI ํ˜์‹ ์˜ ๋ผˆ๋Œ€โ€๋ฅผ ๊ตฌ์ถ•ํ•˜๋ ค...

[์ •๋ฆฌ] SK AI SUMMIT ํ‚ค๋…ธํŠธ ์ •๋ฆฌ - Day1 ์˜ค์ „

โ€˜SK AI ์„œ๋ฐ‹ 2024โ€˜๋Š” 2024๋…„ 11์›” 4์ผ๋ถ€ํ„ฐ 5์ผ๊นŒ์ง€ ์„œ์šธ ์ฝ”์—‘์Šค์—์„œ ๊ฐœ์ตœ๋œ ๋Œ€๊ทœ๋ชจ ์ธ๊ณต์ง€๋Šฅ ํ–‰์‚ฌ๋กœ, ๊ตญ๋‚ด์™ธ AI ์„ํ•™๊ณผ ๊ธฐ์—…๊ฐ€๋“ค์ด ์ฐธ์—ฌํ•˜์—ฌ AI ์‹œ๋Œ€์˜ ๊ณต์กด ๋ฐฉ์•ˆ์„ ๋…ผ์˜ํ•˜๊ณ  ์ƒํƒœ๊ณ„ ๊ฐ•ํ™” ๋ฐฉ์•ˆ์„ ๋ชจ์ƒ‰ํ–ˆ์Šต๋‹ˆ๋‹ค. ์ดํ‹€์˜ ์„œ๋ฐ‹ ์ผ์ • ๋™์•ˆ, Day 1์€ ๊ธฐ์ˆ ์  ๊ธฐ๋ฐ˜(์ธํ”„๋ผ์™€ ๋ฐ˜๋„์ฒด)๊ณผ ์ƒํƒœ๊ณ„ ๊ฐ•ํ™”์— ์ดˆ์ ์„ ๋งž์ถ”์–ด โ€œAI ํ˜์‹ ์˜ ๋ผˆ๋Œ€โ€๋ฅผ ๊ตฌ์ถ•ํ•˜๋ ค...

[Linux] ๋ฆฌ๋ˆ…์Šค ํŒŒ์ผ ์‹œ์Šคํ…œ ๋งˆ์šดํŠธ ๊ฐ€์ด๋“œ

fstab, df -h, ๋งˆ์šดํŠธ ๋ช…๋ น์–ด ์™„๋ฒฝ ์ดํ•ดํ•˜๊ธฐ ๋ฆฌ๋ˆ…์Šค ์‹œ์Šคํ…œ์—์„œ ํŒŒ์ผ ์‹œ์Šคํ…œ ๋งˆ์šดํŠธ๋Š” ํ•„์ˆ˜์ ์ธ ์ž‘์—…์ž…๋‹ˆ๋‹ค. ์‹œ์Šคํ…œ์ด ๋ถ€ํŒ…ํ•  ๋•Œ๋งˆ๋‹ค ์ž๋™์œผ๋กœ ๋””์Šคํฌ๋ฅผ ๋งˆ์šดํŠธํ•˜๊ณ , ๋‹ค์–‘ํ•œ ํŒŒ์ผ ์‹œ์Šคํ…œ์„ ๊ด€๋ฆฌํ•˜๋Š” ๊ณผ์ •์—์„œ ํšจ์œจ์„ฑ๊ณผ ์•ˆ์ •์„ฑ์„ ๋†’์ด๊ธฐ ์œ„ํ•ด ์—ฌ๋Ÿฌ ๋ช…๋ น์–ด๋ฅผ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ธ€์—์„œ๋Š” ๋ฆฌ๋ˆ…์Šค ๋งˆ์šดํŠธ ๊ด€๋ จ ํ•ต์‹ฌ ํŒŒ์ผ์ธ /etc/fstab, ๋””์Šคํฌ...

Unlearning : ๋จธ์‹ ๋Ÿฌ๋‹ ๋ชจ๋ธ๋„ '์žŠ์„ ์ˆ˜ ์žˆ๋‹ค'

๋”ฅ๋Ÿฌ๋‹๊ณผ ๋จธ์‹ ๋Ÿฌ๋‹์€ ์˜ค๋Š˜๋‚  ๋‹ค์–‘ํ•œ ๋ถ„์•ผ์—์„œ ๋†€๋ผ์šด ์„ฑ๊ณผ๋ฅผ ๊ฑฐ๋‘๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ํ•˜์ง€๋งŒ ๋ชจ๋ธ์ด ํ•™์Šตํ•œ ์ •๋ณด ์ค‘ ๋ถˆํ•„์š”ํ•˜๊ฑฐ๋‚˜ ๋ฏผ๊ฐํ•œ ์ •๋ณด๋ฅผ ์‚ญ์ œํ•ด์•ผ ํ•˜๋Š” ์ƒํ™ฉ๋„ ๋ฐœ์ƒํ•ฉ๋‹ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด, ๊ฐœ์ธ์ •๋ณด ๋ณดํ˜ธ ๊ทœ์ •์— ๋”ฐ๋ผ ๋ชจ๋ธ์ด ํŠน์ • ์‚ฌ์šฉ์ž์˜ ๋ฐ์ดํ„ฐ๋ฅผ ์‚ญ์ œํ•ด์•ผ ํ•˜๊ฑฐ๋‚˜, ํ•™์Šต ๊ณผ์ •์—์„œ ๋ฐœ์ƒํ•œ ํŽธํ–ฅ(Bias)์„ ๊ต์ •ํ•ด์•ผ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ํ•„์š”๋ฅผ ์ถฉ์กฑ...