Euisuk's Dev Log

「서쿠 개발노트⭐」

[Paper Review] Resurrecting Recurrent Neural Networks for Long Sequences

[Paper Review] Resurrecting Recurrent Neural Networks for Long Sequences 논문 “Resurrecting Recurrent Neural Networks for Long Sequences”는 25 Apr 2023에 publish되었으며, ICML 2023 OralPoster에 발표된 논문입니다. ...

Posted by Euisuk's Dev Log on September 24, 2024

[개념] 시스템, 미분방정식, 그리고 상태 공간 모델

[개념] 시스템, 미분방정식, 그리고 상태 공간 모델 우리는 일상생활에서 다양한 시스템과 상호작용하고 있습니다. 동적 시스템은 그중 하나로, 시간이 지남에 따라 상태가 변화하는 시스템을 의미합니다. 상태 공간(State Space) 모델은 복잡한 동적 시스템을 이해하고 분석하는데 중요한 도구입니다. 이 모델은 시스템을 상태(state)라는 개념으로 ...

Posted by Euisuk's Dev Log on September 20, 2024

[정리] OpenAI API Document

[정리] OpenAI API Document OpenAI는 최신 인공지능(AI) 모델과 API를 제공하여 개발자들이 다양한 AI 기능을 쉽게 애플리케이션에 통합할 수 있도록 지원합니다. 다음은 아래 platform.openai.com에서 제공하는 문서를 훑어보면서 정리한 내용입니다. 참고 문서: https://platform.openai.co...

Posted by Euisuk's Dev Log on September 19, 2024

[IT] LLMOps와 RAG

[IT] LLMOps와 RAG 최근 몇 년간 대규모 언어 모델(LLM)의 발전은 다양한 산업에서 큰 변화를 일으키고 있습니다. LLM은 사람과 유사한 방식으로 텍스트를 생성하거나 질문에 답변할 수 있으며, 고객 지원, 의료, 법률, 콘텐츠 생성 등 수많은 분야에서 널리 활용되고 있습니다. 그러나 LLM의 성능을 극대화하고 지속적으로 개선하기 위해서는...

Posted by Euisuk's Dev Log on September 19, 2024

[강의노트] Text Splitting For Retrieval

[강의노트] Text Splitting For Retrieval Introduction 대규모 언어 모델(LLM, Large Language Model)을 이용한 애플리케이션의 성능을 향상시키는 가장 효과적인 전략 중 하나는 큰 텍스트 데이터를 더 작은 조각으로 분할하는 것입니다. LLM에게 필요한 정보만을 제공함으로써 모델의 작업 효율성을 극...

Posted by Euisuk's Dev Log on September 16, 2024

[강의노트] RAG From Scratch : RAG for long context LLMs

[강의노트] RAG From Scratch : RAG for long context LLMs RAG for long context LLMs Introduction 최근 LLM(Long Large Models)의 급격한 발전으로 인해 거대한 양의 데이터를 한 번에 처리할 수 있는 가능성이 열리고 있습니다. 특히, 100만 토큰 이상의 정보를 한...

Posted by Euisuk's Dev Log on September 14, 2024

[강의노트] RAG From Scratch : Query Translation

[강의노트] RAG From Scratch : Query Translation 해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 5 - 9 내용을 다루고 있습니다. 비디오 요약 강의 링크 슬라이드 Part...

Posted by Euisuk's Dev Log on September 14, 2024

[강의노트] RAG From Scratch : Query Routing & Structuring

[강의노트] RAG From Scratch : Query Routing & Structuring 해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 10 - 11 내용을 다루고 있습니다. 비디오 요약 강의 링크 슬라이드 ...

Posted by Euisuk's Dev Log on September 14, 2024

[강의노트] RAG From Scratch : Query Retrieval 기법

[강의노트] RAG From Scratch : Query Retrieval 기법 해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 15 - 18 내용을 다루고 있습니다. 별도의 강좌 내용이 보이지 않아서 실습 코드를 바탕으로 Reverse Enginneering해서 자료를 정리한 내용입니다. 참고 부탁...

Posted by Euisuk's Dev Log on September 14, 2024

[강의노트] RAG From Scratch : Query Indexing 기법

[강의노트] RAG From Scratch : Query Indexing 기법 해당 블로그 포스트는 RAG From Scratch : Coursework 강의 파트 12 - 14 내용을 다루고 있습니다. 비디오 요약 강의 링크 슬라이드 Pa...

Posted by Euisuk's Dev Log on September 14, 2024