머신러닝

머신러닝 알고리즘, 모델 평가, 실전 적용을 다룬 글.

머신러닝 알고리즘, 모델 평가, 실전 적용을 다룬 글.

40 posts · 아카이브에서 필터로 보기

[가이드] RAG 평가지표 입문: RAGAS·TruLens·DeepEval로 검색과 답변 나누어 보기

RAG는 자료를 보고 답하는 AI입니다 사내 챗봇에 “연간 교육비 한도는 얼마이고, 신청 전에 누구의 승인을 받아야 하나요?”라고 물었다고 생각해 보겠습니다. 답변은 매끄럽습니다. 그런데 한도는 맞고 승인자는 틀렸다면, 이 챗봇을 잘 만들었다고 할 수 있을까요? RAG 평가는 답변이 그럴듯한지를 넘어, 필요한 자료를 찾았는지와 그 자료를 제대로 사...

[TREND] State of AI Report 2026 — 하네스·추론 경제·안전으로 읽는 AI의 변화

2026년 AI를 읽는 관점: 모델, 실행 시스템, 그리고 검증 State of AI Report 2026은 AI의 발전을 모델 성능만으로 설명하기 어려워졌다는 보고서입니다. 모델을 둘러싼 도구와 실행 환경이 성과를 바꾸고, 실제 업무의 완료 여부가 평가의 중심으로 이동하며, 그 실행을 뒷받침할 전력·데이터센터·안전 통제가 함께 중요해집니다. Na...

[Paper Review] Downside-Controlled Online Forecast Combination under Delayed and Revised Outcomes

논문 개요와 전체 구조 Downside-Controlled Online Forecast Combination under Delayed and Revised Outcomes는 다시 학습할 수 없는 시계열 예측기에 보정 계층을 붙일 때, 평균 정확도 향상과 개별 데이터에서의 성능 악화를 어떻게 함께 평가해야 하는지 다룹니다. Minkyoung Kim, ...

[Paper Review] Return or Revise? — 검색 근거로 답을 고칠 때와 지킬 때

논문 개요와 전체 구조 검색 증강 생성(Retrieval-Augmented Generation, RAG)에서 검색한 문서를 읽고 답을 다시 쓰면 정확도가 올라갈 수 있습니다. 그러나 이미 맞는 답을 엉뚱한 답으로 바꾸는 경우도 있습니다. Return or Revise?는 질문에 대한 초안과 검색 결과가 준비된 시점에, 초안을 그대로 반환할지 아니면 ...

[Paper Review] CORDIAL: Calibrating Ordinal LLM Outputs from Few Labels

논문 개요와 전체 구조 LLM이 상품 리뷰에 별점 4점을 부여하면서 95%의 확률을 제시했다고 해도, 그 확률이 실제 정답 빈도와 맞는다는 뜻은 아닙니다. 문장의 의미는 잘 파악하면서도 항상 한 단계 높은 점수를 주거나, 극단적인 감정을 중립으로 압축할 수 있습니다. CORDIAL은 이러한 순서형 평가를 잡음이 섞인 측정으로 보고, 소수의 정답 라벨...

[Paper Review] CAST: Context- and Anomaly Structure-Conditioned Time Series Anomaly Generation

논문 개요와 전체 구조 시계열 이상탐지에서는 정상 데이터보다 이상 데이터의 확보가 어렵습니다. 발전량이나 교통량을 오래 관측해도 장애·급격한 변화 사례는 적을 수 있고, 심전도처럼 이상 형태가 다양한 데이터에서는 몇 개의 사례만으로 전체 분포를 배우기 어렵습니다. CAST는 주변의 정상 문맥과 생성하려는 이상 형태를 서로 다른 조건으로 제공해, 이상...

[Paper Review] Diffusion Drafts, AR Verifies: Accelerating Document OCR with Self-Speculative Decoding

논문 개요와 전체 구조 문서 이미지를 텍스트·HTML 표·LaTeX 수식으로 바꾸는 생성형 OCR에서는 결과가 길수록 토큰을 하나씩 출력하는 시간이 늘어납니다. GravityOCR는 여러 토큰의 초안을 병렬로 만들되, 출력 확정은 자기회귀 모델이 담당하도록 구성합니다. 하나의 모델이 attention 패턴을 바꾸어 block diffusion dra...

[Paper Review] TabPFN-3: Technical Report — 대규모 표 데이터와 추론 시 확장

논문 개요와 전체 구조 TabPFN-3는 합성 표 데이터로 사전학습한 모델에 실제 학습 표를 문맥으로 제공하여 새로운 행을 예측하는 tabular foundation model입니다. 이 기술 보고서의 중심 질문은 이 방식의 성능을 유지하면서 학습 행을 100만 개까지 늘리고, 반복 예측의 메모리와 지연 시간을 줄일 수 있는가입니다. 답은 행을 먼저...

[Paper Review] A Closer Look at TabPFN v2: 강점의 원리와 추론 시 확장 전략

논문 개요와 전체 구조 TabPFN v2는 학습 데이터와 예측할 행을 함께 입력받아, 새 데이터셋마다 신경망을 미세조정하지 않고 정형 데이터의 분류·회귀를 수행하는 foundation model입니다. 그렇다면 열의 개수와 의미가 매번 바뀌는데도 어떻게 작동하며, 내부 표현을 별도의 모델에 사용할 수 있을까요? 입력이 너무 넓거나 길고 클래스가 많아...

[Paper Review] TabPFN v2: Accurate predictions on small data with a tabular foundation model

논문 개요와 전체 구조 TabPFN v2는 새로운 표 데이터셋을 받았을 때 어떤 예측기를 학습할 것인지 자체를 미리 학습한 모델입니다. 수많은 합성 데이터셋에서 예측 문제를 풀도록 Transformer를 사전학습하고, 실제 사용 시에는 정답이 있는 학습 행과 정답이 없는 질의 행을 문맥으로 전달합니다. 일반적인 사용 과정에서 모델 가중치를 다시 최적...

[Paper Review] TabPFN: 작은 정형 데이터의 학습을 Transformer 추론으로 바꾸다

논문 개요와 전체 구조 작은 정형 데이터로 분류기를 만들 때는 대개 모델을 고르고, 하이퍼파라미터를 탐색하고, 학습을 반복합니다. TabPFN은 이 절차 자체를 미리 학습한 Transformer에 맡깁니다. 새로운 데이터셋의 관측된 행과 정답, 예측할 행을 함께 입력하면 모델 가중치를 갱신하지 않고 클래스 확률을 출력합니다. 개별 데이터셋에 대한 학...

[Paper Review] GroupKV: 장문맥 확산 언어 모델의 계층적 KV 캐시 관리

논문 개요와 전체 구조 GroupKV는 긴 문맥을 처리하는 확산 대규모 언어 모델(diffusion large language model, dLLM)의 Key–Value(KV) 캐시를 CPU와 GPU 사이에서 효율적으로 관리하는 추론 시스템입니다. 확산 언어 모델은 마스크가 포함된 토큰들을 반복적으로 갱신하면서 문장을 생성합니다. 여러 토큰을 함께 ...

[Paper Review] SenseNova-U1.5: 공간 복원과 전문가 증류로 통합하는 시각 지능

논문 개요와 전체 구조 SenseNova-U1.5는 이미지를 이해하는 모델과 이미지를 만드는 모델을 하나의 멀티모달 계산 구조 안에서 학습하는 연구입니다. 기존 시각 인코더와 Variational Autoencoder(VAE)를 연결하는 대신, RGB 픽셀과 텍스트에서 직접 출발합니다. 핵심은 모든 파라미터를 공유하는 데 있지 않습니다. 이해와 생성...

[Paper Review] Programmable World Model: 실행 가능한 상태와 영상 생성을 분리한 세계 모델

논문 개요와 전체 구조 영상 세계 모델은 사용자 행동에 반응하는 그럴듯한 장면을 만들 수 있습니다. 그러나 장면 밖으로 사라진 인물이 여전히 존재하는지, 공격 이후 체력이 얼마나 남았는지, 이미 발생한 사건이 이후에도 유효한지는 영상만으로 관리하기 어렵습니다. Programmable World Model(PWM)은 이러한 세계의 사실을 명시적 엔진이...

[Paper Review] Show-Harness 논문 리뷰: 의미 기반 행동 인터페이스로 VLM과 로봇을 연결하기

1. 논문 개요와 전체 구조 Show-Harness: Just a VLM Agent Can Play Robots는 시각과 언어를 함께 처리하는 Vision–Language Model(VLM)이 로봇을 조작할 때, 모델과 로봇 사이에 어떤 행동 인터페이스를 두어야 하는지 연구합니다. Show Lab의 Yanzhe Chen 등은 방향 이동·회전·잡기처럼...

[Repo Review] llmfit 코드 리뷰: 내 하드웨어에 맞는 로컬 LLM을 어떻게 추천할까

들어가며 로컬에서 Large Language Model(LLM)을 실행할 때 모델의 파라미터 수만으로는 적합성을 판단하기 어렵습니다. 같은 모델도 양자화 방식, GPU 메모리, 실행 runtime, context 길이에 따라 필요한 메모리와 생성 속도가 달라집니다. 모델을 내려받은 뒤에야 이러한 차이를 발견하면 상당한 시간과 저장 공간을 소비하게 됩...

[머신러닝] 로지스틱 회귀 모델 (Logistic Regression)

1. 개요 안녕하세요! 이번 글에서는 머신러닝의 주요 개념인 로지스틱 회귀(Logistic Regression) 모델과 오즈 비(Odds Ratio)에 대해서 쉽게 정리해보았습니다. 친구에게 제대로 멋지게 설명하고 싶었는데, 뭔가 다시 한번 정리가 필요할 것 같더라고요 ㅎㅎ ^^7 로지스틱 회귀 모델은 범주형 데이터를 예측할 때 사용하는 통계...

Unlearning : 머신러닝 모델도 '잊을 수 있다'

딥러닝과 머신러닝은 오늘날 다양한 분야에서 놀라운 성과를 거두고 있습니다. 하지만 모델이 학습한 정보 중 불필요하거나 민감한 정보를 삭제해야 하는 상황도 발생합니다. 예를 들어, 개인정보 보호 규정에 따라 모델이 특정 사용자의 데이터를 삭제해야 하거나, 학습 과정에서 발생한 편향(Bias)을 교정해야 할 수 있습니다. 이러한 필요를 충족...

[CS294] Deep Unsupervised Learning: Introduction

다음은 아래 “Berkeley CS294 강의”에 대한 요약 및 필기 내용을 정리한 것입니다. 틀린 내용이 있다면 댓글 부탁드립니다 🙌 Course : CS294-158 SP24 Deep Unsupervised Learning Instructor: Pieter Abbeel Lecture # : L1. Introduction 본 강의는...

[NLP] 2. Steps of Text Analytics

Steps of Text Analytics 텍스트 분석은 비정형 텍스트 데이터를 구조화하고 유의미한 정보를 추출하기 위한 일련의 과정입니다. 해당 포스트에서는 텍스트 분석의 주요 단계를 순차적으로 소개하여, 각 단계에서 수행되는 작업과 그 중요성을 설명하겠습니다. ① STEP 1. 정의 및 데이터 수집(Define & Collect) ...

[NLP] 1. Introduction to Text Analytics

Introduction to Text Analytics Text Analytics는 문서(text)와 같은 비정형 데이터를 분석하여 그 속에 포함된 의미 있는 정보를 추출하는 과정을 의미합니다. 이는 자연어 처리(Natural Language Processing, NLP) 기술을 활용하여 다양한 형태의 텍스트 데이터를 처리하고 분석함으로써 ...

Prophet을 활용한 시계열 예측🔭

Prophet 소개 Facebook Prophet은 시계열 데이터의 예측을 위해 Facebook에서 개발한 오픈소스 라이브러리입니다. Prophet은 자동화된 이상 탐지 및 계절성 분석을 지원하며, 특히 비즈니스 예측(예: 매출, 사용자 수, 웹 트래픽 등)에 유용합니다. 링크: https://facebook.github.io/prophe...

[개념정리] 빈도주의(Frequentist) vs 베이지안(Bayesian)

Bayesian 확률과 Frequentist 확률 안녕하세요!🙌 오늘은 통계학의 두 가지 주요 접근법인 Bayesian 확률과 Frequentist 확률에 대해 자세히 알아보겠습니다. 이 개념들은 머신러닝과 딥러닝에서 중요한 역할을 하므로, 깊이 있는 이해가 필요합니다. 0. 확률 (Probability) 개념 확률은 불확실한 사건의 발생 가능성...

[트리] 트리 기반 ML 알고리즘

트리 기반 ML 알고리즘 트리 기반 머신러닝(ML) 알고리즘은 데이터의 특징을 기반으로 트리를 생성하여 예측(Regression) 또는 분류(Classification)를 수행하는 방법입니다. 이 알고리즘은 루트 노드에서 시작하여 내부 노드에서 데이터를 분할하고, 리프 노드에서 최종 예측값을 산출합니다. 트리 기반 알고리즘은 데이터의 구조를 시각적으...

[이탐] 통계 기반 이상탐지 알고리즘

통계 기반 이상탐지 통계적 접근 방식을 사용하여 모델이 데이터의 ‘정상적인’ 행동을 학습하고 통계적으로 이례적인 행동을 보이는 데이터 포인트를 이상치로 식별합니다. GMM (Gaussian Mixture Models) 링크: https://scikit-learn.org/stable/modules/generated/sklearn.mixture...

[이탐] 앙상블 기반 이상탐지 알고리즘

앙상블 기반 이상탐지 앙상블 기반 알고리즘은 여러 개의 의사결정 기반 모델을 조합하여 이상치를 탐지합니다. 이 방법은 일반적으로 높은 정확도를 제공합니다. Isolation Forest 링크: https://scikit-learn.org/stable/modules/generated/sklearn.ensemble.IsolationForest....

[이탐] 밀도 기반 이상탐지 알고리즘

밀도 기반 이상탐지 밀도 기반 알고리즘은 데이터 포인트 간의 지역적 밀도를 기반으로 이상치를 탐지합니다. 이러한 알고리즘은 데이터 분포가 불균일한 경우에도 잘 작동할 수 있습니다. DBSCAN 링크: https://scikit-learn.org/stable/modules/generated/sklearn.cluster.DBSCAN.html ...

[이탐] 내가 보려고 정리한 ML 이상탐지

이상탐지 이상탐지는 데이터셋에서 정상적인 패턴에서 벗어난 데이터 포인트를 식별하는 과정입니다. 이러한 이상치는 데이터의 분포나 특성에서 눈에 띄게 다른 점들을 나타내며, 종종 오류, 사기, 결함 등의 문제를 나타낼 수 있습니다. 따라서 이상탐지는 데이터 분석, 품질 관리, 보안 등 다양한 분야에서 중요한 역할을 합니다. 이상탐지 방법론에 따른 ...

[이탐] 결정 경계 기반 이상탐지 알고리즘

결정 경계 기반 이상탐지 결정 경계 기반 알고리즘은 데이터의 분포를 학습하여 명확한 경계를 형성하고, 이 경계를 벗어나는 점들을 이상치로 간주합니다. OCSVM (One-Class SVM) 링크: https://scikit-learn.org/stable/modules/generated/sklearn.svm.OneClassSVM.html ...

[이탐] 거리 기반 이상탐지 알고리즘

거리 기반 알고리즘 거리 기반 알고리즘은 데이터 포인트 간의 거리를 기반으로 이상치를 탐지합니다. 데이터 포인트가 다른 포인트와의 거리가 멀다면 이상치로 간주됩니다. K-Means Clustering 기반 이상탐지 링크: https://scikit-learn.org/stable/modules/generated/sklearn.cluster.K...

[개념] MLOps vs AIOps

MLOps란 무엇인가? MLOps는 기계 학습(ML) 시스템의 개발과 배포를 통합하는 프레임워크입니다. 이는 ML 모델을 지속적으로 생산에 투입하기 위해 표준화하고 간소화하는 역할을 합니다. MLOps의 주요 단계는 다음과 같습니다: 데이터 추출: 다양한 출처에서 데이터 통합 탐색적 데이터 분석: 데이터의 기본 속성 이해 데이터 준비:...

[머신러닝][차원축소] 변수 추출법 - Multi-Dimensional Scaling (MDS)

본 포스트는 고려대학교 강필성 교수님의 강의를 수강 후 정리를 한 것입니다. 작성 및 설명의 편의를 위해 아래는 편하게 작성한 점 양해부탁드립니다. Dimensionality Reduction Supervised Variable Extraction 차원축소는, 모델링을 하기 위해 내가 가진 데이터의 정보를 최대한 보존하면서, 훨씬 더 compac...

[머신러닝] 이상 탐지 개요 및 밀도 기반 이상치탐지

본 포스트는 고려대학교 강필성 교수님의 강의를 수강 후 정리를 한 것입니다. 작성 및 설명의 편의를 위해 아래 포스트는 반말로 작성한 점 양해부탁드립니다. Abnormal Data란 Anomaly Data는 다음과 같이 Hawkins와 Harmeling에 의해 정의된다. Observations that deviate so much f...

[머신러닝] 거리•군집•서포트벡터 기반 이상탐지 기법

본 포스트는 고려대학교 강필성 교수님의 강의를 수강 후 정리를 한 것입니다. 작성 및 설명의 편의를 위해 아래 포스트는 반말로 작성한 점 양해부탁드립니다. 거리 기반 이상치탐지 K-Nearest Neighbor-based Anomaly Detection 각 데이터에 대한 Anomaly Score를 K개의 근접 이웃까지의 거리를 이용하여 계산...

[머신러닝][시계열] AR, MA, ARMA, ARIMA의 모든 것 - 실습편

본 포스팅은 실제 데이터를 활용한 시계열 분석의 전반적인 프로세스 과정을 담고 있습니다. 분석 팁이나 피드백은 언제나 환영입니다!! 🙇‍♂️ 분석의 순서는 아래와 같습니다. 해당 분석은 앞에서 다룬 시계열 개념을 기반으로 분석을 수행한 것이므로 개념을 찾아보고 싶다면 제 이전 포스트에서 확인하실 수 있습니다. 참고 데이터 선정 및 전처리 ...

[머신러닝][시계열] AR, MA, ARMA, ARIMA의 모든 것 - 개념편

오늘은 머신러닝 시계열에서 가장 많이 쓰이는 AR, MA, ARMA, ARIMA에 대해 정리해보는 시간을 가지려고 합니다. 해당 포스트는 고려대학교 김성범 교수님의 강의를 바탕으로 제작되었습니다. 목차 정상 프로세스와 비정상 프로세스 Autoregressive (AR) Models Moving Average (MA) Models A...

[머신러닝][차원축소] 변수 추출법 - Principal Component Analysis (PCA)

본 포스트는 고려대학교 강필성 교수님의 강의를 수강 후 정리를 한 것입니다. 작성 및 설명의 편의를 위해 아래는 편하게 작성한 점 양해부탁드립니다. Dimensionality Reduction Supervised Variable Extraction 차원축소는, 모델링을 하기 위해 내가 가진 데이터의 정보를 최대한 보존하면서, 훨씬 더 compa...

[머신러닝][차원축소] 변수 선택법

본 포스트는 고려대학교 강필성 교수님의 강의를 수강 후 정리를 한 것입니다. 작성 및 설명의 편의를 위해 아래 포스트는 반말로 작성한 점 양해부탁드립니다. Dimensionality Reduction Curse of dimensionality 정의 이론적(theory)으로는 변수의 개수가 증가할 때 모델의 성능도 증가한다. 하지만, 현실...

[Paper Review] Visualizing Data using t-SNE

선정 이유 오늘 리뷰/번역/구현할 논문은 Visualizing Data using t-SNE으로, 2008년에 Geoffrey Hinton이 저자인 논문입니다. t-SNE(t-Stochastic Nearest Neighbor)은 지금까지도 시각화를 하는 데 자주 사용되는 알고리즘입니다. 이는 고차원의 벡터로 표현되는 데이터 간의 neighbor st...

[딥러닝][개념정리] Inductive Bias란?

Inductive Bias Overview Inductive Bias란 무엇일까요? 최근 논문들을 보면 그냥 Bias도 아니고 Inductive Bias라는 말이 자주 나오는 것을 확인할 수 있는데요! 오늘은 해당 개념에 대해 정리해보는 시간을 가지려고 합니다. 공부하면서 작성한 글이므로 틀린 개념이 있다면 언제든 피드백 환영합니다. Bias(편...