Paper Review

논문을 읽고 핵심 아이디어와 실험을 정리한 리뷰.

논문을 읽고 핵심 아이디어와 실험을 정리한 리뷰.

48 posts · 아카이브에서 필터로 보기

[Paper Review] Coding Agents are Strong Prompt Optimizers — 실행 기록 전체를 분석하는 프롬프트 최적화

논문 개요와 전체 구조 프롬프트를 개선할 때는 보통 후보 지시문을 만들고, 에이전트를 다시 실행하고, 검증 점수가 좋아진 후보를 남깁니다. Coding-Agent Skill Distillation(CASD)은 이미 수집한 실행 기록을 코딩 에이전트에게 분석하게 한 뒤, 행동 규칙을 담은 Markdown 스킬 파일을 한 번 작성하는 방식입니다. 여기서...
Paper ReviewAI AgentPrompt EngineeringNLP

Posted by Euisuk's Dev Log on September 29, 2026

[Paper Review] SkillGym: 사람의 스킬을 LLM의 실행 능력으로 학습시키기

논문 개요와 전체 구조 AI Agent에게 SKILL.md를 제공하면 작업 절차를 알려줄 수 있습니다. 그러나 문서를 읽을 수 있다는 사실과 실제로 복잡한 작업을 끝낼 수 있다는 사실은 다릅니다. 파일을 확인하고, 여러 도구를 연결하고, 실패를 수정한 뒤, 결과가 요구사항을 만족하는지 확인하는 능력이 필요합니다. SkillGym은 이처럼 여러 단계에...
Paper ReviewAI AgentNLP딥러닝

Posted by Euisuk's Dev Log on September 28, 2026

[Paper Review] Downside-Controlled Online Forecast Combination under Delayed and Revised Outcomes

논문 개요와 전체 구조 Downside-Controlled Online Forecast Combination under Delayed and Revised Outcomes는 다시 학습할 수 없는 시계열 예측기에 보정 계층을 붙일 때, 평균 정확도 향상과 개별 데이터에서의 성능 악화를 어떻게 함께 평가해야 하는지 다룹니다. Minkyoung Kim, ...
Paper Review시계열머신러닝

Posted by Euisuk's Dev Log on September 28, 2026

[Paper Review] Return or Revise? — 검색 근거로 답을 고칠 때와 지킬 때

논문 개요와 전체 구조 검색 증강 생성(Retrieval-Augmented Generation, RAG)에서 검색한 문서를 읽고 답을 다시 쓰면 정확도가 올라갈 수 있습니다. 그러나 이미 맞는 답을 엉뚱한 답으로 바꾸는 경우도 있습니다. Return or Revise?는 질문에 대한 초안과 검색 결과가 준비된 시점에, 초안을 그대로 반환할지 아니면 ...
Paper ReviewRAGNLP딥러닝머신러닝

Posted by Euisuk's Dev Log on September 27, 2026

[Paper Review] CORDIAL: Calibrating Ordinal LLM Outputs from Few Labels

논문 개요와 전체 구조 LLM이 상품 리뷰에 별점 4점을 부여하면서 95%의 확률을 제시했다고 해도, 그 확률이 실제 정답 빈도와 맞는다는 뜻은 아닙니다. 문장의 의미는 잘 파악하면서도 항상 한 단계 높은 점수를 주거나, 극단적인 감정을 중립으로 압축할 수 있습니다. CORDIAL은 이러한 순서형 평가를 잡음이 섞인 측정으로 보고, 소수의 정답 라벨...
Paper ReviewNLP딥러닝머신러닝

Posted by Euisuk's Dev Log on September 26, 2026

[Paper Review] CAST: Context- and Anomaly Structure-Conditioned Time Series Anomaly Generation

논문 개요와 전체 구조 시계열 이상탐지에서는 정상 데이터보다 이상 데이터의 확보가 어렵습니다. 발전량이나 교통량을 오래 관측해도 장애·급격한 변화 사례는 적을 수 있고, 심전도처럼 이상 형태가 다양한 데이터에서는 몇 개의 사례만으로 전체 분포를 배우기 어렵습니다. CAST는 주변의 정상 문맥과 생성하려는 이상 형태를 서로 다른 조건으로 제공해, 이상...
Paper Review시계열이상탐지딥러닝머신러닝

Posted by Euisuk's Dev Log on September 25, 2026

[Paper Review] Diffusion Drafts, AR Verifies: Accelerating Document OCR with Self-Speculative Decoding

논문 개요와 전체 구조 문서 이미지를 텍스트·HTML 표·LaTeX 수식으로 바꾸는 생성형 OCR에서는 결과가 길수록 토큰을 하나씩 출력하는 시간이 늘어납니다. GravityOCR는 여러 토큰의 초안을 병렬로 만들되, 출력 확정은 자기회귀 모델이 담당하도록 구성합니다. 하나의 모델이 attention 패턴을 바꾸어 block diffusion dra...
Paper ReviewComputer VisionTransformer딥러닝머신러닝

Posted by Euisuk's Dev Log on September 24, 2026

[Paper Review] TabPFN-3: Technical Report — 대규모 표 데이터와 추론 시 확장

논문 개요와 전체 구조 TabPFN-3는 합성 표 데이터로 사전학습한 모델에 실제 학습 표를 문맥으로 제공하여 새로운 행을 예측하는 tabular foundation model입니다. 이 기술 보고서의 중심 질문은 이 방식의 성능을 유지하면서 학습 행을 100만 개까지 늘리고, 반복 예측의 메모리와 지연 시간을 줄일 수 있는가입니다. 답은 행을 먼저...
Paper ReviewTransformer딥러닝머신러닝시계열

Posted by Euisuk's Dev Log on September 22, 2026

[Paper Review] A Closer Look at TabPFN v2: 강점의 원리와 추론 시 확장 전략

논문 개요와 전체 구조 TabPFN v2는 학습 데이터와 예측할 행을 함께 입력받아, 새 데이터셋마다 신경망을 미세조정하지 않고 정형 데이터의 분류·회귀를 수행하는 foundation model입니다. 그렇다면 열의 개수와 의미가 매번 바뀌는데도 어떻게 작동하며, 내부 표현을 별도의 모델에 사용할 수 있을까요? 입력이 너무 넓거나 길고 클래스가 많아...
Paper ReviewTransformer딥러닝머신러닝

Posted by Euisuk's Dev Log on September 22, 2026

[Paper Review] TabPFN v2: Accurate predictions on small data with a tabular foundation model

논문 개요와 전체 구조 TabPFN v2는 새로운 표 데이터셋을 받았을 때 어떤 예측기를 학습할 것인지 자체를 미리 학습한 모델입니다. 수많은 합성 데이터셋에서 예측 문제를 풀도록 Transformer를 사전학습하고, 실제 사용 시에는 정답이 있는 학습 행과 정답이 없는 질의 행을 문맥으로 전달합니다. 일반적인 사용 과정에서 모델 가중치를 다시 최적...
Paper ReviewTransformer딥러닝머신러닝

Posted by Euisuk's Dev Log on September 22, 2026

[Paper Review] TabPFN: 작은 정형 데이터의 학습을 Transformer 추론으로 바꾸다

논문 개요와 전체 구조 작은 정형 데이터로 분류기를 만들 때는 대개 모델을 고르고, 하이퍼파라미터를 탐색하고, 학습을 반복합니다. TabPFN은 이 절차 자체를 미리 학습한 Transformer에 맡깁니다. 새로운 데이터셋의 관측된 행과 정답, 예측할 행을 함께 입력하면 모델 가중치를 갱신하지 않고 클래스 확률을 출력합니다. 개별 데이터셋에 대한 학...
Paper ReviewTransformer딥러닝머신러닝

Posted by Euisuk's Dev Log on September 22, 2026

[Paper Review] GroupKV: 장문맥 확산 언어 모델의 계층적 KV 캐시 관리

논문 개요와 전체 구조 GroupKV는 긴 문맥을 처리하는 확산 대규모 언어 모델(diffusion large language model, dLLM)의 Key–Value(KV) 캐시를 CPU와 GPU 사이에서 효율적으로 관리하는 추론 시스템입니다. 확산 언어 모델은 마스크가 포함된 토큰들을 반복적으로 갱신하면서 문장을 생성합니다. 여러 토큰을 함께 ...
Paper ReviewNLPTransformer딥러닝머신러닝

Posted by Euisuk's Dev Log on September 18, 2026

[Paper Review] Is Bash All You Need? 기업 업무 에이전트의 다섯 도구 인터페이스 비교

논문 개요와 전체 구조 기업 업무용 AI Agent에 도구를 연결할 때는 흔히 문서 읽기, 파일 검색, 메시지 전송과 같은 기능을 각각의 함수로 제공합니다. 그런데 모델이 이미 셸 명령과 프로그램 작성에 익숙하다면, 이런 개별 도구 대신 셸 하나를 주는 편이 더 효과적일 수 있을까요? Is Bash All You Need?는 같은 모델과 업무를 유지...
Paper ReviewAI AgentMCPTools

Posted by Euisuk's Dev Log on September 16, 2026

[Paper Review] GPU-CFR: 게임을 정적 데이터 흐름으로 컴파일하는 균형 계산

논문 개요와 전체 구조 GPU-CFR는 불완전정보 게임의 균형 전략을 계산하는 Counterfactual Regret Minimization(CFR)의 실행 방식을 바꾸는 시스템 연구입니다. 포커처럼 상대의 정보를 알 수 없는 게임에서는 하나의 관측에 여러 실제 상태가 대응합니다. CFR는 이 상태들을 반복해서 순회하며 행동별 후회값을 누적합니다. ...
Paper Review알고리즘NVIDIA

Posted by Euisuk's Dev Log on September 13, 2026

[Paper Review] SenseNova-U1.5: 공간 복원과 전문가 증류로 통합하는 시각 지능

논문 개요와 전체 구조 SenseNova-U1.5는 이미지를 이해하는 모델과 이미지를 만드는 모델을 하나의 멀티모달 계산 구조 안에서 학습하는 연구입니다. 기존 시각 인코더와 Variational Autoencoder(VAE)를 연결하는 대신, RGB 픽셀과 텍스트에서 직접 출발합니다. 핵심은 모든 파라미터를 공유하는 데 있지 않습니다. 이해와 생성...
Paper ReviewComputer Vision딥러닝강화학습머신러닝

Posted by Euisuk's Dev Log on September 12, 2026

[Paper Review] Programmable World Model: 실행 가능한 상태와 영상 생성을 분리한 세계 모델

논문 개요와 전체 구조 영상 세계 모델은 사용자 행동에 반응하는 그럴듯한 장면을 만들 수 있습니다. 그러나 장면 밖으로 사라진 인물이 여전히 존재하는지, 공격 이후 체력이 얼마나 남았는지, 이미 발생한 사건이 이후에도 유효한지는 영상만으로 관리하기 어렵습니다. Programmable World Model(PWM)은 이러한 세계의 사실을 명시적 엔진이...
Paper Review머신러닝딥러닝Computer Vision

Posted by Euisuk's Dev Log on September 11, 2026

[Paper Review] Show-Harness 논문 리뷰: 의미 기반 행동 인터페이스로 VLM과 로봇을 연결하기

1. 논문 개요와 전체 구조 Show-Harness: Just a VLM Agent Can Play Robots는 시각과 언어를 함께 처리하는 Vision–Language Model(VLM)이 로봇을 조작할 때, 모델과 로봇 사이에 어떤 행동 인터페이스를 두어야 하는지 연구합니다. Show Lab의 Yanzhe Chen 등은 방향 이동·회전·잡기처럼...
Paper ReviewAI AgentComputer Vision딥러닝머신러닝

Posted by Euisuk's Dev Log on September 10, 2026

[Paper Review] K-EXAONE Technical Report

https://arxiv.org/abs/2601.01739 도입: 한국 AI 생태계의 도전과 K-EXAONE의 탄생 글로벌 대규모 언어 모델(LLM) 개발 경쟁이 치열해지고 있습니다. Closed-Source 모델이 여전히 성능 우위를 점하고 있지만, Open-Weight 모델들이 수천억 파라미터를 넘어 조(trillion) 단위 스케일...
EXAONELGPaper ReviewNLP

Posted by Euisuk's Dev Log on February 16, 2026

[Paper Review] LLaVA: Visual Instruction Tuning - 멀티모달 AI의 새로운 패러다임

https://arxiv.org/pdf/2304.08485 논문 정보 제목: Visual Instruction Tuning 저자: Haotian Liu, Chunyuan Li, Qingyang Wu, Yong Jae Lee 소속: University of Wisconsin–Madison, Microsoft Research, ...
Paper ReviewComputer VisionNLP딥러닝

Posted by Euisuk's Dev Log on December 12, 2025

[Paper Review] LLaVA-PruMerge: Adaptive Token Reduction for Efficient Large Multimodal Models

https://arxiv.org/pdf/2403.15388 논문 정보 제목: LLaVA-PruMerge: Adaptive Token Reduction for Efficient Large Multimodal Models 저자: Yuzhang Shang, Mu Cai, Bingxin Xu, Yong Jae Lee, Yan Yan ...
Paper ReviewComputer VisionTransformer딥러닝

Posted by Euisuk's Dev Log on December 12, 2025

[Paper Review] MM-Groundung-DINO : An Open and Comprehensive Pipeline for Unified Object Grounding and Detection

https://arxiv.org/pdf/2401.02361 본 리뷰는 원문을 최대한 직역한 내용입니다. 여기서 “우리는”은 저자를 지칭합니다. 참고 부탁드립니다. 초록 Grounding-DINO는 Open-Vocabulary Detection (OVD), Phrase Grounding (PG), Referring Expression C...
Paper ReviewComputer VisionTransformer딥러닝

Posted by Euisuk's Dev Log on September 15, 2025

[Paper Review] LLM-Det : Learning Strong Open-Vocabulary Object Detectors under the Supervision of Large Language Models

https://arxiv.org/pdf/2501.18954 본 리뷰는 원문을 최대한 직역한 내용입니다. 여기서 “우리는”은 저자를 지칭합니다. 참고 부탁드립니다. Abstract 최근 open-vocabulary detector들은 풍부한 region-level 주석 데이터로 유망한 성능을 달성하고 있습니다. (참고) Regio...
Paper ReviewComputer VisionNLP딥러닝

Posted by Euisuk's Dev Log on September 15, 2025

[Paper Review] RT-DETRv2: Improved Baseline with Bag-of-Freebies for Real-Time Detection Transformer

https://arxiv.org/pdf/2407.17140 본 리뷰는 원문을 최대한 직역한 내용입니다. 여기서 “우리는”은 저자를 지칭합니다. 참고 부탁드립니다. 초록 이 보고서에서는 개선된 실시간 Detection Transformer인 RT-DETRv2를 제시합니다. RT-DETRv2는 기존의 최신 실시간 detector인 RT-D...
Paper ReviewComputer VisionTransformer딥러닝

Posted by Euisuk's Dev Log on September 14, 2025

[Paper Review] OmDet_Turbo : Real-time Transformer-based Open-Vocabulary Detection with Efficient Fusion Head

https://arxiv.org/pdf/2403.06892 초록 End-to-end transformer 기반 detector (DETRs)는 언어 modality 통합을 통해 closed-set과 open-vocabulary object detection (OVD) 작업 모두에서 뛰어난 성능을 보여주었습니다. 그러나 높은 연산 요구사항으로...
Paper ReviewComputer VisionTransformer딥러닝

Posted by Euisuk's Dev Log on September 14, 2025

[OpenAI] 언어모델 환각(Hallucination) 현상: 왜 AI는 확신에 찬 거짓말을 할까?

Source: https://cdn.openai.com/pdf/d04913be-3f6f-4d2b-b283-ff432ef4aaa5/why-language-models-hallucinate.pdf https://openai.com/index/why-language-models-hallucinate/ 해당 블로그 포스...
Paper ReviewOpenAINLP딥러닝

Posted by Euisuk's Dev Log on September 7, 2025

[Paper Review] EXAONE Path 2.0: Pathology Foundation Model with End-to-End Supervision

https://arxiv.org/abs/2507.06639 1 PYEON, Myeongjang, et al. EXAONE Path 2.0: Pathology Foundation Model with End-to-End Supervision. arXiv preprint arXiv:2507.06639, 2025. Abstract 디지털 병...
Paper ReviewEXAONELGComputer Vision

Posted by Euisuk's Dev Log on August 30, 2025

[Paper Review] EXAONE Deep: Reasoning Enhanced Language Models

https://arxiv.org/pdf/2503.12524 1 RESEARCH, L. G., et al. EXAONE Deep: Reasoning Enhanced Language Models. arXiv preprint arXiv:2503.12524, 2025. Abstract EXAONE Deep 시리즈를 소개합니다. 이 모델들은 ...
Paper ReviewEXAONELGNLP

Posted by Euisuk's Dev Log on August 30, 2025

[Paper Review] EXAONE 3.5: Series of Large Language Models for Real-world Use Cases

https://arxiv.org/pdf/2412.04862 1 AN, Soyoung, et al. EXAONE 3.5: Series of Large Language Models for Real-world Use Cases. arXiv e-prints, 2024, arXiv: 2412.04862. Abstract 이 기술 보고서는 LG A...
Paper ReviewEXAONELGNLP

Posted by Euisuk's Dev Log on August 30, 2025

[Paper Review] Qwen-VL: A Versatile Vision-Language Model for Understanding, Localization, Text Reading, and Beyond

https://arxiv.org/abs/2308.12966 1 WANG, Peng, et al. Qwen2-vl: Enhancing vision-language model's perception of the world at any resolution. arXiv preprint arXiv:2409.12191, 2024. 초록 본 연구...
Paper ReviewQwenComputer VisionNLPTransformer

Posted by Euisuk's Dev Log on August 29, 2025

[Paper Review] Qwen-Image Technical Report

https://arxiv.org/abs/2508.02324 1 WU, Chenfei, et al. Qwen-image technical report. arXiv preprint arXiv:2508.02324, 2025. 본 연구에서는 복잡한 텍스트 렌더링과 정밀한 이미지 편집에서 상당한 진보를 이룬 Qwen 시리즈의 이미지 생성 fou...
Paper ReviewQwenComputer VisionTransformer

Posted by Euisuk's Dev Log on August 29, 2025

[Paper Review] Qwen-Audio: Advancing Universal Audio Understanding via Unified Large-Scale Audio-Language Models

https://arxiv.org/abs/2311.07919 1 CHU, Yunfei, et al. Qwen-audio: Advancing universal audio understanding via unified large-scale audio-language models. arXiv preprint arXiv:2311.07919, 202...
Paper ReviewQwen딥러닝Transformer

Posted by Euisuk's Dev Log on August 29, 2025

[Paper Review] Qwen Technical Report

https://arxiv.org/abs/2309.16609 1 BAI, Jinze, et al. Qwen technical report. arXiv preprint arXiv:2309.16609, 2023. 💡 QWEN은 중국어로 “천 개의 질문”을 의미하는 Qianwen의 별명입니다. “QWEN”의 발음은 맥락과 말하는 개인에 ...
Paper ReviewQwenNLPTransformer

Posted by Euisuk's Dev Log on August 29, 2025

[Paper Review] EXAONE 4.0: Unified Large Language Models Integrating Non-reasoning and Reasoning Modes

https://arxiv.org/pdf/2507.11407 Introduction LLM 생태계에서 가장 뚜렷한 트렌드 중 하나는 “빠른 응답”과 “깊은 추론”을 하나의 모델로 제공하는 Hybrid 모델의 부상입니다. 여기서 “빠른 응답”이란 일반적인 대화나 요약처럼 즉각적인 답변이 필요한 상황을, “깊은 추론”이란 복잡한 수학 문제나...
EXAONEPaper ReviewLGNLP

Posted by Euisuk's Dev Log on August 29, 2025

[Paper Review] A generic non-invasive neuromotor interface for human-computer interaction

메타(Meta)가 손목 밴드를 착용하고 손목이나 손가락의 작은 움직임만으로도 마우스 조작과 키보드 입력이 가능한 혁신적인 기술을 발표했습니다. 이 기술은 우리 몸이 만들어내는 아주 미세한 전기신호를 읽어내 컴퓨터와 소통하는 방식을 근본적으로 바꿀 잠재력을 가지고 있는데요. 손가락으로 허공이나 책상 위에 글씨를 쓰면 그대로 화면에 입력되는 미래가 현실로...
Paper Review딥러닝시계열

Posted by Euisuk's Dev Log on July 31, 2025

[Paper Review] An Efficient Statistical Method for Image Noise Level Estimation

링크 : https://www.cv-foundation.org/openaccess/content_iccv_2015/papers/Chen_An_Efficient_Statistical_ICCV_2015_paper.pdf (참고) 이 논문은 2015년에 발표된 것으로, 현재 기준에서는 최신 기술이라고 보기 어렵습니다. 본문에서 언급된 “최근” ...
Paper ReviewComputer Vision

Posted by Euisuk's Dev Log on July 25, 2025

[Paper Review] NLP 공부하는 사람이라면 꼭 읽어야하는 논문 대신 정리해드립니다

✍️ 자연어 처리(NLP)는 빠르게 발전하고 있는 분야로, 수많은 획기적인 연구 논문들이 매년 발표되고 있습니다. 만약 여러분이 NLP에 처음 발을 들이거나, 연구를 더 깊이 이해하고자 한다면, 다음에 소개할 논문들이 핵심 개념과 최근 발전 동향을 파악하는 데 큰 도움이 될 것입니다. 다음은 해당 블로그에서 소개하는 “Must-Read Res...
Paper ReviewNLPTransformer

Posted by Euisuk's Dev Log on October 9, 2024

[Paper Review] Mamba2 - Transformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Duality

링크 : https://arxiv.org/pdf/2405.21060 다음은 논문 “Transformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Duality”의 각 챕터별로 자세한 리뷰 및 정리입니다. 1. Introdu...
Paper ReviewNLPTransformer딥러닝State Space Model

Posted by Euisuk's Dev Log on October 2, 2024

[Paper Review] A COMPREHENSIVE REVIEW OF YOLO ARCHITECTURES IN COMPUTER VISION: FROM YOLOV1 TO YOLOV8 AND YOLO-NAS

YOLO 모델 서베이 페이퍼 링크 : https://www.mdpi.com/2504-4990/5/4/83 📖 (참고) YOLO 버전의 발전 💡 공식 버전: YOLO의 원 개발자인 Joseph Redmon은 YOLOv3까지 개발했습니다. 이후 그는 윤리적 이유로 객체 탐지 연구를 중단했습니다. Joseph Redmon이 객체 탐...
Computer VisionPaper Review딥러닝CNN

Posted by Euisuk's Dev Log on October 2, 2024

[Paper Review] Mamba: Linear-Time Sequence Modeling with Selective State Spaces

최근 딥러닝 아키텍처의 중심에는 트랜스포머가 자리 잡고 있습니다. 대규모 언어 모델(LLM)뿐만 아니라, 그림을 생성하는 데 쓰이는 디퓨전 모델 또한 트랜스포머 구조를 활용하고 있습니다. 이외에도 시계열 분석이나 추천 시스템과 같은 다양한 분야에서 트랜스포머가 핵심적인 역할을 하고 있습니다. 그러나 트랜스포머를 대체할 수 있는 새로운 아키텍처를 모색...
Paper ReviewState Space Model딥러닝NLP시계열

Posted by Euisuk's Dev Log on September 29, 2024

[Paper Review] Structured State Space Models for Deep Sequence Modeling

시계열 데이터를 효율적으로 처리하는 방법은 지난 몇 년 동안 빠르게 발전했습니다. 특히, CMU에 계신 Albert Gu 교수님은 긴 시계열 의존성(Long-Range Dependencies, LRDs)을 처리하는 데 집중한 HiPPO(2020), LSSL(2021), 그리고 S4(2022)와 같은 연구들을 하고 계십니다. 이번 글에서는 연구의 흐름...
Paper ReviewState Space Model딥러닝시계열

Posted by Euisuk's Dev Log on September 25, 2024

[Paper Review] Resurrecting Recurrent Neural Networks for Long Sequences

논문 “Resurrecting Recurrent Neural Networks for Long Sequences”는 25 Apr 2023에 publish되었으며, ICML 2023 OralPoster에 발표된 논문입니다. 해당 논문은 “Recurrent Neural Networks (RNN)의 성능을 복원하여 긴 시퀀스에서의 효율적인 학습과 추론”을 ...
Paper ReviewState Space Model딥러닝시계열

Posted by Euisuk's Dev Log on September 24, 2024

[Paper Review] 합성 데이터 = 모델 붕괴?

들어가며 최근 인공지능(AI) 분야에서 매우 흥미로운 두 논문이 Nature에 게재되어 큰 화제를 모으고 있습니다. 아래 두 논문은 공통적으로 AI 모델의 발전과 관련된 중대한 문제를 다루고 있으며, AI 기술의 장기적인 위험성을 경고하고 있습니다. AI models collapse when trained on recursively gener...
Paper ReviewNLP딥러닝

Posted by Euisuk's Dev Log on August 26, 2024

[Paper Review] An Image Is Worth 16x16 Words : Transformers for Image Recognition at Scale (Vision Transformer)

선정 이유 안녕하세요! 오늘 논문리뷰, 코드리뷰해볼 논문은 “An Image Is Worth 16x16 Words: Transformers for Image Recognition at Scale” 로, 컴퓨터 비전에서 Transformer와 Attention이 쓰이게 된 결정적 계기(?)가 된 논문입니다. 최근 이쪽 분야에 관심이 많다 보니 오늘은 ...
Paper ReviewTransformerComputer Vision딥러닝PyTorch

Posted by Euisuk's Dev Log on November 7, 2021

[Paper Review] An Architecture Combining Convolutional Neural Network(CNN) and Support Vector Machine(SVM) for Image Classification

오늘 리뷰/번역/구현할 논문은 “Abien Fred M. Agarap” 저자가 쓴 논문으로, “Yichuan Tang”의 “Deep Learning using Linear Support Vector Machines”을 보고 inspired되어 연구하게 되었다고 한다. 하단의 참고 논문 소스에 해당 논문 링크와 이번 논문의 링크를 첨부였다. (참고) ...
Paper ReviewComputer Vision딥러닝PyTorch

Posted by Euisuk's Dev Log on November 1, 2021

[Paper Review] Transferring Inductive Bias Through Knowledge Distillation - (3/3)

안녕하세요 :) 오늘은 지난번 포스팅에 이어서 “Transferring Inductive Bias Through Knowledge Distillation” 논문에 대한 정리를 이어나가 보도록 하겠습니다. 이전 포스팅에서 본 논문에서 다루게 될 주요 개념들인 Knowledge Distillation과 Inductive Bias에 대한 설명과 RNNs v...
Paper ReviewDistillationComputer Vision딥러닝

Posted by Euisuk's Dev Log on September 13, 2021

[Paper Review] Visualizing Data using t-SNE

선정 이유 오늘 리뷰/번역/구현할 논문은 Visualizing Data using t-SNE으로, 2008년에 Geoffrey Hinton이 저자인 논문입니다. t-SNE(t-Stochastic Nearest Neighbor)은 지금까지도 시각화를 하는 데 자주 사용되는 알고리즘입니다. 이는 고차원의 벡터로 표현되는 데이터 간의 neighbor st...
Paper Review차원축소Visualization머신러닝Python

Posted by Euisuk's Dev Log on September 8, 2021

[Paper Review] Transferring Inductive Bias Through Knowledge Distillation - (2/3)

안녕하세요 :) 오늘은 지난번 포스팅에 이어서 “Transferring Inductive Bias Through Knowledge Distillation” 논문에 대한 정리를 이어나가 보도록 하겠습니다. 이전 포스팅에서 본 논문에서 다루게 될 주요 개념들인 Knowledge Distillation과 Inductive Bias에 대한 설명을 해보았는데요...
Paper ReviewDistillationNLP딥러닝

Posted by Euisuk's Dev Log on August 27, 2021

[Paper Review] Transferring Inductive Bias Through Knowledge Distillation - (1/3)

안녕하세요 :) 오늘 블로그 포스팅으로 다뤄볼 내용은 얼마 전에 흥미롭게 읽어보았던 “Transferring Inductive Bias Through Knowledge Distillation”이라는 논문인데요! 해당 논문은 Knowledge Distillation을 이용하여 과연 Inductive Bias를 전달할 수 있을 까를 다룬 논문입니다. 아쉽...
Paper ReviewDistillation딥러닝

Posted by Euisuk's Dev Log on August 15, 2021

FEATURED TAGS
개념정리 딥러닝 AI Agent OpenAI Paper Review Python NLP 머신러닝 Conference Tools 꿀팁 강의노트 ChatGPT 환경설정 Prompt Engineering Computer Vision IT지식 트렌드 Transformer RAG Linux 시계열 LangChain Google Vibe Coding NVIDIA PyTorch 이상탐지 수학 비지도학습 CES Claude Gemini Git Lovable Anthropic 차원축소 CIO CNN EXAONE Pandas Visualization LangGraph LG Repo Review State Space Model Graph SK AI Summit Snippet Sora 도서리뷰 Distillation Network Qwen 알고리즘 데이터분석 MCP Ollama NumPy 강화학습 Splunk Velog
ABOUT ME

서쿠 개발노트⭐
Data Scientist

FRIEND SITES