Euisuk's Dev Log

γ€Œμ„œμΏ  κ°œλ°œλ…ΈνŠΈβ­γ€

[NLP] 1. Introduction to Text Analytics

Introduction to Text Analytics Text AnalyticsλŠ” λ¬Έμ„œ(text)와 같은 λΉ„μ •ν˜• 데이터λ₯Ό λΆ„μ„ν•˜μ—¬ κ·Έ 속에 ν¬ν•¨λœ 의미 μžˆλŠ” 정보λ₯Ό μΆ”μΆœν•˜λŠ” 과정을 μ˜λ―Έν•©λ‹ˆλ‹€. μ΄λŠ” μžμ—°μ–΄ 처리(Natural Language Processing, NLP) κΈ°μˆ μ„ ν™œμš©ν•˜μ—¬ λ‹€μ–‘ν•œ ν˜•νƒœμ˜ ν…μŠ€νŠΈ 데이터λ₯Ό μ²˜λ¦¬ν•˜κ³  λΆ„μ„ν•¨μœΌλ‘œμ¨ ...

[κΈ°μ—…] NVIDIA와 GPU 이야기

NVIDIA와 GPU 이야기 λ”₯λŸ¬λ‹, LLM, ChatGPT λ“± μ΄μ œλŠ” 인곡지λŠ₯ ν•˜λ©΄ GPUλ₯Ό 빼놓고 μ–˜κΈ°ν•  수 μ—†μŠ΅λ‹ˆλ‹€. ν˜„μž¬ μˆœμœ„κΆŒμ—μ„œ μ’€ λ°€λ €λ‚œ λͺ¨λΈλ“€μ΄κΈ΄ν•˜μ§€λ§Œ, μ΄λŸ¬ν•œ LM(λŒ€ν˜•μ–Έμ–΄λͺ¨λΈ, Language Model) μ—­μ‹œ GPU (Graphics Processing Unit)둜 ν•™μŠ΅λœ 것을 확인할 수 μžˆμŠ΅λ‹ˆλ‹€. GPUλž€, μ›λž˜ 그래...

[Graph] 4μž₯. Graph Neural Networks: Algorithms

1. Introduction κ·Έλž˜ν”„ ꡬ쑰 λ°μ΄ν„°λŠ” λ³΅μž‘ν•œ 관계와 μƒν˜Έμž‘μš©μ„ λͺ¨λΈλ§ν•˜λŠ” 데 맀우 μœ μš©ν•©λ‹ˆλ‹€. μ΄λŸ¬ν•œ 데이터λ₯Ό 효과적으둜 λΆ„μ„ν•˜κ³  ν•™μŠ΅ν•˜κΈ° μœ„ν•΄ κ·Έλž˜ν”„ 신경망(Graph Neural Networks, GNN)κ³Ό κ·Έλž˜ν”„ μž„λ² λ”©(Graph Embedding) 기법이 κ°œλ°œλ˜μ—ˆμŠ΅λ‹ˆλ‹€. 1.1 κ·Έλž˜ν”„ 신경망 λͺ¨λΈ vs κ·Έλž˜ν”„ μž„λ² λ”© 그래...

[Graph] 3μž₯. Graph Node Embedding Methods

1. κ·Έλž˜ν”„ λ…Έλ“œ μž„λ² λ”©μ˜ ν•„μš”μ„± κ·Έλž˜ν”„ λ…Έλ“œ μž„λ² λ”©μ€ κ·Έλž˜ν”„μ˜ 각 λ…Έλ“œλ₯Ό 저차원 벑터 κ³΅κ°„μœΌλ‘œ λ§€ν•‘ν•˜λŠ” κ³Όμ •μž…λ‹ˆλ‹€. μ΄λŠ” κ·Έλž˜ν”„ 데이터λ₯Ό 기계 ν•™μŠ΅ μ•Œκ³ λ¦¬μ¦˜μ— μ μš©ν•˜κΈ° μ‰½κ²Œ λ§Œλ“€μ–΄μ€λ‹ˆλ‹€. μ—¬κΈ°μ„œ μ€‘μš”ν•œ μ§ˆλ¬Έμ€ λ‹€μŒκ³Ό κ°™μŠ΅λ‹ˆλ‹€. μ–΄λ–€ 정보(WHAT)λ₯Ό μš°λ¦¬λŠ” 보쑴(preserve, e...

[Graph] 2μž₯. Graph Neural Networks

1. GNN κ°œμš” GNN(Graph Neural Networks)은 κ·Έλž˜ν”„ ꡬ쑰의 데이터λ₯Ό μ²˜λ¦¬ν•˜κΈ° μœ„ν•΄ 개발된 λ”₯λŸ¬λ‹ λ°©λ²•μž…λ‹ˆλ‹€. μ‹€μ œ μ„Έκ³„μ˜ λ§Žμ€ 데이터가 κ·Έλž˜ν”„ ν˜•νƒœλ‘œ ν‘œν˜„λ  수 μžˆμŠ΅λ‹ˆλ‹€: μ†Œμ…œ λ„€νŠΈμ›Œν¬: μ‚¬μš©μžλŠ” λ…Έλ“œ, 친ꡬ κ΄€κ³„λŠ” μ—£μ§€ λΆ„μž ꡬ쑰: μ›μžλŠ” λ…Έλ“œ, ν™”ν•™ 결합은 μ—£μ§€ ꡐ톡 λ„€νŠΈμ›Œν¬: κ΅μ°¨λ‘œλŠ” λ…Έλ“œ, λ„λ‘œλŠ” μ—£μ§€ ...

[Graph] 1μž₯. κ·Έλž˜ν”„μ™€ GNN

1. κ·Έλž˜ν”„λž€? κ·Έλž˜ν”„λŠ” ν˜„μ‹€ μ„Έκ³„μ˜ 데이터λ₯Ό ν‘œν˜„ν•˜λŠ” μ€‘μš”ν•œ λ„κ΅¬λ‘œ μ‚¬μš©λ©λ‹ˆλ‹€. λ‹€μ–‘ν•œ λΆ„μ•Όμ—μ„œ κ·Έλž˜ν”„λ₯Ό ν™œμš©ν•˜μ—¬ 관계와 ꡬ쑰λ₯Ό λͺ¨λΈλ§ν•  수 μžˆμŠ΅λ‹ˆλ‹€. μ˜ˆμ‹œ: μ‚¬νšŒ κ³Όν•™: μ†Œμ…œ λ„€νŠΈμ›Œν¬μ—μ„œ 개인 κ°„μ˜ 관계λ₯Ό κ·Έλž˜ν”„λ‘œ ν‘œν˜„ν•  수 μžˆμŠ΅λ‹ˆλ‹€. 예λ₯Ό λ“€μ–΄, 페이슀뢁 친ꡬ κ΄€κ³„λŠ” λ…Έλ“œ(μ‚¬μš©μž)와 에지(친ꡬ 관계)둜 λ‚˜νƒ€λ‚Ό 수...

Prophet을 ν™œμš©ν•œ μ‹œκ³„μ—΄ μ˜ˆμΈ‘πŸ”­

Prophet μ†Œκ°œ Facebook Prophet은 μ‹œκ³„μ—΄ λ°μ΄ν„°μ˜ μ˜ˆμΈ‘μ„ μœ„ν•΄ Facebookμ—μ„œ κ°œλ°œν•œ μ˜€ν”ˆμ†ŒμŠ€ λΌμ΄λΈŒλŸ¬λ¦¬μž…λ‹ˆλ‹€. Prophet은 μžλ™ν™”λœ 이상 탐지 및 κ³„μ ˆμ„± 뢄석을 μ§€μ›ν•˜λ©°, 특히 λΉ„μ¦ˆλ‹ˆμŠ€ 예츑(예: 맀좜, μ‚¬μš©μž 수, μ›Ή νŠΈλž˜ν”½ λ“±)에 μœ μš©ν•©λ‹ˆλ‹€. 링크: https://facebook.github.io/prophe...

[κ°œλ…μ •λ¦¬] μ‹œκ³„μ—΄ 인과관계 뢄석: Granger Causality

μ•ˆλ…•ν•˜μ„Έμš”πŸ˜Š μ§€λ‚œ 번 ν¬μŠ€νŠΈμ—μ„œ β€œμΈκ³Όκ΄€κ³„μ™€ μƒκ΄€κ΄€κ³„μ˜ κ°œλ…β€(링크)에 λŒ€ν•΄μ„œ μ‚΄νŽ΄λ³΄μ•˜λŠ”λ°μš”. μ˜€λŠ˜μ€ μ‹œκ³„μ—΄ λΆ„μ„μ˜ 핡심 κ°œλ… 쀑 ν•˜λ‚˜μΈ β€˜κ·Έλžœμ € 인과관계(Granger causality)’에 λŒ€ν•΄ μ•Œμ•„λ³΄κ³ , 이λ₯Ό μ‹€μ œ 데이터에 μ μš©ν•΄λ³΄λŠ” μ‹œκ°„μ„ κ°€μ Έλ³΄κ² μŠ΅λ‹ˆλ‹€. μ‹€μŠ΅μ— μ‚¬μš©ν•  λ°μ΄ν„°λŠ” Kaggle 데이터 쀑 ν•˜λ‚˜μΈ Advertising Sales ...

[κ°œλ…μ •λ¦¬] 상관관계 vs 인과관계

μ•ˆλ…•ν•˜μ„Έμš”! πŸ’‘ μ €λŠ” μš”μ¦˜ 인과관계 뢄석, 인과성 뢄석에 λŒ€ν•΄ κ³΅λΆ€ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€. πŸ™Œ 본격적으둜 곡뢀λ₯Ό μ‹œμž‘ν•˜κΈ°μ— μ•žμ„œ κ°€μž₯ 기본이 λ˜λŠ” 상관관계와 인과관계에 λŒ€ν•΄ λ‹€μ‹œ ν•œλ²ˆ μ •λ¦¬ν•˜κ³  λ„˜μ–΄κ°€λ €κ³  ν•©λ‹ˆλ‹€. γ…Žγ…Ž 이 두 κ°œλ…μ€ λΉ„μŠ·ν•΄ λ³΄μ΄μ§€λ§Œ 맀우 λ‹€λ₯Έ 의미λ₯Ό κ°€μ§€κ³  있으며, 데이터 해석에 μžˆμ–΄ μ€‘μš”ν•œ 역할을 ν•©λ‹ˆλ‹€. 그전에! λ‹΅λ³€ κΆκΈˆν•˜μ‹œμ£ ? ...

[κ°œλ…μ •λ¦¬] λΉˆλ„μ£Όμ˜(Frequentist) vs λ² μ΄μ§€μ•ˆ(Bayesian)

Bayesian ν™•λ₯ κ³Ό Frequentist ν™•λ₯  μ•ˆλ…•ν•˜μ„Έμš”!πŸ™Œ μ˜€λŠ˜μ€ ν†΅κ³„ν•™μ˜ 두 κ°€μ§€ μ£Όμš” 접근법인 Bayesian ν™•λ₯ κ³Ό Frequentist ν™•λ₯ μ— λŒ€ν•΄ μžμ„Ένžˆ μ•Œμ•„λ³΄κ² μŠ΅λ‹ˆλ‹€. 이 κ°œλ…λ“€μ€ λ¨Έμ‹ λŸ¬λ‹κ³Ό λ”₯λŸ¬λ‹μ—μ„œ μ€‘μš”ν•œ 역할을 ν•˜λ―€λ‘œ, 깊이 μžˆλŠ” 이해가 ν•„μš”ν•©λ‹ˆλ‹€. 0. ν™•λ₯  (Probability) κ°œλ… ν™•λ₯ μ€ λΆˆν™•μ‹€ν•œ μ‚¬κ±΄μ˜ λ°œμƒ κ°€λŠ₯μ„±...