μ°¨μ›μΆ•μ†Œ

PCA, t-SNE, UMAP λ“± 차원 μΆ•μ†Œ 기법.

PCA, t-SNE, UMAP λ“± 차원 μΆ•μ†Œ 기법.

μƒμœ„ κ°œλ…: λ¨Έμ‹ λŸ¬λ‹

8 posts · μ•„μΉ΄μ΄λΈŒμ—μ„œ ν•„ν„°λ‘œ 보기

[NLP] 5. μžμ—°μ–΄ 차원 μΆ•μ†Œ(Dimension Reduction) 기법

차원 μΆ•μ†Œ (Dimensionality Reduction) λ³Έ κ°•μ˜λŠ” DSBA κ°•ν•„μ„± κ΅μˆ˜λ‹˜μ˜ κ°•μ˜λ₯Ό μ°Έμ‘°ν•˜μ—¬ μž‘μ„±λ˜μ—ˆμŠ΅λ‹ˆλ‹€. 1. 차원 μΆ•μ†Œλž€ 무엇인가? 차원 μΆ•μ†ŒλŠ” κ³ μ°¨μ›μ˜ 데이터λ₯Ό μ €μ°¨μ›μ˜ λ°μ΄ν„°λ‘œ λ³€ν™˜ν•˜λŠ” κΈ°λ²•μž…λ‹ˆλ‹€. 이λ₯Ό 톡해 계산 νš¨μœ¨μ„±μ„ 높이고, 데이터 뢄석 및 μ‹œκ°ν™”λ₯Ό μš©μ΄ν•˜κ²Œ ν•  수 μžˆμŠ΅λ‹ˆλ‹€. 차원 μΆ•μ†ŒλŠ” λ‹€μŒ 두 ...

[κ°œλ…] 인곡지λŠ₯을 μœ„ν•œ μ„ ν˜•λŒ€μˆ˜ : ν–‰λ ¬νŽΈ

1. ν–‰λ ¬(Matrix)의 μ •μ˜ 인곡지λŠ₯ 및 기계 ν•™μŠ΅μ—μ„œ ν–‰λ ¬(matrix)은 데이터λ₯Ό μ²˜λ¦¬ν•˜κ³  ν‘œν˜„ν•˜λŠ” μ€‘μš”ν•œ λ„κ΅¬μž…λ‹ˆλ‹€. 행렬은 수λ₯Ό μ§μ‚¬κ°ν˜• ν˜•νƒœλ‘œ λ°°μ—΄ν•œ κ²ƒμœΌλ‘œ, 데이터λ₯Ό μˆ˜ν•™μ μœΌλ‘œ 닀루기 μœ„ν•΄ ν•„μˆ˜μ μž…λ‹ˆλ‹€. 행렬을 μ‚¬μš©ν•˜λ©΄ λŒ€κ·œλͺ¨ 데이터λ₯Ό 효율적으둜 κ΄€λ¦¬ν•˜κ³  계산할 수 μžˆμŠ΅λ‹ˆλ‹€. μ˜ˆμ‹œ: μš°λ¦¬κ°€ 이미 μ΅μˆ™ν•œ 데이터 ν…Œμ΄λΈ”μ„ μƒκ°ν•΄λ΄…μ‹œλ‹€....

[NLP] 2. Steps of Text Analytics

Steps of Text Analytics ν…μŠ€νŠΈ 뢄석은 λΉ„μ •ν˜• ν…μŠ€νŠΈ 데이터λ₯Ό κ΅¬μ‘°ν™”ν•˜κ³  μœ μ˜λ―Έν•œ 정보λ₯Ό μΆ”μΆœν•˜κΈ° μœ„ν•œ 일련의 κ³Όμ •μž…λ‹ˆλ‹€. ν•΄λ‹Ή ν¬μŠ€νŠΈμ—μ„œλŠ” ν…μŠ€νŠΈ λΆ„μ„μ˜ μ£Όμš” 단계λ₯Ό 순차적으둜 μ†Œκ°œν•˜μ—¬, 각 λ‹¨κ³„μ—μ„œ μˆ˜ν–‰λ˜λŠ” μž‘μ—…κ³Ό κ·Έ μ€‘μš”μ„±μ„ μ„€λͺ…ν•˜κ² μŠ΅λ‹ˆλ‹€. β‘  STEP 1. μ •μ˜ 및 데이터 μˆ˜μ§‘(Define & Collect) ...

[이탐] 톡계 기반 이상탐지 μ•Œκ³ λ¦¬μ¦˜

톡계 기반 이상탐지 톡계적 μ ‘κ·Ό 방식을 μ‚¬μš©ν•˜μ—¬ λͺ¨λΈμ΄ λ°μ΄ν„°μ˜ β€˜μ •μƒμ μΈβ€™ 행동을 ν•™μŠ΅ν•˜κ³  ν†΅κ³„μ μœΌλ‘œ 이둀적인 행동을 λ³΄μ΄λŠ” 데이터 포인트λ₯Ό μ΄μƒμΉ˜λ‘œ μ‹λ³„ν•©λ‹ˆλ‹€. GMM (Gaussian Mixture Models) 링크: https://scikit-learn.org/stable/modules/generated/sklearn.mixture...

[λ¨Έμ‹ λŸ¬λ‹][μ°¨μ›μΆ•μ†Œ] λ³€μˆ˜ μΆ”μΆœλ²• - Multi-Dimensional Scaling (MDS)

λ³Έ ν¬μŠ€νŠΈλŠ” κ³ λ €λŒ€ν•™κ΅ κ°•ν•„μ„± κ΅μˆ˜λ‹˜μ˜ κ°•μ˜λ₯Ό μˆ˜κ°• ν›„ 정리λ₯Ό ν•œ κ²ƒμž…λ‹ˆλ‹€. μž‘μ„± 및 μ„€λͺ…μ˜ 편의λ₯Ό μœ„ν•΄ μ•„λž˜λŠ” νŽΈν•˜κ²Œ μž‘μ„±ν•œ 점 μ–‘ν•΄λΆ€νƒλ“œλ¦½λ‹ˆλ‹€. Dimensionality Reduction Supervised Variable Extraction μ°¨μ›μΆ•μ†ŒλŠ”, λͺ¨λΈλ§μ„ ν•˜κΈ° μœ„ν•΄ λ‚΄κ°€ κ°€μ§„ λ°μ΄ν„°μ˜ 정보λ₯Ό μ΅œλŒ€ν•œ λ³΄μ‘΄ν•˜λ©΄μ„œ, 훨씬 더 compac...

[λ¨Έμ‹ λŸ¬λ‹][μ°¨μ›μΆ•μ†Œ] λ³€μˆ˜ μΆ”μΆœλ²• - Principal Component Analysis (PCA)

λ³Έ ν¬μŠ€νŠΈλŠ” κ³ λ €λŒ€ν•™κ΅ κ°•ν•„μ„± κ΅μˆ˜λ‹˜μ˜ κ°•μ˜λ₯Ό μˆ˜κ°• ν›„ 정리λ₯Ό ν•œ κ²ƒμž…λ‹ˆλ‹€. μž‘μ„± 및 μ„€λͺ…μ˜ 편의λ₯Ό μœ„ν•΄ μ•„λž˜λŠ” νŽΈν•˜κ²Œ μž‘μ„±ν•œ 점 μ–‘ν•΄λΆ€νƒλ“œλ¦½λ‹ˆλ‹€. Dimensionality Reduction Supervised Variable Extraction μ°¨μ›μΆ•μ†ŒλŠ”, λͺ¨λΈλ§μ„ ν•˜κΈ° μœ„ν•΄ λ‚΄κ°€ κ°€μ§„ λ°μ΄ν„°μ˜ 정보λ₯Ό μ΅œλŒ€ν•œ λ³΄μ‘΄ν•˜λ©΄μ„œ, 훨씬 더 compa...

[λ¨Έμ‹ λŸ¬λ‹][μ°¨μ›μΆ•μ†Œ] λ³€μˆ˜ 선택법

λ³Έ ν¬μŠ€νŠΈλŠ” κ³ λ €λŒ€ν•™κ΅ κ°•ν•„μ„± κ΅μˆ˜λ‹˜μ˜ κ°•μ˜λ₯Ό μˆ˜κ°• ν›„ 정리λ₯Ό ν•œ κ²ƒμž…λ‹ˆλ‹€. μž‘μ„± 및 μ„€λͺ…μ˜ 편의λ₯Ό μœ„ν•΄ μ•„λž˜ ν¬μŠ€νŠΈλŠ” 반말둜 μž‘μ„±ν•œ 점 μ–‘ν•΄λΆ€νƒλ“œλ¦½λ‹ˆλ‹€. Dimensionality Reduction Curse of dimensionality μ •μ˜ 이둠적(theory)μœΌλ‘œλŠ” λ³€μˆ˜μ˜ κ°œμˆ˜κ°€ 증가할 λ•Œ λͺ¨λΈμ˜ μ„±λŠ₯도 μ¦κ°€ν•œλ‹€. ν•˜μ§€λ§Œ, ν˜„μ‹€...

[Paper Review] Visualizing Data using t-SNE

μ„ μ • 이유 였늘 리뷰/λ²ˆμ—­/κ΅¬ν˜„ν•  논문은 Visualizing Data using t-SNE으둜, 2008년에 Geoffrey Hinton이 μ €μžμΈ λ…Όλ¬Έμž…λ‹ˆλ‹€. t-SNE(t-Stochastic Nearest Neighbor)은 μ§€κΈˆκΉŒμ§€λ„ μ‹œκ°ν™”λ₯Ό ν•˜λŠ” 데 자주 μ‚¬μš©λ˜λŠ” μ•Œκ³ λ¦¬μ¦˜μž…λ‹ˆλ‹€. μ΄λŠ” κ³ μ°¨μ›μ˜ λ²‘ν„°λ‘œ ν‘œν˜„λ˜λŠ” 데이터 κ°„μ˜ neighbor st...