μ‹œκ³„μ—΄

μ‹œκ³„μ—΄ 데이터 뢄석, 예츑 λͺ¨λΈ, κ΄€λ ¨ λ…Όλ¬Έ.

μ‹œκ³„μ—΄ 데이터 뢄석, 예츑 λͺ¨λΈ, κ΄€λ ¨ λ…Όλ¬Έ.

μƒμœ„ κ°œλ…: λ¨Έμ‹ λŸ¬λ‹

13 posts · μ•„μΉ΄μ΄λΈŒμ—μ„œ ν•„ν„°λ‘œ 보기

[Paper Review] A generic non-invasive neuromotor interface for human-computer interaction

메타(Meta)κ°€ 손λͺ© λ°΄λ“œλ₯Ό μ°©μš©ν•˜κ³  손λͺ©μ΄λ‚˜ μ†κ°€λ½μ˜ μž‘μ€ μ›€μ§μž„λ§ŒμœΌλ‘œλ„ 마우슀 μ‘°μž‘κ³Ό ν‚€λ³΄λ“œ μž…λ ₯이 κ°€λŠ₯ν•œ ν˜μ‹ μ μΈ κΈ°μˆ μ„ λ°œν‘œν–ˆμŠ΅λ‹ˆλ‹€. 이 κΈ°μˆ μ€ 우리 λͺΈμ΄ λ§Œλ“€μ–΄λ‚΄λŠ” μ•„μ£Ό λ―Έμ„Έν•œ μ „κΈ°μ‹ ν˜Έλ₯Ό 읽어내 컴퓨터와 μ†Œν†΅ν•˜λŠ” 방식을 근본적으둜 λ°”κΏ€ 잠재λ ₯을 κ°€μ§€κ³  μžˆλŠ”λ°μš”. μ†κ°€λ½μœΌλ‘œ ν—ˆκ³΅μ΄λ‚˜ 책상 μœ„μ— 글씨λ₯Ό μ“°λ©΄ κ·ΈλŒ€λ‘œ 화면에 μž…λ ₯λ˜λŠ” λ―Έλž˜κ°€ ν˜„μ‹€λ‘œ...

[Paper Review] Mamba2 - Transformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Duality

링크 : https://arxiv.org/pdf/2405.21060 λ‹€μŒμ€ λ…Όλ¬Έ β€œTransformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Dualityβ€μ˜ 각 μ±•ν„°λ³„λ‘œ μžμ„Έν•œ 리뷰 및 μ •λ¦¬μž…λ‹ˆλ‹€. 1. Introdu...

[Paper Review] Mamba: Linear-Time Sequence Modeling with Selective State Spaces

졜근 λ”₯λŸ¬λ‹ μ•„ν‚€ν…μ²˜μ˜ μ€‘μ‹¬μ—λŠ” νŠΈλžœμŠ€ν¬λ¨Έκ°€ 자리 작고 μžˆμŠ΅λ‹ˆλ‹€. λŒ€κ·œλͺ¨ μ–Έμ–΄ λͺ¨λΈ(LLM)뿐만 μ•„λ‹ˆλΌ, 그림을 μƒμ„±ν•˜λŠ” 데 μ“°μ΄λŠ” 디퓨전 λͺ¨λΈ λ˜ν•œ 트랜슀포머 ꡬ쑰λ₯Ό ν™œμš©ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€. 이외에도 μ‹œκ³„μ—΄ λΆ„μ„μ΄λ‚˜ μΆ”μ²œ μ‹œμŠ€ν…œκ³Ό 같은 λ‹€μ–‘ν•œ λΆ„μ•Όμ—μ„œ νŠΈλžœμŠ€ν¬λ¨Έκ°€ 핡심적인 역할을 ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€. κ·ΈλŸ¬λ‚˜ 트랜슀포머λ₯Ό λŒ€μ²΄ν•  수 μžˆλŠ” μƒˆλ‘œμš΄ μ•„ν‚€ν…μ²˜λ₯Ό λͺ¨μƒ‰...

[Paper Review] Structured State Space Models for Deep Sequence Modeling

μ‹œκ³„μ—΄ 데이터λ₯Ό 효율적으둜 μ²˜λ¦¬ν•˜λŠ” 방법은 μ§€λ‚œ λͺ‡ λ…„ λ™μ•ˆ λΉ λ₯΄κ²Œ λ°œμ „ν–ˆμŠ΅λ‹ˆλ‹€. 특히, CMU에 계신 Albert Gu κ΅μˆ˜λ‹˜μ€ κΈ΄ μ‹œκ³„μ—΄ μ˜μ‘΄μ„±(Long-Range Dependencies, LRDs)을 μ²˜λ¦¬ν•˜λŠ” 데 μ§‘μ€‘ν•œ HiPPO(2020), LSSL(2021), 그리고 S4(2022)와 같은 연ꡬ듀을 ν•˜κ³  κ³„μ‹­λ‹ˆλ‹€. 이번 κΈ€μ—μ„œλŠ” μ—°κ΅¬μ˜ 흐름...

[Paper Review] Resurrecting Recurrent Neural Networks for Long Sequences

λ…Όλ¬Έ β€œResurrecting Recurrent Neural Networks for Long Sequencesβ€λŠ” 25 Apr 2023에 publishλ˜μ—ˆμœΌλ©°, ICML 2023 OralPoster에 λ°œν‘œλœ λ…Όλ¬Έμž…λ‹ˆλ‹€. ν•΄λ‹Ή 논문은 β€œRecurrent Neural Networks (RNN)의 μ„±λŠ₯을 λ³΅μ›ν•˜μ—¬ κΈ΄ μ‹œν€€μŠ€μ—μ„œμ˜ 효율적인 ν•™μŠ΅κ³Ό 좔둠”을 ...

[κ°œλ…] μ‹œμŠ€ν…œ, 미뢄방정식, 그리고 μƒνƒœ 곡간 λͺ¨λΈ

μš°λ¦¬λŠ” μΌμƒμƒν™œμ—μ„œ λ‹€μ–‘ν•œ μ‹œμŠ€ν…œκ³Ό μƒν˜Έμž‘μš©ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€. 동적 μ‹œμŠ€ν…œμ€ 그쀑 ν•˜λ‚˜λ‘œ, μ‹œκ°„μ΄ 지남에 따라 μƒνƒœκ°€ λ³€ν™”ν•˜λŠ” μ‹œμŠ€ν…œμ„ μ˜λ―Έν•©λ‹ˆλ‹€. μƒνƒœ 곡간(State Space) λͺ¨λΈμ€ λ³΅μž‘ν•œ 동적 μ‹œμŠ€ν…œμ„ μ΄ν•΄ν•˜κ³  λΆ„μ„ν•˜λŠ”λ° μ€‘μš”ν•œ λ„κ΅¬μž…λ‹ˆλ‹€. 이 λͺ¨λΈμ€ μ‹œμŠ€ν…œμ„ μƒνƒœ(state)λΌλŠ” κ°œλ…μœΌλ‘œ ν‘œν˜„ν•˜λ©°, 이λ₯Ό 톡해 μ‹œκ°„μ— λ”°λ₯Έ μ‹œμŠ€ν…œμ˜ λ³€ν™”λ₯Ό ν–‰λ ¬λ‘œ...

Prophet을 ν™œμš©ν•œ μ‹œκ³„μ—΄ μ˜ˆμΈ‘πŸ”­

Prophet μ†Œκ°œ Facebook Prophet은 μ‹œκ³„μ—΄ λ°μ΄ν„°μ˜ μ˜ˆμΈ‘μ„ μœ„ν•΄ Facebookμ—μ„œ κ°œλ°œν•œ μ˜€ν”ˆμ†ŒμŠ€ λΌμ΄λΈŒλŸ¬λ¦¬μž…λ‹ˆλ‹€. Prophet은 μžλ™ν™”λœ 이상 탐지 및 κ³„μ ˆμ„± 뢄석을 μ§€μ›ν•˜λ©°, 특히 λΉ„μ¦ˆλ‹ˆμŠ€ 예츑(예: 맀좜, μ‚¬μš©μž 수, μ›Ή νŠΈλž˜ν”½ λ“±)에 μœ μš©ν•©λ‹ˆλ‹€. 링크: https://facebook.github.io/prophe...

[κ°œλ…μ •λ¦¬] μ‹œκ³„μ—΄ 인과관계 뢄석: Granger Causality

μ•ˆλ…•ν•˜μ„Έμš”πŸ˜Š μ§€λ‚œ 번 ν¬μŠ€νŠΈμ—μ„œ β€œμΈκ³Όκ΄€κ³„μ™€ μƒκ΄€κ΄€κ³„μ˜ κ°œλ…β€(링크)에 λŒ€ν•΄μ„œ μ‚΄νŽ΄λ³΄μ•˜λŠ”λ°μš”. μ˜€λŠ˜μ€ μ‹œκ³„μ—΄ λΆ„μ„μ˜ 핡심 κ°œλ… 쀑 ν•˜λ‚˜μΈ β€˜κ·Έλžœμ € 인과관계(Granger causality)’에 λŒ€ν•΄ μ•Œμ•„λ³΄κ³ , 이λ₯Ό μ‹€μ œ 데이터에 μ μš©ν•΄λ³΄λŠ” μ‹œκ°„μ„ κ°€μ Έλ³΄κ² μŠ΅λ‹ˆλ‹€. μ‹€μŠ΅μ— μ‚¬μš©ν•  λ°μ΄ν„°λŠ” Kaggle 데이터 쀑 ν•˜λ‚˜μΈ Advertising Sales ...

[κ°œλ…] μ‹ ν˜Έμ²˜λ¦¬ 및 푸리에 λ³€ν™˜

μ‹ ν˜Έμ²˜λ¦¬λž€? μ‹ ν˜Έμ²˜λ¦¬(Signal Processing)λŠ” μ‹ ν˜Έλ₯Ό λΆ„μ„ν•˜κ³  λ³€ν™˜ν•˜λ©° ν•΄μ„ν•˜λŠ” 기술과 방법을 μ—°κ΅¬ν•˜λŠ” ν•™λ¬Έμž…λ‹ˆλ‹€. μ‹ ν˜ΈλŠ” μ‹œκ°„μ— 따라 λ³€ν™”ν•˜λŠ” λ¬Όλ¦¬λŸ‰μ΄λ‚˜ λ°μ΄ν„°λ‘œ, μŒμ„±, μ˜μƒ, μ „κΈ° μ‹ ν˜Έ, 생체 μ‹ ν˜Έ λ“± λ‹€μ–‘ν•œ ν˜•νƒœλ‘œ μ‘΄μž¬ν•  수 μžˆμŠ΅λ‹ˆλ‹€. μ‹ ν˜Έμ²˜λ¦¬μ˜ λͺ©μ μ€ μ΄λŸ¬ν•œ μ‹ ν˜Έλ‘œλΆ€ν„° μœ μš©ν•œ 정보λ₯Ό μΆ”μΆœν•˜κ±°λ‚˜ μ‹ ν˜Έλ₯Ό λ³€ν˜•ν•˜μ—¬ νŠΉμ • λͺ©μ μ„ λ‹¬μ„±ν•˜λŠ”...

[TS] μ‹œκ³„μ—΄ 이상탐지 μ‹œκ°ν™”

였늘의 μ½”λ“œ μ‹œκ³„μ—΄ μ „λ¬Έκ°€λ‘œμ„œ, μ‹œκ³„μ—΄ λ°μ΄ν„°λΆ„μ„κ°€λ‘œμ„œ λ‹€λ³€λŸ‰ μ‹œκ³„μ—΄ 데이터λ₯Ό μ‹œκ°ν™”ν•˜κ³  이λ₯Ό μ‚΄νŽ΄λ³΄λŠ” μž‘μ—…μ€ 맀우 μ€‘μš”ν•©λ‹ˆλ‹€. 이에 μ˜€λŠ˜μ€ μ œκ°€ 주둜 연ꡬ/업무에 μ‚¬μš©ν•˜λŠ” 이상탐지 μ‹œκ°ν™” μ½”λ“œλ₯Ό μ •λ¦¬ν•˜κ³ μž ν•©λ‹ˆλ‹€. 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28...

[TS] μ£Ό/월별 초기 λ‚ μ§œ λ³€ν™˜ ν•¨μˆ˜

μž‘μ„± μ‚¬μœ  데이터 뢄석을 ν•˜λ‹€ 보면, μ‹œκ³„μ—΄ 데이터λ₯Ό μ£Όκ°„, μ›”κ°„μœΌλ‘œ μͺΌκ°œμ„œ λ„£μ–΄μ£Όμ–΄μ•Ό ν•˜λŠ” κ²½μš°κ°€ 생각보닀 λΉˆλ²ˆν•˜λ‹€. (ISO μ£Ό 번호 체계 κΈ°μ€€μœΌλ‘œ μž‘μ„±) 이λ₯Ό μœ„ν•΄ μ•„λž˜ μ½”λ“œλ₯Ό 미리 μž‘μ„±ν•΄μ„œ μ‚¬μš©μ— νŽΈμ˜μ„±μ„ λ†’μ΄κ³ μž ν•œλ‹€. ν•¨μˆ˜ 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 ...

[λ¨Έμ‹ λŸ¬λ‹][μ‹œκ³„μ—΄] AR, MA, ARMA, ARIMA의 λͺ¨λ“  것 - μ‹€μŠ΅νŽΈ

λ³Έ ν¬μŠ€νŒ…μ€ μ‹€μ œ 데이터λ₯Ό ν™œμš©ν•œ μ‹œκ³„μ—΄ λΆ„μ„μ˜ μ „λ°˜μ μΈ ν”„λ‘œμ„ΈμŠ€ 과정을 λ‹΄κ³  μžˆμŠ΅λ‹ˆλ‹€. 뢄석 νŒμ΄λ‚˜ ν”Όλ“œλ°±μ€ μ–Έμ œλ‚˜ ν™˜μ˜μž…λ‹ˆλ‹€!! πŸ™‡β€β™‚οΈ λΆ„μ„μ˜ μˆœμ„œλŠ” μ•„λž˜μ™€ κ°™μŠ΅λ‹ˆλ‹€. ν•΄λ‹Ή 뢄석은 μ•žμ—μ„œ 닀룬 μ‹œκ³„μ—΄ κ°œλ…μ„ 기반으둜 뢄석을 μˆ˜ν–‰ν•œ κ²ƒμ΄λ―€λ‘œ κ°œλ…μ„ 찾아보고 μ‹Άλ‹€λ©΄ 제 이전 ν¬μŠ€νŠΈμ—μ„œ ν™•μΈν•˜μ‹€ 수 μžˆμŠ΅λ‹ˆλ‹€. μ°Έκ³  데이터 μ„ μ • 및 μ „μ²˜λ¦¬ ...

[λ¨Έμ‹ λŸ¬λ‹][μ‹œκ³„μ—΄] AR, MA, ARMA, ARIMA의 λͺ¨λ“  것 - κ°œλ…νŽΈ

μ˜€λŠ˜μ€ λ¨Έμ‹ λŸ¬λ‹ μ‹œκ³„μ—΄μ—μ„œ κ°€μž₯ 많이 μ“°μ΄λŠ” AR, MA, ARMA, ARIMA에 λŒ€ν•΄ μ •λ¦¬ν•΄λ³΄λŠ” μ‹œκ°„μ„ κ°€μ§€λ €κ³  ν•©λ‹ˆλ‹€. ν•΄λ‹Ή ν¬μŠ€νŠΈλŠ” κ³ λ €λŒ€ν•™κ΅ κΉ€μ„±λ²” κ΅μˆ˜λ‹˜μ˜ κ°•μ˜λ₯Ό λ°”νƒ•μœΌλ‘œ μ œμž‘λ˜μ—ˆμŠ΅λ‹ˆλ‹€. λͺ©μ°¨ 정상 ν”„λ‘œμ„ΈμŠ€μ™€ 비정상 ν”„λ‘œμ„ΈμŠ€ Autoregressive (AR) Models Moving Average (MA) Models A...