[컨퍼][CIO] 슀슀둜 νƒκ΅¬ν•˜λŠ” AGI와 GPU 인프라 이야기

Posted by Euisuk's Dev Log on February 27, 2024

[컨퍼][CIO] 슀슀둜 νƒκ΅¬ν•˜λŠ” AGI와 GPU 인프라 이야기

원본 κ²Œμ‹œκΈ€: https://velog.io/@euisuk-chung/컨퍼CIO-슀슀둜-νƒκ΅¬ν•˜λŠ”-AGI와-GPU-인프라-이야기

λ³Έ λ‚΄μš©μ€ CIO SUMMIT 2024μ—μ„œ λ°œν‘œλœ λ‚΄μš©μ„ 기반으둜 μ œκ°€ 더 쑰사 및 μ •λ¦¬ν•΄μ„œ μž‘μ„±ν•œ κΈ€μž…λ‹ˆλ‹€. λ³Έ κ²Œμ‹œκΈ€μ€ λ°œν‘œ λ‚΄μš©μ„ μ •λ¦¬ν•œ 것이지 νŠΉμ • νšŒμ‚¬λ₯Ό μ˜Ήν˜Έβ€’ν™λ³΄ν•  λͺ©μ μ΄ μ•„λ‹˜μ„ λ°νž™λ‹ˆλ‹€. ν‹€λ¦° λ‚΄μš©μ΄ μžˆλ‹€λ©΄ νŽΈν•˜κ²Œ λŒ“κΈ€ λ‹¬μ•„μ£Όμ„Έμš”!! πŸ€—

제λͺ©

슀슀둜 νƒκ΅¬ν•˜λŠ” AGI와 GPU 인프라 이야기

λ°œν‘œμž

νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œ κΉ€ν˜•μ„­ μˆ˜μ„ μ»¨μ„€ν„΄νŠΈ

λ°œν‘œλ‚΄μš©

CIO_SUMMIT

Source: νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œ (www.his21.co.kr)

λ­ν•˜λŠ” νšŒμ‚¬μ§€?

νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œμ€ 1985년에 μ„€λ¦½λœ μ „λ¬Έ κΈ°μ—…μœΌλ‘œ, 고객 λΉ„μ¦ˆλ‹ˆμŠ€ ν™˜κ²½μ— μ΅œμ ν™”λœ ICT 톡합 μ„œλΉ„μŠ€λ₯Ό μ œκ³΅ν•©λ‹ˆλ‹€. 금육, 제쑰, 곡곡, 톡신 λ“± κ΅­λ‚΄ μ „ 산업뢄야와 SI 업체 λ“± μ•½ 1,700μ—¬ 곳을 κ³ κ°μ‚¬λ‘œ λ³΄μœ ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€.

νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œμ€ 고객의 μš”κ΅¬μ— 맞좰 μ΅œμ ν™”λœ μ„œλΉ„μŠ€λ₯Ό μ œκ³΅ν•˜λ©°, κ³ κ°μ‚¬μ˜ λΉ„μ¦ˆλ‹ˆμŠ€ ν™˜κ²½μ— λ§žλŠ” ICT μ†”λ£¨μ…˜μ„ μ œκ³΅ν•˜μ—¬ 고객의 성곡을 돕고 μžˆμŠ΅λ‹ˆλ‹€. κΈ°μ—…μ˜ 데이터센터λ₯Ό μ΄λ£¨λŠ” μ£Όμš” 인프라인 μŠ€ν† λ¦¬μ§€, μ„œλ²„λΆ€ν„° ν΄λΌμš°λ“œ, 빅데이터, μΈλ”μŠ€νŠΈλ¦¬4.0 λ“±μ˜ ν˜μ‹ μ μΈ κΈ°μˆ μ„ ν™œμš©ν•œ μ†”λ£¨μ…˜κ³Ό μ„œλΉ„μŠ€λ₯Ό μ œκ³΅ν•˜μ—¬ 고객의 λΉ„μ¦ˆλ‹ˆμŠ€ μ„±μž₯을 λ•κ³ μž ν•©λ‹ˆλ‹€.

AI기술과 기술 νŠΈλžœλ“œ

인곡지λŠ₯(AI) 기술과 κ΄€λ ¨ μΈν”„λΌλŠ” λΉ λ₯΄κ²Œ λ°œμ „ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€. 특히 GPT-3의 μΆœμ‹œμ™€ 같은 획기적인 사건듀은 AI 기술의 ν˜μ‹ μ μΈ 진보λ₯Ό μƒμ§•ν•©λ‹ˆλ‹€. ν•΄λ‹Ή λ°œν‘œμ—μ„œλŠ” AI 기술과 λ”λΆˆμ–΄μ„œ λ°”λ€Œκ²Œ λ˜λŠ” 기술 νŠΈλžœλ“œμ— λŒ€ν•΄μ„œ μ΄μ•ΌκΈ°ν•©λ‹ˆλ‹€.

CIO_SUMMIT

Source: AIκΈ°μˆ νŠΈλžœλ“œ, νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œ

슀슀둜 νƒκ΅¬ν•˜λŠ” AGI

GPT-4을 기점으둜 기술 ν˜μ‹ μ΄ 이루어지고 μžˆμŠ΅λ‹ˆλ‹€. GPT-4μ΄μ „μ˜ LLMs은 μƒμ„±ν˜• AIκΈ°μˆ μ— κ°€κΉŒμš΄ 기술둜 ν™•λ₯ κ³Ό ν†΅κ³„λ‘œ λ‹€μ–‘ν•œ 닡변을 생성해도둝 ν•™μŠ΅ 및 νŒŒμΈνŠœλ‹λ©λ‹ˆλ‹€. (μˆ˜ν•™μ  사고)

λ°˜λ©΄μ— GPT-5 이후에 λ„λž˜ν•˜κ²Œλ  AGI(Artificial General Intelligence)의 κ²½μš°λŠ” AIκ°€ 직접 μ§ˆλ¬Έμ— λŒ€ν•œ 탐ꡬ와 논리적 접근을 톡해 문제λ₯Ό ν•΄κ²°ν•˜κ³ μž ν•©λ‹ˆλ‹€.

CIO_SUMMIT

Source: 슀슀둜 νƒκ΅¬ν•˜λŠ” AGI, νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œ

❓ AGI(인곡 일반 μ§€λŠ₯)μ΄λž€?

인곡 일반 μ§€λŠ₯(AGI)은 인간과 μœ μ‚¬ν•œ μ§€λŠ₯κ³Ό 슀슀둜 ν•™μŠ΅ν•  수 μžˆλŠ” λŠ₯λ ₯을 κ°–μΆ˜ μ†Œν”„νŠΈμ›¨μ–΄λ₯Ό λ§Œλ“€λ €λŠ” 이둠적 AI 연ꡬ μ˜μ—­μž…λ‹ˆλ‹€. μ΄λŠ” μ†Œν”„νŠΈμ›¨μ–΄κ°€ κ΅μœ‘μ„ λ°›μ§€ μ•Šκ±°λ‚˜, κ°œλ°œλ˜μ§€ μ•Šμ€ μž‘μ—…μ„ μˆ˜ν–‰ν•  수 μžˆλ„λ‘ ν•˜λŠ” 것을 λͺ©ν‘œλ‘œ ν•©λ‹ˆλ‹€.

πŸ“ μ§€κΈˆμ€ AGI에 μ–΄λŠμ •λ„μ˜ μˆ˜μ€€μΌκΉŒ?

Morris, Meredith Ringel, et al. β€œLevels of AGI: Operationalizing Progress on the Path to AGI.” (2023), λ‹€μŒ 논문은 λ‹€μ–‘ν•œ μ§€λŠ₯의 μ •λ„μ—μ„œ λ‚˜νƒ€λ‚˜λŠ” AI μ—°κ΅¬μ˜ ν˜„ν™©μ„ νŒŒμ•…ν•˜κ³ , μ–΄λ–€ λͺ¨λΈμ΄ μ‹€μ œ μƒν™©μ—μ„œ λ‹€μ–‘ν•œ λ¬Έμ œμ— λŒ€μ‘ν•  수 μžˆλŠ” AGI에 κ°€κΉŒμš΄κ°€λ₯Ό μ‘°μ‚¬ν•˜κ³  이λ₯Ό μ•„λž˜μ™€ 같이 ν…Œμ΄λΈ” ν˜•νƒœλ‘œ μ •μ˜ν–ˆμŠ΅λ‹ˆλ‹€.

CIO_SUMMIT

Source: Morris, Meredith Ringel, et al. β€œLevels of AGI: Operationalizing Progress on the Path to AGI.” (2023)

μœ„ MatrixλŠ” AGIλ₯Ό Narrow(νŠΉμ • 도메인에 κ΅­ν•œλ˜μ–΄ μžˆκ±°λ‚˜), General(κ΅­ν•œλ˜μ–΄ μžˆμ§€ μ•Šμ€) κ΄€μ μœΌλ‘œ 뢄석을 μˆ˜ν–‰ν•˜μ˜€κ³ , 각 AGI의 단계λ₯Ό λ‹€μŒκ³Ό 같이 μ •μ˜ν•˜μ˜€μŠ΅λ‹ˆλ‹€:

βœ… Level 0 - No AI: 인곡지λŠ₯이 μ•„λ‹˜

βœ… Level 1 - Emerging AGI: μˆ™λ ¨λ˜μ§€ μ•Šμ€ 인간과 λ™λ“±ν•˜κ±°λ‚˜ μ•½κ°„ 더 μš°μˆ˜ν•¨

βœ… Level 2 - Competent AGI: 인곡지λŠ₯은 μˆ™λ ¨λœ μ„±μΈμ˜ 50번째 λ°±λΆ„μœ„ μ΄μƒμ˜ κΈ°μˆ μ„ 가짐

βœ… Level 3 - Expert AGI: 인곡지λŠ₯은 μˆ™λ ¨λœ μ„±μΈμ˜ 90번째 λ°±λΆ„μœ„ μ΄μƒμ˜ κΈ°μˆ μ„ 가짐

βœ… Level 4 - Virtuoso AGI: 인곡지λŠ₯은 μˆ™λ ¨λœ μ„±μΈμ˜ 99번째 λ°±λΆ„μœ„ μ΄μƒμ˜ κΈ°μˆ μ„ 가짐

βœ… Level 5 - Artificial Super Intelligence ASI: 인곡지λŠ₯은 100%의 인간을 λŠ₯가함

*λ³Έ λ…Όλ¬Έμ—μ„œλŠ” ν˜„μž¬μ˜ ChatGPTλ₯Ό General κ΄€μ μ—μ„œ 아직 Level1 μˆ˜μ€€μœΌλ‘œ μ •μ˜ν•˜κ³  μžˆμŠ΅λ‹ˆλ‹€.

λͺ¨λΈμ— 고도화에 λ”°λ₯Έ GPU/데이터 처리의 μ€‘μš”μ„±

LLM의 λ“±μž₯으둜 λ”μš± 큰 데이터와 λ³΅μž‘ν•œ AI λͺ¨λΈμ„ ν•™μŠ΅ν•˜κ³  μ„œλΉ™ν•˜κΈ° μœ„ν•΄μ„œλŠ” GPU μ‹œμŠ€ν…œ 및 데이터 처리의 효율이 μ€‘μš”ν•΄μ‘ŒμŠ΅λ‹ˆλ‹€. μ‹€μ œλ‘œ μ•„λž˜ 그림을 보면 GPT-4만 해도 ν•™μŠ΅μ„ ν•˜λŠ” 데 μ–΄λ§ˆμ–΄λ§ˆν•œ λ¦¬μ†ŒμŠ€κ°€ μ‚¬μš©λœ 것을 확인할 수 μžˆμŠ΅λ‹ˆλ‹€.

CIO_SUMMIT

Source: AI κ³ λ„ν™”λ‘œ μΈν•œ μ—°μ‚°λŸ‰ 증가, νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œ

이에 νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œμ—μ„œλŠ” μ•„λž˜ 3κ°€μ§€ 포인트의 μ€‘μš”μ„±μ„ κ°•μ‘°ν•˜λ©° 이λ₯Ό μΆ©μ‘±μ‹œν‚€κΈ° μœ„ν•΄μ„œ λ…Έλ ₯ν•˜κ³  μžˆλ‹€κ³  ν•˜λ©° μ œκ³΅ν•˜κ³  μžˆλŠ” μ„œλΉ„μŠ€λ₯Ό μ†Œκ°œν•΄μ£Όμ…¨μŠ΅λ‹ˆλ‹€.

CIO_SUMMIT

Source: GPU μž₯λΉ„ μ„ νƒμ˜ μ€‘μš”μ„±, νš¨μ„±μΈν¬λ©”μ΄μ…˜μ‹œμŠ€ν…œ

아직 μ œκ°€ λ―Έμˆ™ν•˜μ—¬ μž₯비에 λŒ€ν•΄μ„œ μžμ„Έν•˜κ²Œ μ•Œμ§€ λͺ»ν•˜μ—¬ μ„€λͺ…λ“œλ¦¬μ§€λŠ” λͺ»ν•  것 κ°™μŠ΅λ‹ˆλ‹€πŸ˜Ώ ν—ˆλ‚˜, LLM의 λŒ€λ‘λ‘œ GPUμžμ›μ˜ μ€‘μš”μ„±κ³Ό μ΅œμ ν™”λŠ” λ°˜λ“œμ‹œ ν•„μš”ν•΄μ§„ μ˜μ—­μ΄λΌκ³  μƒκ°ν•©λ‹ˆλ‹€. μ΅œκ·Όμ—λŠ” μ΄λŸ¬ν•œ λ¬΄ν•œμ • λ¦¬μ†ŒμŠ€κ°€ ν•„μš”ν•˜λ‹€λŠ” λ¬Έμ œμ—μ„œ λ²—μ–΄λ‚˜κΈ° μœ„ν•΄ sLLMμ΄λ‚˜ LLM distillation κΈ°μˆ λ“€λ„ 많이 λ‚˜μ˜€κ³  μžˆλŠ”λ° μ‹œκ°„μ΄ λ‚œλ‹€λ©΄ 곡뢀 해보고 μ‹Άλ„€μš” 🀣



-->