[๊ธฐ์ ] NVIDIA์ GPU ์ด์ผ๊ธฐ
์๋ณธ ๊ฒ์๊ธ: https://velog.io/@euisuk-chung/๊ธฐ์ -NVIDIA-ํ์ ๊ณผ-๋น์ ์-์ด์ผ๊ธฐ
NVIDIA์ GPU ์ด์ผ๊ธฐ
๋ฅ๋ฌ๋, LLM, ChatGPT ๋ฑ ์ด์ ๋ ์ธ๊ณต์ง๋ฅ ํ๋ฉด GPU๋ฅผ ๋นผ๋๊ณ ์๊ธฐํ ์ ์์ต๋๋ค.
ํ์ฌ ์์๊ถ์์ ์ข ๋ฐ๋ ค๋ ๋ชจ๋ธ๋ค์ด๊ธดํ์ง๋ง, ์ด๋ฌํ LM(๋ํ์ธ์ด๋ชจ๋ธ, Language Model) ์ญ์ GPU (Graphics Processing Unit)๋ก ํ์ต๋ ๊ฒ์ ํ์ธํ ์ ์์ต๋๋ค.
GPU๋, ์๋ ๊ทธ๋ํฝ ์ฒ๋ฆฌ๋ฅผ ์ํด ์ค๊ณ๋ ํ๋ก์ธ์
์
๋๋ค. ํ์ง๋ง ํ์ฌ๋ ๊ทธ ์ฉ๋๊ฐ ํ์ฅ๋์ด ๋ค์ํ ๋ถ์ผ์์ ํ์ฉ๋๊ณ ์์ต๋๋ค. ํ๋ ๋นํธ์ฝ์ธ ์ฑ๊ตด๋ก๋ ํฐ ์ดํ์ ๋ถ๋ฌ์ค๊ธฐ๋ ํ์ผ๋ฉฐ, ํ์ฌ๋ AI/๋ฅ๋ฌ๋ ํ์ต์ฉ์ผ๋ก ๋ง์ด ์ฐ์ด๊ณ ์์ฃ ๐
โ ๋ฌผ๋ก ! TPU๋ ์๊ธดํฉ๋๋ค๋งโฆ!
TPU (Tensor Processing Unit)
๋ Google์ด ๊ธฐ๊ณ ํ์ต ์์ ์ ๊ฐ์ํํ๊ธฐ ์ํด ํน๋ณํ ๊ฐ๋ฐํ ํ๋ก์ธ์๋ก์จ, ์ด๋ฒ์ ๋ค๋ฃจ๊ณ ์ถ์ ์ฃผ์ ์๋ ์กฐํผ ๋ค๋ฅด๊ธฐ ๋๋ฌธ์ ์ด์ง ์์ผ๋ก ๋น์ผ๋๋๋ก ํ๊ฒ ์ต๋๋ค.
์ต๊ทผ ์ธ๊ณต์ง๋ฅ(AI, Artificial Intelligence) ์์ฅ์ ๋ถ์ผ๋ก ์๋น๋์๊ฐ ๋น์ ๋ดค์ต๋๋ค. ์ด๋ฒ ํฌ์คํธ์์๋ ์๋น๋์์ ์ญ์ฌ์ ๋ํด์ ๊ฐ๋ณ๊ฒ ์ดํด๋ณด๋๋ก ํ๊ฒ ์ต๋๋ค ๐
-
์๋น๋์์ ์ค๋ฆฝ๊ณผ ์ด๊ธฐ ๋์
์ค๋ฆฝ ๋ฐฐ๊ฒฝ
1993๋ , ์ ์จ ํฉ(Jensen Huang), ํฌ๋ฆฌ์ค ๋ง๋ผ์ดํ์คํค(Chris Malachowsky), ์ปคํฐ์ค ํ๋ฆฌ์ (Curtis Priem)์ด๋ผ๋ ์ธ ๋ช ์ ์์ง๋์ด๋ ์ปดํจํฐ ๊ทธ๋ํฝ์ด ๋ฏธ๋์ ์ปดํจํฐ ์ฐ์ ์ ์ฃผ๋ํ ๊ฒ์ด๋ผ๋ ํ์ ์๋ ์๋น๋์๋ฅผ ์ค๋ฆฝํ์ต๋๋ค. ์ด๋ค์ ์ด๊ธฐ๋ถํฐ ๋น์ฃผ์ผ ์ปดํจํ (Visual Computing)์ ์ค์์ฑ์ ๊ฐ์กฐํ๋ฉฐ, ์ด๋ฅผ ์คํํ๊ธฐ ์ํ ๊ธฐ์ ๊ฐ๋ฐ์ ๋ชฐ๋ํ์ต๋๋ค.
NV1: ์ฒซ ๋์ ๊ณผ ์คํจ์ ๊ตํ
์๋น๋์์ ์ฒซ ๋ฒ์งธ ์ ํ์ธ NV1์ 1995๋ ์ ์ถ์๋์์ต๋๋ค. ์ด ์ ํ์ 2D์ 3D ๊ทธ๋ํฝ ๊ฐ์ ๊ธฐ๋ฅ์ ๋์์ ์ ๊ณตํ๋ ํ์ ์ ์ธ ์นฉ์ ์ด์์ง๋ง, ์์ ์ ์ผ๋ก๋ ํฐ ์ฑ๊ณต์ ๊ฑฐ๋์ง ๋ชปํ์ต๋๋ค. NV1์ ์คํจ๋ ์๋น๋์์๊ฒ ์ปดํจํฐ ๊ทธ๋ํฝ ๊ธฐ์ ์ ๋ณต์ก์ฑ๊ณผ ์์ฅ์ ์๊ตฌ๋ฅผ ๊น์ด ์ดํดํ ํ์์ฑ์ ์ผ๊นจ์์ฃผ๋ ์ค์ํ ๊ตํ์ด ๋์์ต๋๋ค. ์ ์จ ํฉ์ ์ด ์คํจ๋ฅผ ๋ฐํ ์ผ์ ๋์ฑ ํ์ ์ ์ธ ๊ธฐ์ ๊ฐ๋ฐ์ ์ง์คํ๊ฒ ๋ฉ๋๋ค.
-
GeForce ์๋ฆฌ์ฆ: GPU์ ํ์๊ณผ ์งํ
GeForce 256: ์ธ๊ณ ์ต์ด์ GPU
1999๋ , ์๋น๋์๋ ์ธ๊ณ ์ต์ด์ GPU(๊ทธ๋ํฝ ์ฒ๋ฆฌ ์ฅ์น)์ธ GeForce 256์ ์ถ์ํ์ต๋๋ค. ์ด ์ ํ์ ํ๋์จ์ด T&L(Transform & Lighting)์ ์ง์ํ๋ฉฐ, ๊ทธ๋ํฝ ์ฒ๋ฆฌ ์๋์ ํจ์จ์ฑ์์ ํ๊ธฐ์ ์ธ ๋์ฝ์ ์ด๋ฃจ์์ต๋๋ค. GeForce 256์ ๊ฒ์ ์ฐ์ ๊ณผ ๋ฉํฐ๋ฏธ๋์ด ์์ฉ ํ๋ก๊ทธ๋จ์์ ํ์์ ์ธ ์์๋ก ์๋ฆฌ ์ก์ผ๋ฉฐ, ์๋น๋์๋ฅผ ์ปดํจํฐ ๊ทธ๋ํฝ ์ ๊ณ์ ์ ๋์ฃผ์๋ก ์๋ฆฌ๋งค๊นํ๊ฒ ํ์ต๋๋ค.
GeForce ์๋ฆฌ์ฆ์ ์งํ
1999๋ NVIDIA๋ ์ฒซ ๋ฒ์งธ GeForce ๊ทธ๋ํฝ ์นด๋์ธ GeForce 256์ ์ถ์ํ๋ฉฐ ๊ทธ๋ํฝ ์นด๋ ์์ฅ์ ํฐ ๋ณํ๋ฅผ ๊ฐ์ ธ์์ต๋๋ค. ์ดํ GeForce ์๋ฆฌ์ฆ๋ ๋งค ์ธ๋๋ง๋ค ์ฑ๋ฅ๊ณผ ์ ๋ ฅ ํจ์จ์ฑ์ ํฌ๊ฒ ํฅ์์ํค๋ฉฐ ์งํํด ์์ต๋๋ค.
-
์ด๊ธฐ ์ธ๋ (1999-2002):
- GeForce 256๋ถํฐ GeForce 4 ์๋ฆฌ์ฆ๊น์ง๋ ๊ทธ๋ํฝ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ด ์ ์ ๋ ์ข์์ก์ต๋๋ค. ํนํ, GeForce 3์ GeForce 4๋ ์๋ก์ด ๊ธฐ์ ์ ๋์ ํด 3D ๊ทธ๋ํฝ์ ํ์ง์ ํฌ๊ฒ ๊ฐ์ ํ์ต๋๋ค. ์ด๋ก ์ธํด ๊ฒ์ ๊ทธ๋ํฝ์ด ํจ์ฌ ๋ ์๋๊ฐ ์๊ฒ ํํ๋ ์ ์์์ต๋๋ค.
-
DirectX 9 ์๋ (2003-2004):
- GeForce FX ์๋ฆฌ์ฆ๋ DirectX 9.0์ ์ง์ํ๋ฉด์, ๋ ๋์ ๊ทธ๋ํฝ์ ํํํ ์ ์์์ต๋๋ค. ์๋ก์ด ๊ธฐ์ ๋๋ถ์ ๊ฒ์ ์ ๊ทธ๋ํฝ์ด ๋์ฑ ๋ณต์กํ๊ณ ์ฌ์ค์ ์ผ๋ก ํํ๋๊ธฐ ์์ํ์ต๋๋ค.
-
๋ฉํฐ GPU ๊ธฐ์ ๋์ (2004-2006):
- GeForce 6 ์๋ฆฌ์ฆ๋ถํฐ๋ SLI(SLI๋ Scalable Link Interface์ ์ฝ์์ ๋๋ค) ๊ธฐ์ ์ ๋์ ํ์ฌ, ์ฌ๋ฌ ๊ฐ์ ๊ทธ๋ํฝ ์นด๋๋ฅผ ๋์์ ์ฌ์ฉํด ์ฑ๋ฅ์ ๋์ผ ์ ์๊ฒ ๋์์ต๋๋ค. ์ด ๊ธฐ์ ์ ๊ณ ํด์๋์์ ๊ฒ์์ ์ฆ๊ธฐ๊ฑฐ๋, ๊ทธ๋ํฝ ์์ ์ ํ ๋ ํฐ ๋์์ด ๋์์ต๋๋ค.
-
ํตํฉ ์ ฐ์ด๋ ์ํคํ ์ฒ (2006-2010):
- GeForce 8 ์๋ฆฌ์ฆ๋ ๊ทธ๋ํฝ ์ฒ๋ฆฌ์ ์ค์ํ ๋ณํ๋ฅผ ๊ฐ์ ธ์์ต๋๋ค. ์ด ์๋ฆฌ์ฆ์์๋ ๋ค์ํ ๊ทธ๋ํฝ ์์ ์ ํ๋์ ์ ๋์ผ๋ก ์ฒ๋ฆฌํ ์ ์๋ ํตํฉ ์ ฐ์ด๋ ์ํคํ ์ฒ๋ฅผ ๋์ ํ์ต๋๋ค. ์ด ๋๋ถ์ ๊ทธ๋ํฝ ์นด๋๋ ๋ ๋ค์ํ ์์ ์ ๋ ๋น ๋ฅด๊ณ ํจ์จ์ ์ผ๋ก ์ฒ๋ฆฌํ ์ ์์์ต๋๋ค.
-
Fermi ์ํคํ ์ฒ์ ๋ฉํฐ์ฝ์ด ๊ธฐ์ (2010-2011):
- GeForce 400 ์๋ฆฌ์ฆ์ 500 ์๋ฆฌ์ฆ๋ NVIDIA์ Fermi ์ํคํ ์ฒ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ฐ๋ฐ๋์์ต๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ๋ค์์ ์ฝ์ด๋ฅผ ํตํด ์ฌ๋ฌ ์์ ์ ๋์์ ์ฒ๋ฆฌํ ์ ์๊ฒ ๋์ด, ๊ณผํ ๊ณ์ฐ์ด๋ ๋ฐ์ดํฐ ๋ถ์์ฒ๋ผ ๋ณต์กํ ์ฐ์ฐ์ด ํ์ํ ์์ ์๋ ์ฌ์ฉ๋๊ธฐ ์์ํ์ต๋๋ค.
-
Kepler ์ํคํ ์ฒ์ ์ ๋ ฅ ํจ์จ์ฑ์ ํฅ์ (2012-2014):
- GeForce 600 ์๋ฆฌ์ฆ์ 700 ์๋ฆฌ์ฆ๋ Kepler ์ํคํ ์ฒ๋ฅผ ๋ฐํ์ผ๋ก ๋ง๋ค์ด์ก์ต๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ์ฑ๋ฅ์ ์ ์งํ๋ฉด์๋ ์ ๋ ฅ ์๋น๋ฅผ ํฌ๊ฒ ์ค์ฌ, ๋ ์ ์ ์ ๋ ฅ์ผ๋ก ๋ ๊ฐ๋ ฅํ ์ฑ๋ฅ์ ๋ผ ์ ์์์ต๋๋ค. ๋ํ, ์ฌ๋ฌ ๊ฐ์ ๋ชจ๋ํฐ๋ฅผ ์ฐ๊ฒฐํด ๊ฒ์์ ์ฆ๊ธธ ์ ์๋ ๊ธฐ๋ฅ๋ ์ง์๋์์ต๋๋ค.
-
Maxwell ์ํคํ ์ฒ์ ๊ณ ์ฑ๋ฅ ํ์คํ (2014-2016):
- GeForce 900 ์๋ฆฌ์ฆ๋ Maxwell ์ํคํ ์ฒ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ฐ๋ฐ๋์์ผ๋ฉฐ, ์ฑ๋ฅ์ ๋์ด๊ณ ์ ๋ ฅ ์๋น๋ ๋ฎ์ถ๋ ๋ฐ ์ค์ ์ ๋์์ต๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ํนํ ๊ฐ์ ํ์ค(VR) ํ๊ฒฝ์์๋ ์ ์๋ํ๋ฉฐ, 4K ํด์๋์์๋ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ฐํํ ์ ์์์ต๋๋ค.
-
Pascal ์ํคํ ์ฒ์ VR ๋ฐ 4K ๊ฒ์ ๋์คํ (2016-2018):
- GeForce 10 ์๋ฆฌ์ฆ๋ Pascal ์ํคํ ์ฒ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๊ฐ๋ฐ๋์์ผ๋ฉฐ, VR๊ณผ 4K ๊ฒ์์ ์ผ๋ฐ ๋์ค์๊ฒ ๋๋ฆฌ ๋ณด๊ธํ๋ ๋ฐ ์ค์ํ ์ญํ ์ ํ์ต๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ๋ ์์ ์นฉ์ผ๋ก๋ ๊ฐ๋ ฅํ ์ฑ๋ฅ์ ๋ฐํํ ์ ์๊ฒ ํ๊ณ , AI์ ๋จธ์ ๋ฌ๋ ๊ฐ์ ๋ณต์กํ ์์ ์๋ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์์ต๋๋ค.
-
RTX์ Turing ์ํคํ ์ฒ์ ๋์ (2018-2020):
- GeForce 20 ์๋ฆฌ์ฆ๋ Turing ์ํคํ ์ฒ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ ์๋ก์ด RTX ๋ธ๋๋๋ฅผ ์ ๋ณด์์ต๋๋ค. RTX ์๋ฆฌ์ฆ๋ ์ค์๊ฐ ๋ ์ด ํธ๋ ์ด์ฑ ๊ธฐ์ ์ ํตํด, ๋น๊ณผ ๊ทธ๋ฆผ์๋ฅผ ๋ ์ฌ์ค์ ์ผ๋ก ํํํ ์ ์์์ต๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ๋ํ AI ๊ธฐ์ ์ ํ์ฉํด ๊ฒ์ ๊ทธ๋ํฝ์ ํ์ง์ ๋์ด๊ณ , ์ฑ๋ฅ์ ๋์ฑ ๊ฐํํ์ต๋๋ค.
-
Ampere ์ํคํ ์ฒ์ ์ฑ๋ฅ์ ๊ทน๋ํ (2020-2022):
- GeForce 30 ์๋ฆฌ์ฆ๋ Ampere ์ํคํ ์ฒ๋ก ๊ฐ๋ฐ๋์์ผ๋ฉฐ, RTX ๊ธฐ์ ์ ํ ๋จ๊ณ ๋ ๋ฐ์ ์์ผฐ์ต๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ์ด์ ์ธ๋๋ณด๋ค ๋ ๋ฐฐ ์ด์์ ์ฑ๋ฅ์ ์ ๊ณตํ๋ฉด์๋ ์ ๋ ฅ ์๋น๋ฅผ ์ค์์ผ๋ฉฐ, 4K ํด์๋์์๋ ๋๋ผ์ด ์ฑ๋ฅ์ ์๋ํ์ต๋๋ค.
-
Ada Lovelace ์ํคํ ์ฒ์ ์ฐจ์ธ๋ ๊ทธ๋ํฝ (2022-ํ์ฌ):
- GeForce 40 ์๋ฆฌ์ฆ๋ Ada Lovelace ์ํคํ ์ฒ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ๋ง๋ค์ด์ก์ต๋๋ค. ์ด ์๋ฆฌ์ฆ๋ ๋ ๋ฐ์ ๋ ๋ ์ด ํธ๋ ์ด์ฑ๊ณผ AI ๊ธฐ์ ์ ํตํด, ์ด์ ์ธ๋๋ณด๋ค ํจ์ฌ ๋ ๋ฐ์ด๋ ๊ทธ๋ํฝ์ ์ ๊ณตํฉ๋๋ค. ์ต์ RTX 4090๊ณผ 4080์ 8K ํด์๋์์๋ ๋งค์ฐ ๋์ ์ฑ๋ฅ์ ๋ฐํํ๋ฉฐ, ๊ฒ์๋ฟ๋ง ์๋๋ผ ๋ค์ํ ์ฝํ ์ธ ์ ์์์๋ ์ค์ํ ์ญํ ์ ํ๊ณ ์์ต๋๋ค.
CUDA์ AI๋ก์ ํ์ฅ
2006๋ ์ ๋ฑ์ฅํ GeForce 8 ์๋ฆฌ์ฆ๋ CUDA(Compute Unified Device Architecture) ๊ธฐ์ ์ ๋์ ํด, GPU๋ฅผ ๊ทธ๋ํฝ ์ฒ๋ฆฌ๋ฟ๋ง ์๋๋ผ ๋ฒ์ฉ ์ฐ์ฐ(GPGPU)์ผ๋ก๋ ํ์ฉํ ์ ์๊ฒ ํ์ต๋๋ค. ์ด ๊ธฐ์ ์ ๊ณผํ์ ์ฐ์ฐ, ๊ธ์ต ๋ชจ๋ธ๋ง, ๋ฐ์ดํฐ ๋ถ์, ๊ทธ๋ฆฌ๊ณ ํนํ ๋ฅ๋ฌ๋๊ณผ ๊ฐ์ AI ์์ ์์ GPU๋ฅผ ์ฌ์ฉ ๊ฐ๋ฅํ๊ฒ ๋ง๋ค์์ต๋๋ค.
CUDA์ ๋์ ์ GPU๊ฐ ๋จ์ํ ๊ทธ๋ํฝ ๋ ๋๋ง ์ฅ์น์์ ๋ฒ์ด๋, ๋ฒ์ฉ ์ปดํจํ ์์ ์ค์ํ ์ญํ ์ ํ๊ฒ ๋๋ ์ ํ์ ์ ๋ง๋ จํ์ต๋๋ค. ์ดํ ์ถ์๋ GeForce ์๋ฆฌ์ฆ๋ค์ ์ด๋ฌํ ๋ฒ์ฉ ์ฐ์ฐ ๋ฅ๋ ฅ์ ๋์ฑ ๊ฐํํ์ฌ, AI์ ๋จธ์ ๋ฌ๋, ๊ทธ๋ฆฌ๊ณ ๋ค์ํ ๊ณ ์ฑ๋ฅ ์ปดํจํ ์์ฉ ๋ถ์ผ์์ ํต์ฌ ๋๊ตฌ๋ก ์๋ฆฌ ์ก๊ฒ ๋์์ต๋๋ค.
GPU ๋ชจ๋ธ ๋ฒํธ์ ์จ๊ฒจ์ง ์๋ฏธ
NVIDIA์ ๊ทธ๋ํฝ ์นด๋ ๋ชจ๋ธ ๋ฒํธ๋ ์ ํ์ ์ธ๋์ ์ฑ๋ฅ ๋ฑ๊ธ์ ๋ํ๋ด๋ ์ค์ํ ์ ๋ณด๋ฅผ ๋ด๊ณ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด RTX 3080๊ณผ RTX 3090์ ์ซ์๋ค์ ๊ฐ๊ฐ ๋ค์๊ณผ ๊ฐ์ ์๋ฏธ๋ฅผ ๊ฐ์ง๊ณ ์์ต๋๋ค.
1. ์ ๋ ์๋ฆฌ ์ซ์: ์ธ๋(GPU ์๋ฆฌ์ฆ)
- โ30โ ๋ถ๋ถ์ ํด๋น ๊ทธ๋ํฝ ์นด๋๊ฐ 30์๋ฆฌ์ฆ์ ์ํ๋ค๋ ๊ฒ์ ์๋ฏธํฉ๋๋ค.
- NVIDIA๋ ์ธ๋๋ณ๋ก ์๋ก์ด ๊ธฐ์ ๊ณผ ์ฑ๋ฅ ํฅ์์ ๋์
ํ๋ฉฐ, ๊ฐ ์ธ๋๋ ์ฐ์์ ์ธ ์ซ์๋ก ํ์๋ฉ๋๋ค.
- ์์:
- 10์๋ฆฌ์ฆ (์: GTX 1080): Pascal ์ํคํ ์ฒ ๊ธฐ๋ฐ
- 20์๋ฆฌ์ฆ (์: RTX 2080): Turing ์ํคํ ์ฒ ๊ธฐ๋ฐ, ๋ ์ด ํธ๋ ์ด์ฑ ์ต์ด ๋์
- 30์๋ฆฌ์ฆ (์: RTX 3080): Ampere ์ํคํ ์ฒ ๊ธฐ๋ฐ, ๋ ์ด ํธ๋ ์ด์ฑ ๋ฐ DLSS ์ฑ๋ฅ ํฅ์
- 40์๋ฆฌ์ฆ (์: RTX 4080): Ada Lovelace ์ํคํ ์ฒ ๊ธฐ๋ฐ, ์ต์ ๊ธฐ์ ์ ์ฉ
- ์์:
2. ๋ค ๋ ์๋ฆฌ ์ซ์: ์ฑ๋ฅ ๋ฑ๊ธ
- โ80โ์ด๋ โ90โ๊ณผ ๊ฐ์ ์ซ์๋ ํด๋น ์ธ๋ ๋ด์์์ ์ฑ๋ฅ ๋ฑ๊ธ์ ๋ํ๋ ๋๋ค.
- ์ผ๋ฐ์ ์ผ๋ก ์ซ์๊ฐ ๋์์๋ก ๋ ๋์ ์ฑ๋ฅ๊ณผ ๊ณ ์ฌ์์ ์ ๊ณตํ๋ฉฐ, ์ด์ ๋ฐ๋ผ ๊ฐ๊ฒฉ๋ ์์นํฉ๋๋ค.
- ๋ฑ๊ธ๋ณ ์๋ฏธ:
- โ90โ ๋ฑ๊ธ: ์ต์์ ํ๋๊ทธ์ญ ๋ชจ๋ธ๋ก, ์ต๊ณ ์์ค์ ์ฑ๋ฅ๊ณผ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
- ์: RTX 3090, RTX 4090
- โ80โ ๋ฑ๊ธ: ์์ ๋ชจ๋ธ๋ก, ๊ณ ํด์๋ ๊ฒ์ด๋ฐ๊ณผ ์ ๋ฌธ ์์
์ ์ ํฉํ ๋์ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
- ์: RTX 3080, RTX 4080
- โ70โ ๋ฑ๊ธ: ์ค์์ ๋ชจ๋ธ๋ก, ๊ฐ๊ฒฉ ๋๋น ์ฐ์ํ ์ฑ๋ฅ์ ์ ๊ณตํ์ฌ ๋ง์ ๊ฒ์ด๋จธ๋ค์๊ฒ ์ธ๊ธฐ ์์ต๋๋ค.
- ์: RTX 3070, RTX 4070
- โ60โ ๋ฑ๊ธ: ์ค๊ธ ๋ชจ๋ธ๋ก, ํฉ๋ฆฌ์ ์ธ ๊ฐ๊ฒฉ์ ์ค์ํ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
- ์: RTX 3060, RTX 4060
- โ50โ ๋ฑ๊ธ: ๋ณด๊ธํ ๋ชจ๋ธ๋ก, ๊ฐ๋ฒผ์ด ๊ฒ์ด๋ฐ๊ณผ ์ผ๋ฐ์ ์ธ ์ปดํจํ
์์
์ ์ ํฉํฉ๋๋ค.
- ์: GTX 1050, RTX 2050
- โ90โ ๋ฑ๊ธ: ์ต์์ ํ๋๊ทธ์ญ ๋ชจ๋ธ๋ก, ์ต๊ณ ์์ค์ ์ฑ๋ฅ๊ณผ ๊ธฐ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
- ๋ฑ๊ธ๋ณ ์๋ฏธ:
3. ์ถ๊ฐ ๋ฌธ์: ์ฑ๋ฅ ๋ฐ ๊ธฐ๋ฅ์ ์ธ๋ถ ๊ตฌ๋ถ
- ๋ชจ๋ธ ๋ฒํธ ๋ค์ ๋ถ๋ Ti, SUPER, Ultra ๋ฑ์ ๋ฌธ์๋ ๊ธฐ์กด ๋ชจ๋ธ์ ๊ฐํ ๋ฒ์ ์์ ๋ํ๋
๋๋ค.
- โTiโ (Titanium): ๊ธฐ๋ณธ ๋ชจ๋ธ๋ณด๋ค ์ฝ๊ฐ ํฅ์๋ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
- ์: RTX 3080 Ti๋ RTX 3080๋ณด๋ค ๋์ ์ฑ๋ฅ์ ๊ฐ์ง๋๋ค.
- โSUPERโ: ์ฑ๋ฅ๊ณผ ๊ธฐ๋ฅ์ด ์
๊ทธ๋ ์ด๋๋ ๋ชจ๋ธ์ ์๋ฏธํฉ๋๋ค.
- ์: RTX 2060 SUPER๋ RTX 2060๋ณด๋ค ๊ฐ์ ๋ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
- โTiโ (Titanium): ๊ธฐ๋ณธ ๋ชจ๋ธ๋ณด๋ค ์ฝ๊ฐ ํฅ์๋ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค.
์์
-
RTX 3080
- โ30โ: 30์๋ฆฌ์ฆ, ์ฆ Ampere ์ํคํ ์ฒ ๊ธฐ๋ฐ์ ์ธ๋
- โ80โ: ์์ ์ฑ๋ฅ ๋ฑ๊ธ์ผ๋ก, ๊ณ ์ฌ์ ๊ฒ์ด๋ฐ๊ณผ ์ ๋ฌธ ์์ ์ ์ ํฉ
-
RTX 3090
- โ30โ: 30์๋ฆฌ์ฆ, Ampere ์ํคํ ์ฒ ๊ธฐ๋ฐ
- โ90โ: ์ต์์ ์ฑ๋ฅ ๋ฑ๊ธ์ผ๋ก, ์ต๊ณ ์ ํผํฌ๋จผ์ค๋ฅผ ์๊ตฌํ๋ ์์ ์ ์ต์
-
Quadro ์๋ฆฌ์ฆ: ์ ๋ฌธ ๊ทธ๋ํฝ ์๋ฃจ์ ์ ํ์ค
์ ๋ฌธ ์ํฌ์คํ ์ด์ ์ ์ํ Quadro
2000๋ , ์๋น๋์๋ ์ ๋ฌธ ๊ทธ๋ํฝ ์์ ์ ์ํ Quadro ์๋ฆฌ์ฆ๋ฅผ ์ถ์ํ์ต๋๋ค. Quadro GPU๋ CAD(Computer-Aided Design), DCC(Digital Content Creation), ์๋ฃ ์์ ๋ฑ์ ๋ถ์ผ์์ ์ฌ์ฉ๋๋ฉฐ, ๋์ ์ ๋ฐ๋์ ์์ ์ฑ์ ์๊ตฌํ๋ ์์ ํ๊ฒฝ์ ์ต์ ํ๋์ด ์์ต๋๋ค. Quadro ์๋ฆฌ์ฆ๋ ๊ทธ๋ํฝ ๋์์ด๋์ ์์ง๋์ด๋ค ์ฌ์ด์์ ํ์ค ๋๊ตฌ๋ก ์๋ฆฌ ์ก์์ต๋๋ค.
-
Tesla์ V100: AI์ ๊ณ ์ฑ๋ฅ ์ปดํจํ ์ ํต์ฌ
Tesla ์๋ฆฌ์ฆ์ ์์
2007๋ , ์๋น๋์๋ ๊ณ ์ฑ๋ฅ ์ปดํจํ (HPC)๊ณผ ๋ฐ์ดํฐ ์ผํฐ๋ฅผ ์ํ Tesla ์๋ฆฌ์ฆ๋ฅผ ๋ฐํํ์ต๋๋ค. Tesla GPU๋ ๋๊ท๋ชจ ๋ฐ์ดํฐ ์ฒ๋ฆฌ์ ์ฐ์ฐ์ ์ต์ ํ๋์ด ์์ผ๋ฉฐ, ํนํ AI ์ฐ๊ตฌ์ ๋ฅ๋ฌ๋ ๋ชจ๋ธ์ ํ์ต์์ ํฐ ์ฑ๊ณผ๋ฅผ ๊ฑฐ๋์์ต๋๋ค.
V100๊ณผ AI์ ๋ฐ์
Tesla ์๋ฆฌ์ฆ์ ์ต์ ๋ชจ๋ธ์ธ Tesla V100์ 2017๋ ์ ์ถ์๋์์ผ๋ฉฐ, ๋ณผํ(Volta) ์ํคํ ์ฒ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํฉ๋๋ค. V100์ AI์ ๋ฅ๋ฌ๋ ์์ ์ ์ต์ ํ๋ ์ฑ๋ฅ์ ์ ๊ณตํ๋ฉฐ, ๋๊ท๋ชจ ๋ณ๋ ฌ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ ๊ฐ์ถ๊ณ ์์ด AI ๋ชจ๋ธ ํ์ต ์๋๋ฅผ ๋น์ฝ์ ์ผ๋ก ํฅ์์ํฌ ์ ์์ต๋๋ค. ์ด๋ AI ์ฐ๊ตฌ์๋ค๊ณผ ๋ฐ์ดํฐ ๊ณผํ์๋ค์๊ฒ ํ์์ ์ธ ๋๊ตฌ๊ฐ ๋์์ต๋๋ค.
-
Tegra์ Jetson: ์๋ฒ ๋๋ ์์คํ ๊ณผ ์์จ์ฃผํ์ ์ํ ๊ธฐ์
๋ชจ๋ฐ์ผ๊ณผ ์๋ฒ ๋๋ ์์คํ ์ ์ํ Tegra
2008๋ , ์๋น๋์๋ ๋ชจ๋ฐ์ผ ์ฅ์น์ ์๋ฒ ๋๋ ์์คํ ์ ์ํ SoC(System on a Chip)์ธ Tegra ์๋ฆฌ์ฆ๋ฅผ ์ถ์ํ์ต๋๋ค. Tegra๋ ํด๋์ฉ ๊ฒ์ ์ฝ์, ์ค๋งํธํฐ, ๋๋ก , ๊ทธ๋ฆฌ๊ณ ์๋์ฐจ ๋ฑ์ ์ฌ์ฉ๋๋ฉฐ, ๊ฐ๋ ฅํ ๊ทธ๋ํฝ ์ฑ๋ฅ๊ณผ ์๋์ง ํจ์จ์ฑ์ ์ ๊ณตํฉ๋๋ค.
Jetson ์๋ฆฌ์ฆ: AI์ ๋ก๋ณดํฑ์ค์ ํต์ฌ
2014๋ , ์๋น๋์๋ AI ๋ฐ ๋ก๋ณดํฑ์ค ์์ฉ ํ๋ก๊ทธ๋จ์ ์ํ ์๋ฒ ๋๋ ์ปดํจํ ํ๋ซํผ์ธ Jetson ์๋ฆฌ์ฆ๋ฅผ ์ถ์ํ์ต๋๋ค. Jetson์ ์์จ์ฃผํ์ฐจ, ๋๋ก , AIoT(Artificial Intelligence of Things) ๊ธฐ๊ธฐ ๋ฑ์ ํต์ฌ ๊ธฐ์ ๋ก ์ฌ์ฉ๋๋ฉฐ, ์ค์๊ฐ AI ์ฐ์ฐ๊ณผ ๋์ ์๋์ง ํจ์จ์ฑ์ ๋์์ ์ ๊ณตํฉ๋๋ค.
-
์๋น๋์์ ํ์ฌ์ ๋ฏธ๋
AI ๋ฐ LLM ์์ฅ์์์ ์ง๋ฐฐ๋ ฅ
์๋น๋์๋ ํ์ฌ AI ์นฉ ์์ฅ์์ 70%์์ 95% ์ฌ์ด์ ์ ์ ์จ์ ๋ณด์ ํ๊ณ ์์ต๋๋ค. ์ด๋ฌํ ์ง๋ฐฐ๋ ฅ์ H100๊ณผ ๊ฐ์ ํ๋๊ทธ์ญ AI GPU์ CUDA ์ํํธ์จ์ด์ ๊ธฐ๋ฐํ๊ณ ์์ต๋๋ค. 2023๋ ์๋น๋์์ AI ์นฉ ๋งค์ถ์ ์ฝ 345์ต ๋ฌ๋ฌ๋ก ์ถ์ ๋๋ฉฐ, ์ด๋ ์ ์ฒด AI ์นฉ ์์ฅ์ด ํฅํ 5๋ ๋ด์ ์ฐ๊ฐ 4000์ต ๋ฌ๋ฌ ๊ท๋ชจ๋ก ์ฑ์ฅํ ๊ฒ์ด๋ผ๋ ์ ๋ง์ ์ผ๋ถ๋ฅผ ์ฐจ์งํฉ๋๋ค.
์ฐจ์ธ๋ GPU ์ํคํ ์ฒ
2024๋ GTC์์ ๋ฐํ๋ Blackwell GPU๋ ์๋น๋์์ ๋ฏธ๋ ์ ๋ต์ ๋ณด์ฌ์ค๋๋ค. Blackwell์ ์์ฑํ AI ์๋๋ฅผ ์ํ ํ๋ก์ธ์๋ก ํฌ์ง์ ๋๋์ด ์์ผ๋ฉฐ, ์ต๋ 10์กฐ ๊ฐ์ ๋งค๊ฐ๋ณ์๋ฅผ ๊ฐ์ง ๋๊ท๋ชจ ์ธ์ด ๋ชจ๋ธ์ ํ์ต๊ณผ ์ถ๋ก ์ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค. ์ด๋ ์๋น๋์๊ฐ AI ๋ฐ ๊ณ ์ฑ๋ฅ ์ปดํจํ ๋ถ์ผ์์ ๊ณ์ํด์ ํ์ ์ ์ฃผ๋ํ๋ ค๋ ์์ง๋ฅผ ๋ณด์ฌ์ค๋๋ค.
AI ์๋น์ค ๋ฐ ๋ง์ดํฌ๋ก์๋น์ค ํ์ฅ
์๋น๋์๋ ๋จ์ํ ์นฉ ์ ๊ณต์ ์ฒด์์ ํ๋ซํผ ์ ๊ณต์ ์ฒด๋ก ์ ํํ๊ณ ์์ต๋๋ค. Nvidia Inference Microservice (NIM)์ ๊ฐ์ ๋๊ตฌ์ ๋์ ์ AI ๋ชจ๋ธ ๋ฐฐํฌ๋ฅผ ๊ฐ์ํํ๊ณ , ๊ธฐ์ ๋ค์ด ๋ ์ฝ๊ฒ AI๋ฅผ ํ์ฉํ ์ ์๊ฒ ํฉ๋๋ค. ์ด๋ ์๋น๋์๊ฐ AI ์ํ๊ณ ์ ๋ฐ์ ๊ฑธ์ณ ๋ ํฐ ์ญํ ์ ํ๋ ค๋ ์ ๋ต์ ์ผํ์ ๋๋ค.
๊ฒฝ์๊ณผ ๋์
์๋น๋์์ ์ง๋ฐฐ์ ์์น์๋ ๋ถ๊ตฌํ๊ณ , AMD, Intel, ๊ทธ๋ฆฌ๊ณ ์ฌ๋ฌ ์คํํธ์ ๋ค์ด AI ์นฉ ์์ฅ์์ ๊ฒฝ์๋ ฅ์ ํค์ฐ๊ณ ์์ต๋๋ค. ๋ํ, ์๋ง์กด, ๊ตฌ๊ธ, ๋ง์ดํฌ๋ก์ํํธ์ ๊ฐ์ ์ฃผ์ ํด๋ผ์ฐ๋ ์ ๊ณต์ ์ฒด๋ค์ด ์์ฒด AI ์นฉ์ ๊ฐ๋ฐํ๊ณ ์์ด, ์๋น๋์์๊ฒ๋ ๋์ ์ด ๋ ์ ์์ต๋๋ค.
๋ฏธ๋ ๋ฐฉํฅ์ฑ
- AI ์ํผ์ปดํจํฐ ๊ฐ๋ฐ: ์๋น๋์๋ ๊ตญ๊ฐ ๋จ์์ AI ์ฐ๊ตฌ ๋ฐ ๊ฐ๋ฐ์ ์ํ ๊ณ ์ฑ๋ฅ AI ์ํผ์ปดํจํฐ ๊ตฌ์ถ์ ์ฃผ๋ ฅํ๊ณ ์์ต๋๋ค.
- ์์ ์ปดํจํ ์๋ฎฌ๋ ์ด์ : ์ ํต์ ์ธ AI ์ํผ์ปดํจํฐ๋ฅผ ์ฌ์ฉํ ์์ ์ปดํจํ ์๋ฎฌ๋ ์ด์ ์ฐ๊ตฌ๋ฅผ ํ๋ํ ์ ๋ง์ ๋๋ค.
- ๋น์ฃผ์ผ ์์ฑํ AI: NVIDIA Research ํ์ ์ด๋ฏธ์ง, ๋น๋์ค, 3D ํ๊ฒฝ์ ์์ฑํ๊ณ ํด์ํ๋ ์๋ก์ด ๊ธฐ์ ๊ฐ๋ฐ์ ์ง์คํ๊ณ ์์ต๋๋ค.
- ์์จ์ฃผํ ๋ฐ ์ค๋งํธ ์ํฐ: ์์จ์ฃผํ ์๋์ฐจ์ ์ค๋งํธ ์ํฐ ๊ด๋ จ ์ฐ๊ตฌ์ ์ง์์ ์ผ๋ก ํฌ์ํ๊ณ ์์ต๋๋ค.
๊ฒฐ๋ก
์๋น๋์๋ AI์ ๊ณ ์ฑ๋ฅ ์ปดํจํ ๋ถ์ผ์์ ์ ๋์ ์ธ ์์น๋ฅผ ์ ์งํ๊ณ ์์ผ๋ฉฐ, Blackwell GPU์ ๊ฐ์ ํ์ ์ ์ธ ์ ํ์ ํตํด ์ด ์์น๋ฅผ ๊ฐํํ๊ณ ์์ต๋๋ค. ๋์์ AI ์๋น์ค ๋ฐ ๋ง์ดํฌ๋ก์๋น์ค๋ก์ ํ์ฅ์ ํตํด ๋ ๋์ ์์ฅ์ ๊ณต๋ตํ๊ณ ์์ต๋๋ค. ๊ทธ๋ฌ๋ ๊ฒฝ์์ด ์ฌํ๋๊ณ ์๋ ๋งํผ, ์๋น๋์์ ๋ฏธ๋ ์ฑ๊ณต์ ์ง์์ ์ธ ๊ธฐ์ ํ์ ๊ณผ ์์ฅ ์๊ตฌ์ ๋ํ ๋น ๋ฅธ ๋์ ๋ฅ๋ ฅ์ ๋ฌ๋ ค ์์ ๊ฒ์ ๋๋ค. ์์ ์ปดํจํ , ๋น์ฃผ์ผ AI, ์์จ์ฃผํ ๋ฑ ๋ค์ํ ๋ถ์ผ์์์ ์ฐ๊ตฌ ๊ฐ๋ฐ์ ํตํด ์๋น๋์๋ AI ๊ธฐ์ ์ ๋ฏธ๋๋ฅผ ๊ณ์ํด์ ํ์ฑํด ๋๊ฐ ๊ฒ์ผ๋ก ๋ณด์ ๋๋ค.