๋ฅ๋ฌ๋19 [PyTorch] PyTorch๋? ํ์ดํ ์น์ ๊ตฌ์ฑ์์, ํ์ดํ ์น๋ก ํ ์ ์กฐ์ํ๊ธฐ [PyTorch] PyTorch๋? ํ์ดํ ์น์ ๊ตฌ์ฑ์์, ํ์ดํ ์น๋ก ํ ์ ์กฐ์ํ๊ธฐ PyTorch(ํ์ดํ ์น)? ๋ฅ๋ฌ๋ ํ๋ ์์ํฌ์๋ Tensorflow์ PyTorch๊ฐ์๋ค. ๊ต์ก์ฉ์ด๋ ํ์ฌ์์๋ Tensorflow๋ฅผ ๋ง์ด ์ฌ์ฉํ์ง๋ง Tensorflow์ ๋นํด์ ์ ์ฐจ๊ฐ ๊ฐ๋จํ๊ณ ์๋๋ ๋นจ๋ผ ์ต๊ทผ ์ฐ๊ตฌ์์์ PyTorch๋ฅผ ๋ง์ด ์ฐ๊ณ ์๋ ์ถ์ธ๋ผ๊ณ ํ๋ค. (๊ฒฐ๊ตญ์๋ ์ฌ์ฉํ๋ ํ๋ ์์ํฌ๋ ํ์ฌ๋ง๋ค ๋ค๋ฅด๊ธฐ ๋๋ฌธ์ ๋ ๋ค ํด๋๋ ๊ฒ์ด ์ข๊ฒ ๋ค.) ๋๋ Tensorflow๋ก ๋ฅ๋ฌ๋์ ๋จผ์ ์ ํ์ง๋ง ์ต๊ทผ์ PyTorch๋ก ๋ชจ๋ธ๋ง์ ํ ์ผ์ด ์์ด์ ๊ณต๋ถํด๋ณด๊ธฐ๋ก ํ๋ค. โ GPU ๋ฐ ๋ค๋ฅธ ๊ฐ์๊ธฐ์ ์ฑ๋ฅ์ ์ฌ์ฉํ๊ธฐ ์ํ Numpy๋ฅผ ๋์ฒดํ ์ ์๋ค. โ ์ ๊ฒฝ๋ง ๊ตฌํ์ ์ ์ฉํ ์๋๋ฏธ๋ถ ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ ๊ณตํ๋ค. PyTorch(ํ์ดํ .. 2022. 11. 19. [PyTorch] ํ์ดํ ์น๋ก ์ ํํ๊ท ๊ตฌํํ๊ธฐ / nn.Module [PyTorch] ํ์ดํ ์น๋ก ์ ํํ๊ท ๊ตฌํํ๊ธฐ,nn.Module Import import torch import torch.nn as nn import torch.nn.functional as F import torch.optim as optim torch: ํ ์๋ฅผ ์์ฑํ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ torch.autograd: ์๋๋ฏธ๋ถ ๊ธฐ๋ฅ์ ์ ๊ณตํ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ torch.nn: ์ ๊ฒฝ๋ง์ ์์ฑํ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ torch.multiprocessing: ๋ณ๋ด์ฒ๋ฆฌ ๊ธฐ๋ฅ์ ์ ๊ณตํ๋ ๋ผ์ด๋ธ๋ฌ๋ฆฌ torch.utils: ๋ฐ์ดํฐ ์กฐ์ ๋ฑ ์ ํธ๋ฆฌํฐ ๊ธฐ๋ฅ ์ ๊ณต torch.legacy(./nn/.optim): Torch๋ก๋ถํฐ ํฌํ ํด์จ ์ฝ๋ torch.onnx: ONNX(Open Neural Network Exchange) ์๋ก ๋ค๋ฅธ ํ๋ ์.. 2022. 11. 19. CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 05. ์ฌ์ง์ฐ๊ธฐ -> ๋ผ๋ฒจ๋ง -> ๋ชจ๋ธ ํ์ต์ ๋ฌดํ ๊ตด๋ CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 05. ์ฌ์ง์ฐ๊ธฐ -> ๋ผ๋ฒจ๋ง -> ๋ชจ๋ธ ํ์ต์ ๋ฌดํ ๊ตด๋ ์ค๋ ฅํฅ์์๋ ์ค์ ์ ๋ฐ์ด๋๋ ๊ฒ์ด ์ต๊ณ ๋ผ๋ ๋ง์ด ๊ดํ ์๋๊ฒ ์๋ ๊ฒ๊ฐ๋ค. ์ง๊ธ๊น์ง ๊ณต๋ถ๋ ์~ ์ ์ ๋ ์ ๋ช ํ ์์ ๋ฐ์ดํฐ(MNIST, ํ์ดํ๋, IRIS ๋ฑ..)๋ฅผ ๊ฐ์ง๊ณ ๋ชจ๋ธ ํ์ต์ ํ๋ ๋ฒ ์์ฃผ๋ก ์ค์ตํด์๋ค. ์ด๋ก ์ ์ผ๋ก๋ ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ๊ฐ ์ธ๊ณต์ง๋ฅ์ 80ํผ์ผํธ๋ฅผ ์ฐจ์งํ๋ค๊ณ ๋ฐฐ์ ์ง๋ง ์์ ๋ฐ์ดํฐ๋ก๋ ์ ์ฒ๋ฆฌ๋ฅผ ์ง์ค์ ์ผ๋ก ํ ์ ๋ ์๊ณ (๋ง์ด ํ ๊ฒ๋ ์๋ค), ๊ทธ๋ฅ ๋ชจ๋ธ๋ง ์ ์์์ ๋๋ฆฌ๋ฉด ์ ํ๋๊ฐ ๋๊ฒ ๋์ ์ฆ๊ฑฐ์ ๋ค. ์ง๊ธ์ ์๋๋ค.. ๋ฐ์ดํฐ๊ฐ ์ธ๊ณต์ง๋ฅ์์ ๋๋ฌด๋๋ฌด ์ค์ํ๋ค๋ ์ฌ์ค์ ๊นจ๋ณ๋ ์์ฆ์ด๋ค. ๋ฌธ์ ์ - ๋ชจ๋ธ์ด ์ฐ๋ฆฌ๊ฐ ์๋ํ ํน์ง์ ์ก์ง ๋ชปํจ. ์ด ์ํฉ์ ๋ฐฉ์ง ํ๊ธฐ ์ํด์ ์ฒ์๋ถํฐ ์ฌ์ง์ ์ฐ์ ๋, ๋ชจ๋ธ.. 2022. 8. 19. CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 04. ๋ค์์์! ๋ฐ์ดํฐ์ ์ฌ์ง์ฐ๊ธฐ(feat.labelImg) CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 04. ๋ค์์์! ๋ฐ์ดํฐ์ ์ฌ์ง์ฐ๊ธฐ(feat.labelImg) ์ฌ์ง์ ์ฐ์! ๊ฒฐ๊ตญ..ํ๋ค๊ฒ ์ ์ ํ ๋ฐ์ดํฐ์ ์ ๋ฒ๋ฆฌ๊ณ ํน์ง์ ํ์คํ ์ก์ ์ ์๋ ๋ฐ์ดํฐ์ ์ ์ง์ ๋ง๋ค๊ธฐ๋ก ํ๋ค. ๊ทธ๋ฆฌ๊ณ ๊ธฐ์กด์ 7๊ฐ์๋ ์นดํ ๊ณ ๋ฆฌ ์ค ๋น์ทํ๊ฒ ์ธ์ ๋ ๋งํ ๊ฒ๋ค์ ๋ค ๋ฒ๋ฆฌ๊ณ (ํญํ, ์ค์ , ๊ธฐ๋ฌผํ์, ๊ณ๋จ์ ๋, ๊ฐ์งํ๊ธฐ ๋ฌด๋จ์ง์ ) 5๊ฐ๋ก ์ค์๋ค. ์ผ๋จ ํน์ง์ด ๋๋ ๊ฒ๋ค์ ํ์ต์ํค๊ณ ์ ์ ๋ฐ์ดํฐ์ ์ ๋๋ ค๊ฐ๋ฉด์ ์กฐ์ ํ๋ ๋ฐฉ๋ฒ์ ์ ํ! ์ ๋ง ๋ฐ์ดํฐ์ ์ ์ง์ ๋ง๋ค์ง๋ ์์๋ ๋ชปํ๋คใ ใ ใ ํํธ๋, ์ท, ์ฅ์๋ฅผ ๋ฐ๊ฟ๊ฐ๋ฉด์ ์ํฉ๋ณ๋ก 40์ฅ์ฉ ์ดฌ์์ ํ๋ค. ์ฌ์ง์ ์์ ์ ์ง๋ง yolov5 ์์ฒด๊ฐ Augmentation์ ํด์ฃผ๋ ์ ์ ์ด์ฉํด์ ์ฒ์์ ์ ์ ์ฉ๋์ผ๋ก ์์ํ๋ค. ๐ซ ์ดฌ์ ์ ์ฃผ์ํ ์ ! ๐ซ .. 2022. 8. 18. CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 03. YOLOv5 ๋ชจ๋ธ ํ๋ จ์ํค๊ธฐ CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 03. YOLOv5 ๋ชจ๋ธ ํ๋ จ์ํค๊ธฐ CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 02. ๋ฐ์ดํฐ์ ํ๋ณด ๋ฐ ์ ์ / YOLOv5 labels.txt ๋ง๋ค๊ธฐ CCTV ์ด์ํ๋ ํ๋ณ ์์คํ ์ ์ - 02. ๋ฐ์ดํฐ์ ํ๋ณด ๋ฐ ์ ์ ๊ณํ์ ์๋ฒฝํ๋ค. ํ์ง๋ง ์ค์ ์ ๋ฌ๋๋ค. 1. AI hub AI hub์ ์๋ ๋ฐ์ดํฐ๋ค์ ๋ค์ด ๋ฐ์์ ๋ชจ๋ธ ๋๋ฆฌ๊ธฐ๋ง ํ๋ฉด ๋~!? ์ด๋ผ๊ณ ์์ผ eunjibest.tistory.com ↑↑↑↑↑↑↑ ๋ชจ๋ ๋ฐ์ดํฐ ์ค๋น๊ฐ ๋๋ฌ์ผ๋, ์ด์ ๋ ํ๋ จ์ํค๋ ์ผ๋ง ๋จ์๋ค. (ํ๋ณตํ๋ก ๋๋ฆฌ๊ธฐ) ์ด๋ฏธ์ง ๋ํ ์ ํ๊ธฐ์ ์ต์ ํ๋ ๋ชจ๋ธ์ ์ฌ์ฉํ๊ณ , ๋ฐ์ดํฐ๋ ๋ง๋ค์๊ฒ ๋ค ํ์ต๋ง ์ํ๋ฉด ํ๋ก์ ํธ ๋?!์ธ์ค..ใ YOLOv5 ํ๋ จ ์ค๋น ๋ฐ์ดํฐ์ ๋ง ์ค๋น๋๋ค๋ฉด ๋ชจ๋ธ ์์ฒด๋ฅผ ์ปค์คํ ํ์ง ์.. 2022. 8. 17. Hands-On Machine Learning(ํธ์ฆ์จ ๋จธ์ ๋ฌ๋) - 10์ฅ ์ฐ์ต๋ฌธ์ Hands-On Machine Learning(ํธ์ฆ์จ ๋จธ์ ๋ฌ๋) - 10์ฅ ์ฐ์ต๋ฌธ์ 1์ฅ๋ถํฐ 9์ฅ๊น์ง๋ ๋จธ์ ๋ฌ๋ ๋ด์ฉ์ด๋, ๋จธ์ ๋ฌ๋ ์นดํ ๊ณ ๋ฆฌ 10์ฅ๋ถํฐ 19์ฅ๊น์ง๋ ๋ฅ๋ฌ๋ ๋ด์ฉ์ด๋, ๋ฅ๋ฌ๋ ์นดํ ๊ณ ๋ฆฌ์ ํฌ์คํ ์ ํ๊ธฐ๋ก ํ๊ฒ ๋ค. 1๋ฒ ํ ์ํ๋ก ํ๋ ์ด๊ทธ๋ผ์ด๋๋ฅผ ๋ฐฉ๋ฌธํด์ ์ฐ์ต๋ฌธ์ ์ ๋์จ๋๋ก ์ฌ์ฉํด๋ณด์ธ์. Tensorflow — Neural Network Playground Tinker with a real neural network right here in your browser. playground.tensorflow.org ํ ์ํ๋ก์ฐ ํ๋ ์ด ๊ทธ๋ผ์ด๋๋ ๋ฅ๋ฌ๋ ์ ๊ฒฝ๋ง ์๋ฎฌ๋ ์ดํฐ์ด๋ค. ๋ณต์กํ ์ฝ๋๋ฅผ ์ ๋ ฅํ์ง ์๊ณ , ํด๋ฆญ๋ง์ผ๋ก ์ด๋ค ์ ๊ฒฝ๋ง๋ค์ด ์ด๋ค ํจ๊ณผ๋ฅผ ๋ด๋์ง ์๊ฐ์ ์ผ๋ก ํ๋์ ๋ณผ ์ ์๋ค. ์ ๊ฒฝ๋ง์ ๋ ์ด์ด๋ฅผ .. 2022. 7. 19. ๋จธ์ ๋ฌ๋(Machine Learing)์ด๋? ์ค์ฐจํจ์ MAE(mean absolute error)/MSE(mean squared erro) ๋จธ์ ๋ฌ๋(Machine Learing)์ด๋? ์ค์ฐจํจ์ MAE(mean absolute error)/MSE(mean squared erro) ๋ธ๋ก๊ทธ๋ฅผ ์ด์ํ๋ฉด์ ๋จธ์ ๋ฌ๋์ ๋ํด ๊ธ์ ์ด ๊ฒ์ด ์๋ค๋๋ ๊ฒ์ ์๊ณ ๋๋ฌ๋ค. ์ด์ ๊ณต๋ถํ ๋ด์ฉ์ ํ ๋๋ก, ๋จธ์ ๋ฌ๋์ด๋ ๋ฌด์์ธ์ง? ๋จธ์ ๋ฌ๋์ ์ค์ฐจํจ์์ ๋ํด์ ํฌ์คํ ํ๋ ค๊ณ ํ๋ค. ๋จธ์ ๋ฌ๋์ด๋? ๋ฐ์ดํฐ์์๋ถํฐ ํ์ตํ๋๋ก ์ปดํจํฐ๋ฅผ ํ๋ก๊ทธ๋๋ฐ์ํ๋ ๊ณผํ.๋๋ ์์ (?)์ด๋ผ๊ณ ์ฑ ์ ์จ์๋ค. ๋ง ๊ทธ๋๋ก ๊ธฐ๊ณํ์ต์ด๋ค. ์ด๋ฐ ์ฌ์ ์ ์ธ ์๋ฏธ๋ง๊ณ , ์ํ์ ์ผ๋ก ๋จธ์ ๋ฌ๋์ด ๋ฌด์์ธ์ง? ๋ชฉ์ ์ ๋ฌด์์ธ์ง ์ดํด๋ณด์. ๋ค์๊ณผ ๊ฐ์ ์ํ ๊ทธ๋ํ๊ฐ ์๋ค. ๊ทธ๋ํ๋ฅผ ํด์ํด๋ณธ๋ค๋ฉด, ์ถ์ ๋ง์กฑ๋๊ฐ ๋์ ์๋ก GDP๋ ๋๋ค๋ ๊ฒ์ ์ ์ ์๋ค. ์ด ๊ทธ๋ํ์ ์ ๋ณด๋ฅผ ํ ๋๋ก ์ถ์ ๋ง์กฑ๋์ GDP์์ ๊ด๊ณ๋ฅผ ์์ธก.. 2022. 7. 1. [๋ฅ๋ฌ๋] LSTM(Long Short Term Memory) [๋ฅ๋ฌ๋] LSTM(Long Short Term Memory) LSTM์ ๊ตฌ์กฐ๋ ์ด๋ค. ์์ RNN์ ๊ตฌ์กฐ์ ํฌ๊ฒ ๋ณ ๋ค๋ฅผ๊ฒ ์์ด ๋ณด์ด์ง๋ง ์์ธํ ๋ณด๋ฉด ๋ฌด์ธ๊ฐ๊ฐ ์ถ๊ฐ ๋๋ค. RNN์ A๋ก ๋์ด๊ฐ๋ ์ ? (ํ์ดํ)์ด ํ๋์ง๋ง LSTM์ ํ ์ค์ด ๋ ์๊ฒผ๋ค. ์์ชฝ ์ ์ Long Term Memory(์ฅ๊ธฐ๊ธฐ์ต) ์๋ซ์ชฝ ์ ์ Short Term Memory(๋จ๊ธฐ๊ธฐ์ต) ์ด๋ค. ์ ์ Vanilla RNN์ ๋ฌธ์ ์ ์ ์๊ฐํด๋ณด์๋ฉด ์ฒซ ์ธํ ๋ฐ์ดํฐ์ A(weight)๊ฐ ๋ง์ง๋ง๊น์ง ๋ชป๊ฐ๋ค๋ ๊ฒ์ด์๋ค. ํ์ง๋ง, LSTM์์๋ ์ค์๋๊ฐ ๋์ ์ธํ๋ฐ์ดํฐ๋ฅผ Long Term Memory์ ๋ฃ์ด์ค์ผ๋ก์จ weight์ ๊ฐ์ด ๋ง์ง๋ง๊น์ง ์ ์ง๋ ์ ์๊ฒ ํด์ค๋ค. A์์๋ ๋ณต์กํ ๊ฒ์ดํธ๋ค์ด ๋ค์ํ๊ฒ ์๋ค. ๋ง์ฝ Long Term Memo.. 2022. 2. 25. [๋ฅ๋ฌ๋] RNN (Recurrent Neural Network) - ์ํ์ ๊ฒฝ๋ง ๊ตฌ์กฐ [๋ฅ๋ฌ๋] RNN (Recurrent Neural Network) - ์ํ์ ๊ฒฝ๋ง ๊ตฌ์กฐ RNN์ ์์ฐ์ด ์ฒ๋ฆฌ๋ฅผ ํ๋ค๋์ง, ์ฃผ๊ฐ ์์ธก์ ํ๋ค๋์ง ์๊ฐ์ ํ๋ฆ์ด ๋งค์ฐ ์ค์ํ ์๊ณ์ด ๋ฐ์ดํฐ์ ์ ํฉํ ๋ชจ๋ธ์ด๋ค. ๊ธฐ๋ณธ์ ์ธ RNN ๊ตฌ์กฐ๋์ด๋ค. ํ๋์ฉ ๋ฏ์ด๋ณด๋ฉด ์ธํ๊ฐ์ด X0์ผ๋ก ๋ค์ด๊ฐ์ -> A์์ ์ด๋ค ๊ฐ์ค์น(w)์ ๋ํ ๊ณ์ฐ์ด ๋๊ณ , -> ๊ฒฐ๊ณผ๊ฐ์ด h0์ด๋๋ค. -> ์ฒซ๋ฒ์งธ A ๊ฐ์ค์น(w)๊ฐ ๋๋ฒ์งธ A๋ก ์ ๋ฌ์ด ๋๋ฉด์ ์ธํ๊ฐ X1๊ณผ ํฉ์ณ์ ธ๊ณ -> ๊ฒฐ๊ณผ๊ฐ h1์ด ๋๋ค. -> ๋๋ฒ์งธ A ๊ฐ์ค์น๊ฐ ์ธ๋ฒ์งธ A๋ก ์ ๋ฌ์ด ๋๊ณ ์ธํ๊ฐ X2์ ํฉ์ณ์ง๊ณ ... ์ด๋ฐ์์ผ๋ก ๊ณ์ ์ ๋ฌ ์ ๋ฌ ์ ๋ฌ...์ด ๋๋ ๊ตฌ์กฐ์ธ ๊ฒ์ ํ์ธํ ์ ์๋ค. ์์ ๊ธฐ๋ณธ์ ์ธ ๊ตฌ์กฐ๋ฅผ Vanilla RNN์ด๋ผ๊ณ ํ๋ค. ๊ฐ์ฅ ์ด๊ธฐ ๋ฒ์ ์ด๋ค. ์ด Vanilla RN.. 2022. 2. 24. [๋ฅ๋ฌ๋] Embeding Layer / ์ฐจ์์ ์ ์ฃผ (curse of dimensionality) /์์ฐ์ด ์ฒ๋ฆฌ / ๋จ์ด ๋ฐฑํฐํ [๋ฅ๋ฌ๋] Embeding Layer / ์ฐจ์์ ์ ์ฃผ (curse of dimensionality) /์์ฐ์ด ์ฒ๋ฆฌ / ๋จ์ด ๋ฐฑํฐํ ์ฐจ์์ ์ ์ฃผ (curse of dimensionality) I am a boy and I am not a girl ์ ๋ฌธ์ฅ์ ๊ฐ๊ฐ์ ๋จ์ด๋ค์ ๊ณ ์ ์ ์ซ์๋ฅผ ์ค๋ณด์๋ค. I -> 0 am -> 1 a -> 2 boy -> 3 and -> 4 not -> 5 girl ->6 ์ด ์ซ์๋ค์ one-hot encording์ ํด์ค์ผํ๋ค. ์๋ํ๋ฉด ๊ฐ๊ฐ์ ์ซ์์ ์ฐ๊ด์ฑ์ ์์ ์ฃผ๊ธฐ ์ํด์์ด๋ค. ์๋ฅผ ๋ค๋ฉด am + a = boy ์ด๋ฐ์์ผ๋ก ๊ด๊ณ๊ฐ ์ง์ด์ ธ์ ์ด์ํ ํด์์ ํ ์ ์๊ธฐ ๋๋ฌธ์ด๋ค. one-hot encording์ ํด์ฃผ๋ฉด I -> [1, 0, 0, 0, 0, 0, 0 ] am ->.. 2022. 2. 23. ์ด์ 1 2 ๋ค์ ๋ฐ์ํ