๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ

๋”ฅ๋Ÿฌ๋‹19

[PyTorch] PyTorch๋ž€? ํŒŒ์ดํ† ์น˜์˜ ๊ตฌ์„ฑ์š”์†Œ, ํŒŒ์ดํ† ์น˜๋กœ ํ…์„œ ์กฐ์ž‘ํ•˜๊ธฐ [PyTorch] PyTorch๋ž€? ํŒŒ์ดํ† ์น˜์˜ ๊ตฌ์„ฑ์š”์†Œ, ํŒŒ์ดํ† ์น˜๋กœ ํ…์„œ ์กฐ์ž‘ํ•˜๊ธฐ PyTorch(ํŒŒ์ดํ† ์น˜)? ๋”ฅ๋Ÿฌ๋‹ ํ”„๋ ˆ์ž„์›Œํฌ์—๋Š” Tensorflow์™€ PyTorch๊ฐ€์žˆ๋‹ค. ๊ต์œก์šฉ์ด๋‚˜ ํšŒ์‚ฌ์—์„œ๋Š” Tensorflow๋ฅผ ๋งŽ์ด ์‚ฌ์šฉํ–ˆ์ง€๋งŒ Tensorflow์— ๋น„ํ•ด์„œ ์ ˆ์ฐจ๊ฐ€ ๊ฐ„๋‹จํ•˜๊ณ  ์†๋„๋„ ๋นจ๋ผ ์ตœ๊ทผ ์—ฐ๊ตฌ์†Œ์—์„œ PyTorch๋ฅผ ๋งŽ์ด ์“ฐ๊ณ ์žˆ๋Š” ์ถ”์„ธ๋ผ๊ณ ํ•œ๋‹ค. (๊ฒฐ๊ตญ์—๋Š” ์‚ฌ์šฉํ•˜๋Š” ํ”„๋ ˆ์ž„์›Œํฌ๋Š” ํšŒ์‚ฌ๋งˆ๋‹ค ๋‹ค๋ฅด๊ธฐ ๋•Œ๋ฌธ์— ๋‘˜ ๋‹ค ํ•ด๋‘๋Š” ๊ฒƒ์ด ์ข‹๊ฒ ๋‹ค.) ๋‚˜๋„ Tensorflow๋กœ ๋”ฅ๋Ÿฌ๋‹์„ ๋จผ์ € ์ ‘ํ–ˆ์ง€๋งŒ ์ตœ๊ทผ์— PyTorch๋กœ ๋ชจ๋ธ๋ง์„ ํ•  ์ผ์ด ์žˆ์–ด์„œ ๊ณต๋ถ€ํ•ด๋ณด๊ธฐ๋กœ ํ–ˆ๋‹ค. โ—‹ GPU ๋ฐ ๋‹ค๋ฅธ ๊ฐ€์†๊ธฐ์˜ ์„ฑ๋Šฅ์„ ์‚ฌ์šฉํ•˜๊ธฐ ์œ„ํ•œ Numpy๋ฅผ ๋Œ€์ฒดํ•  ์ˆ˜ ์žˆ๋‹ค. โ—‹ ์‹ ๊ฒฝ๋ง ๊ตฌํ˜„์— ์œ ์šฉํ•œ ์ž๋™๋ฏธ๋ถ„ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋ฅผ ์ œ๊ณตํ•œ๋‹ค. PyTorch(ํŒŒ์ดํ† .. 2022. 11. 19.
[PyTorch] ํŒŒ์ดํ† ์น˜๋กœ ์„ ํ˜•ํšŒ๊ท€ ๊ตฌํ˜„ํ•˜๊ธฐ / nn.Module [PyTorch] ํŒŒ์ดํ† ์น˜๋กœ ์„ ํ˜•ํšŒ๊ท€ ๊ตฌํ˜„ํ•˜๊ธฐ,nn.Module Import import torch import torch.nn as nn import torch.nn.functional as F import torch.optim as optim torch: ํ…์„œ๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ torch.autograd: ์ž๋™๋ฏธ๋ถ„ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•˜๋Š” ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ torch.nn: ์‹ ๊ฒฝ๋ง์„ ์ƒ์„ฑํ•˜๋Š” ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ torch.multiprocessing: ๋ณ‘๋Ÿด์ฒ˜๋ฆฌ ๊ธฐ๋Šฅ์„ ์ œ๊ณตํ•˜๋Š” ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ torch.utils: ๋ฐ์ดํ„ฐ ์กฐ์ž‘ ๋“ฑ ์œ ํ‹ธ๋ฆฌํ‹ฐ ๊ธฐ๋Šฅ ์ œ๊ณต torch.legacy(./nn/.optim): Torch๋กœ๋ถ€ํ„ฐ ํฌํŒ…ํ•ด์˜จ ์ฝ”๋“œ torch.onnx: ONNX(Open Neural Network Exchange) ์„œ๋กœ ๋‹ค๋ฅธ ํ”„๋ ˆ์ž„.. 2022. 11. 19.
CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 05. ์‚ฌ์ง„์ฐ๊ธฐ -> ๋ผ๋ฒจ๋ง -> ๋ชจ๋ธ ํ•™์Šต์˜ ๋ฌดํ•œ ๊ตด๋ ˆ CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 05. ์‚ฌ์ง„์ฐ๊ธฐ -> ๋ผ๋ฒจ๋ง -> ๋ชจ๋ธ ํ•™์Šต์˜ ๋ฌดํ•œ ๊ตด๋ ˆ ์‹ค๋ ฅํ–ฅ์ƒ์—๋Š” ์‹ค์ „์— ๋›ฐ์–ด๋“œ๋Š” ๊ฒƒ์ด ์ตœ๊ณ ๋ผ๋Š” ๋ง์ด ๊ดœํžˆ ์žˆ๋Š”๊ฒŒ ์•„๋‹Œ ๊ฒƒ๊ฐ™๋‹ค. ์ง€๊ธˆ๊นŒ์ง€ ๊ณต๋ถ€๋Š” ์ž˜~ ์ •์ œ๋œ ์œ ๋ช…ํ•œ ์˜ˆ์ œ ๋ฐ์ดํ„ฐ(MNIST, ํƒ€์ดํƒ€๋‹‰, IRIS ๋“ฑ..)๋ฅผ ๊ฐ€์ง€๊ณ  ๋ชจ๋ธ ํ•™์Šต์„ ํ•˜๋Š” ๋ฒ• ์œ„์ฃผ๋กœ ์‹ค์Šตํ•ด์™”๋‹ค. ์ด๋ก ์ ์œผ๋กœ๋Š” ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ๊ฐ€ ์ธ๊ณต์ง€๋Šฅ์˜ 80ํผ์„ผํŠธ๋ฅผ ์ฐจ์ง€ํ•œ๋‹ค๊ณ  ๋ฐฐ์› ์ง€๋งŒ ์˜ˆ์ œ ๋ฐ์ดํ„ฐ๋กœ๋Š” ์ „์ฒ˜๋ฆฌ๋ฅผ ์ง‘์ค‘์ ์œผ๋กœ ํ•œ ์ ๋„ ์—†๊ณ (๋งŽ์ด ํ•  ๊ฒƒ๋„ ์—†๋‹ค), ๊ทธ๋ƒฅ ๋ชจ๋ธ๋งŒ ์ž˜ ์Œ“์•„์„œ ๋Œ๋ฆฌ๋ฉด ์ •ํ™•๋„๊ฐ€ ๋†’๊ฒŒ ๋‚˜์™€ ์ฆ๊ฑฐ์› ๋‹ค. ์ง€๊ธˆ์€ ์•„๋‹ˆ๋‹ค.. ๋ฐ์ดํ„ฐ๊ฐ€ ์ธ๊ณต์ง€๋Šฅ์—์„œ ๋„ˆ๋ฌด๋„ˆ๋ฌด ์ค‘์š”ํ•˜๋‹ค๋Š” ์‚ฌ์‹ค์„ ๊นจ๋‹ณ๋Š” ์š”์ฆ˜์ด๋‹ค. ๋ฌธ์ œ์  - ๋ชจ๋ธ์ด ์šฐ๋ฆฌ๊ฐ€ ์˜๋„ํ•œ ํŠน์ง•์„ ์žก์ง€ ๋ชปํ•จ. ์ด ์ƒํ™ฉ์„ ๋ฐฉ์ง€ ํ•˜๊ธฐ ์œ„ํ•ด์„œ ์ฒ˜์Œ๋ถ€ํ„ฐ ์‚ฌ์ง„์„ ์ฐ์„ ๋•Œ, ๋ชจ๋ธ.. 2022. 8. 19.
CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 04. ๋‹ค์‹œ์‹œ์ž‘! ๋ฐ์ดํ„ฐ์…‹ ์‚ฌ์ง„์ฐ๊ธฐ(feat.labelImg) CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 04. ๋‹ค์‹œ์‹œ์ž‘! ๋ฐ์ดํ„ฐ์…‹ ์‚ฌ์ง„์ฐ๊ธฐ(feat.labelImg) ์‚ฌ์ง„์„ ์ฐ์ž! ๊ฒฐ๊ตญ..ํž˜๋“ค๊ฒŒ ์ •์ œํ•œ ๋ฐ์ดํ„ฐ์…‹์„ ๋ฒ„๋ฆฌ๊ณ  ํŠน์ง•์„ ํ™•์‹คํžˆ ์žก์„ ์ˆ˜ ์žˆ๋Š” ๋ฐ์ดํ„ฐ์…‹์„ ์ง์ ‘ ๋งŒ๋“ค๊ธฐ๋กœ ํ–ˆ๋‹ค. ๊ทธ๋ฆฌ๊ณ  ๊ธฐ์กด์— 7๊ฐœ์˜€๋˜ ์นดํ…Œ๊ณ ๋ฆฌ ์ค‘ ๋น„์Šทํ•˜๊ฒŒ ์ธ์‹ ๋ ๋งŒํ•œ ๊ฒƒ๋“ค์„ ๋‹ค ๋ฒ„๋ฆฌ๊ณ  (ํญํ–‰, ์‹ค์‹ , ๊ธฐ๋ฌผํŒŒ์†, ๊ณ„๋‹จ์ „๋„, ๊ฐœ์ง‘ํ‘œ๊ธฐ ๋ฌด๋‹จ์ง„์ž…) 5๊ฐœ๋กœ ์ค„์˜€๋‹ค. ์ผ๋‹จ ํŠน์ง•์ด ๋˜๋Š” ๊ฒƒ๋“ค์„ ํ•™์Šต์‹œํ‚ค๊ณ  ์ ์  ๋ฐ์ดํ„ฐ์…‹์„ ๋Š˜๋ ค๊ฐ€๋ฉด์„œ ์กฐ์ •ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์„ ํƒ! ์ •๋ง ๋ฐ์ดํ„ฐ์…‹์„ ์ง์ ‘ ๋งŒ๋“ค์ง€๋Š” ์ƒ์ƒ๋„ ๋ชปํ–ˆ๋‹คใ…‹ใ…‹ใ…‹ ํŒŒํŠธ๋„ˆ, ์˜ท, ์žฅ์†Œ๋ฅผ ๋ฐ”๊ฟ”๊ฐ€๋ฉด์„œ ์ƒํ™ฉ๋ณ„๋กœ 40์žฅ์”ฉ ์ดฌ์˜์„ ํ–ˆ๋‹ค. ์‚ฌ์ง„์˜ ์–‘์€ ์ ์ง€๋งŒ yolov5 ์ž์ฒด๊ฐ€ Augmentation์„ ํ•ด์ฃผ๋Š” ์ ์„ ์ด์šฉํ•ด์„œ ์ฒ˜์Œ์—” ์ ์€ ์šฉ๋Ÿ‰์œผ๋กœ ์‹œ์ž‘ํ–ˆ๋‹ค. ๐Ÿšซ ์ดฌ์˜ ์‹œ ์ฃผ์˜ํ•œ ์ ! ๐Ÿšซ .. 2022. 8. 18.
CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 03. YOLOv5 ๋ชจ๋ธ ํ›ˆ๋ จ์‹œํ‚ค๊ธฐ CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 03. YOLOv5 ๋ชจ๋ธ ํ›ˆ๋ จ์‹œํ‚ค๊ธฐ CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 02. ๋ฐ์ดํ„ฐ์…‹ ํ™•๋ณด ๋ฐ ์ •์ œ / YOLOv5 labels.txt ๋งŒ๋“ค๊ธฐ CCTV ์ด์ƒํ–‰๋™ ํŒ๋ณ„ ์‹œ์Šคํ…œ ์ œ์ž‘ - 02. ๋ฐ์ดํ„ฐ์…‹ ํ™•๋ณด ๋ฐ ์ •์ œ ๊ณ„ํš์€ ์™„๋ฒฝํ–ˆ๋‹ค. ํ•˜์ง€๋งŒ ์‹ค์ „์€ ๋‹ฌ๋ž๋‹ค. 1. AI hub AI hub์— ์žˆ๋Š” ๋ฐ์ดํ„ฐ๋“ค์„ ๋‹ค์šด ๋ฐ›์•„์„œ ๋ชจ๋ธ ๋Œ๋ฆฌ๊ธฐ๋งŒ ํ•˜๋ฉด ๋~!? ์ด๋ผ๊ณ  ์•ˆ์ผ eunjibest.tistory.com ↑↑↑↑↑↑↑ ๋ชจ๋“  ๋ฐ์ดํ„ฐ ์ค€๋น„๊ฐ€ ๋๋‚ฌ์œผ๋‹ˆ, ์ด์ œ๋Š” ํ›ˆ๋ จ์‹œํ‚ค๋Š” ์ผ๋งŒ ๋‚จ์•˜๋‹ค. (ํ–‰๋ณตํšŒ๋กœ ๋Œ๋ฆฌ๊ธฐ) ์ด๋ฏธ์ง€ ๋””ํ…์…˜ํ•˜๊ธฐ์— ์ตœ์ ํ™”๋œ ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•˜๊ณ , ๋ฐ์ดํ„ฐ๋„ ๋งŒ๋“ค์—ˆ๊ฒ ๋‹ค ํ•™์Šต๋งŒ ์ž˜ํ•˜๋ฉด ํ”„๋กœ์ ํŠธ ๋?!์ธ์ค„..ใ…Ž YOLOv5 ํ›ˆ๋ จ ์ค€๋น„ ๋ฐ์ดํ„ฐ์…‹๋งŒ ์ค€๋น„๋œ๋‹ค๋ฉด ๋ชจ๋ธ ์ž์ฒด๋ฅผ ์ปค์Šคํ…€ํ•˜์ง€ ์•Š.. 2022. 8. 17.
Hands-On Machine Learning(ํ•ธ์ฆˆ์˜จ ๋จธ์‹ ๋Ÿฌ๋‹) - 10์žฅ ์—ฐ์Šต๋ฌธ์ œ Hands-On Machine Learning(ํ•ธ์ฆˆ์˜จ ๋จธ์‹ ๋Ÿฌ๋‹) - 10์žฅ ์—ฐ์Šต๋ฌธ์ œ 1์žฅ๋ถ€ํ„ฐ 9์žฅ๊นŒ์ง€๋Š” ๋จธ์‹ ๋Ÿฌ๋‹ ๋‚ด์šฉ์ด๋‹ˆ, ๋จธ์‹ ๋Ÿฌ๋‹ ์นดํ…Œ๊ณ ๋ฆฌ 10์žฅ๋ถ€ํ„ฐ 19์žฅ๊นŒ์ง€๋Š” ๋”ฅ๋Ÿฌ๋‹ ๋‚ด์šฉ์ด๋‹ˆ, ๋”ฅ๋Ÿฌ๋‹ ์นดํ…Œ๊ณ ๋ฆฌ์— ํฌ์ŠคํŒ…์„ ํ•˜๊ธฐ๋กœ ํ•˜๊ฒ ๋‹ค. 1๋ฒˆ ํ…์„œํ”Œ๋กœ ํ”Œ๋ ˆ์ด๊ทธ๋ผ์šด๋“œ๋ฅผ ๋ฐฉ๋ฌธํ•ด์„œ ์—ฐ์Šต๋ฌธ์ œ์— ๋‚˜์˜จ๋Œ€๋กœ ์‚ฌ์šฉํ•ด๋ณด์„ธ์š”. Tensorflow — Neural Network Playground Tinker with a real neural network right here in your browser. playground.tensorflow.org ํ…์„œํ”Œ๋กœ์šฐ ํ”Œ๋ ˆ์ด ๊ทธ๋ผ์šด๋“œ๋Š” ๋”ฅ๋Ÿฌ๋‹ ์‹ ๊ฒฝ๋ง ์‹œ๋ฎฌ๋ ˆ์ดํ„ฐ์ด๋‹ค. ๋ณต์žกํ•œ ์ฝ”๋“œ๋ฅผ ์ž…๋ ฅํ•˜์ง€ ์•Š๊ณ , ํด๋ฆญ๋งŒ์œผ๋กœ ์–ด๋–ค ์‹ ๊ฒฝ๋ง๋“ค์ด ์–ด๋–ค ํšจ๊ณผ๋ฅผ ๋‚ด๋Š”์ง€ ์‹œ๊ฐ์ ์œผ๋กœ ํ•œ๋ˆˆ์— ๋ณผ ์ˆ˜ ์žˆ๋‹ค. ์‹ ๊ฒฝ๋ง์˜ ๋ ˆ์ด์–ด๋ฅผ .. 2022. 7. 19.
๋จธ์‹ ๋Ÿฌ๋‹(Machine Learing)์ด๋ž€? ์˜ค์ฐจํ•จ์ˆ˜ MAE(mean absolute error)/MSE(mean squared erro) ๋จธ์‹ ๋Ÿฌ๋‹(Machine Learing)์ด๋ž€? ์˜ค์ฐจํ•จ์ˆ˜ MAE(mean absolute error)/MSE(mean squared erro) ๋ธ”๋กœ๊ทธ๋ฅผ ์šด์˜ํ•˜๋ฉด์„œ ๋จธ์‹ ๋Ÿฌ๋‹์— ๋Œ€ํ•ด ๊ธ€์„ ์“ด ๊ฒƒ์ด ์—†๋‹ค๋Š๋Š” ๊ฒƒ์„ ์•Œ๊ณ  ๋†€๋žฌ๋‹ค. ์–ด์ œ ๊ณต๋ถ€ํ•œ ๋‚ด์šฉ์„ ํ† ๋Œ€๋กœ, ๋จธ์‹ ๋Ÿฌ๋‹์ด๋ž€ ๋ฌด์—‡์ธ์ง€? ๋จธ์‹ ๋Ÿฌ๋‹์˜ ์˜ค์ฐจํ•จ์ˆ˜์— ๋Œ€ํ•ด์„œ ํฌ์ŠคํŒ…ํ•˜๋ ค๊ณ ํ•œ๋‹ค. ๋จธ์‹ ๋Ÿฌ๋‹์ด๋ž€? ๋ฐ์ดํ„ฐ์—์„œ๋ถ€ํ„ฐ ํ•™์Šตํ•˜๋„๋ก ์ปดํ“จํ„ฐ๋ฅผ ํ”„๋กœ๊ทธ๋ž˜๋ฐ์„ํ•˜๋Š” ๊ณผํ•™.๋˜๋Š” ์˜ˆ์ˆ (?)์ด๋ผ๊ณ  ์ฑ…์— ์จ์žˆ๋‹ค. ๋ง ๊ทธ๋Œ€๋กœ ๊ธฐ๊ณ„ํ•™์Šต์ด๋‹ค. ์ด๋Ÿฐ ์‚ฌ์ „์ ์ธ ์˜๋ฏธ๋ง๊ณ , ์ˆ˜ํ•™์ ์œผ๋กœ ๋จธ์‹ ๋Ÿฌ๋‹์ด ๋ฌด์—‡์ธ์ง€? ๋ชฉ์ ์€ ๋ฌด์—‡์ธ์ง€ ์‚ดํŽด๋ณด์ž. ๋‹ค์Œ๊ณผ ๊ฐ™์€ ์ƒ˜ํ”Œ ๊ทธ๋ž˜ํ”„๊ฐ€ ์žˆ๋‹ค. ๊ทธ๋ž˜ํ”„๋ฅผ ํ•ด์„ํ•ด๋ณธ๋‹ค๋ฉด, ์‚ถ์˜ ๋งŒ์กฑ๋„๊ฐ€ ๋†’์„ ์ˆ˜๋ก GDP๋„ ๋†’๋‹ค๋Š” ๊ฒƒ์„ ์•Œ ์ˆ˜ ์žˆ๋‹ค. ์ด ๊ทธ๋ž˜ํ”„์˜ ์ •๋ณด๋ฅผ ํ† ๋Œ€๋กœ ์‚ถ์˜ ๋งŒ์กฑ๋„์™€ GDP์™€์˜ ๊ด€๊ณ„๋ฅผ ์˜ˆ์ธก.. 2022. 7. 1.
[๋”ฅ๋Ÿฌ๋‹] LSTM(Long Short Term Memory) [๋”ฅ๋Ÿฌ๋‹] LSTM(Long Short Term Memory) LSTM์˜ ๊ตฌ์กฐ๋„ ์ด๋‹ค. ์•ž์„  RNN์˜ ๊ตฌ์กฐ์™€ ํฌ๊ฒŒ ๋ณ„ ๋‹ค๋ฅผ๊ฒŒ ์—†์–ด ๋ณด์ด์ง€๋งŒ ์ž์„ธํžˆ ๋ณด๋ฉด ๋ฌด์–ธ๊ฐ€๊ฐ€ ์ถ”๊ฐ€ ๋๋‹ค. RNN์€ A๋กœ ๋„˜์–ด๊ฐ€๋Š” ์„ ? (ํ™”์‚ดํ‘œ)์ด ํ•˜๋‚˜์ง€๋งŒ LSTM์€ ํ•œ ์ค„์ด ๋” ์ƒ๊ฒผ๋‹ค. ์œ—์ชฝ ์„ ์€ Long Term Memory(์žฅ๊ธฐ๊ธฐ์–ต) ์•„๋žซ์ชฝ ์„ ์€ Short Term Memory(๋‹จ๊ธฐ๊ธฐ์–ต) ์ด๋‹ค. ์ž ์‹œ Vanilla RNN์˜ ๋ฌธ์ œ์ ์„ ์ƒ๊ฐํ•ด๋ณด์ž๋ฉด ์ฒซ ์ธํ’‹ ๋ฐ์ดํ„ฐ์˜ A(weight)๊ฐ€ ๋งˆ์ง€๋ง‰๊นŒ์ง€ ๋ชป๊ฐ„๋‹ค๋Š” ๊ฒƒ์ด์˜€๋‹ค. ํ•˜์ง€๋งŒ, LSTM์—์„œ๋Š” ์ค‘์š”๋„๊ฐ€ ๋†’์€ ์ธํ’‹๋ฐ์ดํ„ฐ๋ฅผ Long Term Memory์— ๋„ฃ์–ด์คŒ์œผ๋กœ์จ weight์˜ ๊ฐ’์ด ๋งˆ์ง€๋ง‰๊นŒ์ง€ ์œ ์ง€๋  ์ˆ˜ ์žˆ๊ฒŒ ํ•ด์ค€๋‹ค. A์•ˆ์—๋Š” ๋ณต์žกํ•œ ๊ฒŒ์ดํŠธ๋“ค์ด ๋‹ค์–‘ํ•˜๊ฒŒ ์žˆ๋‹ค. ๋งŒ์•ฝ Long Term Memo.. 2022. 2. 25.
[๋”ฅ๋Ÿฌ๋‹] RNN (Recurrent Neural Network) - ์ˆœํ™˜์‹ ๊ฒฝ๋ง ๊ตฌ์กฐ [๋”ฅ๋Ÿฌ๋‹] RNN (Recurrent Neural Network) - ์ˆœํ™˜์‹ ๊ฒฝ๋ง ๊ตฌ์กฐ RNN์€ ์ž์—ฐ์–ด ์ฒ˜๋ฆฌ๋ฅผ ํ•œ๋‹ค๋˜์ง€, ์ฃผ๊ฐ€ ์˜ˆ์ธก์„ ํ•œ๋‹ค๋˜์ง€ ์‹œ๊ฐ„์˜ ํ๋ฆ„์ด ๋งค์šฐ ์ค‘์š”ํ•œ ์‹œ๊ณ„์—ด ๋ฐ์ดํ„ฐ์— ์ ํ•ฉํ•œ ๋ชจ๋ธ์ด๋‹ค. ๊ธฐ๋ณธ์ ์ธ RNN ๊ตฌ์กฐ๋„์ด๋‹ค. ํ•˜๋‚˜์”ฉ ๋œฏ์–ด๋ณด๋ฉด ์ธํ’‹๊ฐ’์ด X0์œผ๋กœ ๋“ค์–ด๊ฐ€์„œ -> A์—์„œ ์–ด๋–ค ๊ฐ€์ค‘์น˜(w)์— ๋Œ€ํ•œ ๊ณ„์‚ฐ์ด ๋˜๊ณ , -> ๊ฒฐ๊ณผ๊ฐ’์ด h0์ด๋œ๋‹ค. -> ์ฒซ๋ฒˆ์งธ A ๊ฐ€์ค‘์น˜(w)๊ฐ€ ๋‘๋ฒˆ์งธ A๋กœ ์ „๋‹ฌ์ด ๋˜๋ฉด์„œ ์ธํ’‹๊ฐ’ X1๊ณผ ํ•ฉ์ณ์ ธ๊ณ  -> ๊ฒฐ๊ณผ๊ฐ’ h1์ด ๋œ๋‹ค. -> ๋‘๋ฒˆ์งธ A ๊ฐ€์ค‘์น˜๊ฐ€ ์„ธ๋ฒˆ์งธ A๋กœ ์ „๋‹ฌ์ด ๋˜๊ณ  ์ธํ’‹๊ฐ’ X2์™€ ํ•ฉ์ณ์ง€๊ณ ... ์ด๋Ÿฐ์‹์œผ๋กœ ๊ณ„์† ์ „๋‹ฌ ์ „๋‹ฌ ์ „๋‹ฌ...์ด ๋˜๋Š” ๊ตฌ์กฐ์ธ ๊ฒƒ์„ ํ™•์ธํ•  ์ˆ˜ ์žˆ๋‹ค. ์œ„์— ๊ธฐ๋ณธ์ ์ธ ๊ตฌ์กฐ๋ฅผ Vanilla RNN์ด๋ผ๊ณ  ํ•œ๋‹ค. ๊ฐ€์žฅ ์ดˆ๊ธฐ ๋ฒ„์ „์ด๋‹ค. ์ด Vanilla RN.. 2022. 2. 24.
[๋”ฅ๋Ÿฌ๋‹] Embeding Layer / ์ฐจ์›์˜ ์ €์ฃผ (curse of dimensionality) /์ž์—ฐ์–ด ์ฒ˜๋ฆฌ / ๋‹จ์–ด ๋ฐฑํ„ฐํ™” [๋”ฅ๋Ÿฌ๋‹] Embeding Layer / ์ฐจ์›์˜ ์ €์ฃผ (curse of dimensionality) /์ž์—ฐ์–ด ์ฒ˜๋ฆฌ / ๋‹จ์–ด ๋ฐฑํ„ฐํ™” ์ฐจ์›์˜ ์ €์ฃผ (curse of dimensionality) I am a boy and I am not a girl ์œ„ ๋ฌธ์žฅ์˜ ๊ฐ๊ฐ์˜ ๋‹จ์–ด๋“ค์— ๊ณ ์œ ์˜ ์ˆซ์ž๋ฅผ ์ค˜๋ณด์•˜๋‹ค. I -> 0 am -> 1 a -> 2 boy -> 3 and -> 4 not -> 5 girl ->6 ์ด ์ˆซ์ž๋“ค์„ one-hot encording์„ ํ•ด์ค˜์•ผํ•œ๋‹ค. ์™œ๋ƒํ•˜๋ฉด ๊ฐ๊ฐ์˜ ์ˆซ์ž์— ์—ฐ๊ด€์„ฑ์„ ์—†์• ์ฃผ๊ธฐ ์œ„ํ•ด์„œ์ด๋‹ค. ์˜ˆ๋ฅผ ๋“ค๋ฉด am + a = boy ์ด๋Ÿฐ์‹์œผ๋กœ ๊ด€๊ณ„๊ฐ€ ์ง€์–ด์ ธ์„œ ์ด์ƒํ•œ ํ•ด์„์„ ํ•  ์ˆ˜ ์žˆ๊ธฐ ๋•Œ๋ฌธ์ด๋‹ค. one-hot encording์„ ํ•ด์ฃผ๋ฉด I -> [1, 0, 0, 0, 0, 0, 0 ] am ->.. 2022. 2. 23.
๋ฐ˜์‘ํ˜•