๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ

Certificate/ADsP

Part 2 - 01. ๋ฐ์ดํ„ฐ ๋ถ„์„์˜ ์ดํ•ด

โ–ก ๋น…๋ฐ์ดํ„ฐ ๋ถ„์„ ๋ฐฉ๋ฒ•๋ก ์˜ ๊ธฐ๋ณธ๊ตฌ์กฐ

์•”๋ฌต์ง€ → ํ˜•์‹์ง€ → ๋ฐฉ๋ฒ•๋ก 

- ์•”๋ฌต์ง€: ์‚ฌ๋žŒ์˜ ํ•™์Šต๊ณผ ๊ฒฝํ—˜์„ ์˜๋ฏธ

- ํ˜•์‹์ง€: ์‚ฌ๋žŒ์˜ ํ•™์Šต๊ณผ ๊ฒฝํ—˜์„ ๋ฌธ์„œํ™”

- ๋ฐฉ๋ฒ•๋ก : ํ˜•์‹์ง€๋ฅผ ๊ตฌ์ฒดํ™”ํ•˜์—ฌ ์ ˆ์ฐจ, ํ™œ๋™, ์ž‘์—… ๋“ฑ์„ ์ •์˜ํ•˜์—ฌ ๋ฌธ์„œํ™”

 

โ–ก ํญํฌ์ˆ˜ ๋ชจ๋ธ

- ์ˆœ์ฐจ์ ์ธ ๋‹จ๊ณ„ / ํ•˜ํ–ฅ์‹ ์ ‘๊ทผ

- ์ด์ „ ๋‹จ๊ณ„๋กœ ๋˜๋Œ์•„๊ฐˆ ์ˆ˜ ์—†์Œ

- ๊ฒฝํ—˜์ด ๋งŽ๊ณ  ์œ„ํ—˜์ด ๋‚ฎ์€ ์—…๋ฌด์— ์ ์šฉ

- ๋ถˆํ•„์š”ํ•œ ๋ฌธ์„œ์ž‘์—…

- ์š”๊ตฌ์‚ฌํ•ญ์— ๋Œ€ํ•œ ๋ฐ˜์˜๊ณผ ํ™•์ธ์ด ์–ด๋ ค์›€

 

โ–ก ํ”„๋กœํ† ํƒ€์ดํ•‘ ๋ชจ๋ธ

- ํ”„๋กœํ† ํƒ€์ž…์„ ๋จผ์ € ๋งŒ๋“ค๊ณ  ๊ณ ๊ฐ์—๊ฒŒ ํ™•์ธ ํ›„์— ๊ฐœ๋ฐœ

- ์‚ฌ์šฉ์ž ์š”๊ตฌ์‚ฌํ•ญ ๋„์ถœ์ด ์šฉ์ด

- ํ”„๋กœํ† ํƒ€์ž…์„ ์™„์ œํ’ˆ์œผ๋กœ ์˜ค์ธ

- ๊ธฐ๋Œ€์‹ฌ๋ฆฌ ์œ ๋ฐœ์— ๋”ฐ๋ฅธ ๊ณผ๋‹คํ•œ ์š”๊ตฌ์‚ฌํ•ญ ํ˜น์€ ๋ณ€๊ฒฝ ๋ฐœ์ƒ

- ๋ฌธ์„œํ™”๊ฐ€ ์–ด๋ ค์›€

 

โ–ก ๋ฐ˜๋ณต ์ ์ฆํ˜• ๋ชจ๋ธ

- ํฐ ๋น…๋ฐ์ดํ„ฐ ์‚ฌ์—…์— ์ ์šฉํ•˜๋Š” ๋ชจ๋ธ

- ์š”๊ตฌ์‚ฌํ•ญ, ๋ถ„์„, ์„ค๊ณ„, ๊ตฌํ˜„, ํ…Œ์ŠคํŠธ๋ฅผ ๋ฐ˜๋ณต์ ์œผ๋กœ ์ˆ˜ํ–‰

- ์œ„ํ—˜์ด ๋†’์€ ์—…๋ฌด๋ถ€ํ„ฐ ๋จผ์ € ๊ฐœ๋ฐœํ•˜์—ฌ ์œ„ํ—˜์„ฑ ๋‚ฎ์ถค

- ์‹œ์Šคํ…œ ๊ฐ„์— ํ†ตํ•ฉ ์ˆ˜ํ–‰ํ•˜๋Š” ๋ชจ๋ธ

- ์œ„ํ—˜์ด ๋†’์€ ํ”„๋กœ์ ํŠธ์— ํ™œ์šฉ

 

โ–ก ๋‚˜์„ ํ˜• ๋ชจ๋ธ

- ์œ„ํ—˜์ด ๋†’์€ ๊ฐœ๋ฐœ ์‚ฌ์—…์— ์ ์šฉ

- ํญํฌ์ˆ˜ ๋ชจ๋ธ๊ณผ ํ”„๋กœํ† ํƒ€์ดํ•‘ ๋ชจ๋ธ์ด ํ†ตํ•ฉ๋œ ๋ชจ๋ธ

- ๋ฐ˜๋ณต์ ์ธ ๊ฐœ๋ฐœ

- ๋ฐ˜๋ณต์ ์ธ ์œ„ํ—˜๋ถ„์„ ์ˆ˜ํ–‰ํ•˜์—ฌ ์œ„ํ—˜ ๊ด€๋ฆฌ

 

โ–ก ํ•˜ํ–ฅ์‹ ์ ‘๊ทผ

๋ถ„์„์š”๊ฑด ์ •์˜ → ๋ถ„์„์š”๊ฑด ์‹๋ณ„  ํ”„๋กœ์„ธ์Šค ํ๋ฆ„ ๋ถ„์„  ํ”„๋กœ์„ธ์Šค ๋ถ„๋ฅ˜

- ๋น„์ฆˆ๋‹ˆ์Šค ๋ชจ๋ธ ๊ธฐ๋ฐ˜

- ์™ธ๋ถ€์ฐธ์กฐ ๋ชจ๋ธ ๊ธฐ๋ฐ˜

- ๋ถ„์„ ์œ ์ฆˆ์ผ€์ด์Šค ์ •์˜

 

โ–ก ์ƒํ–ฅ์‹ ์ ‘๊ทผ

- ๋ฐ์ดํ„ฐ ์›์ฒœ์œผ๋กœ๋ถ€ํ„ฐ ์ ‘๊ทผ

- ํ”„๋กœํ† ํƒ€์ดํ•‘

 

โ–ก KDD ๋ถ„์„ ๋ฐฉ๋ฒ•๋ก 

์„ ์ • → ์ „์ฒ˜๋ฆฌ → ๋ณ€ํ™˜ → ๋ฐ์ดํ„ฐ๋งˆ์ด๋‹ → ํ•ด์„ ๋ฐ ํ‰๊ฐ€

- ํ”„๋กœํŒŒ์ผ๋ง ๊ธฐ์ˆ ์„ ์‚ฌ์šฉํ•ด ๋ฐ์ดํ„ฐ๋กœ๋ถ€ํ„ฐ ํ†ต๊ณ„์ ์ธ ํŒจํ„ด์ด๋‚˜ ์ง€์‹์„ ๋ฐœ๊ฒฌํ•˜๊ธฐ ์œ„ํ•ด์„œ ์ •๋ฆฌํ•œ ๋ฐ์ดํ„ฐ๋งˆ์ด๋‹ ํ”„๋กœ์„ธ์Šค

 

โ–ก ๊ณ„์ •๊ณ„ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค(OLTP)

- ๋‹จ์œ„ ํ”„๋กœ์„ธ์Šค๋ฅผ ์‹คํ–‰ํ•˜๋Š” ํ”„๋กœ์„ธ์Šค ์˜๋ฏธ

- ์‹ค์‹œ๊ฐ„์œผ๋กœ ์ฒ˜๋ฆฌํ•˜๋Š” ์‹œ์Šคํ…œ์„ ๊ณ„์ •๊ณ„๋ผ๊ณ  ํ•จ

- ํšŒ์›๊ด€๋ฆฌ, ํ•ญ๊ณต๊ธฐ ์˜ˆ์•ฝ, ๋„์„œ๊ตฌ๋งค ๋“ฑ

 

โ–ก ์ •๋ณด๊ณ„(Data Warehouse)

- OLTP ์‹œ์Šคํ…œ์—์„œ ์ถ”์ถœ, ์ •์ œ, ์ ์žฌํ•˜์—ฌ ๊ตฌ์ถ•ํ•œ ํ†ตํ•ฉ๋œ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค

- ์ฃผ์ฒด์ง€ํ–ฅ์ , ํ†ตํ•ฉ์ , ๋น„ํœ˜๋ฐœ์„ฑ, ์ฝ๊ธฐ์ „์šฉ์˜ ํŠน์„ฑ์„ ๊ฐ€์ง€๊ณ  ์žˆ์–ด ์ •๋ณด๊ณ„๋กœ ํ•จ

 

โ–ก CRISP-DM ๋ถ„์„ ๋ฐฉ๋ฒ•๋ก 

๋น„์ฆˆ๋‹ˆ์Šค ์ดํ•ด → ๋ฐ์ดํ„ฐ ์ดํ•ด → ๋ฐ์ดํ„ฐ์ค€๋น„ → ๋ชจ๋ธ๋ง → ํ‰๊ฐ€

- ๋น„์ฆˆ๋‹ˆ์Šค ์š”๊ตฌ์‚ฌํ•ญ์— ๋งž๊ฒŒ ๋ฐ์ดํ„ฐ๋งˆ์ด๋‹์„ ๋ฐ˜๋ณต์ ์œผ๋กœ ์ˆ˜ํ–‰ํ•œ๋Š ๋ผ์ดํ”„ ์‚ฌ์ดํด

 

โ–ก 3๊ณ„์ธต ๋น…๋ฐ์ดํ„ฐ ๋ถ„์„ ๋ฐฉ๋ฒ•๋ก 

- ์ ˆ์ฐจ, ํ™œ๋™, ์‚ฐ์ถœ๋ฌผ์„ ์ •์˜

1. ๋‹จ๊ณ„: ๋ฒ ์ด์Šค๋ผ์ธ ์„ค์ • ๋ฐ ํ’ˆ์งˆ ๋ฒ ์ด์Šค๋ผ์ธ์˜ ์™„์„ฑ ์—ฌ๋ถ€์™€ ๊ด€๋ฆฌ

2. ํƒœ์Šคํฌ: ๊ฐ ๋‹จ๊ณ„๋ณ„๋กœ ์ˆ˜ํ–‰ํ•ด์•ผํ•˜๋Š” ์ผ

3. ์Šคํ…: 1~2์ฃผ ๋‚ด์— ์™„๋ฃŒ ๊ฐ€๋Šฅํ•œ ์‚ฐ์ถœ๋ฌผ์„ ์˜๋ฏธํ•˜๋Š” Work Package / Input → Tools → Output์œผ๋กœ ๋งŒ๋“ค์–ด์ง€๋Š” ๋‹จ์œ„ ํ”„๋กœ์„ธ์Šค

 

โ–ก WBS

- ํ”„๋กœ์ ํŠธ์—์„œ ์ˆ˜ํ–‰ํ•ด์•ผ ํ•  ์ž‘์—…์„ ๋ถ„ํ• ํ•œ ๊ฒƒ

 

โ–ก 5๋‹จ๊ณ„ ๋น…๋ฐ์ดํ„ฐ ๋ถ„์„ ๋ฐฉ๋ฒ•๋ก 

๋ถ„์„๊ธฐํš → ๋ฐ์ดํ„ฐ ์ค€๋น„ → ๋ฐ์ดํ„ฐ ๋ถ„์„ → ์‹œ์Šคํ…œ ๊ตฌํ˜„ → ๋ฐ์ดํ„ฐ ํ‰๊ฐ€ ๋ฐ ์ „๊ฐœ

 

โ–ก ETL

- ๋ฐ์ดํ„ฐ๋ฅผ ์ถ”์ถœ, ์ •์ œ, ์ ์žฌํ•˜๊ธฐ ์œ„ํ•œ ๊ธฐ๋ฒ•๊ณผ ๊ด€๋ จ ๋„๊ตฌ๋ฅผ ์˜๋ฏธ

 

โ–ก ์ •ํ™•๋„์™€ ์ •๋ฐ€๋„

- ์ •ํ™•๋„: ๋ถ„์„๋ชจ๋ธ์ด ์‹ค์ œ ๊ฐ’๊ณผ ์ฐจ์ด๊ฐ€ ์ ๋‹ค๋Š” ์˜๋ฏธ

- ์ •๋ฐ€๋„: ๋ถ„์„๋ชจ๋ธ์„ ๋ฐ˜๋ณต์ ์œผ๋กœ ์ˆ˜ํ–‰ํ•ด๋„ ํŽธ์ฐจ๊ฐ€ ์ž‘๋‹ค๋Š” ์˜๋ฏธ

 

โ–ก ๋น…๋ฐ์ดํ„ฐ ๋ถ„์„ ํ”„๋กœ์ ํŠธ ๊ด€๋ฆฌ์˜์—ญ 

- ๋ฒ”์œ„ / ์ผ์ • / ์›๊ฐ€ / ํ’ˆ์งˆ / ์ธ๋ ฅ / ์˜์‚ฌ์†Œํ†ต / ์œ„ํ—˜๊ด€๋ฆฌ / ๊ตฌ๋งค์กฐ๋‹ฌ / ์ดํ•ด๊ด€๊ณ„์ž / ํ†ตํ•ฉ

 


Reference:

์ž„ํ˜ธ์ง„ ์™ธ 2๋ช…, ใ€ŒADsP ๋ฐ์ดํ„ฐ๋ถ„์„ ์ค€์ „๋ฌธ๊ฐ€ใ€, ์˜์ง„๋‹ท์ปด(2020)