Sign In

TinyBayes: Closed-Form Bayesian Inference via Jacobi Prior for Real-Time Image Classification on Edge Devices

์ž‘์„ฑ์ž
  • Haebom
์นดํ…Œ๊ณ ๋ฆฌ
Empty

์ €์ž

Shouvik Sardar, Sourish Das

๐Ÿ’ก ๊ฐœ์š”

๋ณธ ๋…ผ๋ฌธ์€ ์›จ์ŠคํŠธ ์•„ํ”„๋ฆฌ์นด์˜ ์†Œ๋†์—๊ฒŒ ์ค‘์š”ํ•œ ์ฝ”์ฝ”์•„ ์ž‘๋ฌผ์˜ ์งˆ๋ณ‘(CSSVD ๋ฐ ํƒ„์ €๋ณ‘)์„ ์กฐ๊ธฐ์— ๊ฐ์ง€ํ•˜๊ธฐ ์œ„ํ•œ TinyBayes ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค. YOLOv8-Nano ๋ฐ MobileNetV3-Small๊ณผ ๊ฐ™์€ ๋ชจ๋ฐ”์ผ ์นœํ™”์ ์ธ ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ๊ณผ Jacobi prior ๊ธฐ๋ฐ˜์˜ Bayesian ๋ถ„๋ฅ˜๊ธฐ๋ฅผ ๊ฒฐํ•ฉํ•˜์—ฌ, 9.5 MB ๋ฏธ๋งŒ์˜ ์ž‘์€ ๋ชจ๋ธ ํฌ๊ธฐ๋กœ 150 ms ์ด๋‚ด์˜ ๋น ๋ฅธ CPU ์ถ”๋ก  ์†๋„๋ฅผ ๋‹ฌ์„ฑํ•ฉ๋‹ˆ๋‹ค. ์ด๋Š” ์ž์›์ด ์ œํ•œ๋œ ์—ฃ์ง€ ํ™˜๊ฒฝ์—์„œ์˜ ์‹ค์‹œ๊ฐ„ ์งˆ๋ณ‘ ํƒ์ง€๋ฅผ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
์—ฃ์ง€ ๋””๋ฐ”์ด์Šค๋ฅผ ์œ„ํ•œ ํšจ์œจ์ ์ธ Bayesian ์งˆ๋ณ‘ ์ง„๋‹จ: ๊ธฐ์กด์˜ ์—ฃ์ง€ ๋””๋ฐ”์ด์Šค์šฉ ๋”ฅ๋Ÿฌ๋‹ ๋ชจ๋ธ์ด ๋ถˆํ™•์‹ค์„ฑ ์ •๋Ÿ‰ํ™”๋ฅผ ๋‹ค๋ฃจ์ง€ ๋ชปํ•˜๋Š” ํ•œ๊ณ„๋ฅผ ๊ทน๋ณตํ•˜๊ณ , Bayesian ๋ฐฉ๋ฒ•๋ก ์„ ํšจ์œจ์ ์œผ๋กœ ํ†ตํ•ฉํ•˜์—ฌ ๋†์—… ๋ถ„์•ผ์— ์ ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ๊ฐ€๋Šฅ์„ฑ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค.
โ€ข
์ž‘์€ ๋ชจ๋ธ ํฌ๊ธฐ์™€ ๋น ๋ฅธ ์ถ”๋ก  ์†๋„์˜ ์žฅ์ : 9.5 MB์˜ ์ž‘์€ ๋ชจ๋ธ ํฌ๊ธฐ์™€ 150 ms ์ด๋‚ด์˜ ์ถ”๋ก  ์†๋„๋Š” ์ธํ„ฐ๋„ท ์—ฐ๊ฒฐ์ด ์ œํ•œ์ ์ด๊ฑฐ๋‚˜ ์ปดํ“จํŒ… ์„ฑ๋Šฅ์ด ๋‚ฎ์€ ์—ฃ์ง€ ๋””๋ฐ”์ด์Šค์—์„œ ์‹ค์‹œ๊ฐ„์œผ๋กœ ์ž‘๋ฌผ ์งˆ๋ณ‘์„ ํƒ์ง€ํ•˜๋Š” ๋ฐ ๋งค์šฐ ์œ ์šฉํ•ฉ๋‹ˆ๋‹ค.
โ€ข
Jacobi-DMR์˜ ์šฐ์ˆ˜์„ฑ ์ž…์ฆ: ์—ฌ๋Ÿฌ ์ „ํ†ต์ ์ธ ๋จธ์‹ ๋Ÿฌ๋‹ ๋ชจ๋ธ ๋ฐ ๋‹ค๋ฅธ Bayesian ๋ฐฉ๋ฒ•๊ณผ ๋น„๊ตํ–ˆ์„ ๋•Œ, Jacobi-DMR์ด ์ •ํ™•๋„, ๋ชจ๋ธ ํฌ๊ธฐ, ์ถ”๋ก  ์†๋„ ์ธก๋ฉด์—์„œ ์ตœ์ ์˜ ๊ท ํ˜•์„ ์ œ๊ณตํ•จ์„ ์ž…์ฆํ–ˆ์Šต๋‹ˆ๋‹ค.
โ€ข
ํ•œ๊ณ„์ /ํ–ฅํ›„ ๊ณผ์ œ: ๋ณธ ์—ฐ๊ตฌ์—์„œ ์ œ์•ˆ๋œ TinyBayes ํ”„๋ ˆ์ž„์›Œํฌ๋Š” ์ฝ”์ฝ”์•„ ์งˆ๋ณ‘ ํƒ์ง€์— ์ดˆ์ ์„ ๋งž์ถ”๊ณ  ์žˆ์œผ๋ฉฐ, ๋‹ค๋ฅธ ์ž‘๋ฌผ์ด๋‚˜ ๋‹ค์–‘ํ•œ ์งˆ๋ณ‘์— ๋Œ€ํ•œ ์ผ๋ฐ˜ํ™” ์„ฑ๋Šฅ ๊ฒ€์ฆ์ด ํ•„์š”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ, 78.7%์˜ ์ •ํ™•๋„๊ฐ€ ์‹ค์ œ ํ˜„์žฅ์—์„œ์˜ ์š”๊ตฌ ์‚ฌํ•ญ์„ ์ถฉ์กฑํ•˜๋Š”์ง€์— ๋Œ€ํ•œ ์ถ”๊ฐ€์ ์ธ ํ‰๊ฐ€๊ฐ€ ํ•„์š”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
๐Ÿ‘