Sign In

CacheMind: From Miss Rates to Why -- Natural-Language, Trace-Grounded Reasoning for Cache Replacement

Created by
  • Haebom
Category
Empty

์ €์ž

Kaushal Mhapsekar, Azam Ghanbari, Bita Aslrousta, Samira Mirbagher-Ajorpaz

๐Ÿ’ก ๊ฐœ์š”

๋ณธ ๋…ผ๋ฌธ์€ CPU ๋งˆ์ดํฌ๋กœ์•„ํ‚คํ…์ฒ˜์—์„œ ์–ด๋ ค์šด ๋ฌธ์ œ์ธ ์บ์‹œ ๊ต์ฒด ์ •์ฑ…์˜ ์„ฑ๋Šฅ์„ ๊ฐœ์„ ํ•˜๊ธฐ ์œ„ํ•ด ์ƒˆ๋กœ์šด ๋Œ€ํ™”ํ˜• ๋„๊ตฌ์ธ CacheMind๋ฅผ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค. CacheMind๋Š” ๊ฒ€์ƒ‰ ์ฆ๊ฐ• ์ƒ์„ฑ(RAG)๊ณผ LLM์„ ํ™œ์šฉํ•˜์—ฌ ์ˆ˜๋ฐฑ๋งŒ ๊ฐœ์˜ ์บ์‹œ ํŠธ๋ ˆ์ด์Šค ๋ฐ์ดํ„ฐ์— ๋Œ€ํ•ด ์˜๋ฏธ๋ก ์  ์ถ”๋ก ์„ ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜๋ฉฐ, ๊ฐœ๋ฐœ์ž๊ฐ€ ์ž์—ฐ์–ด๋กœ ์งˆ๋ฌธํ•˜๊ณ  ํ”„๋กœ๊ทธ๋žจ ์˜๋ฏธ๋ก ๊ณผ ์—ฐ๊ด€๋œ ํŠธ๋ ˆ์ด์Šค ๊ธฐ๋ฐ˜์˜ ์ดํ•ดํ•˜๊ธฐ ์‰ฌ์šด ๋‹ต๋ณ€์„ ์–ป์„ ์ˆ˜ ์žˆ๊ฒŒ ํ•ฉ๋‹ˆ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
์ž์—ฐ์–ด ๊ธฐ๋ฐ˜์˜ ์บ์‹œ ๋ถ„์„: CacheMind๋Š” ๋ณต์žกํ•œ ์บ์‹œ ํŠธ๋ ˆ์ด์Šค ๋ถ„์„์„ ์ž์—ฐ์–ด ์ธํ„ฐํŽ˜์ด์Šค๋ฅผ ํ†ตํ•ด ๊ฐ€๋Šฅํ•˜๊ฒŒ ํ•˜์—ฌ, ๊ธฐ์กด์˜ ์ˆ˜๋™์ ์ด๊ณ  ์‹œ๊ฐ„์ด ๋งŽ์ด ์†Œ์š”๋˜๋Š” ๊ณผ์ •์„ ํ˜์‹ ํ•ฉ๋‹ˆ๋‹ค.
โ€ข
์‹ค์งˆ์ ์ธ ์„ฑ๋Šฅ ๊ฐœ์„ : CacheMind๋ฅผ ํ†ตํ•ด ๋„์ถœ๋œ actionable insights๋Š” ์บ์‹œ ํžˆํŠธ์œจ ๋ฐ ์†๋„ ํ–ฅ์ƒ๊ณผ ๊ฐ™์€ ์‹ค์งˆ์ ์ธ ์„ฑ๋Šฅ ๊ฐœ์„ ์œผ๋กœ ์ด์–ด์กŒ์Šต๋‹ˆ๋‹ค.
โ€ข
RAG ๋ชจ๋ธ์˜ ํ•œ๊ณ„ ๋ฐ ํ–ฅํ›„ ๊ณผ์ œ: ๊ธฐ์กด RAG ๋ชจ๋ธ์ด ์ •๋ฐ€ํ•œ ๋งˆ์ดํฌ๋กœ์•„ํ‚คํ…์ฒ˜ ์ถ”๋ก ์— ๋ถ€์กฑํ•จ์„ ๋ณด์˜€์œผ๋ฉฐ, ํ–ฅํ›„ ๋” ์ •๊ตํ•œ ๊ฒ€์ƒ‰ ๋ฐ ์ƒ์„ฑ ๋ชจ๋ธ ๊ฐœ๋ฐœ์ด ํ•„์š”ํ•ฉ๋‹ˆ๋‹ค.
๐Ÿ‘