Sign In

SkillSieve: A Hierarchical Triage Framework for Detecting Malicious AI Agent Skills

์ž‘์„ฑ์ž
  • Haebom
์นดํ…Œ๊ณ ๋ฆฌ
Empty

์ €์ž

Yinghan Hou, Zongyou Yang

๐Ÿ’ก ๊ฐœ์š”

๋ณธ ๋…ผ๋ฌธ์€ ์˜คํ”ˆ์†Œ์Šค AI ์—์ด์ „ํŠธ ๋งˆ์ผ“ํ”Œ๋ ˆ์ด์Šค์ธ ClawHub์— ์กด์žฌํ•˜๋Š” ์•ฝ 13,000๊ฐœ์˜ ์—์ด์ „ํŠธ ์Šคํ‚ฌ ์ค‘ ๋ณด์•ˆ ์ทจ์•ฝ์ ์„ ๊ฐ€์ง„ ์Šคํ‚ฌ์„ ํƒ์ง€ํ•˜๊ธฐ ์œ„ํ•œ ๊ณ„์ธต์  ์‚ผ์ค‘ ์‹ฌ์‚ฌ ํ”„๋ ˆ์ž„์›Œํฌ์ธ SkillSieve๋ฅผ ์ œ์•ˆํ•ฉ๋‹ˆ๋‹ค. SkillSieve๋Š” ์ •๊ทœ ํ‘œํ˜„์‹ ์Šค์บ๋„ˆ์™€ ์ •์  ๋ถ„์„๊ธฐ๊ฐ€ ๋†“์น  ์ˆ˜ ์žˆ๋Š” ์ž์—ฐ์–ด ๊ธฐ๋ฐ˜ ๊ณต๊ฒฉ(ํ”„๋กฌํ”„ํŠธ ์ฃผ์ž…, ์‚ฌํšŒ ๊ณตํ•™)์„ ํšจ๊ณผ์ ์œผ๋กœ ํƒ์ง€ํ•˜๊ธฐ ์œ„ํ•ด 3๋‹จ๊ณ„์˜ ์ ์ง„์ ์ธ ๋ถ„์„ ๋ฐฉ์‹์„ ์ฑ„ํƒํ•ฉ๋‹ˆ๋‹ค. ์ด ํ”„๋ ˆ์ž„์›Œํฌ๋Š” 49,592๊ฐœ์˜ ์‹ค์ œ ClawHub ์Šคํ‚ฌ๊ณผ ์ ๋Œ€์  ์ƒ˜ํ”Œ์„ ๋Œ€์ƒ์œผ๋กœ ํ‰๊ฐ€๋˜์—ˆ์œผ๋ฉฐ, ๊ธฐ์กด ๋ฐฉ๋ฒ• ๋Œ€๋น„ ๋†’์€ ํƒ์ง€ ์„ฑ๋Šฅ๊ณผ ๋‚ฎ์€ ๋น„์šฉ์„ ๋‹ฌ์„ฑํ–ˆ์Šต๋‹ˆ๋‹ค.

๐Ÿ”‘ ์‹œ์‚ฌ์  ๋ฐ ํ•œ๊ณ„

โ€ข
SkillSieve๋Š” ๋‹จ์ˆœํ•œ ํŒจํ„ด ๋งค์นญ์ด๋‚˜ ์ •์  ๋ถ„์„์„ ๋„˜์–ด ์ž์—ฐ์–ด ์ง€์นจ๊ณผ ์ฝ”๋“œ์˜ ๋ณตํ•ฉ์ ์ธ ๋ณด์•ˆ ์œ„ํ˜‘์„ ๊ณ„์ธต์  ๋ถ„์„์„ ํ†ตํ•ด ํšจ๊ณผ์ ์œผ๋กœ ํƒ์ง€ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.
โ€ข
3๋‹จ๊ณ„ ๋ถ„์„์€ ๋ถˆํ•„์š”ํ•œ ๊ณ ๋น„์šฉ ์—ฐ์‚ฐ์„ ์ค„์—ฌ ํšจ์œจ์„ฑ์„ ๋†’์˜€์œผ๋ฉฐ, ํŠนํžˆ 1๋‹จ๊ณ„์—์„œ๋Š” ๋Œ€๋ถ€๋ถ„์˜ ์ •์ƒ ์Šคํ‚ฌ์„ ๋น ๋ฅธ ์‹œ๊ฐ„ ์•ˆ์— ๊ฑธ๋Ÿฌ๋ƒ…๋‹ˆ๋‹ค.
โ€ข
LLM์„ ํ™œ์šฉํ•œ 2๋‹จ๊ณ„์™€ 3๋‹จ๊ณ„ ๋ถ„์„์€ ํ”„๋กฌํ”„ํŠธ ์ฃผ์ž… ๋ฐ ์‚ฌํšŒ ๊ณตํ•™ ๊ณต๊ฒฉ ํƒ์ง€์— ๊ฐ•์ ์„ ๋ณด์ด๋ฉฐ, ๋‹ค์ˆ˜์˜ LLM์„ ํ™œ์šฉํ•œ 3๋‹จ๊ณ„์˜ '๋ฐฐ์‹ฌ์›' ๋ฐฉ์‹์€ ์˜์‚ฌ๊ฒฐ์ •์˜ ์‹ ๋ขฐ๋„๋ฅผ ๋†’์ž…๋‹ˆ๋‹ค.
โ€ข
๋ณธ ์—ฐ๊ตฌ๋Š” 440 ARM ๋‹จ์ผ ๋ณด๋“œ ์ปดํ“จํ„ฐ์—์„œ๋„ ์‹คํ˜„ ๊ฐ€๋Šฅํ•œ ํšจ์œจ์„ฑ์„ ๋ณด์—ฌ์ฃผ์–ด ์ž์›์ด ์ œํ•œ๋œ ํ™˜๊ฒฝ์—์„œ์˜ ์ ์šฉ ๊ฐ€๋Šฅ์„ฑ์„ ์‹œ์‚ฌํ•ฉ๋‹ˆ๋‹ค.
โ€ข
(ํ•œ๊ณ„์  ๋˜๋Š” ํ–ฅํ›„ ๊ณผ์ œ) 3๋‹จ๊ณ„ ์‹ฌ์‚ฌ ๊ณผ์ •์—์„œ LLM ๊ฐ„์˜ 'ํ† ๋ก ' ๋ฐฉ์‹์ด ์‹ค์ œ ์–ผ๋งˆ๋‚˜ ํšจ๊ณผ์ ์ธ์ง€์— ๋Œ€ํ•œ ๋” ๊นŠ์€ ๋ถ„์„์ด ํ•„์š”ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ, ์ง€์†์ ์œผ๋กœ ๋ฐœ์ „ํ•˜๋Š” ๊ณต๊ฒฉ ๊ธฐ๋ฒ•์— ๋Œ€ํ•œ ์‹ค์‹œ๊ฐ„ ๋Œ€์‘ ๋ฐ ์ƒˆ๋กœ์šด ์ทจ์•ฝ์  ํƒ์ง€๋ฅผ ์œ„ํ•œ ์ง€์†์ ์ธ ๋ชจ๋ธ ์—…๋ฐ์ดํŠธ ๋ฐ ๋ฒค์น˜๋งˆํฌ ๊ฐœ์„ ์ด ์š”๊ตฌ๋ฉ๋‹ˆ๋‹ค.
๐Ÿ‘
Made with Slashpage