दैनिक अर्क्सिव

यह पेज दुनियाभर में प्रकाशित होने वाले आर्टिफिशियल इंटेलिजेंस संबंधित रिसर्च पेपर्स को संक्षिप्त रूप में प्रस्तुत करता है।
यहां Google Gemini का उपयोग करके पेपर्स का सारांश तैयार किया जाता है और यह पेज गैर-लाभकारी रूप से संचालित किया जाता है।
पेपर के कॉपीराइट लेखक और संबंधित संस्थान के पास हैं, और साझा करते समय बस स्रोत का उल्लेख करें।

ZkLoRA: शून्य-ज्ञान प्रमाणों के माध्यम से सत्यापन योग्य सुरक्षा के साथ बड़े भाषा मॉडल को परिष्कृत करना

Created by
  • Haebom

लेखक

गुओफू लियाओ, ताओताओ वांग, शेंगली झांग, जिकुन झांग, शि लॉन्ग, दाचेंग ताओ

रूपरेखा

यह शोधपत्र निम्न-श्रेणी अनुकूलन (LoRA) का प्रस्ताव करता है, जो बड़े पैमाने के भाषा मॉडल (LLM) को विशिष्ट कार्यों के अनुकूल बनाने के लिए एक पैरामीटर-कुशल फ़ाइन-ट्यूनिंग तकनीक है। यह zkLoRA फ्रेमवर्क का परिचय भी देता है, जो इसे सुरक्षा और सत्यापनीयता सुनिश्चित करने के लिए शून्य-ज्ञान प्रमाणों (ZKP) के साथ एकीकृत करता है। zkLoRA, ट्रांसफ़ॉर्मर-आधारित आर्किटेक्चर में अंकगणितीय और गैर-अंकगणितीय दोनों प्रकार के संक्रियाओं के सत्यापन के लिए लुकअप तर्क, योग सत्यापन प्रोटोकॉल और बहुपद प्रतिबद्धताओं जैसी क्रिप्टोग्राफ़िक तकनीकों का उपयोग करता है। यह LLaMA जैसे ओपन-सोर्स LLM में 13 बिलियन पैरामीटर तक स्केल करता है और मॉडल पैरामीटर और प्रशिक्षण डेटा की गोपनीयता को बनाए रखते हुए, प्रसार, प्रतिप्रसार और पैरामीटर अद्यतन प्रक्रियाओं के दौरान सत्यापनीयता प्रदान करता है। अंततः, zkLoRA सीमित परिवेशों में सुरक्षित और विश्वसनीय LLM परिनियोजन को सक्षम बनाता है।

Takeaways, Limitations

Takeaways:
LoRA फाइन-ट्यूनिंग और ZKPs का एकीकरण अविश्वसनीय वातावरण में सुरक्षित LLM परिनियोजन की संभावना प्रस्तुत करता है।
मॉडल पैरामीटर और प्रशिक्षण डेटा की गोपनीयता सुनिश्चित करता है।
यह संपूर्ण प्रसार, प्रतिप्रसार और पैरामीटर अद्यतन प्रक्रिया के लिए सत्यापनीयता प्रदान करता है।
यह व्यावहारिक प्रदर्शन को दर्शाता है जो 13 बिलियन मापदंडों तक का है।
Limitations:
ZkLoRA के प्रदर्शन और दक्षता का आगे प्रयोगात्मक मूल्यांकन आवश्यक है, विशेष रूप से बड़े मॉडलों के लिए इसकी मापनीयता और वास्तविक दुनिया के अनुप्रयोगों में इसके प्रदर्शन का।
कार्यान्वयन की जटिलता व्यावहारिक अनुप्रयोगों के लिए इसकी पहुंच को सीमित कर सकती है।
कुछ एन्क्रिप्शन प्रौद्योगिकियों पर निर्भरता आपको सुरक्षा कमजोरियों के प्रति उजागर कर सकती है।
👍