KENSAI रिसर्च: RAG बैकएंड का उजागर होना वास्तुकला की विफलता है, प्रॉम्प्ट की दुर्घटना नहीं

RAG तंत्रों से जानकारी इसलिए नहीं रिसती कि कोई एक प्रॉम्प्ट अजीब चला गया। वह इसलिए रिसती है कि टीमें बैकएंड की वायरिंग, डिबग ट्रेस और बातचीत का बचा-खुचा हिस्सा क्लाइंट परत तक उजागर कर देती हैं और उसे कार्यान्वयन का ब्योरा कह देती हैं।

यह संकेत आज क्यों मायने रखता है

किसी चिकित्सा RAG चैटबॉट का हालिया ऑडिट इसलिए मायने रखता है कि उसने दिखाया कि सामान्य, क्लाइंट को दिखने वाली सतहें प्रॉम्प्ट, कॉन्फ़िगरेशन का ब्योरा, स्कीमा, मेटाडेटा और आस-पास की बातचीत का इतिहास तक रिसा सकती हैं। इसके लिए किसी सिनेमाई जेलब्रेक की ज़रूरत नहीं पड़ी। जिज्ञासा और ब्राउज़र में जाँच — इतना काफ़ी था।

असल में टूटा क्या

अहम विफलता सिर्फ़ मॉडल के आउटपुट में नहीं थी। प्रोडक्ट ने बैकएंड आर्टिफ़ैक्ट उन पथों से उजागर किए जिन्हें क्लाइंट जाँच सकता था, और इससे निजी संचालन-ब्योरे सार्वजनिक इशारों में बदल गए। जैसे ही ऐसा होता है, हमलावर सीख जाते हैं कि तंत्र संवेदनशील संदर्भ कैसे खोजता, भेजता और सहेजता है।

यह वास्तुकला का बग क्यों है

अगर प्रॉम्प्ट, रूटिंग नियम, रिट्रीवल मेटाडेटा और हाल के सत्र-ट्रेस फ़्रंटएंड के बहुत क़रीब बैठे हों, तो उपयोगकर्ता उससे ज़्यादा देख सकता है जितना इंटरफ़ेस दिखाना चाहता है। यह शब्दों की समस्या नहीं है। यह अवस्था-सीमा की समस्या है। ढीली नलसाज़ी आगे चलकर प्रॉम्प्ट इंजेक्शन, दिशा-मोड़ने और डेटा निकालने के मौक़े पैदा करती है।

टीमों को आगे क्या करना चाहिए

क्लाइंट को दिखने वाला मेटाडेटा घटाओ, डिबग सतहों को उपयोगकर्ता तक पहुँचने वाली डिलीवरी से अलग करो, क्षणिक ट्रेस जल्दी ख़त्म करो, और ब्राउज़र में दिखने वाले पेलोड को शत्रुतापूर्ण उजागरी की तरह जाँचो। अगर कोई फ़ील्ड उपयोगकर्ता की कार्रवाई के लिए ज़रूरी नहीं है, तो उसे सुविधा के नाम पर साथ नहीं चलना चाहिए।

KENSAI का सार

एजेंट की निजता इंटरफ़ेस, हेडर, पेलोड और अवस्था-सीमाओं में जीती जाती है। अगर ब्राउज़र उपयोगकर्ता की ज़रूरत से ज़्यादा देख सकता है, तो तंत्र पहले ही बहुत ढीला है। सुरक्षित RAG ठीक सही अर्थ में उबाऊ होता है: कम उजागरी, कसे हुए जोड़, कम हैरानियाँ।