Dataiku ने AI एजेंटों के उपकरण चयन की व्याख्या के लिए Kiji Inspector पेश किया

Hannes Hapke ने बताया कि एजेंटों के साथ मुख्य समस्या उनके निर्णयों की अपारदर्शिता है। प्रॉम्प्ट इंजीनियरिंग और व्यवहार परीक्षण जैसे मौजूदा तरीके अक्सर केवल प्रशंसनीय विवरण प्रदान करते हैं, लेकिन वे वास्तविक कारण या कार्य-कारण संबंध नहीं बताते हैं। Kiji Inspector का उद्देश्य इस समस्या को हल करना है ताकि यह सुनिश्चित किया जा सके कि मॉडल सही संदर्भ के बारे में सोच रहा है और सही उपकरण चुन रहा है।

तकनीकी रूप से, यह उपकरण स्पार्स ऑटोएनकोडर्स का उपयोग करता है। ऑटोएनकोडर्स इनपुट को एक छोटे लेटेंट स्पेस वेक्टर में कम करते हैं और फिर उन्हें पुनर्निर्मित करते हैं। स्पार्स ऑटोएनकोडर्स के मामले में, जानकारी को व्यापक बनाया जाता है ताकि मॉडल को जानकारी का प्रतिनिधित्व करने के लिए कुछ विशिष्ट विशेषताओं को चुनने के लिए मजबूर किया जा सके। यह दृष्टिकोण मॉडल के भीतर पॉलीसेमेंटिक प्रतिनिधित्व की समस्या को संबोधित करता है, जहाँ एक ही न्यूरॉन कई अलग-अलग विषयों या अर्थों के लिए सक्रिय हो सकता है।

यह पहल Dataiku के 575 Lab का हिस्सा है, जो जिम्मेदार AI, गोपनीयता और मशीन लर्निंग व्याख्यात्मकता पर केंद्रित एक ओपन-सोर्स कार्यालय है। यह लैब इस विश्वास पर आधारित है कि गोपनीयता और व्याख्यात्मकता से जुड़ी कोई भी चीज़ पूरी तरह से ओपन-सोर्स होनी चाहिए। Kiji Inspector के अलावा, यह लैब Kiji Privacy Proxy पर भी काम करती है, जो बंद स्रोत मॉडल में डेटा लीक होने से बचाने में मदद करती है।