साझा किए गए ChatGPT लिंक के माध्यम से निजी बातचीत पढ़ने और हमलावर का कोड चलाने का खतरा था

यह हमला एक साधारण ChatGPT बातचीत के माध्यम से किया जा सकता था जिसे सार्वजनिक लिंक के जरिए साझा किया गया हो। इस लिंक को ईमेल, चैट संदेश, सहायता टिकट या सोशल पोस्ट के रूप में भेजा जा सकता था। पीड़ित को कुछ भी इंस्टॉल करने, किसी वर्कस्पेस में शामिल होने या हमलावर के माध्यम से साइन इन करने की आवश्यकता नहीं थी। हमले के सबसे विश्वसनीय संस्करण में, उपयोगकर्ता को लिंक खोलकर केवल एक बार ChatGPT के प्रीव्यू बटन पर क्लिक करना था। बाद के संस्करण में, पेज को इस तरह सेट किया गया था कि प्रीव्यू अपने आप खुल जाए, जिससे केवल लिंक खोलना ही एकमात्र कदम रह गया था।

एक बार लिंक खुलने के बाद, हमलावर का कोड पीड़ित के साइन-इन सत्र के भीतर उसी पहुंच के साथ चलता था जैसा कि वास्तविक ChatGPT साइट के पास होता है। यह पीड़ित की हालिया बातचीत की सूची बना सकता था और एक ऐसी निजी चैट खोल सकता था जिसे कभी हमलावर के साथ साझा नहीं किया गया था। शोधकर्ताओं ने बताया कि वे पीड़ित के ChatGPT खाते की ओर से कोई भी कार्रवाई कर सकते थे।

यह कार्य एक नियंत्रित परीक्षण था। Parameter ने इस खामी के किसी वास्तविक दुनिया के उपयोग की रिपोर्ट नहीं की है और निजी चैट का प्रमाण अलग-अलग खातों के बीच चलाया था।

यह समस्या तीन डिजाइन विकल्पों के मेल के कारण हुई थी। ChatGPT का प्रीव्यू फीचर HTML ब्लॉक को एक अलग वेब पते पर सुरक्षित फ्रेम में चलाता है। हालांकि, उसी बातचीत में एक इंटरैक्टिव ग्राफ था जिसने मुख्य ChatGPT पेज पर MathLive नामक गणित लाइब्रेरी को लोड किया। Parameter ने पाया कि यह लाइब्रेरी किसी भी प्रेषक से कीबोर्ड संदेश स्वीकार करती थी और उन संदेशों में कच्चा HTML ले जाने की अनुमति थी। इसके माध्यम से प्रीव्यू मुख्य पेज को हमलावर का HTML सौंप सकता था।

अंत में, एक स्क्रिप्ट YouTube से लोड की गई थी, क्योंकि ChatGPT की सामग्री सुरक्षा नीति इनलाइन कोड को रोकती थी लेकिन YouTube की स्क्रिप्ट की अनुमति देती थी। OpenAI ने 26 अक्टूबर तक ChatGPT के वेब फ्रंटएंड के दो संस्करणों में सुधार लागू कर दिया। OpenAI ने इस रिपोर्ट के लिए कुल 5,000 डॉलर का भुगतान किया।