Jurgen Schmidhuber ने कृत्रिम बुद्धिमत्ता में रचनात्मकता और संपीड़न के सिद्धांत पर चर्चा की

उनका 2008 का लेख, जिसका शीर्षक "संपीड़न प्रगति द्वारा संचालित" है, इस विचार पर आधारित है कि मनुष्य उन चीजों में रुचि रखते हैं जिन्हें वे पिछले दिन की तुलना में थोड़ा बेहतर समझते हैं। इस सिद्धांत के अनुसार, बुद्धिमत्ता वह दक्षता है जिसके द्वारा कोई व्यक्ति अवलोकनों से नियमों तक पहुँच सकता है। Schmidhuber के अनुसार, डेटा की सुंदरता उस समय के विशिष्ट पर्यवेक्षक के लिए उसकी संपीड़नीयता है, जबकि रोचकता समय के साथ इस सुंदरता में होने वाला परिवर्तन है।

मानव जैसे बुद्धिमान एजेंटों के विकास के लिए उन्होंने कुछ एल्गोरिथम सिद्धांतों का प्रस्ताव दिया। पहला सिद्धांत सभी अवलोकनों और कार्यों के इतिहास को सुरक्षित रखने का है। दूसरा सिद्धांत व्यक्तिपरक संपीड़नीयता में सुधार करना है, क्योंकि डेटा का संपीड़ित संस्करण वास्तव में उसकी व्याख्या है। तीसरा सिद्धांत यह है कि जिज्ञासा के लिए आंतरिक पुरस्कार संपीड़न में हुई प्रगति को प्रतिबिंबित करना चाहिए, जहाँ पुरस्कार सहेजे गए प्रत्येक बिट के लिए दिया जाता है। अंतिम सिद्धांत आंतरिक जिज्ञासा के पुरस्कार को अधिकतम करना है, जिससे एजेंट स्वयं यह तय करता है कि वह कहाँ देखेगा और क्या छुएगा ताकि वह कुछ नया समझ सके।

यह चर्चा Elon Musk और Francois Chollet के बीच के संवाद से शुरू हुई। Chollet, जो Keras के लेखक हैं, का मानना है कि सभी महान वैज्ञानिक खोजें अनिवार्य रूप से सूचना का संपीड़न हैं, जहाँ जटिल अवलोकनों को एक सरल नियम के तहत लाया जाता है।