Jurgen Schmidhuber diskuterar kreativitet och datakomprimering i relation till artificiell intelligens
20 oktober 2026 · 2 min läsning
Jurgen Schmidhuber har i ett svar till Elon Musk hänvisat till sitt eget arbete från 2008 för att förklara varför nuvarande artificiell intelligens inte är kapabel till verklig kreativitet.
Schmidhuber, som leder laboratoriet IDSIA i Lugano, beskriver kreativitet och nyfikenhet som beräkningsbara processer snarare än gåvor. Hans teori, som presenterades i artikeln Driven by Compression Progress den 23 december 2008, bygger på principen att intresse uppstår när en observatör förstår något något bättre idag än igår. Han formaliserar detta genom en kompressor som komprimerar historiken av observationer, där bättre komprimering innebär en bättre förståelse och förmåga att förutsäga världen.
Teorin föreslår fyra algoritmiska principer för att stimulera utvecklingen av intelligenta agenter. Först ska all historik av handlingar och observationer sparas. Därefter ska den subjektiva komprimerbarheten förbättras, eftersom en komprimerad version av data i praktiken utgör en förklaring av dessa data. Tredje principen är att en intern belöning för nyfikenhet ska spegla framsteg i komprimeringen, där belöningen ges för varje sparad bit snarare än för själva resultatet. Slutligen ska agenten maximera denna interna belöning genom att själv avgöra vad som är vackert och var den sannolikt kan uppnå ny förståelse.
Inom detta ramverk definieras skönhet som datans komprimerbarhet för en specifik observatör vid ett givet tillfälle. Intresse definieras som derivatan av denna skönhet över tid, vilket innebär att det intressanta är det som blir mer begripligt. Detta står i relation till diskussioner med Elon Musk och Francois Chollet, där den senare menar att alla stora vetenskapliga upptäckter i grunden är komprimering av information som ersätter komplexa observationer med enkla regler.
Schmidhuber är även känd för att ha publicerat LSTM, en arkitektur för rekurrenta nätverk år 1997 tillsammans med Sepp Hochreiter. Denna arkitektur var standard för sekvensbehandling i cirka femton år och användes i bland annat röstigenkänning i smarttelefoner och Google Translate innan övergången till transformatorer. Han har under decennier hävdat att andra forskare, däribland Turingprisvinnarna Hinton, Bengio och LeCun, systematiskt har underlåtit att citera hans pionjärarbete inom områden som backpropagation och generativa motstridiga nätverk.