OpenAI lance GPT-6.1 Sol met prijsverlaging voor cachelezing

OpenAI heeft GPT-6.1 Sol uitgebracht, waarbij de kosten voor het lezen van de cache zijn gehalveerd terwijl de overige prijzen gelijk blijven. De kosten voor cachelezing, wat het opnieuw lezen van een reeds verwerkt begin van een aanvraag betreft, zijn gedaald van 0,20 dollar naar 0,10 dollar per miljoen tokens.

Voor korte contexten hanteert GPT-6.1 Sol vier tarieven per miljoen tokens: 2,00 dollar voor invoer, 0,10 dollar voor invoer via de cache, 2,50 dollar voor het schrijven naar de cache en 10,00 dollar voor uitvoer. De documentatie vermeldt dat de cache wordt gefactureerd tegen 5 procent van het tarief voor niet-gecachete invoer. Dit is een verlaging ten opzichte van GPT-6 Sol, waarbij de cachelezing 0,20 dollar kostte, oftewel 10 procent van de invoerprijs.

Andere tarieven blijven ongewijzigd. Bij invoer van meer dan 272.000 tokens verdubbelen de kosten voor invoer en cache, terwijl de uitvoerkosten met een factor anderhalf stijgen. Voor uitgestelde verwerking via Batch en tragere verwerking via Flex geldt de helft van het standaardtarief, terwijl regionale verwerking 10 procent extra kost.

In vergelijking met GPT-6 Astra, dat 10 dollar voor invoer en 50 dollar voor uitvoer rekent met een cachelezing van 1,00 dollar, is GPT-6.1 Sol bij standaardtarieven en korte contexten een vijfde van de prijs voor invoer en uitvoer, en een tiende voor cachelezing. GPT-6 Sol is inmiddels vervangen door GPT-6.1 Sol in de prijstabel van OpenAI.

Er zijn wijzigingen doorgevoerd in de redeneerniveaus. Waar GPT-6 Sol zes niveaus had, van geen tot maximaal, heeft GPT-6.1 Sol er vijf. De opties voor geen en minimaal redeneren worden niet meer ondersteund. Omdat redeneertokens worden gefactureerd als uitvoertokens, kunnen gebruikers nu niet meer kiezen voor stappen zonder redeneringskosten. Ook is de integratie gewijzigd: tool-aanroepen verlopen nu via de API Responses in plaats van Chat Completions.

Volgens gegevens van de uitgever kost een gemiddelde taak voor GPT-6.1 Sol op Terminal-Bench Science 0.1 bij maximale inspanning 5,47 dollar, tegenover 23,80 dollar voor GPT-6 Astra. Op de DeepSWE v1.1 test voor software engineering behaalt GPT-6.1 Sol een score die gelijk is aan GPT-6 Astra voor ongeveer een vijfde van de kosten per taak, en scoort het 6,4 procentpunt hoger dan GPT-6 Sol met minder redeneerinspanning.

Ondertussen is er melding gemaakt dat OpenAI heeft besloten GPT-6.1 Astra niet uit te brengen in oktober. De verantwoordelijke voor veiligheidssystemen gaf aan dat het model niet voldoende binnen de kaders en machtigingen paste en het verrichte werk onvoldoende weerspiegelde. Bain & Company merkte in een rapport op dat de kosten per taak voor bedrijven hoog blijven.