GitHub Copilot slår sammen ruting og orkestrering

Standard-nivået er tilgjengelig for alle Copilot-abonnementer. Nivåene High og Max er kun tilgjengelige for abonnentene Pro+, Max, Business og Enterprise. GitHub tilbyr en tidsbegrenset rabatt på 30 prosent frem til slutten av november, noe som er en økning fra den tidligere rabatten på 10 prosent som ble gitt i Auto-modus.

Administratorer har nå muligheten til å aktivere Fusion som standardvalg i velgeren. De kan også kontrollere modellpoolen og bestemme hvilket innsatsnivå som skal være standard for nye samtaler. Integrasjonen av lokale modeller er fortsatt i en forhåndsvisningsfase og gjelder foreløpig to modeller.

Systemet for ruting gjennomgikk tidligere to versjoner. Den første versjonen brukte en ModernBERT-enkoder for å styre forespørsler basert på modellkapasitet og tilgjengelighet. Den andre versjonen, kalt HyDRA, brukte en klassifiserer trent til å vurdere behov innen resonnering, koding, feilsøking og bruk av verktøy, samtidig som den håndterte sesjonskontinuitet og feilfiltrering.

Orkestreringsdelen, HydraFusion, ble testet fra begynnelsen av september for å velge den optimale arbeidsflyten for hver forespørsel. Michelin var blant selskapene som testet HydraFusion, og deres tilbakemeldinger var blandede. Selskapet mente at orkestratoren fungerte som en kvalitetsmekanisme snarere enn en erstatning for Auto-modus, men til en betydelig høyere pris. Brukere rapporterte at HydraFusion hadde en tendens til å velge modeller med for høy ytelse og ikke utnyttet rimeligere underagenter med mindre det ble forespurt eksplisitt. Det ble også påpekt mangel på tilbakemeldinger under utførelse av oppgaver, da GitHub valgte å ikke vise mellomliggende resultater for å unngå at disse ble oppfattet som ferdig arbeid.