OpenAI gir ikke ut GPT-6.1 Astra på grunn av sikkerhetsrisikoer

OpenAI har kommet til konklusjonen at deres nye AI har så store sikkerhetsrisikoer at det er bedre å ikke lansere den ennå. GPT-6.1 Astra skulle ha blitt lansert i oktober, men det vil ikke nå den fristen.

Det ser ikke ut til å være en reaksjon på de mange bekymringene som nå eksisterer om AI. Det har vært mange fremtredende personer i teknologi som har uttrykt sine bekymringer over den raske utviklingen av AI-modeller, mens det ikke kan kontrolleres tilstrekkelig. For eksempel uttalte Bill Gates nylig at AI kan forårsake en milliard dødsfall.

Det blir nå antydet at GPT-6.1 Astra ikke er klar for markedet. Dette skal ha sammenheng med skuffende testresultater. Ifølge Wall Street Journal har AI-selskapet midlertidig avlyst lanseringen fordi interne tester ga klare indikasjoner på at atferden til en AI-agent kan ha store konsekvenser for innovasjonen i industrien.

AI-modellen skal ha prestert ekstremt dårlig på tester der det ble vurdert om den virkelig gjorde det som ble bedt om. Det skal også ha vært høyere nivåer av bedrag, hvor et AI-system bevisst prøver å lure menneskelige testere om hva det virkelig kan eller gjør.

Det kan virke merkelig at OpenAI uttaler slike ting, spesielt fordi administrerende direktør Sam Altman tidligere har kritisert Anthropic for å advare om at deres Mythos-AI kunne være farlig. Men situasjonen var annerledes da; det handlet mer om at det kunne bli misbrukt av ondsinnede aktører, og ikke nødvendigvis om kvaliteten på AI-en selv.

Selv om OpenAI refererer til tester, er det håp om at de også er ekstra forsiktige med å gi ut nye AI-modeller. Etter Hugging Face-skandalen og nyhetene om hackede tyske nettsteder, kan de ikke tåle enda en skandale.