Microsoft-medarbetare måste ständigt se på sexuellt material

Microsoft-medarbetare som kontrollerar och bedömer prompts från Copilot tvingas dagligen titta på sexuellt material. Detta inkluderar bilder där användare tittar under kjolen på en kvinna och placerar kvinnor i olämpliga positioner.

När en användare skriver en prompt i chattfönstret hos en AI-chatbot verkar kommunikationen privat. Men så är inte fallet, inte ens med Microsoft Copilot. Bakom kulisserna bedömer hundratals medarbetare på uppdrag av Microsoft användarnas prompts, inklusive de uppdrag som rör bilder.

Enligt läckta dokument, som har kommit i händerna på 404 Media, konfronteras dessa personer dagligen med explicita och olämpliga bilder. Det handlar om uppdrag där någon gör kläder på kvinnor kortare eller förstorar vissa kroppsdelar. Att titta under kjolen är också mycket populärt. Dessutom verkar vissa bilder syfta till att främja anorexi.

Det tragiska i denna situation är att medarbetarna inte är anställda för att blockera innehåll eller göra AI-tjänsten säkrare. Istället måste de bara kontrollera om AI, i detta fall Microsoft Copilot, har utfört sitt arbete korrekt. De måste granska den ursprungliga bilden och prompten och sedan bedöma vilken AI-bearbetning som har lyckats bäst. Detta görs enbart på intuition, eftersom det verkar saknas riktlinjer.

Därför får dessa medarbetare oombedda ta del av explicita och ibland till och med olagliga innehåll. På interna forum uttrycker dessa arbetare sin frustration över mängden sexuellt laddade uppgifter som de får se utan förvarning. Microsoft svarar att de använder kunddata i enlighet med sina allmänna villkor för att förbättra sina produkter.