Itaú utvecklar minneskontroll för sin AI-assistent och inför cyklig styrning av agenter
1 november 2026 · 3 min läsning
Itaú utvecklar en ny lagerstruktur för minneshantering till sin konversationella AI-assistent ia.i. Denna funktion ska ge kunder möjlighet att välja vilka uppgifter systemet får använda och vilka tidigare samtal assistenten får behålla i minnet. Banken presenterade resursen på onsdagen den 28 oktober under evenemanget Meetup Itaú Tech i São Paulo. Samtidigt detaljerade banken sin strategi för styrning av sina AI-agenter, som kombinerar motståndstester, skyddsbarriärer och kontinuerlig övervakning. Ingen lanseringsdatum har offentliggjorts för den nya minnesfunktionen.
Assistenten ia.i möjliggör interaktion med finansiella tjänster genom naturligt språk, utan att kunderna behöver navigera i applikationens menyer. Systemet stödjer sig på specialiserade agenter som hämtar information och utför uppgifter kopplade till användarens finansiella liv. Den nya minneslagern tillåter även användaren att bestämma om assistenten ska spara uppgifter från tidigare interaktioner eller inte. Enligt Fayner Felicio, som är chef för digitala produkter och strategi med generativ AI hos Itaú, måste varje klient ges autonomi att bestämma hur och vilka data som ska användas. Han framhöll detta under panelen om den nya eran för generativ AI.
Bankens strategi för generativ AI bygger på den infrastruktur för miljösegregation, åtkomstkontroll och revision som Itaú redan har. Till denna grund läggs specifika kontroller för agenter. Bárbara Correia, chef för ansvarig AI och dataskydd, förklarade att generativa modeller ändrar hur risker bedöms eftersom de inte ger förutsägbara svar. Därför måste styrningen bli cyklig. Det räcker inte längre att göra en engångsbedömning vid projektstart. Istället krävs en löpande process för att hantera de nya riskerna som uppstår när modeller används i praktiken.
Styrningen organiseras i tre huvudområden: tester, skyddsmekanismer och övervakning. Målet är att upptäcka problem innan de når användaren och att följa agenternas beteende efter att de är i drift. Under testfasen använder Itaú så kallade AI-motståndstester. Interna team försöker få agenter att ge olämplig information, ignorera instruktioner eller agera utanför sitt avsedda syfte. Syftet är att tvinga fram det sämsta möjliga beteendet hos tekniken för att identifiera sårbarheter.
De fel som upptäcks under dessa tester används för att förbättra skyddsbarriärerna, som styr agenternas beteende. Dessa kontroller täcker affärsregler och tonläge i applikationerna. Övervakningen visar var justeringar behövs. Correia betonade att klassificeringen av data inte kan vara permanent. När information som tidigare var katalogiserad för konfidentialitet och åtkomstregler tas upp i en agent, får den nya användningsområden. En agent kan kombinera data om försäljning, utgifter och avtal för att dra slutsatser om ett företags finansiella läge, även om den aldrig mottagit en specifik rapport om detta. Därför måste data omvärderas när den integreras i ett agentbaserat system.
Med ökande antal tillämpningar kan denna granskning inte enbart bero på manuella och centraliserade analyser. En del av kontrollerna måste automatiseras och integreras i plattformarna. Låg riskfall kan följa standardiserade flöden, medan känsligare fall får ytterligare bedömning. Styrningen måste också balansera skydd, kostnad och nytta. En agent som är för restriktiv kommer att sluta svara även på legitima begäranden, vilket innebär att organisationen förlorar fördelarna med tekniken trots att den är skyddad.