TrustAgent: Tillförlitlig agentbaserad AI för säkra, transparenta och resilienta finansiella verksamheter i små och medelstora företag
| Diarienummer | |
| Koordinator | Orchestable AB - Orchestable |
| Bidrag från Vinnova | 1 690 000 kronor |
| Projektets löptid | juni 2026 - december 2027 |
| Status | Pågående |
| Utlysning | Avancerad digitalisering - Industriell behovsdriven innovation |
| Ansökningsomgång | Digital resiliens, AI och cybersäkerhet för konkurrenskraftig industri |
Syfte och mål
Syftet är att göra AI-agenter som hanterar ekonomi och redovisning i små och medelstora företag säkra, transparenta och granskningsbara. Projektet utvecklar ett tillitslager som verifierar varje AI-resultat innan det förs vidare, en beslutslogg som förklarar varje beslut i linje med EU:s AI-förordning, samt styrning med mänsklig kontroll. Målet är att stoppa spridning av fel och manipulerade data mellan samverkande agenter och nå TRL 6 i verklig drift.
Förväntade effekter och resultat
Resultaten blir ett säkerhetsprotokoll, ett öppet dataset för attacksimulering, ett system för beslutsförklaring med energimätning per AI-beslut, automatiserad regelefterlevnadsrapportering, ett styrningsramverk, ett verktyg för biasanalys samt en vetenskaplig artikel. Verktyg och dataset släpps öppet. Effekten är att svenska SMF kan använda agentbaserad AI i ekonomiprocesser med lägre risk, bättre spårbarhet och enklare efterlevnad av EU:s AI-förordning.
Planerat upplägg och genomförande
Projektet löper juni 2026 till december 2027 i fyra arbetspaket: hotmodellering och verifierbarhet, förklarbarhet och EU:s AI-förordning, validering med fyra månaders pilot i verklig drift, samt spridning och öppen publicering. Orchestable koordinerar och utvecklar plattformen, RISE validerar oberoende, Södertörns högskola bidrar till pilotdesign, marknadsanalys och spridning, och en redovisningsbyrå och SMF-partner testar lösningen med verkliga data.