Så ser Systemstöd på ansvarsfull användning av AI i affärssystem

AI skapar nya möjligheter att effektivisera och utveckla arbetet med affärssystem. Men med möjligheterna följer också ett ansvar för hur kundinformation, programvara och känsliga uppgifter hanteras. Här beskriver vi Systemstöds syn på ansvarsfull AI-användning och varför säkerhet, förtroende och respekt för både kundernas och programvaruleverantörernas rättigheter är avgörande.

En affärssystempartner befinner sig nära kundens verksamhet. För att implementera, integrera och förvalta ett affärssystem behöver vi förstå processer, konfigurera funktioner och felsöka komplexa informationsflöden. Uppdraget kan ge tillgång till affärsdata, personuppgifter, programkod och tekniska åtkomstuppgifter.

Programkod som vi får arbeta med är inte automatiskt fri att använda i AI

Som återförsäljare och implementeringspartner arbetar en partner med affärssystem där rättigheterna till standardprogramvaran ligger hos andra. Möjligheter att använda och bearbeta materialet följer av lag, licenser och partneravtal.

Datorprogram skyddas av upphovsrättslagen. Den som har rätt att använda ett program får under vissa förutsättningar också göra sådana kopior och ändringar som behövs för att använda det på avsett sätt. Det framgår bland annat av 26 g § upphovsrättslagen.

Bestämmelsen innebär däremot inte att programkod automatiskt får delas med eller bearbetas i en extern AI-tjänst. Vilken användning som är tillåten behöver bedömas utifrån lagen och de licens- och partneravtal som gäller.

Det är exempelvis skillnad mellan att be en AI-assistent förklara ett generellt programmeringsproblem och att ladda upp leverantörens källkod eller dokumentation till en extern tjänst. Även egenutvecklade kundanpassningar kan omfattas av avtal som påverkar vad som får göras.

Den praktiska frågan blir därför: vilka rättigheter finns till just detta material och omfattar det den användning vi planerar?

Kundens information har ett skydd även när den saknar personuppgifter

Ett affärssystem kan innehålla prissättning, inköpsvillkor, recept, produktionsmetoder och ekonomiska prognoser. Sådan information kan vara mycket skyddsvärd även när den inte omfattas av GDPR.

Lagen om företagshemligheter skyddar känslig affärsinformation när lagens villkor är uppfyllda, bland annat att informationen hålls hemlig genom rimliga åtgärder och att ett röjande kan medföra konkurrensskada.

Den som obehörigen använder eller avslöjar företagshemligheter som mottagits i en affärsrelation kan bli skadeståndsskyldig. Enligt 6 § i lagen (2018:558) om företagshemligheter kan skadeståndsansvaret även gälla vid oaktsamhet, det vill säga när någon inte varit tillräckligt försiktig. Sekretess- och kundavtal kan dessutom begränsa hur informationen får användas.

För en affärssystempartner behöver informationssäkerheten därför omfatta hela kunduppdraget. Det räcker inte att ta bort namn och personnummer ur ett underlag om affärskritisk information fortfarande finns kvar.

GDPR följer med informationen till AI-tjänsten

När personuppgifter behandlas för kundens räkning kan affärssystempartnern vara personuppgiftsbiträde, alltså en aktör som behandlar personuppgifter på uppdrag av någon annan. Rollen avgörs av den faktiska behandlingen och ett företag kan ha olika roller för olika ändamål.

EU:s dataskyddsförordning, GDPR, innehåller flera regler som är viktiga vid AI-användning. Artikel 28 i GDPR reglerar bland annat dokumenterade instruktioner och hur underbiträden, det vill säga ytterligare leverantörer som behandlar personuppgifter på uppdrag av ett personuppgiftsbiträde, får anlitas. Om en AI-leverantör ska behandla kundens personuppgifter som underbiträde måste även den relationen hanteras korrekt.

Artikel 5 i GDPR innehåller grundläggande principer, bland annat att personuppgifter ska användas för tydliga ändamål och att inte fler uppgifter än nödvändigt ska behandlas. Artikel 32 i GDPR ställer krav på säkerhetsåtgärder som är anpassade till riskerna.

En ny AI-användning behöver alltså bedömas mot det befintliga uppdraget. Kundens instruktion eller godkännande kan behövas, men ersätter inte övriga krav enligt GDPR.

Ingen modellträning är bara en del av bedömningen

Att en AI-tjänst inte använder kundens information för modellträning är en viktig egenskap. Men uppgifterna kan fortfarande överföras, bearbetas, loggas eller lagras när tjänsten används.

Bedömningen behöver därför omfatta vilka mottagare som får tillgång till informationen, för vilka ändamål, hur länge den sparas och hur den kan raderas. Även så kallade RAG-lösningar, där AI hämtar information från exempelvis dokument eller kunskapsdatabaser för att ge mer relevanta svar, innebär informationsbehandling.

Myndigheten för digital förvaltning (Digg) och Integritetsskyddsmyndigheten (IMY), som bland annat ansvarar för tillsyn av dataskyddsreglerna, framhåller att indexering och vektorisering kan innebära behandling av personuppgifter och att behörighetsstyrning måste övervägas noggrant. Vägledningen riktar sig till offentlig förvaltning, men belyser tekniska risker som också är relevanta för affärssystemmiljöer.

Lagring inom EU/EES besvarar inte heller ensam alla frågor. Om personuppgifter görs tillgängliga för en annan aktör i ett tredjeland kan reglerna om tredjelandsöverföring aktualiseras även när själva lagringen sker inom EU/EES. IMY beskriver både kriterierna och de rättsliga förutsättningarna för sådana överföringar.

Inloggningsuppgifter kräver en egen säkerhetsgräns

Lösenord, API-nycklar och åtkomsttoken kan ge direkt tillgång till kundens miljö. Vår rekommenderade princip är att sådana hemligheter ska hanteras i skyddade tekniska funktioner och hållas utanför AI-modellens indata, dokumentunderlag och genererade svar.

En AI-lösning kan behöva använda ett API, ett tekniskt gränssnitt som låter olika system kommunicera med varandra. Då bör anslutningen ske genom en kontrollerad integration med begränsade behörigheter, utan att modellen behöver se själva autentiseringsuppgifterna.

Det blir särskilt viktigt när AI kan utföra åtgärder. OWASP, en internationell organisation som tar fram kunskap och rekommendationer om säkerhet i programvara och AI-system, beskriver en risk som kallas Excessive Agency.

Det betyder att en AI-lösning får större behörigheter eller kan utföra fler åtgärder än uppgiften kräver. Motåtgärder är bland annat att begränsa funktioner och behörigheter och att kräva mänskligt godkännande när det behövs.

En assistent som sammanfattar lageravvikelser bör exempelvis normalt börja med läsbehörighet. Möjligheten att ändra lagersaldon är ett separat beslut som kräver ett tydligt mandat och ytterligare kontroller.

Även dokument som AI läser kan innehålla angrepp

En AI-assistent kan påverkas av instruktioner som gömts i ett dokument, ett mejl eller annat material den läser. Detta kallas indirekt prompt injection, eller manipulerade instruktioner som försöker få AI att agera på ett annat sätt än avsett. OWASP beskriver hur sådana angrepp kan leda till informationsläckage eller otillåtna åtgärder i anslutna system.

Ett tänkbart exempel från affärssystem är en assistent som läser ett inkommande dokument med manipulerade instruktioner. Konsekvensen beror då på vilken information och vilka funktioner assistenten faktiskt kan nå.

Behörigheter måste därför upprätthållas i de anslutna systemen och integrationerna. En instruktion till modellen om att ”inte visa känsliga uppgifter” är ingen ersättning för teknisk åtkomstkontroll.

Standarder hjälper till att göra ansvaret systematiskt

AI behöver ingå i verksamhetens ordinarie styrning och säkerhetsarbete. Två relevanta standarder är:

– ISO/IEC 27001:2022, som anger krav på ledningssystem för informationssäkerhet och ett riskbaserat arbete med informationens konfidentialitet, riktighet och tillgänglighet.

– ISO/IEC 42001:2023, som anger krav på ledningssystem för AI och ger struktur åt styrning, ansvar och hantering av AI-relaterade risker och möjligheter.

Standarderna är inte i sig allmänna lagkrav och att använda dem som vägledning innebär inte att organisationen är certifierad. De ger däremot ett gemensamt ramverk för att gå från ambition till dokumenterade och uppföljningsbara arbetssätt.

Systemstöds möjlighet ligger i kontrollerad verksamhetsnytta

Systemstöds särskilda position innebär också en möjlighet. Kunskap om kundens processer, data och integrationer hjälper oss att identifiera var AI kan göra konkret nytta och vilka gränser lösningen behöver ha.

Vår rekommenderade väg är att börja med avgränsade användningsfall: dokumentationssökning i godkänt material, rapportutkast, supportstöd eller förklaringar av avvikelser. Varje initiativ bör ha ett tydligt ändamål, klarlagda rättigheter, begränsad åtkomst och en ansvarig som följer upp kvalitet och resultat.

För kunden ska det vara möjligt att förstå vilken information en AI-lösning använder, vem som får tillgång till den och vilka åtgärder AI får utföra.

Som kund till Systemstöd ska man kunna förvänta sig att vi tar frågor om informationssäkerhet, sekretess och rättigheter på allvar när vi arbetar med AI. Det handlar om att värna kundens information, respektera programvaruleverantörernas villkor och göra medvetna bedömningar av hur AI kan användas i olika sammanhang.

Det är så vi ser på ansvarsfull AI i affärssystem: att ta vara på teknikens möjligheter och skapa praktisk verksamhetsnytta, utan att kompromissa med kundens information, leverantörens rättigheter eller det förtroende som följer med uppdraget.

Upptäck fler inlägg på Systemstödsbloggen