Sikre kontroll over virksomhetens kunstige intelligens - KPMG Norge
close
Share with your friends

Sikre kontroll over virksomhetens kunstige intelligens

Sikre kontroll over virksomhetens kunstige intelligens

Desto mer din virksomhet overlater til kunstig intelligens å bestemme, desto viktigere er det å bestemme over den kunstige intelligensen. KPMG har et rammeverk som gjør at man kan integrere AI-løsninger – og samtidig ha full kontroll på forretningsprosesser, algoritmer, datakvalitet og deployment.

1000

Kontaktpersoner

Relatert innhold

Etter hvert som det utvikles nye bruksområder for kunstig intelligens (AI) og maskinlæring (ML), og grensene flyttes for hva disse teknologiene kan utrette, blir det stadig viktigere for virksomheter å ha kontroll over løsningene og tillit til dataene som benyttes.

Det betyr at virksomhetene både må prioritere fornuftig når de velger teknologisk nivå å legge seg på, og sikre etterrettelighet i algoritmer, innsatsfaktorer og annen input som går inn i modellene og arbeidet med dem.

Med dette som bakgrunn, har KPMG utviklet «AI in control», et kontrollrammeverk for kunstig intelligens og integrering av algoritmer i datadrevne prosesser. Rammeverket består av metoder, verktøy og vurderinger som hjelper virksomheter med å forsikre seg om at de kan hente verdi ut av de nye prosessene. Man må likevel ha integritet i dataene som algoritmene tar utgangspunkt i, passe på at resultatene som leveres kan fattes og forklares på fornuftig vis, og forsikre seg om at AI-en er utformet med en fleksibilitet som tjener virksomhetens hensikter.

William Wong

William Wong, Manager og teamleder for KPMGs Data & Analytics-team

Gode svar med etikken i behold

– Først og fremst må man integrere løsningen i prosesser som skaper verdi for virksomheten. Når maskiner skal ta beslutninger på organisasjonens vegne, må man også kunne forsikre seg om at dette er integrert i prosessene på en måte som er etisk forsvarlig og følger alle regler.

Det forteller Tom Einar Nyberg, leder for Digital Operations i KPMGs rådgivningsvirksomhet og for Lighthouse-satsningen. Som eksempel nevner han banker og forsikringsselskaper, hvor algoritmer overvåker transaksjoner og søknader, og flagger de som virker mistenkelige, slik at de manuelt kan undersøkes av et menneske.

Det er én sak hvis en slik algoritme forsinker én enkelt banktransaksjon, noe ganske annet er det dersom noen uriktig nektes lån eller får feil diagnose på et sykehus.

– Når beslutningene tas automatisk, nærmest i realtid og med virkelige konsekvenser for ekte menneskers liv, er det naturlig å stille spørsmålet «hva er det som besluttes – og på hvilket grunnlag»? Og det må man ha trygge og gode svar på for å kunne ha tillit til løsningen og prosessene, sier William Wong, som er Manager og teamleder for KPMGs Data & Analytics-team.

Tom Einar Nyberg

Tom Einar Nyberg, leder for Digital Operations i KPMGs rådgivningsvirksomhet og for Lighthouse-satsningen.

En annen risikoprofil

Det er nemlig slik at AI innebærer innovasjoner som øker risikonivået – i noen tilfeller i vesentlig grad. Virksomheter må erkjenne at dette gir dem en annen risikoprofil, og at de må respondere med strukturerte AI-kontrollfunksjoner som en integrert del av prosessen ved deployment. Wong og Nyberg nevner noen hovedårsaker til at dette er avgjørende:

– Denne teknologien kan bli tett integrert i virksomhetskritiske prosesser for enkelte forretningsområder, og det kan skje fortere enn antatt. Når det skjer, vil det være problematisk å operere prosessen manuelt med samme transaksjonsvolum. Virksomheten vil da kunne være ute av stand til å operere prosessen uten å benytte seg av de automatiserte algoritmene som hjelpemiddel, sier Nyberg.

– Kunstig intelligens åpner for systemer som gjør beslutninger og datainntak mye mer komplekse – så komplekse at det kan overstige menneskets evne til å forstå alle detaljene. Den økte kompleksiteten, og avhengigheten av den, kan bli en ny form for «teknisk gjeld» for virksomheten, sier han videre.

– Derfor er det viktig å bygge inn kontroller i selve designet av prosessen, slik at man fjerner teknisk gjeld før løsningen er implementert. Det er langt vanskeligere å bygge inn risikoreduksjon og kontrollfunksjoner etter at løsningen er operativ, og derfor er det best å designe kontrollfunksjoner proaktivt fra start, supplerer Wong.

Tenke helhetlig

Alt dette gjør at det er avgjørende at virksomheten evner å utvikle rutiner for styring, risikohåndtering og compliance parallelt med at de utvider sin bruk av AI-teknologi.

– Det er viktig å tenke på hele livssyklusen til AI-løsningen. Hva må dere passe på når dere trener opp algoritmene, når dere implementerer dem og når de er live i produksjon? KPMGs rammeverk bidrar til at virksomhetene kan tenke tilstrekkelig helhetlig på dette, gitt at de kommer tidlig nok i gang, sier Wong.

– Dette betyr også veldig mye for hvilken kunnskap medarbeiderne i organisasjonen må ha: Hva må de kunne og forstå, og hvilke systemer må de beherske for styring og governance – dette må henge sammen. Virksomheter bør unngå å ta i bruk løsninger som krever en mer utviklet modenhet enn det organisasjonen har folk til å håndtere – i motsatt fall risikerer de uheldige avhengigheter og tap av forventede gevinster, konkluderer Nyberg.

Fakta: KPMG Lighthouse

Lighthouse er KPMGs store globale satsing på datadrevne prosesser, teknologi og innovasjon.

I norske Lighthouse jobber fageksperter og teknologer på tvers av revisjon, rådgivning, regnskap og forretningsjus for å løse konkrete forretningsutfordringer for KPMGs kunder ved hjelp av moderne teknologi. Lighthouse-miljøet identifiserer og realiserer virksomheters potensial innen bruk av data og analyse, intelligent automasjon og kunstig intelligens, slik at virksomhetene kan bringe innovative løsninger til markedet og skape nye verdier.

Ta kontakt

 

Ønsker du tjenester fra KPMG?

 

Be om tilbud