Vi er vant til å kunne lene oss tilbake og stole på at systemutviklere og IT-industrien leverer produkter og tjenester av høy kvalitet, og kommer med gode råd basert på grunnleggende etiske prinsipper. Nå som teknologien blir stadig mer avansert, og bruken av kunstig intelligens øker, blir tilliten satt på prøve. Å ikke bestå denne testen vil få alvorlige konsekvenser for norske selskaper.
Kjetil Thorvik Brun
Direktør for næringspolitikk og samfunnskontakt (kst.) Abelia
Christian Torp
Generalsekretær Dataforeningen
Teknologiske løsninger blir stadig vekk mer avansert. Ikke minst gjelder dette den raske utviklingen av kunstig intelligens. Brukerne møter dra-og-slipp løsninger som de har begrensede evner og kunnskap til å være kritiske til, og er helt avhengige at leverandørene tilfredsstiller anerkjente etiske krav. Derfor må de kunne stole på dem som har stått for utarbeidelsen av verktøy og metodikker som tas i bruk.
Nordmenn i 2019 er på mange måter bortskjemte, basert på at de kom som før oss tok en rekke kloke valg og beslutninger som har gitt oss et samfunn med tydelig preg av felles tillit mellom alle.
Dette har gitt oss et fortrinn: enkelt og greit – i Norge stoler vi på hverandre. Men også hjulpet av en klype flaks, noen teskjeer dyktighet og en hel haug oljepenger som har gitt oss et godt utgangspunkt og oppskriften for å beholde denne gjensidige tilliten, som får landet til vårt til å fungere.
Grunnleggende tillit
Åpenhet, ansvar og kontroll. Dette er de grunnleggende prinsippene som sikrer tilliten vår.
Dette fundamentet utfordres av utviklingen innen digitalisering, kunstig intelligens, Big Data og automatisering.
Innsynet og forståelsen av beslutninger tatt på grunnlag av slike data kan fort bli mangelfull når mengden av data stadig øker, og det benyttes mer avanserte metoder for å tolke disse. Resultatet kan gå ut over evnen til nødvendig verdiskaping i samfunnet.
Dårlig kvalitet på rådata i kombinasjon med lite transparens og rask utvikling av AI krever både debatt og involvering fra nær sagt alle, slik at de kan bidra til å belyse etiske dilemmaer på en tilfredsstillende måte.
Etikk
Mange tiltak er allerede på plass. For eksempel har EU valgt å sette sammen en ekspertgruppe for kunstig intelligens som også skal håndtere de utfordringene bruk av AI medfører. En av oppgavene er å definere etiske retningslinjer som bør legges til grunn for bruken av AI.
Gruppen har så langt definert fire etiske prinsipper for: (1) respekt for menneskelig autonomi; (2) forebygging av eventuell skade; (3) rettferdighet; og (4) etterprøvbarhet.
Selv om disse prinsippene ved første øyekast kan minne litt om science fiction-forfatteren Isaac Asimovs lover om robotikk, er de omfattende nok til å gi meningsfull innsikt i hvilke typer spørsmål som bør stilles under utvikling, testing og senere bruk av ulike AI-løsninger.
For punktet om forebygging av eventuell skade spesifiseres at vurderingene må ta hensyn til menneskelig verdighet så vel som både fysisk og intellektuell integritet, og at miljø og omgivelser også må tas med.
For punktet om respekt for menneskelig autonomi må drøftingene omhandle spørsmål omkring bedrag og manipulasjon, så vel som utøvelse av selvbestemmelse.
Når vi ser på de dels kontroversielle AI-løsningene som allerede er innarbeidet, slik som COMPAS risk assessment software som brukes i det amerikanske rettssystemet for å predikere tilbakefallrisikoen hos straffanger, er erfaringen at det å levere sikre, rettferdige og pålitelige løsninger ikke alltid er like enkelt som det tilsynelatende høres ut som.
Internasjonal konkurranse
Selv om Norge er et lite land, og norske virksomheter kjemper en tøff kamp med internasjonale giganter med stor kommersiell makt, kan tillit vise seg å være et konkurransefortrinn. Vi lever i et åpent samfunn bygget på troverdighet og ansvarsfølelse. I et stadig mer konkurranseutsatt globalt marked med skiftende handelspolitikk kan tillit nemlig være en sjelden vare.
Vi oppfordrer derfor norske virksomheter til å delta i debatten om utvikling av etiske retningslinjer for AI og gi tilbakemeldinger på hvordan de jobber i dag. Dermed kan vi bidra til den nødvendige forbedringen som etterstrebes.
Ved å sette menneskene først kan vi utvikle verdifull kompetanse og økt konkurransekraft, og fokusere på å oppnå et samarbeid som kan gi fortsatt utvikling av relevant kompetanse.
Dette vil igjen bidra til bedre konkurranseevne og verdiskapingen i alle deler av samfunnet.
Av: Christian Torp -Generalsekretær Dataforeningen og Kjetil Thorvik Brun – Direktør for næringspolitikk og samfunnskontakt (kst.) Abelia
