Sikkerhed skal i fokus, hvis AI skal slå igennem, mener EG's Jakob Svejgaard
Den nye vejledning indeholder 16 konkrete anbefalinger, der skal øge sikkerheden i forbindelse med brug og udvikling af AI-løsning. Foto: Getty Images
Siden jeg afsluttede min uddannelse som journalist fra Danmarks Journalisthøjskole i 1986, har jeg erhvervet mig en bred erfaring med forretningsudvikling, kommunikation og marketing, samt organisation og ledelse på både strategisk og operationelt niveau i privat og offentligt regi.
Jeg arbejder for EG, det offentlige Danmarks mest værdifulde samarbejdspartner, fordi vi tager medansvar for at udvikle den offentlige velfærd gennem digitalisering.
Som redaktør for SamfundsDesign er jeg altid på udkig efter spændende, vedkommende relevante historier om digitalisering af det offentlige Danmark. Så kontakt mig, hvis du sammen med os vil være med til at forankre den digitale forandring, der skal sikre velfærdssamfundet – og når vores børn bliver forældre.
Kontakt og følg Per Roholt
Det skal være sikkert at bruge it-løsninger, hvor der anvendes kunstig intelligens. Derfor er Digitaliseringsstyrelsen, Erhvervsstyrelsen og Center for Cybersikkerhed gået sammen om at udarbejde en vejledning til brugere og leverandører af AI-baserede løsninger.
Den nye vejledning, Vejledning: Tiltag til at sikre brugen af kunstig intelligens, indeholder 16 konkrete anbefalinger, der skal øge sikkerheden i forbindelse med brug og udvikling af AI-løsninger, lige fra sikkerhedstræning af medarbejdere til beredskabsøvelser.
- Kunstig intelligens kan hjælpe med at skabe en offentlig sektor med mere tid og bedre service til borgerne.
Den nye vejledning sætter ind med en række konkrete tiltag, der skal hjælpe myndigheder og virksomheder med at sikre et fortsat højt sikkerhedsniveau. Det er både godt og vigtigt, for når vi bruger kunstig intelligens, er det selvfølgelig afgørende, at borgerne kan have tillid til, at nye teknologier bruges på en ordentlig og sikker måde, udtalte Signe Caspersen, vicedirektør i Digitaliseringsstyrelsen i forbindelse med lanceringen af den nye vejledning.
Her er de 16 anbefalinger
Læs mere: Vejledning: Tiltag til at sikre brugen af kunstig intelligens
Læs artikel: Kunstig Intelligens skal hjælpe patienter med blodprop i hjertet
Baggrunden for den nye vejledning er en analyse af sikkerhedsrisikoen ved anvendelse af kunstig intelligens.
Analyse af kunstig intelligens i et sikkerhedsperspektiv, er udarbejdet af Boston Consulting Group og peger blandt andet på, at brugen af AI allerede er udbredt blandt danske virksomheder og myndigheder i dag og vil blive væsentlig øget inden for de næste 3-5 år.
Samtidig indebærer den øgede brug af AI nye farer, som risikoen for:
Angrebene er endnu ikke set i stor skala i praksis, hvilket kan skyldes, at de enten ikke er udført, opdaget eller offentliggjort, hedder det i analysen.
Netop derfor er der grund til at tage sine forholdsregler, mener Thomas Lund-Sørensen, chef for Center for Cybersikkerhed:
- Når kunstig intelligens udvikles og tages i brug, er det vigtigt, at man som organisation hele vejen opretholder et godt risikobaseret sikringsniveau, der tager højde for de traditionelle it-risici, samt de nye risici, som brugen af kunstig intelligens kan introducere.
En målsætning bør være, at brugen af kunstig intelligens er med til at styrke arbejdet for et sikkert digitalt Danmark.
AI anvendes i dag generelt til fem forskellige formål:
Læs mere: Spot de nye teknologier på EG's TechRadar
Den nye vejledning henvender sig både til brugerne og til udviklerne af digitale løsninger, hvor der indgår kunstig intelligens, og det gør det lettere at få skabt tillid til teknologien, mener Executive Product Manager, Jakob Svejgaard, EG:
- Vi ser i dag en række spændende forsøg med AI - ikke mindst på sundhedsområdet. Set i det lys, er det godt, at Digitaliseringsstyrelsen, Erhvervsstyrelsen og Center for Cybersikkerhed nu tager udfordringerne med sikkerheden op, mener Jakob Svejgaard, EG:
- Hvis AI for alvor skal slå igennem i en dansk kontekst, er det afgørende, at vi fra starten tænker sikkerhed ind i hele design- og udviklingsprocessen.
Læs artikel: Fremtidens digitale værktøjer bremses af bekymringer om dataetik
Samtidig er det vigtigt, at der er hård justits på området, for bare få brådne kar i AI-industrien og IT-branchen vil kunne bremse eller i værste fald stoppe udviklingen, tilføjer Jakob Svejgaard.
Derfor er en decideret vejledning et godt træk:
- Ikke mindst fordi den er udstedt af de rette myndigheder, så der skabes den nødvendige tillid til den nye teknologi, så vores kunder rent faktisk tør tage den i brug i større omfang.
Dog ærgrer det mig, at Datatilsynet ikke er blandt de myndigheder, der har været med til at udarbejde vejledningen. Mange af vores kunder ser jo af gode grunde nøje på Datatilsynets holdning til en ny teknologi, når de skal vurdere, om det er sikkert at tage den i brug, slutter Executive Product Manager Jakob Svejgaard, EG.
Læs artikel: ItWatch: Ny dansk vejledning sætter fokus på sikkerhed og kunstig intelligens
Læs artikel: Sundhedsdata kan mere end redde liv
Læs mere: Se vores tema om digital automatisering med RPA
