Intelligent agent med Privacy by Design

Private og især offentlige virksomheder har et ansvar for, at borgernes rettigheder og demokratiske muligheder er tilstede både i den fysiske såvel som den virtuelle verden.

Dataetik1 - Foto Colorbox

Gennem netværk genererer vi enorme mængder af data – sommetider velvidende, men oftest uden at være klar over det – som analyseres og kombineres ved hjælp af algoritmer og intelligente teknologier

"Sæt din app eller internetforbundne ting i stand til at svare på spørgsmål med stemme eller tekst, mens du samtidig passer på dine brugeres data".

Sådan lyder det fra Snips.ai, en fransk-amerikansk virksomhed, der har udviklet en personlig assistent bygget på kunstig intelligens (AI) designet med brugernes privatliv in mente - også kaldet Privacy by Design.

Intelligente teknologier udvikler sig ligesom den menneskelige hjerne ved hjælp af erfaring. Jo mere data, de absorberer, des bedre bliver de til at genkende mønstre til at handle på. Data er det, som løber gennem maskinens nervesystem. Det, som maskinen lærer fra og handler på. Derfor er det også vigtigt, at dataetik tænkes ind helt fra begyndelsen, når de intelligente teknologier designes.

Snips.ais teknologi skiller sig ud fra gængse AI-produkter ved, at den analyserer brugerens data, direkte på deres enhed og ikke i en online sky. Tjenesten skaber en “personlig graf” (AI assistents hukommelse) på baggrund af brugerenes data som f.eks. aktiviteter og lokation, som den bruger til at analysere og svare på det spørgsmål, man stiller assistenten. Ingen data bliver, ifølge virksomheden, overført til eksterne servere, og ingen har adgang til brugernes data. Det betyder, at man som bruger selv har fuld kontrol over ens personlige profil, når man bruger tjenesten.

Alt er forbundet via maskiner og netværk
Den generelle samfundsudvikling er baseret på data. Som borger er man både et fysisk og et virtuelt menneske. Private og især offentlige virksomheder har et ansvar for, at borgernes rettigheder og demokratiske muligheder er tilstede både i den fysiske såvel som den virtuelle verden. Det er derfor vigtigt, at dataetik bygges ind fra begyndelsen, når intelligente teknologier designes og tages i brug.

Den udvikling, som vi i årevis har talt om som et fremtidsscenarie, hvor alt og alle er forbundne via maskiner og netværk, der non-stop udveksler data, er i fuld gang. Vores hverdag vrimler allerede med intelligente teknologier. Både det offentlige, men i høj grad de private virksomheder investerer stort i udviklingen af teknologier, der kan hjælpe os med forskellige hverdags-gøremål ved at analysere og udvikle sig på baggrund af data om os og vores omgivelser. Internettet er blevet og vil blive en større og større del af vores fysiske hverdag.

Flere ting, det være sig alt fra biler over lygtepæle til kaffemaskiner, bliver forbundet online. Vores kroppe bliver i stigende grad koblet til. Gennem de netværk genererer vi enorme mængder af data – sommetider velvidende, men oftest uden at være klar over det – som analyseres og kombineres ved hjælp af algoritmer og intelligente teknologier. Vores stemmer, ansigter, likes, interesser, netværk, købsmønstre, politiske overbevisninger, helbred, seksualitet, fysiske bevægemønstre er allerede en del af et større globalt maskineri, som er baseret på ideen om at forudse mønstre, effektivisere processer, vejlede, styre og kontrollere vores adfærd.

Brugen af nye intelligente teknologier til at skabe sammenhæng mellem tjenester og personalisere tjenester for borgerne, kan både bruges positivt og til borgernes fordel, men de kan også udgøre et demokratisk problem. Dataprocesser kan gøres gennemskuelige og skabe overblik for borgerne, men de kan også være uigennemskuelige og skabe mistillid hos borgerne.

Man kan bruge intelligente teknologier til at pesonalisere og hjælpe borgerne individuelt, men man kan også misbruge teknologierne til at profilere og overvåge dem. Intelligente teknologiers kategoriseringer og beslutninger kan gør administrative processer lettere, men de kan samtidig også, hvis de ikke har designet dataetiske overvejelser ind fra starten, diskriminere mellem borgere. 

Standarder på vej
Den amerikanske standard organisation IEEE har udviklet et dokument med generelle etiske overvejelser vedrørende udvikling og design af intelligente teknologier. EU parlamentet har i 2017 vedtaget en resolution omkring etik i nye robotteknologier. Nu er det op til EU Kommissionen at skabe regulering på baggrund af den.

En af hovedbudskaberne i begge initiativer er, at man skal tænke etik og de etiske implikationer ind I selve designprocessen af de intelligente teknologier. Det handler f.eks. om at bygge teknologierne, så de ikke kompromiterer brugernes privatliv ved at samle mere data end nødvendigt, ved at gøre det privacy-by-default - altså at man selv aktivt skal tilmelde sig indsamlingen - og ved at give adgang til detaljerede dataprofiler over brugere til tredjeparter. Men det handler også om at designe de algoritmer, der analyserer data, på en måde, der ikke har diskriminerende udfald.