Opgrader it-ordføreren – det handler om fremtiden

Hvornår mon det går op for Folketingets partiledelser, at it-ordførerskabet er en af de vigtigste politiske kamppladser i fremtiden? Helt på linje eller højere rangeret end posterne som retsordfører, sundhedspolitisk ordfører, integrationsordfører og finansordfører.

Måske skulle det have et navn med mere appel til følelserne som fremtidsordfører? Tidligere uddannelses- og forskningsminister Søren Pind kaldte sig fremtidsminister, hvad der ikke var så tosset tænkt i stedet for den lidt mere gumpetunge titel.

Sagen er, som den franske præsident Macron har sagt det, at den teknologiske revolution i virkeligheden også er en politisk revolution. Det handler om, hvordan vi vil tilrettelægge vores fremtid, hvem der skal fastlægge rammerne og spillereglerne for brugen af de nye teknologier, og hvad vi vil bruge de teknologiske muligheder til, og om vi selv vil have førertrøjen på i de politiske valg, vi skal foretage, eller overlade det til andre.

Vores valg af kurs på det teknologiske område er ikke bare indenrigspolitik men også udenrigspolitik, for Europa synes klart at tage nogle andre valg end f.eks. USA, Kina og måske Afrika, når det gælder kontrollen med og anvendelsen af nye teknologier.

Vores valg af teknologisk kurs er højsensitiv for hele vores samfundsudvikling, og det er værdipolitik, så det vasker sig. Det er emner, der kommer til at afgøre balancen mellem, hvad samfundet må og ikke må i forhold til vores privatliv og personfølsomme oplysninger.

Eller sagt på en anden måde: den værdidiskussion kommer til at forme næste generation af menneskerettigheder i et digitalt samfund. Om de skal være efter liberale principper eller indeholder mere lovgivning, regler og kontrol.

Lige nu konkurrerer partierne – senest dokumenteret med afslutningsdebatten i denne uge – om at være de mest grønne og de stærkeste hardlinere, når det gælder indvandring og integration. Gid de også ville konkurrere om, hvordan vi skal indrette vores fremtidige liv med de nye teknologiske udfordringer.

Vi har brug for de bedste, mest indsigtsfulde og visionære politikere på opgaven med at arbejde med disse vigtige spørgsmål, og it-ordførerskabet er desværre ikke nødvendigvis det, der er mest kamp om. Men det burde det være. Ligesom kommunalpolitikere og regionsrådspolitikere burde være fuldkommne toptunede på de udfordringer, der venter. For de har i den grad også et ansvar for datapolitikken.

Lige nu foregår en alt for stor del af debatten om dataetik, data-videnskab og data-muligheder blandt eksperterne og de særligt engagerede nørder, mens virksomhederne og den offentlige sektor søger at navigere i junglen så godt som muligt.

Kun når en persondataforordning eller et lovforslag om oprettelse af et Nationalt Genom Center er på dagsordenen, så stiger temperaturen lidt på det her område i Folketinget. Ellers kører de fleste af debatterne om den teknologiske udvikling i råd, arbejdsgrupper og udvalg nedsat af regeringen, og mange politikere indrømmer i en stille stund, at de har lige så svært ved at følge med som folk i almindelighed.

Hvorfor kan vi nu ikke bare lade det køre der i de råd og arbejdsgrupper, og så må eksperterne finde ud af det? Fordi næsten alt, hvad vi gør som mennesker i dag bliver opsamlet som data, og den teknologiske udvikling påvirker alt i vores liv. Hvor vi bevæger os hen, hvad vi køber, hvem vi taler med, hvad vi arbejder med, hvad vores fritid går med, og hvad vi mener.

Data i dag skaber forandringerne i samfundet og udgør en magtfaktor. Data er det nye guld, som man siger, når de bliver forbundet og kombineret og brugt til at se mønstre og forudse handlinger.

Men data er også et farligt redskab i de forkerte hænder. Derfor er det politiske dilemma, at vi på den ene side skal udnytte alle mulighederne i at indsamle, forbinde og kombinere data og samtidig sikre den stærkest mulige beskyttelse af befolkningen mod misbrug og skabe tillid til, at udnyttelsen af mulighederne har en positiv side.

Listen er lang med talrige eksempler på både offentlige institutioner og private virksomheder, der i lille eller global skala ikke har formået at passe på vores data. Det er nemt at blive fascineret af mulighederne og glemme bagsiden af medaljen. Men den har vi set. Og mister vi først tilliden til, at teknologien vil give os noget positivt, så går rigtigt meget galt i vores samfundsudvikling.

Vi kan prøve at definere nogle principper og værdier for brugen af data. Vi kan etablere et Dataetisk Råd eller en tilsvarende institution, der på vores alles vegne kan gå foran i arbejdet med at bygge bro mellem eksperterne, politikerne og befolkningen gennem grundige debatter, ærlige dilemmaer og mulige løsninger.

Problemstillingerne handler ikke kun om personfølsomme oplysninger. De handler også om kunstig intelligens, intelligent automation, maskinlæring og mange andre elementer af den teknologiudvikling, som vi kigger ind i. Hvor sætter vi grænserne for, hvad de intelligente robotter eller computere skal kunne foretage på egen hånd? Det spørgsmål rammer alle områder fra sundhed til transport, forsvarssystemer og plejesektoren.

Selvfølgelig er Danmark ikke det eneste sted, hvor en debat om ”data governance” principper og databeskyttelse finder sted. F.eks. i Storbritannien har spørgsmålet om en etisk rammesætning for behandlingen af data været initieret af regeringen.

Her har man lagt vægt på som punkt ét at skabe troværdighed, tillid og åbenhed omkring brugen af data ved at fastlægge nogle overordnede principper på tværs.

Det handler om at starte enhver diskussion om opsamling, bearbejdning og samkøring af data med et meget skarpt krav til en beskrivelse af, hvad borgeren får ud af at levere sine data, og hvad samfundet får ud af det.

Dernæst at sørge for, at der bliver indsamlet mindst mulige data, som kan retfærdiggøres, i forhold til anvendelsen.

Derefter om at skabe robuste og transparente data-modeller, som er meget opmærksomme på borgernes reaktioner, tvivl og bekymringer, at være så åben som muligt om, hvad data bruges til, og endelig at sørge ordentligt for sikkerheden omkring befolkningens data.

Derudover drøfter man også i Storbritannien en særlig uafhængig institution til at sikre tillid og åbenhed omkring de etiske dilemmaer.

Et sted hvor man kan bygge bro og skabe debat mellem de forskellige interessenter i udviklingen – virksomhederne, den offentlige sektor og civilsamfundet samt borgerne. Et sted, hvor der kan sættes dagsordener til debat og følges op på implementeringen af forskellige tiltag. Et sted, der skaber langvarig legitimitet og tillid, og hvor udviklingen følges tæt. Et sted, hvor man kan samle internationale erfaringer og udfordringer i nye teknologier op og sætte dem til debat.

Lyder det som noget, der kunne være et Dataetisk Råd med eksperter, virksomheder, offentlige institutioner, borgere, debattører og kommunikatører? Ja, det gør det. Og det var præcis sådan en ny, uafhængig institution, der blev efterlyst forleden af et bredt flertal af deltagerne i Mandag Morgens og Altingets konference om Dataetik.

Hvad er det for overordnede principper, der bør gælde for dataetikken: Først og fremmest må det handle om at sætte mennesket først. At teknologien skal gavne menneskets udvikling og ikke omvendt. At teknologien skal tjene samfundet og ikke omvendt.

Denne artikel har været bragt på Altinget.dk den 1. juni 2018: https://www.altinget.dk/artikel/lisbeth-knudsen-opgrader-it-ordfoereren-det-handler-om-fremtiden

Derfor er Facebook en trussel mod demokratiet

Facebook er blevet et suverænt, stærkt politisk våben og en trussel mod vores demokrati. Vi lader et privat selskab overvåge os alle sammen og sælge de indhøstede data til den højestbydende.

Om den nyeste Facebookskandale – stadig under udfoldelse og efterforskning – med 50 millioner amerikaneres personlige data udleveret til et britisk dataanalyseselskab og brugt til målrettet politisk kampagnekommunikation for Trump og andre, så er der kun en god ting at sige: Nu må det efterhånden være gået op for den sidste og mest langsomt opfattende, at Facebook ikke handler om at være en filantropisk, social hyggekomsammenplatform, men om at drive en benhård, psykologisk analysemotor og en kynisk forretning med data og annoncer.

Det må også være gået op for den sidste naive sjæl, at Facebook er blevet alt for meget af en gigantisk stor virksomhed, der ikke har styr på sine egne processer, ikke har styr på sine egne data og sin egen etik.

En kolonialistisk, digital fribytter, hvis stifter og leder, Mark Zuckerberg, altid er der for at udbrede den positive, globale sweettalk om at bygge fællesskaber og relationer, men som forsvinder ud af rampelyset, når de professionelle medier afslører, at hans platform har solgt annoncer til russiske troldefabrikker for millioner af dollars.

Eller når hans firma har lånt millioner af kunders data ud til en virksomhed, som dermed fik adgang til at sende personaliserede, politiske budskaber til amerikanske vælgere, uden at de var klar over, hvilken manipulation de blev udsat for.

Og endelig må det være gået op for den sidste utopist, at vores demokrati er udsat for svær og uoprettelig tæring i fundamentet. Som en af Facebooks egne medarbejdere, product manager Samidh Chakrabarti, i øvrigt selv kom til at sige i januar i år i en refleksion efter afsløringen af den russiske troldeskandale: “Når sociale medier er bedst, så tillader de os at udtrykke os selv og handle. Når de er værst, så tillader de folk at sprede misinformation og undergrave demokratiet.”

Facebooks stifter, Mark Zuckerberg, kaldte det i januar for sin personlige udfordring i 2018 at “fikse Facebook”. Med det mente han at sætte ind mod fake news, datamisbrug og digitale angreb på nationalstaterne og deres demokratiske valg. “Vi forhindrer ikke alle fejl eller misbrug, men vi gør for øjeblikket for mange fejl i håndhævelse af vores politikker og vores evne til at forhindre misbrug af vores værktøjer,” sagde han.

Og det var jo så sandt, som det var sagt. Nu står vi så her igen. Og Zuckerberg siger det samme. At Facebook undskylder over for brugerne, at firmaet ikke har taget vare på deres data på en ordentlig måde.

Facebook har i mere end to år vidst, at deres data – oprindeligt udleveret til såkaldte forskningsformål – var leveret videre til Cambridge Analytica og derefter misbrugt til politisk kampagneformål. Tilsat det stærke krydderi af politisk intrige og Trumps tidligere nære kampagnechef og medarbejder, Steve Bannon, som medejer af Cambridge Analytics, samt at firmaet er finansieret af Mercerfamilien, som var stærke støtter for Trump-kampagnen i 2016, så er magtspillet fuldbragt.

Millioner af amerikanske vælgere og deres venners personlige profiler og adfærd på nettet er blevet analyseret via deres Facebookdata, og på den baggrund har Trump-kampagnen kunnet teste brugen af bestemte udtryk under kampagnen, målrette anvendelsen af bestemte annoncer og tilgangen til bestemte emner.

Og alt sammen har det kunnet personaliseres til den enkelte vælgers foretrukne interesser, følelser og bekymringer. Facebook kan med den måde, vi bevæger os rundt i deres univers, tegne et så tæt psykologisk portræt af hver af os, at det er langt mere vidtgående i registrering end noget andet firmas lige nu.

Når forargelsen over det, der foregår i USA, har lagt sig, og både britiske og amerikanske myndigheder og politikere har stillet Facebook til regnskab for ikke at beskytte kundernes data ordentligt, så står en ting tilbage: Facebook er blevet et suverænt, stærkt politisk våben og en trussel mod vores demokrati.

Adgangen til Facebooks psykologiske profiler på hver af os kan med den rigtige målrettede kommunikation vinde valg, manipulere med holdninger og flytte stemmer.

Det er jo politikerne og deres kampagnechefer i USA såvel som i Danmark, der benytter adgangen til, via køb og brug af Facebookdata, at kommunikere målrettet, segmenteret og differentieret til vælgerne. Niveauet af brug af data kan være mere eller mindre sofistikeret, men vi har for længst overskredet den tærskel, hvor overvågningen og brugen af data blot handler om køn, alder og geografisk placering.

Målingen af vores adfærd på nettet handler om afdækningen af personlige præferencer og psykologiske profiler på alle mulige områder, om hvad vi liker og ikke liker. Hvad vi søger på, og hvad vi sørger over eller glæder os over. Hvad vi foretager os og med hvem.

Facebook stiller annonceredskaber til rådighed, der i dag bringer de politiske partier, også i Danmark, tæt på den målrettede og personaliserede kommunikation. Men Cambridge Analytics gik lige nogle skridt videre end det i deres bestræbelser på at sikre Trump valgsejren, og de høstede data i et endnu dybere lag end det sædvanligt tilgængelige for enhver, der vil lave en annoncekampagne.

Politisk kommunikation har altid handlet om at ramme de rigtige vælgergrupper med de rigtige budskaber og på det rigtige tidspunkt. Metoderne til at gøre det er bare blevet endnu mere sofistikerede end tidligere, og fornemmelsen af overvågning er snublende nær.

Det samme er fornemmelsen af, at politiske budskaber kan bøjes i alle mulige retninger alt efter den modtager, som skal modtage dem, uden at naboen med et andet adfærdsmønster får samme budskab, men måske et helt andet, som rammer præcis hans eller hendes præferencer og bekymringer.

Kan vi lovgive imod at bruge indsamlingen af data til politiske formål og målrettet politisk kommunikation? Det kan vi kun, hvis vi forbyder de politiske partier at bruge den kanal, som internettet og de sociale medier er, til deres budskaber. Det er næppe en fremkommelig vej i 2018.

Kan vi lovgive om større transparens i forhold til at kunne se på de sociale medier, hvem der er afsender på de forskellige budskaber, vi modtager, og hvad de har registreret på os? Det er måske en fremkommelig vej. Kan vi på internationalt plan forlange, at de sociale medier fortæller os, hvornår og til hvem vores data videresælges, og på hvilke betingelser de må anvendes? Ja! Det må være et minimum af en menneskerettighed i 2018.

Er konklusionen, at Facebook destabiliserer demokratiets spilleregler og flytter idealet om en åben, ligeværdig og sund meningsbrydning på månen? Ja, det er sandheden. Nu handler det om, hvem der er bedst til at ramme folks følelser og til at manipulere budskaberne på den rette måde i et uigennemskueligt digitalt overvågningssystem.

Kineserne er på vej til at bruge den slags systemer til at give deres borgere højere eller lavere karakter som gode samfundsborgere eller det modsatte, alt efter hvordan de opfører sig under den statslige overvågning. I Vestens demokratier lader vi et privat selskab stå for overvågningen og sælge oplysningerne til den højestbydende.

Denne artikel har været bragt på altinget.dk den 23.03.2018: https://www.altinget.dk/artikel/lisbeth-knudsen-derfor-er-facebook-en-trussel-mod-demokratiet