Er AI fremtiden?

Vi elsker AI. Og netop derfor tillader vi os at være ærlige om, hvad det faktisk er, og hvad det ikke er. For hype og frygt er to sider af samme mønt, og ingen af dem fører os et fornuftigt sted hen.

En kritisk og teknisk gennemgang af kunstig intelligens fra Windfeld Jensen Co.

Hvad er AI egentlig?

Kunstig intelligens er ikke en ting. Det er en samlebetegnelse for systemer, der kan udføre opgaver, som normalt kræver menneskelig intelligens: genkende mønstre, forudsige næste skridt, generere tekst, billeder eller beslutninger. Bag de fleste moderne AI-systemer ligger neurale netværk: matematiske strukturer, løseligt inspireret af hjernens opbygning, trænet på enorme mængder data.

Den AI, vi taler om i dag, ChatGPT, Claude, Gemini og lignende, er en såkaldt stor sprogmodel (LLM). Den er ikke intelligent i menneskelig forstand. Den forudser statistisk det mest sandsynlige næste ord, baseret på al den tekst, den er blevet fodret med. Det lyder banalt. Resultatet er det ikke.

En LLM ved ikke, hvad den siger. Men den er blevet så god til at sige det, at det næsten er ligegyldigt, indtil det ikke er.

Hvor bruges AI i dag?

AI er allerede overalt. De fleste ligger bare ikke mærke til det. Spam-filteret i din indbakke er AI. Anbefalingerne på Netflix og Spotify er AI. Røntgenbilleder, der analyseres for kræft: AI. Navigationssystemer, der forudsiger trafik: AI. Ansigtsgenkendelse i din telefon: AI.

Og så er der selvfølgelig den store bølge af generative AI-værktøjer, dem vi taler med, tegner med og skriver med. De er kommet ind ad hoveddøren og er ikke på vej ud igen.

Hvad er AI god til: det rigtige udgangspunkt

AI er ekstraordinært god til at behandle store mængder information hurtigt. At finde mønstre i data, som ingen mennesker ville have tålmodighed til at gennemse. At generere et første udkast, et startpunkt, en ide. At oversætte. At opsummere. At hjælpe dem, der ikke ved, hvad de ikke ved.

Det rigtige udgangspunkt for AI er som assistent, ikke som autoritet. Som forstærker af menneskelig kapacitet, ikke som erstatning for menneskelig dømmekraft. En dygtig læge, der bruger AI til at sikre, at hun ikke overser noget, er et stærkt billede på teknologiens potentiale. En sagsbehandler, der blindt stoler på en algoritmes afgørelse, er et skrækbillede.

AI er et redskab. Et usædvanligt kraftfuldt redskab. Men redskaber er ufarlige. Det er intentionerne bag dem, der afgør, om de bygger eller ødelægger.

Det kritiske og det farlige ved AI

Her er vi nødt til at skrue ned for begejstringen. For der er reelle problemer, og de er ikke små.

For det første: hallucination. AI-systemer finder på. De genererer svar, der lyder autoritative, men er direkte forkerte. Juridiske referencer, der ikke eksisterer. Medicinske råd, der er farlige. Historiske fakta, der er opfundet. Og de gør det med den samme selvsikre tone, som når de har ret.

For det andet: bias. Disse systemer er trænet på menneskelige data, og mennesker diskriminerer. Og det gør dataen også. Ansigtsgenkendelsessystemer, der har sværere ved at genkende mørke ansigter. Kreditvurderingsalgoritmer, der systematisk trækker i den forkerte retning for bestemte grupper. Rekrutteringsværktøjer, der scorer ansøgere efter, hvor meget de ligner tidligere ansættelser, og derved forstærker de samme mønstre igen og igen.

AI er ikke neutral. Det afspejler præcis de fordomme, dataene og de designbeslutninger, der er lagt ind i det. Og fordi systemet fremstår objektivt, er det sværere at udfordre end et menneske, der siger det samme.

For det tredje: koncentration af magt. Fem til ti teknologivirksomheder, primært amerikanske, kontrollerer i dag infrastrukturen bag den globale AI-udvikling. Det er en historisk koncentration af teknologisk magt, og dens konsekvenser er endnu ikke fuldt ud synlige.

For det fjerde: jobmarkedet. AI vil ikke erstatte alle jobs, men det vil dramatisk omforme dem. Og historisk er det altid dem med mindst ressourcer, der rammes hårdest i teknologiske omstillinger.

Hvorfor elsker folk det?

Fordi det virker. For første gang i teknologihistorien er der et system, du kan tale med på dit eget sprog, og som svarer fornuftigt. Det er ikke nødvendigvis intelligent, men det er tilgængeligt. Det nedbryder en barriere mellem menneske og computer, som vi har kæmpet med i årtier.

For programmøren: AI skriver koden hurtigere, end hun kan tænke den. For studenten: AI forklarer, hvad læreren ikke havde tid til. For iværksætteren uden økonomi til konsulenter: AI er rådgiver, jurist og tekstforfatter på en gang. Det er demokratiseringen af adgang til viden, og det er reelt.

Og så er der noget meget mere primitivt: det er fascinerende. Det er næsten magisk. Og mennesker elsker magi.

Hvorfor er folk kritiske og bange?

Frygt for det ukendte er menneskelig. Men frygten for AI er ikke irrationel. Den er bare ofte rettet forkert.

Mange frygter den superintelligente robot fra science fiction. Den er ikke det umiddelbare problem. Det umiddelbare problem er mere prosaisk: at vi ruller teknologien ud, inden vi forstår den. At vi lader profit drive hastigheden. At regulering er bagud. At ingen kan forklare, hvorfor AI traf en bestemt beslutning, ikke engang dem, der byggede den.

Desinformation er en reel frygt. Deepfakes er allerede et problem. Det er automatiseret manipulation af valg, diskurser og virkelighed. Det er ikke fremtidsscenarier. Det sker nu. Og det sker hurtigere, end vores institutioner kan følge med.

Sikkerhed og AI

AI-sikkerhed er et felt i sig selv. Det handler om to ting, der ofte forveksles: cybersikkerhed med AI, og sikkerhed i AI-systemer.

AI bruges allerede til at opdage angreb, identificere sårbarheder og beskytte netværk hurtigere end nogen menneskelig analytiker kan. Det er ægte fremskridt. Men de samme evner bruges til at angribe. Til at generere phishing-mails, der er umulige at skelne fra rigtige. Til at finde huller i systemer i en skala, der ikke var mulig før.

Og så er der spørgsmålet om AI-systemernes egen sikkerhed. Hvad sker der, når vi giver AI-systemer kontrol over kritisk infrastruktur, elnet, vandforsyning, finanssystemer? Hvad sker der, når de fejler? Hvad sker der, når de manipuleres? Vi ved det faktisk ikke med sikkerhed. Og det er et problem.

Forskning i AI-sikkerhed, hvad der i feltet kaldes alignment, handler om at sikre, at AI-systemer gør det, vi faktisk ønsker, og ikke bare det, vi bad dem om. Det er et af de seriøse videnskabelige problemer i vores tid, og det er ikke løst.

AI og krig

Dette er det mørkeste kapitel. Og det korteste, ikke fordi det er uvæsentligt, men fordi det er tungt nok til at bære sin egen artikel.

Autonome våbensystemer eksisterer. Droner, der selv vælger og angriber mål. Systemer, der analyserer slagmarksdata og anbefaler eller træffer beslutninger om liv og død. Det er ikke fremtid. Det er nutid. Israel, USA, Rusland, Kina og Tyrkiet investerer alle massivt.

Ingen international aftale forbyder autonome dødelige våbensystemer. FN diskuterer det. Mens de diskuterer, bygges de. Det er måske den mest presserende etiske og geopolitiske udfordring, AI stiller os over for.

Hvem er ansvarlig, når en autonom drone dræber den forkerte person? Ingen kan svare klart. Og det burde holde os vågne om natten.

Sådan tænker vi om det

Hos Windfeld Jensen Co. behandler vi AI som et værktøj blandt mange. Nogle gange hører det hjemme i produktet. Nogle gange i workflowet. Nogle gange hører det slet ikke hjemme.

Vi starter med arbejdet, menneskerne, der udfører det, og det resultat virksomheden har brug for. Derefter vurderer vi, om AI tilføjer klarhed, eller kun tilføjer kompleksitet.

Sådan undgår vi at bygge imponerende demoer, som ingen har lyst til at bruge seks måneder senere.

Er AI fremtiden?

Ja. Men det siger ikke særlig meget. Elektricitet var fremtiden. Internettet var fremtiden. Det interessante spørgsmål er ikke om, men hvilken fremtid.

AI er ikke en kraft med sin egen vilje. Det er teknologi, der afspejler de valg, vi træffer: om hvem der ejer den, hvem der regulerer den, hvem der har adgang til den, og hvad vi bruger den til. Den fremtid, AI skaber, er den fremtid, vi vælger at skabe med den.

Vi er optimister, af den hårde slags. Den slags, der ved, at teknologi ikke automatisk gør verden bedre, men tror, at den kan, hvis vi er bevidste og kræsne og politisk engagerede nok til at insistere på det.

AI kan hjælpe os med at bekæmpe klimaforandringer. Det kan demokratisere adgang til uddannelse og sundhedspleje. Det kan frigøre mennesker fra kedsommelige opgaver og give dem tid til det, der er menneskeligt. Det kan gøre os klogere, hurtigere og mere kreative.

Men det kan også koncentrere magt hos de få. Det kan forgifte den offentlige samtale. Det kan bruges som et våben. Det kan erodere det tillidsgrundlag, demokratier hviler på.

Fremtiden med AI er ikke skrevet endnu. Den skrives nu, af ingeniørerne, der bygger systemerne, af politikerne, der regulerer dem, af journalisterne, der stiller spørgsmål til dem, og af borgerne, der bruger dem, eller afviser dem. Det valg er vores, endnu. Brug det.