Sikkerhedsfirmaet Check Point Research har fundet et sikkerhedshul i ChatGPTs interne system, som har gjort det muligt for angribere at få adgang til data fra en brugers tilknyttede Gmail-konto. Hullet er nu lukket, men det viser en vigtig risiko ved at give AI-assistenter adgang til mails, dokumenter og andre tjenester. Uha uha uha.
Hvad skete der?
Forskerne kunne indsætte en skjult instruktion i en delt ChatGPT-samtale eller i en manipuleret prompt. Når en bruger så åbnede samtalen og sendte en normal besked, besvarede ChatGPT brugeren som normalt, men samtidig udførte den også den skjulte instruktion. Føj!
Fordi brugeren havde forbundet sin Gmail med ChatGPT (og det er der mange brugere der har), kunne AI’en hente oplysninger fra Gmail og sende dem videre til angriberen, uden at brugeren kunne se noget usædvanligt. Den eneste synlige ting var et lille mærke ”Talked to Gmail”, men oplysningerne var allerede læst.
Hvorfor er det vigtigt?
Fejlen er rettet, men situationen illustrerer, at AI-assistenter kan blive misbrugt til at bruge de rettigheder, de allerede har. Jo flere rettigheder og adgang en AI får, jo større bliver konsekvenserne ved et brud. Det kan ramme mails, fortrolige dokumenter, kildekode eller andre følsomme data.
Virksomheder og privatpersoner bør derfor begrænse, hvilke data AI-værktøjer har adgang til, og behandle AI-assistenter som enhver anden bruger med kun nødvendige rettigheder. I det daglige er jeg en smule på Claude, og det er klart at jeg lige vil tjekke efter en ekstra gang, hvis den beder om adgang til et eksternt system.
Gode råd
- Fjern eller begræns forbindelser mellem AI-tjenester og dine mest følsomme konti.
- Giv AI-værktøjer mindst mulige rettigheder (”least privilege”).
- Vær forsigtig med at åbne delte samtaler eller ukendte prompts.
- Hold software og tjenester opdaterede og følg leverandørernes sikkerhedsanbefalinger.
- Overvåg kontobruk og logins for mistænkelig aktivitet.
Nu spørger du måske
Er min Gmail nu kompromitteret?
Fejlen er lukket, men hvis du har forbundet Gmail med ChatGPT og er bekymret, bør du tjekke din kontos aktivitet og adgangslogfiler og fjerne eventuelle tredjepartstilslutninger, du ikke genkender. Skift adgangskode og slå totrinsbekræftelse til, hvis du ikke allerede bruger det.
Kan noget lignende ske igen?
Det kan ske, hvis AI-tjenester får for brede rettigheder eller hvis nye sårbarheder opdages. Derfor er det vigtigt at begrænse adgangen, holde systemer opdaterede og følge bedste praksis for sikkerhed.
Hvad skal virksomheder gøre nu?
Kortlæg hvilke AI-værktøjer medarbejderne bruger, begræns hvilke data og tjenester de har adgang til, behandl AI som en almindelig systembruger med kun nødvendige rettigheder, og indfør overvågning, logging og sikkerhedspolitikker for brug af AI. Det samme bør du gøre som privatperson.
