ChatGPT og den nye AI-en skaper kaos innen cybersikkerhet på spennende og skremmende måter

Generativ kunstig intelligens transformerer cybersikkerhet og hjelper både angripere og forsvarere. Cyberkriminelle utnytter AI til å lansere sofistikerte og innovative angrep i stor skala. Og forsvarere bruker den samme teknologien til å beskytte kritisk infrastruktur, statlige organisasjoner og bedriftsnettverk, sier Christopher Ahlberg, administrerende direktør for trusselinformasjonsplattformen Recorded Future.

Generativ AI har hjulpet onde aktører med å innovere og utvikle nye angrepsstrategier, noe som gjør det mulig for dem å ligge ett steg foran cybersikkerhetsforsvar. AI hjelper cyberkriminelle med å automatisere angrep, skanne angrepsflater og generere innhold som resonerer med ulike geografiske områder og demografiske grupper, slik at de kan rette seg mot et bredere spekter av potensielle ofre i ulike land. Cyberkriminelle har adoptert teknologien for å lage overbevisende phishing-e-poster. AI-generert tekst hjelper angripere med å produsere svært personlige e-poster og tekstmeldinger som er mer sannsynlig å villede målene.

"Jeg tror du ikke trenger å tenke veldig kreativt for å forstå at dette faktisk kan hjelpe [cyberkriminelle] bli forfattere, og det er et problem," sa Ahlberg.

Forsvarere benytter AI for å avverge angrep. Organisasjoner bruker teknologien for å forebygge lekkasjer og oppdage nettverkssårbarheter på en proaktiv måte. Det automatiserer også oppgaver som å sette opp varsler for spesifikke nøkkelord og oppdage sensitiv informasjon på nettet. Trusseljegere bruker AI til å identifisere unormale mønstre og oppsummere store mengder data, og koble sammen informasjon fra flere kilder og skjulte mønstre.

Arbeidet krever fortsatt menneskelige eksperter, men Ahlberg sier at den generative AI-teknologien vi ser i prosjekter som ChatGPT kan være til hjelp.

"Vi ønsker å fremskynde analyseprosessen for å hjelpe oss med å analysere i samme tempo som tankene," sa han. "Det er veldig vanskelig å oppnå, og jeg tror vi ser en gjennombrudd her, noe som er ganske spennende."

Ahlberg diskuterte også de potensielle truslene som svært intelligente maskiner kan bringe med seg. Ettersom verden blir stadig mer digital og sammenkoblet, kan evnen til å bøye virkeligheten og forme oppfatninger bli utnyttet av ondsinnede aktører. Disse truslene er ikke begrenset til nasjoner, noe som gjør landskapet enda mer komplekst og asymmetrisk.

AI har potensialet til å hjelpe med å beskytte mot disse nye truslene, men det bringer også med seg sin egen sett med risikoer. For eksempel kan maskiner med høy prosesseringskapasitet hacke systemer raskere og mer effektivt enn mennesker. For å motvirke disse truslene må vi sørge for at AI brukes defensivt og med en klar forståelse av hvem som er i kontroll.

I takt med at AI blir mer integrert i samfunnet, er det viktig for lovgivere, dommere og andre beslutningstakere å forstå teknologien og dens konsekvenser. Det vil være avgjørende å bygge sterke allianser mellom tekniske eksperter og politiske beslutningstakere for å navigere fremtiden for AI i trusseljakt og utover.

AI sine muligheter, utfordringer og etiske hensyn innen cybersikkerhet er komplekse og utvikler seg. Å sikre ubegrunnete AI-modeller og opprettholde menneskelig involvering i beslutningsprosesser vil bidra til å håndtere etiske utfordringer. Våkenhet, samarbeid og en klar forståelse av teknologien vil være avgjørende for å adressere de potensielle langvarige truslene fra svært intelligente maskiner.

Ahlberg uttrykte også bekymring for Kina, Russland og økonomiske motstandere som bruker autonome maskiner. Disse landene vil sannsynligvis ikke bremse utviklingen av AI eller dele etiske vurderinger. Selv om det er smart å ha muligheten til å "koble ut" slike maskiner som et sikkerhetstiltak, foreslår han at integrasjonen av teknologi i samfunnet og den globale økonomien gjør det vanskelig å skille seg. Ahlberg understreker behovet for å utforme produkter og maskiner med klarhet om hvem som kontrollerer dem.

"Det store som internett gjorde i alt dette er at internett på en måte ble stedet der all verdens informasjon migrerte," sa Ahlberg. "Disse store språkmodellene gjør ganske magiske ting… for å fremskynde den tenkende syklusen."

Han la til, "De neste 25 årene blir verden en refleksjon av internett."