Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti?

Uvod

Generativna umetna inteligenca – sistemi umetne inteligence, ki so sposobni ustvarjati nove vsebine ali napovedi – se pojavlja kot transformativna sila v kibernetski varnosti. Orodja, kot je OpenAI-jev GPT-4, so dokazala sposobnost analiziranja kompleksnih podatkov in ustvarjanja besedila, podobnega človeku, kar omogoča nove pristope k obrambi pred kibernetskimi grožnjami. Strokovnjaki za kibernetsko varnost in poslovni odločevalci v različnih panogah raziskujejo, kako lahko generativna umetna inteligenca okrepi obrambo pred razvijajočimi se napadi. ​​Od financ in zdravstva do trgovine na drobno in vlade se organizacije v vseh sektorjih soočajo s sofisticiranimi poskusi lažnega predstavljanja, zlonamerno programsko opremo in drugimi grožnjami, ki bi jim lahko generativna umetna inteligenca pomagala preprečiti. V tej beli knjigi preučujemo, kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti , pri čemer poudarjamo aplikacije v resničnem svetu, prihodnje možnosti in pomembne dejavnike za sprejetje.

Generativna umetna inteligenca se od tradicionalne analitične umetne inteligence razlikuje ne le po zaznavanju vzorcev, temveč tudi po ustvarjanju vsebine – pa naj bo to simuliranje napadov za urjenje obrambe ali ustvarjanje razlag v naravnem jeziku za kompleksne varnostne podatke. Zaradi te dvojne zmogljivosti je dvorezen meč: ponuja zmogljiva nova obrambna orodja, vendar jo lahko izkoristijo tudi akterji grožnje. V naslednjih razdelkih bomo raziskali širok spekter primerov uporabe generativne umetne inteligence v kibernetski varnosti, od avtomatizacije odkrivanja lažnega predstavljanja do izboljšanja odzivanja na incidente. Obravnavali bomo tudi prednosti, ki jih obljubljajo te inovacije umetne inteligence, skupaj s tveganji (kot so »halucinacije« umetne inteligence ali zloraba s strani nasprotnikov), ki jih morajo organizacije obvladovati. Nazadnje bomo ponudili praktične nasvete, ki bodo podjetjem pomagali oceniti in odgovorno vključiti generativno umetno inteligenco v njihove strategije kibernetske varnosti.

Generativna umetna inteligenca v kibernetski varnosti: pregled

Generativna umetna inteligenca v kibernetski varnosti se nanaša na modele umetne inteligence – pogosto velike jezikovne modele ali druge nevronske mreže – ki lahko ustvarjajo vpoglede, priporočila, kodo ali celo sintetične podatke za pomoč pri varnostnih nalogah. Za razliko od zgolj napovednih modelov lahko generativna umetna inteligenca simulira scenarije in na podlagi podatkov o učenju ustvari človeku berljive izhode (npr. poročila, opozorila ali celo vzorce zlonamerne kode). Ta zmogljivost se izkorišča za napovedovanje, odkrivanje in odzivanje na grožnje na bolj dinamične načine kot prej ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ). Generativni modeli lahko na primer analizirajo obsežne dnevnike ali repozitorije obveščevalnih podatkov o grožnjah in ustvarijo jedrnat povzetek ali priporočeno dejanje, ki deluje skoraj kot »pomočnik« umetne inteligence za varnostne ekipe.

Zgodnje implementacije generativne umetne inteligence za kibernetsko obrambo so se izkazale za obetavne. Leta 2023 je Microsoft predstavil Security Copilot , pomočnika za varnostne analitike, ki ga poganja GPT-4, in ki pomaga prepoznati kršitve ter pregledati 65 bilijonov signalov, ki jih Microsoft dnevno obdeluje ( Microsoft Security Copilot je nov pomočnik umetne inteligence GPT-4 za kibernetsko varnost | The Verge ). Analitiki lahko ta sistem pozovejo v naravnem jeziku (npr. »Povzemi vse varnostne incidente v zadnjih 24 urah« ), Copilot pa bo ustvaril uporaben pripovedni povzetek. Podobno Googlova umetna inteligenca za obveščanje o grožnjah uporablja generativni model, imenovan Gemini , za omogočanje pogovornega iskanja po Googlovi obsežni zbirki podatkov o grožnjah, hitro analizira sumljivo kodo in povzema ugotovitve, da bi pomagala lovcem na zlonamerno programsko opremo ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Ti primeri ponazarjajo potencial: generativna umetna inteligenca lahko prebavi kompleksne, obsežne podatke o kibernetski varnosti in predstavi vpoglede v dostopni obliki, kar pospeši odločanje.

Hkrati lahko generativna umetna inteligenca ustvari zelo realistične lažne vsebine, kar je blagoslov za simulacijo in usposabljanje (in na žalost za napadalce, ki izdelujejo socialni inženiring). Ko bomo prešli na specifične primere uporabe, bomo videli, da sposobnost generativne umetne inteligence za sintetiziranje in analiziranje informacij podpira njene številne aplikacije na področju kibernetske varnosti. Spodaj se bomo poglobili v ključne primere uporabe, ki segajo od preprečevanja lažnega predstavljanja do varnega razvoja programske opreme, s primeri, kako se vsak od njih uporablja v različnih panogah.

Ključne aplikacije generativne umetne inteligence v kibernetski varnosti

Slika: Ključni primeri uporabe generativne umetne inteligence v kibernetski varnosti vključujejo kopilote umetne inteligence za varnostne ekipe, analizo ranljivosti kode, prilagodljivo odkrivanje groženj, simulacijo napadov ničelnega dne, izboljšano biometrično varnost in odkrivanje lažnega predstavljanja ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ).

Odkrivanje in preprečevanje lažnega predstavljanja

Lažno predstavljanje ostaja ena najbolj razširjenih kibernetskih groženj, ki uporabnike zavaja, da kliknejo zlonamerne povezave ali razkrijejo svoje poverilnice. Generativna umetna inteligenca se uporablja tako za odkrivanje poskusov lažnega predstavljanja kot za izboljšanje usposabljanja uporabnikov za preprečevanje uspešnih napadov. V obrambi lahko modeli umetne inteligence analizirajo vsebino e-pošte in vedenje pošiljateljev, da odkrijejo subtilne znake lažnega predstavljanja, ki jih filtri, ki temeljijo na pravilih, morda spregledajo. Z učenjem iz velikih naborov podatkov o legitimnih in goljufivih e-poštnih sporočilih lahko generativni model označi anomalije v tonu, besedilu ali kontekstu, ki kažejo na prevaro – tudi če slovnica in črkovanje tega ne razkrivata več. Pravzaprav raziskovalci Palo Alto Networks ugotavljajo, da lahko generativna umetna inteligenca prepozna »subtilne znake lažnega predstavljanja e-poštnih sporočil, ki bi sicer lahko ostali neopaženi«, kar organizacijam pomaga, da ostanejo korak pred prevaranti ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ).

Varnostne ekipe uporabljajo tudi generativno umetno inteligenco za simulacijo napadov lažnega predstavljanja za usposabljanje in analizo. Ironscales je na primer predstavil orodje za simulacijo lažnega predstavljanja, ki ga poganja GPT in samodejno ustvarja lažna e-poštna sporočila z lažnim predstavljanjem, prilagojena zaposlenim v organizaciji ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Ta e-poštna sporočila, ki jih ustvari umetna inteligenca, odražajo najnovejše taktike napadalcev in zaposlenim dajejo realistično prakso pri odkrivanju lažnih vsebin. Takšno prilagojeno usposabljanje je ključnega pomena, saj napadalci sami uporabljajo umetno inteligenco za ustvarjanje prepričljivejših vab. Omeniti velja, da čeprav lahko generativna umetna inteligenca ustvari zelo izpopolnjena sporočila z lažnim predstavljanjem (časi zlahka opazne polomljene angleščine so minili), so zagovorniki ugotovili, da umetna inteligenca ni nepremagljiva. Leta 2024 so raziskovalci IBM Security izvedli poskus, v katerem so primerjali e-poštna sporočila z lažnim predstavljanjem, ki jih je napisal človek, z e-poštnimi sporočili, ki jih je ustvarila umetna inteligenca, in »presenetljivo je bilo e-poštna sporočila, ki jih je ustvarila umetna inteligenca, še vedno enostavno zaznati kljub pravilni slovnici« ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). To kaže, da lahko človeška intuicija v kombinaciji z zaznavanjem s pomočjo umetne inteligence še vedno prepozna subtilne nedoslednosti ali signale metapodatkov v prevarah, napisanih z umetno inteligenco.

Generativna umetna inteligenca pomaga pri obrambi pred lažnim predstavljanjem tudi na druge načine. Modeli se lahko uporabijo za ustvarjanje avtomatiziranih odgovorov ali filtrov , ki testirajo sumljiva e-poštna sporočila. Sistem umetne inteligence bi lahko na primer odgovoril na e-poštno sporočilo z določenimi poizvedbami, da bi preveril legitimnost pošiljatelja, ali pa bi uporabil LLM za analizo povezav in prilog e-poštnega sporočila v peskovniku ter nato povzetek morebitnih zlonamernih namenov. Varnostna platforma NVIDIA Morpheus dokazuje moč umetne inteligence na tem področju – uporablja generativne modele NLP za hitro analizo in razvrščanje e-poštnih sporočil, ugotovljeno pa je bilo, da izboljša zaznavanje lažnega predstavljanja za 21 % v primerjavi s tradicionalnimi varnostnimi orodji ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Morpheus celo profilira vzorce komunikacije uporabnikov, da zazna nenavadno vedenje (na primer uporabnik, ki nenadoma pošlje e-pošto na številne zunanje naslove), kar lahko kaže na ogrožen račun, ki pošilja lažna e-poštna sporočila.

V praksi podjetja v različnih panogah začenjajo zaupati umetni inteligenci pri filtriranju e-pošte in spletnega prometa za napade socialnega inženiringa. Finančna podjetja na primer uporabljajo generativno umetno inteligenco za skeniranje komunikacij za poskuse lažnega predstavljanja, ki bi lahko privedli do elektronskih goljufij, medtem ko ponudniki zdravstvenih storitev uporabljajo umetno inteligenco za zaščito podatkov pacientov pred kršitvami, povezanimi z lažnim predstavljanjem. Z ustvarjanjem realističnih scenarijev lažnega predstavljanja in prepoznavanjem značilnosti zlonamernih sporočil generativna umetna inteligenca doda močno plast strategijam preprečevanja lažnega predstavljanja. Bistvo: umetna inteligenca lahko pomaga hitreje in natančneje odkriti in onemogoči napade lažnega predstavljanja , tudi če napadalci uporabljajo isto tehnologijo za izboljšanje svoje igre.

Zaznavanje zlonamerne programske opreme in analiza groženj

Sodobna zlonamerna programska oprema se nenehno razvija – napadalci ustvarjajo nove različice ali zakrivajo kodo, da bi zaobšli protivirusne podpise. Generativna umetna inteligenca ponuja nove tehnike za odkrivanje zlonamerne programske opreme in razumevanje njenega vedenja. Eden od pristopov je uporaba umetne inteligence za ustvarjanje »zlobnih dvojčkov« zlonamerne programske opreme : varnostni raziskovalci lahko v generativni model vnesejo znan vzorec zlonamerne programske opreme, da ustvarijo številne mutirane različice te zlonamerne programske opreme. S tem učinkovito predvidijo spremembe, ki jih lahko naredi napadalec. Te različice, ki jih ustvari umetna inteligenca, se nato lahko uporabijo za učenje protivirusnih sistemov in sistemov za odkrivanje vdorov, tako da se v naravi prepoznajo tudi spremenjene različice zlonamerne programske opreme ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Ta proaktivna strategija pomaga prekiniti cikel, v katerem hekerji nekoliko spremenijo svojo zlonamerno programsko opremo, da se izognejo odkrivanju, branilci pa se morajo vsakič potruditi, da napišejo nove podpise. Kot je bilo omenjeno v enem od industrijskih podcastov, varnostni strokovnjaki zdaj uporabljajo generativno umetno inteligenco za »simulacijo omrežnega prometa in ustvarjanje zlonamernih koristnih tovorov, ki posnemajo sofisticirane napade«, s čimer preizkusijo svojo obrambo pred celo družino groženj in ne le pred enim samim primerkom. To prilagodljivo odkrivanje groženj pomeni, da so varnostna orodja bolj odporna na polimorfno zlonamerno programsko opremo, ki bi sicer prišla skozi.

Poleg zaznavanja generativna umetna inteligenca pomaga tudi pri analizi zlonamerne programske opreme in obratnem inženiringu , ki sta tradicionalno za analitike groženj delovno intenzivni nalogi. Veliki jezikovni modeli so lahko zadolženi za pregled sumljive kode ali skriptov in v preprostem jeziku pojasnjujejo, kaj naj bi koda počela. Primer iz resničnega sveta je VirusTotal Code Insight , funkcija Googlovega VirusTotala, ki uporablja generativni model umetne inteligence (Googleov Sec-PaLM) za ustvarjanje povzetkov potencialno zlonamerne kode v naravnem jeziku ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). V bistvu gre za »vrsto ChatGPT, namenjeno varnostnemu kodiranju«, ki deluje kot analitik zlonamerne programske opreme umetne inteligence, ki dela 24 ur na dan, 7 dni v tednu, da bi pomagal človeškim analitikom razumeti grožnje ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Namesto da bi se poglobljeno ukvarjal z neznano skripto ali binarno kodo, lahko član varnostne ekipe od umetne inteligence dobi takojšnjo razlago – na primer: »Ta skripta poskuša prenesti datoteko s strežnika XYZ in nato spremeniti sistemske nastavitve, kar kaže na vedenje zlonamerne programske opreme.« To dramatično pospeši odzivanje na incidente, saj lahko analitiki triažirajo in razumejo novo zlonamerno programsko opremo hitreje kot kdaj koli prej.

Generativna umetna inteligenca se uporablja tudi za določanje zlonamerne programske opreme v ogromnih naborih podatkov . Tradicionalni protivirusni programi skenirajo datoteke za znane podpise, vendar lahko generativni model oceni značilnosti datoteke in celo napove, ali je zlonamerna na podlagi naučenih vzorcev. Z analizo atributov milijard datotek (zlonamernih in neškodljivih) lahko umetna inteligenca zazna zlonamerne namene, kjer ni eksplicitnega podpisa. Na primer, generativni model lahko označi izvedljivo datoteko kot sumljivo, ker njen profil vedenja »izgleda« kot rahla različica izsiljevalske programske opreme, ki jo je videl med učenjem, čeprav je binarna datoteka nova. To zaznavanje na podlagi vedenja pomaga v boju proti novi ali ničelni zlonamerni programski opremi. Googlova umetna inteligenca za obveščanje o grožnjah (del Chronicle/Mandiant) naj bi uporabljala svoj generativni model za analizo potencialno zlonamerne kode in »učinkovitejšo in uspešnejšo pomoč varnostnim strokovnjakom v boju proti zlonamerni programski opremi in drugim vrstam groženj«. ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ).

Po drugi strani pa moramo priznati, da lahko napadalci tudi tukaj uporabijo generativno umetno inteligenco – za samodejno ustvarjanje zlonamerne programske opreme, ki se prilagaja. Pravzaprav varnostni strokovnjaki opozarjajo, da lahko generativna umetna inteligenca pomaga kibernetskim kriminalcem razviti zlonamerno programsko opremo , ki jo je težje zaznati ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ). Modelu umetne inteligence je mogoče naročiti, naj večkrat spremeni del zlonamerne programske opreme (spreminja njeno strukturo datotek, metode šifriranja itd.), dokler se ne izogne ​​vsem znanim protivirusnim pregledom. Ta nasprotujoča si uporaba je vse bolj zaskrbljujoča (včasih jo imenujemo tudi »zlonamerna programska oprema, ki jo poganja umetna inteligenca« ali polimorfna zlonamerna programska oprema kot storitev). O teh tveganjih bomo razpravljali kasneje, vendar poudarja, da je generativna umetna inteligenca orodje v tej igri mačke in miši, ki jo uporabljajo tako branilci kot napadalci.

Na splošno generativna umetna inteligenca izboljšuje obrambo pred zlonamerno programsko opremo, saj varnostnim ekipam omogoča, da razmišljajo kot napadalec – ustvarjajo nove grožnje in rešitve interno. Ne glede na to, ali gre za ustvarjanje sintetične zlonamerne programske opreme za izboljšanje stopnje odkrivanja ali uporabo umetne inteligence za razlago in omejevanje dejanske zlonamerne programske opreme, najdene v omrežjih, se te tehnike uporabljajo v vseh panogah. Banka lahko uporabi analizo zlonamerne programske opreme, ki jo poganja umetna inteligenca, za hitro analizo sumljivega makra v preglednici, medtem ko se proizvodno podjetje lahko zanaša na umetno inteligenco za odkrivanje zlonamerne programske opreme, ki cilja na industrijske nadzorne sisteme. Z dopolnitvijo tradicionalne analize zlonamerne programske opreme z generativno umetno inteligenco se lahko organizacije na kampanje zlonamerne programske opreme odzovejo hitreje in bolj proaktivno kot prej.

Obveščanje o grožnjah in avtomatizacija analize

Organizacije so vsak dan bombardirane s podatki o grožnjah – od virov novo odkritih indikatorjev kompromitacije (IOC) do poročil analitikov o novih hekerskih taktikah. Izziv za varnostne ekipe je presejanje te poplave informacij in pridobivanje uporabnih vpogledov. Generativna umetna inteligenca se izkazuje za neprecenljivo pri avtomatizaciji analize in uporabe obveščevalnih podatkov o grožnjah . Namesto ročnega branja številnih poročil ali vnosov v zbirko podatkov lahko analitiki uporabijo umetno inteligenco za povzetek in kontekstualizacijo podatkov o grožnjah s hitrostjo stroja.

Konkreten primer je Googlov za obveščanje o grožnjah , ki združuje generativno umetno inteligenco (model Gemini) z Googlovimi zalogami podatkov o grožnjah podjetij Mandiant in VirusTotal. Ta umetna inteligenca omogoča »pogovorno iskanje po Googlovem obsežnem skladišču obveščevalnih podatkov o grožnjah« , kar uporabnikom omogoča, da postavljajo naravna vprašanja o grožnjah in dobijo zgoščene odgovore ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Analitik bi lahko na primer vprašal: »Ali smo opazili kakšno zlonamerno programsko opremo, povezano s skupino groženj X, ki cilja na našo panogo?«, in umetna inteligenca bo pridobila ustrezne podatke, morda z navedbo »Da, skupina groženj X je bila prejšnji mesec povezana s kampanjo lažnega predstavljanja z uporabo zlonamerne programske opreme Y« , skupaj s povzetkom vedenja te zlonamerne programske opreme. To drastično skrajša čas zbiranja vpogledov, ki bi sicer zahteval poizvedovanje po več orodjih ali branje dolgih poročil.

Generativna umetna inteligenca lahko tudi povezuje in povzema trende groženj . Lahko prečeše na tisoče objav na varnostnih blogih, novic o kršitvah in klepetov na temnem spletu ter nato ustvari povzetek »največjih kibernetskih groženj tega tedna« za poročilo direktorja za varnost informacijske tehnologije (CISO). Tradicionalno je ta raven analize in poročanja zahtevala veliko človeškega truda; zdaj lahko dobro uglašen model to pripravi v nekaj sekundah, ljudje pa le še izboljšajo rezultate. Podjetja, kot je ZeroFox, so razvila FoxGPT , generativno orodje umetne inteligence, posebej zasnovano za »pospešitev analize in povzemanja obveščevalnih podatkov v velikih naborih podatkov«, vključno z zlonamerno vsebino in podatki o lažnem predstavljanju ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Z avtomatizacijo težkega dela branja in navzkrižnega sklicevanja na podatke umetna inteligenca omogoča ekipam za obveščevalne dejavnosti o grožnjah, da se osredotočijo na odločanje in odzivanje.

Drug primer uporabe je pogovorno iskanje groženj . Predstavljajte si, da varnostni analitik komunicira s pomočnikom umetne inteligence: »Pokaži mi morebitne znake uhajanja podatkov v zadnjih 48 urah« ali »Katere so najpogostejše nove ranljivosti, ki jih napadalci izkoriščajo ta teden?« Umetna inteligenca lahko interpretira poizvedbo, išče po notranjih dnevnikih ali zunanjih virih obveščevalnih podatkov in odgovori z jasnim odgovorom ali celo seznamom ustreznih incidentov. To ni nemogoče – sodobni sistemi za upravljanje varnostnih informacij in dogodkov (SIEM) začenjajo vključevati poizvedovanje v naravnem jeziku. IBM-ov varnostni paket QRadar bo na primer leta 2024 dodal generativne funkcije umetne inteligence, ki bodo analitikom omogočile »postavljanje […] specifičnih vprašanj o povzetku poti napada« incidenta in pridobivanje podrobnih odgovorov. Prav tako lahko »interpretira in povzema zelo ustrezne obveščevalne podatke o grožnjah« ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). V bistvu generativna umetna inteligenca na zahtevo pretvori gore tehničnih podatkov v vpoglede v velikosti klepeta.

To ima velike posledice za vse panoge. Ponudnik zdravstvenih storitev lahko z umetno inteligenco ostane na tekočem z najnovejšimi skupinami izsiljevalske programske opreme, ki ciljajo na bolnišnice, ne da bi moral analitika nameniti raziskavam s polnim delovnim časom. Vodja varnostnega oddelka maloprodajnega podjetja lahko hitro povzame nove taktike zlonamerne programske opreme za POS, ko obvešča IT-osebje trgovine. V vladi, kjer je treba sintetizirati podatke o grožnjah iz različnih agencij, lahko umetna inteligenca ustvari enotna poročila, ki poudarjajo ključna opozorila. Z avtomatizacijo zbiranja in interpretacije obveščevalnih podatkov o grožnjah generativna umetna inteligenca organizacijam pomaga hitreje odzvati na nastajajoče grožnje in zmanjšuje tveganje, da spregledajo kritična opozorila, skrita v šumu.

Optimizacija varnostnega operativnega centra (SOC)

Centri za varnostne operacije so znani po utrujenosti od opozoril in ogromni količini podatkov. Tipičen analitik v centrih za varnostne operacije (SOC) se lahko vsak dan prebije skozi tisoče opozoril in dogodkov ter preiskuje morebitne incidente. Generativna umetna inteligenca deluje kot multiplikator sile v centrih za varnostne operacije (SOC) z avtomatizacijo rutinskega dela, zagotavljanjem inteligentnih povzetkov in celo orkestriranjem nekaterih odzivov. Cilj je optimizirati delovne procese v centrih za varnostne operacije, tako da se lahko človeški analitiki osredotočijo na najpomembnejša vprašanja, medtem ko kopilot umetne inteligence obravnava ostalo.

Ena glavnih aplikacij je uporaba generativne umetne inteligence kot »analitikovega kopilota« . Microsoftov Security Copilot, omenjen že prej, to ponazarja: »zasnovan je tako, da pomaga varnostnemu analitiku pri delu in ne da bi ga nadomestil«, saj pomaga pri preiskavah in poročanju o incidentih ( Microsoft Security Copilot je nov pomočnik umetne inteligence GPT-4 za kibernetsko varnost | The Verge ). V praksi to pomeni, da lahko analitik vnese surove podatke – dnevnike požarnega zidu, časovnico dogodkov ali opis incidenta – in od umetne inteligence zahteva, naj jih analizira ali povzame. Kopilot lahko izpiše pripoved, kot je: »Zdi se, da je bila ob 2:35 zjutraj na strežniku Y uspešna sumljiva prijava z IP-ja X, ki ji je sledil nenavaden prenos podatkov, kar kaže na morebitno kršitev tega strežnika.« Ta vrsta takojšnje kontekstualizacije je neprecenljiva, ko je čas bistvenega pomena.

Kopiloti z umetno inteligenco pomagajo tudi zmanjšati breme triaže 1. stopnje. Po podatkih iz industrije lahko varnostna ekipa porabi 15 ur na teden samo za sortiranje približno 22.000 opozoril in lažno pozitivnih rezultatov ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Z generativno umetno inteligenco je mogoče mnoga od teh opozoril samodejno triažirati – umetna inteligenca lahko zavrne tista, ki so očitno neškodljiva (z navedeno utemeljitvijo) in poudari tista, ki resnično potrebujejo pozornost, včasih celo predlaga prednostno nalogo. Pravzaprav moč generativne umetne inteligence pri razumevanju konteksta pomeni, da lahko navzkrižno korelira opozorila, ki se sama po sebi morda zdijo neškodljiva, a skupaj kažejo na večstopenjski napad. To zmanjšuje možnost, da bi zaradi »utrujenosti od opozoril« spregledali napad.

Analitiki SOC uporabljajo tudi naravni jezik z umetno inteligenco za pospešitev iskanja in preiskav. Platforma SentinelOne Purple AI na primer združuje vmesnik, ki temelji na LLM, s podatki o varnosti v realnem času, kar analitikom omogoča, da »v preprostem jeziku postavljajo kompleksna vprašanja o iskanju groženj in dobijo hitre in natančne odgovore« ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Analitik lahko vnese: »Ali so kakšne končne točke v zadnjem mesecu komunicirale z domeno badguy123[.]com?« , in Purple AI bo preiskala dnevnike, da bi odgovorila. To analitiku prihrani pisanje poizvedb v zbirko podatkov ali skriptov – umetna inteligenca to počne v »pod pokrovom«. To pomeni tudi, da lahko mlajši analitiki opravljajo naloge, za katere je bil prej potreben izkušen inženir, usposobljen za poizvedbene jezike, kar učinkovito izboljšuje usposobljenost ekipe s pomočjo umetne inteligence . Analitiki dejansko poročajo, da generativno vodenje umetne inteligence »izboljšuje njihove spretnosti in znanje« , saj lahko mlajši zaposleni zdaj od umetne inteligence dobijo podporo pri kodiranju ali analitične nasvete na zahtevo, kar zmanjšuje odvisnost od nenehnega prosanja za pomoč višjih članov ekipe ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ).

Druga optimizacija SOC je avtomatizirano povzemanje in dokumentiranje incidentov . Po obravnavi incidenta mora nekdo napisati poročilo – naloga, ki se mnogim zdi dolgočasna. Generativna umetna inteligenca lahko vzame forenzične podatke (sistemske dnevnike, analizo zlonamerne programske opreme, časovnico ukrepov) in ustvari prvi osnutek poročila o incidentu. IBM to zmogljivost vgrajuje v QRadar, tako da je mogoče z enim samim klikom ustvariti povzetek incidenta za različne deležnike (vodstvo, IT ekipe itd.) ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). To ne le prihrani čas, ampak tudi zagotavlja, da v poročilu ni ničesar spregledano, saj lahko umetna inteligenca dosledno vključi vse pomembne podrobnosti. Prav tako lahko umetna inteligenca za skladnost s predpisi in revidiranje izpolni obrazce ali tabele z dokazi na podlagi podatkov o incidentih.

Rezultati iz resničnega sveta so prepričljivi. Zgodnji uporabniki Swimlaneovega SOAR-ja, ki ga poganja umetna inteligenca (varnostna orkestracija, avtomatizacija in odzivanje), poročajo o ogromnem povečanju produktivnosti – na primer, Global Data Systems je opazil, da je njihova ekipa SecOps obvladala veliko večjo količino primerov; neki direktor je dejal: avtomatizacije, ki jo poganja umetna inteligenca, verjetno potreboval 20 zaposlenih« Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti ). Z drugimi besedami, umetna inteligenca v SOC lahko pomnoži zmogljivost . V različnih panogah, pa naj gre za tehnološko podjetje, ki se ukvarja z varnostnimi opozorili v oblaku, ali za proizvodni obrat, ki spremlja sisteme OT, lahko ekipe SOC z uporabo generativnih pomočnikov umetne inteligence pridobijo hitrejše odkrivanje in odzivanje, manj spregledanih incidentov in učinkovitejše delovanje. Gre za pametnejše delo – omogočanje strojem, da obravnavajo ponavljajoče se in podatkovno zahtevne naloge, da lahko ljudje uporabijo svojo intuicijo in strokovno znanje tam, kjer je to najpomembnejše.

Upravljanje ranljivosti in simulacija groženj

Prepoznavanje in upravljanje ranljivosti – slabosti v programski opremi ali sistemih, ki bi jih napadalci lahko izkoristili – je ključna funkcija kibernetske varnosti. Generativna umetna inteligenca izboljšuje upravljanje ranljivosti s pospeševanjem odkrivanja, pomočjo pri določanju prioritet popravkov in celo simuliranjem napadov na te ranljivosti za izboljšanje pripravljenosti. V bistvu umetna inteligenca pomaga organizacijam hitreje najti in odpraviti luknje v svojem oklepu ter proaktivno testirati obrambo, preden to storijo pravi napadalci.

Ena pomembnih aplikacij je uporaba generativne umetne inteligence za avtomatiziran pregled kode in odkrivanje ranljivosti . Velike kodne baze (zlasti starejše sisteme) pogosto skrivajo varnostne pomanjkljivosti, ki ostanejo neopažene. Modele generativne umetne inteligence je mogoče usposobiti za varne prakse kodiranja in pogoste vzorce hroščev, nato pa jih uporabiti v izvorni kodi ali prevedenih binarnih datotekah, da bi našli morebitne ranljivosti. Raziskovalci NVIDIA so na primer razvili cevovod generativne umetne inteligence, ki bi lahko analiziral starejše programske vsebnike in prepoznal ranljivosti »z visoko natančnostjo – do 4-krat hitreje kot človeški strokovnjaki« ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Umetna inteligenca se je v bistvu naučila, kako izgleda nezaščitena koda, in je lahko pregledala desetletja staro programsko opremo, da bi označila tvegane funkcije in knjižnice, kar je močno pospešilo običajno počasen postopek ročnega revidiranja kode. Tovrstno orodje je lahko prelomnica za panoge, kot sta finance ali vlada, ki se zanašajo na velike, starejše kodne baze – umetna inteligenca pomaga posodobiti varnost tako, da odkrije težave, za katere bi osebje morda potrebovalo mesece ali leta, da bi jih našlo (če sploh kdaj).

Generativna umetna inteligenca pomaga tudi pri delovnih procesih upravljanja ranljivosti z obdelavo rezultatov skeniranja ranljivosti in njihovim določanjem prioritet. Orodja, kot je Tenableov ExposureAI, uporabljajo generativno umetno inteligenco, da analitikom omogočajo, da v preprostem jeziku poizvedujejo o podatkih o ranljivostih in dobijo takojšnje odgovore ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). ExposureAI lahko »povzemi celotno pot napada v pripovedi« za dano kritično ranljivost in pojasni, kako bi jo lahko napadalec povezal z drugimi slabostmi, da bi ogrozil sistem. Priporoča celo ukrepe za odpravo in odgovarja na nadaljnja vprašanja o tveganju. To pomeni, da lahko analitik, ko je objavljena nova kritična CVE (pogoste ranljivosti in izpostavljenosti), vpraša umetno inteligenco: »Ali ta CVE prizadene katerega od naših strežnikov in kakšen je najslabši možni scenarij, če ga ne popravimo?« in prejme jasno oceno, ki temelji na lastnih podatkih skeniranja organizacije. Z umeščanjem ranljivosti v kontekst (npr. ta je izpostavljena internetu in na strežniku z visoko vrednostjo, zato je najvišje prioritete) generativna umetna inteligenca pomaga ekipam pri pametnem popravljanju z omejenimi viri.

Poleg iskanja in upravljanja znanih ranljivosti generativna umetna inteligenca prispeva k testiranju penetracije in simulaciji napadov – v bistvu odkriva neznane ranljivosti ali testira varnostne kontrole. Generativna kontradiktorna omrežja (GAN), vrsta generativne umetne inteligence, so bila uporabljena za ustvarjanje sintetičnih podatkov, ki posnemajo resnični omrežni promet ali vedenje uporabnikov, kar lahko vključuje skrite vzorce napadov. Študija iz leta 2023 je predlagala uporabo GAN-ov za ustvarjanje realističnega prometa napadov ničelnega dne za usposabljanje sistemov za zaznavanje vdorov ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Z dovajanjem scenarijev napadov, ki jih je ustvarila umetna inteligenca (ki ne tvegajo uporabe dejanske zlonamerne programske opreme v produkcijskih omrežjih), lahko organizacije usposobijo svojo obrambo za prepoznavanje novih groženj, ne da bi čakale, da jih te v resnici zadenejo. Podobno lahko umetna inteligenca simulira napadalca, ki preiskuje sistem – na primer samodejno preizkuša različne tehnike izkoriščanja v varnem okolju, da bi videla, ali je katera uspešna. Ameriška agencija za napredne obrambne raziskovalne projekte (DARPA) v tem vidi obetaven potencial: njen izziv umetne inteligence na področju kibernetike leta 2023 izrecno uporablja generativno umetno inteligenco (kot so modeli velikih jezikov) za »samodejno iskanje in odpravljanje ranljivosti v odprtokodni programski opremi« kot del tekmovanja ( DARPA si prizadeva za razvoj umetne inteligence in aplikacij za avtonomijo, ki jim lahko vojaki zaupajo > Ministrstvo za obrambo ZDA > Novice obrambnega ministrstva ). Ta pobuda poudarja, da umetna inteligenca ne pomaga le pri krpanju znanih lukenj; aktivno odkriva nove in predlaga popravke, kar je naloga, ki je tradicionalno omejena na usposobljene (in drage) varnostne raziskovalce.

Generativna umetna inteligenca lahko celo ustvari inteligentne medene posode in digitalne dvojčke za obrambo. Zagonska podjetja razvijajo sisteme vab, ki jih poganja umetna inteligenca in prepričljivo posnemajo prave strežnike ali naprave. Kot je pojasnil neki izvršni direktor, lahko generativna umetna inteligenca »klonira digitalne sisteme, da posnemajo prave in privabijo hekerje« ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Ti medeni posodi, ki jih ustvari umetna inteligenca, se obnašajo kot resnično okolje (recimo lažna naprava interneta stvari, ki pošilja običajno telemetrijo), vendar obstajajo izključno zato, da privabijo napadalce. Ko napadalec cilja na vabo, ga umetna inteligenca v bistvu prelisiči, da razkrije svoje metode, ki jih lahko branilci nato preučijo in uporabijo za okrepitev resničnih sistemov. Ta koncept, ki ga poganja generativno modeliranje, ponuja napreden način, kako obrniti situacijo proti napadalcem z uporabo prevare, ki jo izboljša umetna inteligenca.

V vseh panogah hitrejše in pametnejše upravljanje ranljivosti pomeni manj kršitev. V zdravstveni IT lahko na primer umetna inteligenca hitro odkrije ranljivo zastarelo knjižnico v medicinski napravi in ​​​​sproži popravek vdelane programske opreme, preden jo napadalec izkoristi. V bančništvu lahko umetna inteligenca simulira notranji napad na novo aplikacijo, da zagotovi varnost podatkov strank v vseh scenarijih. Generativna umetna inteligenca tako deluje kot mikroskop in preizkuševalec obremenitve za varnost organizacij: osvetljuje skrite pomanjkljivosti in na domiselne načine pritiska na sisteme, da zagotovi odpornost.

Varno generiranje kode in razvoj programske opreme

Talent generativne umetne inteligence ni omejen le na odkrivanje napadov – segajo tudi na ustvarjanje varnejših sistemov že od samega začetka . Pri razvoju programske opreme lahko generatorji kode umetne inteligence (kot so GitHub Copilot, OpenAI Codex itd.) pomagajo razvijalcem hitreje pisati kodo, tako da predlagajo delčke kode ali celo celotne funkcije. Kibernetski vidik zagotavlja, da so ti deli kode, ki jih predlaga umetna inteligenca, varni, in uporablja umetno inteligenco za izboljšanje praks kodiranja.

Po eni strani lahko generativna umetna inteligenca deluje kot pomočnik pri kodiranju, ki vključuje najboljše varnostne prakse . Razvijalci lahko orodje umetne inteligence pozovejo z ukazom »Ustvari funkcijo za ponastavitev gesla v Pythonu« in idealno dobijo nazaj kodo, ki ni le funkcionalna, ampak tudi sledi varnostnim smernicam (npr. pravilno preverjanje vnosa, beleženje, obravnavanje napak brez uhajanja informacij itd.). Takšen pomočnik, usposobljen za obsežne primere varne kode, lahko pomaga zmanjšati človeške napake, ki vodijo do ranljivosti. Če na primer razvijalec pozabi razkužiti uporabniški vnos (s čimer odpre vrata SQL injekciji ali podobnim težavam), lahko umetna inteligenca to bodisi privzeto vključi bodisi ga opozori. Nekatera orodja za kodiranje umetne inteligence se zdaj izpopolnjujejo s podatki, osredotočenimi na varnost, da bi služila prav temu namenu – v bistvu umetna inteligenca združuje programiranje z varnostno vestjo .

Vendar pa obstaja tudi druga plat: generativna umetna inteligenca lahko prav tako zlahka povzroči ranljivosti, če ni pravilno upravljana. Kot je ugotovil varnostni strokovnjak pri Sophosu Ben Verschaeren, je uporaba generativne umetne inteligence za kodiranje »v redu za kratko, preverljivo kodo, vendar tvegana, ko se nepreverjena koda integrira« v produkcijske sisteme. Tveganje je, da bi umetna inteligenca lahko ustvarila logično pravilno kodo, ki je nezanesljiva na načine, ki jih nestrokovnjak morda ne bi opazil. Poleg tega bi lahko zlonamerni akterji namerno vplivali na javne modele umetne inteligence tako, da bi jih vključili v ranljive vzorce kode (oblika zastrupitve podatkov), tako da bi umetna inteligenca predlagala nezanesljivo kodo. Večina razvijalcev ni varnostnih strokovnjakov , zato če umetna inteligenca predlaga priročno rešitev, jo lahko uporabijo na slepo, ne da bi se zavedali, da ima napako ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). Ta skrb je resnična – pravzaprav zdaj obstaja seznam OWASP Top 10 za LLM (velike jezikovne modele), ki opisuje pogosta tveganja, kot je to pri uporabi umetne inteligence za kodiranje.

Za reševanje teh težav strokovnjaki predlagajo, na področju kodiranja "bojujemo proti generativni umetni inteligenci z generativno umetno inteligenco" pregledovanje in testiranje kode , ki jo je napisala druga umetna inteligenca (ali ljudje). Umetna inteligenca lahko pregleda nove vnose kode veliko hitreje kot človeški pregledovalec kode in označi morebitne ranljivosti ali logične težave. Že vidimo orodja, ki se integrirajo v življenjski cikel razvoja programske opreme: koda je napisana (morda s pomočjo umetne inteligence), nato pa jo generativni model, usposobljen na načelih varne kode, pregleda in ustvari poročilo o morebitnih pomislekih (npr. uporaba zastarelih funkcij, manjkajoča preverjanja pristnosti itd.). Raziskava NVIDIA, omenjena prej, ki je dosegla 4-krat hitrejše odkrivanje ranljivosti v kodi, je primer izkoriščanja umetne inteligence za varno analizo kode ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ).

Poleg tega lahko generativna umetna inteligenca pomaga pri ustvarjanju varnih konfiguracij in skriptov . Če mora na primer podjetje uvesti varno oblačno infrastrukturo, lahko inženir prosi umetno inteligenco, naj ustvari konfiguracijske skripte (infrastruktura kot koda) z vgrajenimi varnostnimi kontrolami (kot so ustrezna segmentacija omrežja, vloge IAM z najmanj privilegiji). Umetna inteligenca, ki je bila usposobljena za tisoče takšnih konfiguracij, lahko ustvari osnovno linijo, ki jo inženir nato natančno prilagodi. To pospeši varno nastavitev sistemov in zmanjša napake zaradi napačne konfiguracije – pogost vir varnostnih incidentov v oblaku.

Nekatere organizacije uporabljajo generativno umetno inteligenco tudi za vzdrževanje baze znanja o varnih vzorcih kodiranja. Če razvijalec ni prepričan, kako varno implementirati določeno funkcijo, lahko poizveduje pri notranji umetni inteligenci, ki se je učila iz preteklih projektov in varnostnih smernic podjetja. Umetna inteligenca lahko vrne priporočen pristop ali celo delček kode, ki je skladen tako s funkcionalnimi zahtevami kot z varnostnimi standardi podjetja. Ta pristop so uporabljala orodja, kot je Secureframeova avtomatizacija vprašalnikov , ki črpa odgovore iz politik podjetja in preteklih rešitev, da zagotovi dosledne in natančne odgovore (v bistvu ustvarja varno dokumentacijo) ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Koncept se prevede kot kodiranje: umetna inteligenca, ki si »zapomni«, kako ste nekaj varno implementirali prej, in vas vodi, da to storite na enak način.

Skratka, generativna umetna inteligenca vpliva na razvoj programske opreme, saj omogoča dostop do varne pomoči pri kodiranju . Industrije, ki razvijajo veliko programske opreme po meri – tehnologija, finance, obramba itd. – imajo lahko koristi od pomoči umetne inteligence, ki ne le pospeši kodiranje, temveč delujejo tudi kot vedno budni pregledovalci varnosti. Ob pravilnem upravljanju lahko ta orodja umetne inteligence zmanjšajo pojav novih ranljivosti in pomagajo razvojnim ekipam, da se držijo najboljših praks, tudi če ekipa nima varnostnega strokovnjaka, ki bi bil vključen v vsak korak. Rezultat je programska oprema, ki je že od prvega dne bolj odporna na napade.

Podpora pri odzivanju na incidente

Ko pride do kibernetskega incidenta – pa naj gre za izbruh zlonamerne programske opreme, kršitev varnosti podatkov ali izpad sistema zaradi napada – je čas ključnega pomena. Generativna umetna inteligenca se vse pogosteje uporablja za podporo ekipam za odzivanje na incidente (IR) pri hitrejšem omejevanju in odpravljanju incidentov z več informacijami na voljo. Ideja je, da lahko umetna inteligenca prevzame del preiskovalnega in dokumentacijskega bremena med incidentom ter celo predlaga ali avtomatizira nekatere ukrepe za odzivanje.

Ena ključnih vlog umetne inteligence v IR je analiza in povzemanje incidentov v realnem času . Sredi incidenta lahko odzivniki potrebujejo odgovore na vprašanja, kot so »Kako je napadalec vstopil?« , »Kateri sistemi so prizadeti?« in »Kateri podatki so lahko ogroženi?« . Generativna umetna inteligenca lahko analizira dnevnike, opozorila in forenzične podatke iz prizadetih sistemov ter hitro zagotovi vpoglede. Na primer, Microsoft Security Copilot odzivniku na incidente omogoča, da posreduje različne dokaze (datoteke, URL-je, dnevnike dogodkov) in zahteva časovnico ali povzetek ( Microsoft Security Copilot je nov pomočnik umetne inteligence GPT-4 za kibernetsko varnost | The Verge ). Umetna inteligenca lahko odgovori z: »Vdor se je verjetno začel z lažnim e-poštnim sporočilom uporabniku JohnDoe ob 10:53 GMT, ki je vsebovalo zlonamerno programsko opremo X. Ko se je zagnala, je zlonamerna programska oprema ustvarila zadnja vrata, ki so bila dva dni pozneje uporabljena za prehod na finančni strežnik, kjer je zbirala podatke.« Če ima ekipa to koherentno sliko v nekaj minutah namesto v urah, se lahko veliko hitreje informirano odloča (na primer, katere sisteme izolirati).

Generativna umetna inteligenca lahko predlaga tudi ukrepe za zadrževanje in sanacijo . Če je na primer končna točka okužena z izsiljevalsko programsko opremo, lahko orodje umetne inteligence ustvari skript ali niz navodil za izolacijo tega računalnika, onemogočanje določenih računov in blokiranje znanih zlonamernih IP-jev na požarnem zidu – v bistvu izvajanje po navodilih. Palo Alto Networks ugotavlja, da je generativna umetna inteligenca sposobna »generirati ustrezna dejanja ali skripte glede na naravo incidenta« , s čimer avtomatizira začetne korake odziva ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ). V scenariju, ko je varnostna ekipa preobremenjena (recimo pri razširjenem napadu na stotine naprav), lahko umetna inteligenca celo neposredno izvede nekatera od teh dejanj pod vnaprej odobrenimi pogoji in deluje kot mlajši odzivnik, ki neutrudno dela. Agent umetne inteligence bi lahko na primer samodejno ponastavil poverilnice, za katere meni, da so bile ogrožene, ali pa dal v karanteno gostitelje, ki kažejo zlonamerno dejavnost, ki se ujema s profilom incidenta.

Med odzivanjem na incident je komunikacija ključnega pomena – tako znotraj ekipe kot z deležniki. Generativna umetna inteligenca lahko pomaga s sprotnim pripravo poročil ali povzetkov o incidentih . Namesto da inženir prekine odpravljanje težav in napiše e-poštno posodobitev, lahko umetno inteligenco prosi: »Povzemite, kaj se je do sedaj zgodilo v tem incidentu, da obvestite vodstvo.« Umetna inteligenca lahko po zaužitju podatkov o incidentu pripravi jedrnat povzetek: »Do 15. ure so napadalci dostopali do 2 uporabniških računov in 5 strežnikov. Prizadeti podatki vključujejo zapise strank v zbirki podatkov X. Zadrževalni ukrepi: Dostop do VPN za ogrožene račune je bil preklican, strežniki pa izolirani. Naslednji koraki: skeniranje morebitnih mehanizmov za ohranjanje delovanja.« Odzvalec lahko nato to hitro preveri ali prilagodi in pošlje, s čimer zagotovi, da so deležniki obveščeni o natančnih in ažurnih informacijah.

Ko se prah polege, je običajno treba pripraviti podrobno poročilo o incidentu in zbrati pridobljene izkušnje. To je še eno področje, kjer podpora umetne inteligence blesti. Pregleda lahko vse podatke o incidentu in ustvari poročilo po incidentu, ki zajema vzrok, kronologijo, vpliv in priporočila. IBM na primer integrira generativno umetno inteligenco, da s pritiskom na gumb »preproste povzetke varnostnih primerov in incidentov, ki jih je mogoče deliti z deležniki« Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Z poenostavitvijo poročanja po ukrepih lahko organizacije hitreje uvedejo izboljšave in imajo tudi boljšo dokumentacijo za namene skladnosti.

Ena inovativna, napredna uporaba so simulacije incidentov, ki jih poganja umetna inteligenca . Podobno kot bi izvajali požarno vajo, nekatera podjetja uporabljajo generativno umetno inteligenco za preizkušanje scenarijev incidentov »kaj-če«. Umetna inteligenca lahko simulira, kako bi se izsiljevalska programska oprema lahko razširila glede na postavitev omrežja ali kako bi lahko notranji uporabnik ukradel podatke, nato pa oceni učinkovitost trenutnih načrtov odzivanja. To ekipam pomaga pri pripravi in ​​izpopolnjevanju načrtov, preden pride do resničnega incidenta. To je kot imeti vedno boljšega svetovalca za odzivanje na incidente, ki nenehno preverja vašo pripravljenost.

V panogah z visokimi vložki, kot sta finance ali zdravstvo, kjer so izpadi ali izguba podatkov zaradi incidentov še posebej dragi, so te zmogljivosti odzivanja na incidente, ki jih poganja umetna inteligenca, zelo privlačne. Bolnišnica, ki doživi kibernetski incident, si ne more privoščiti dolgotrajnih izpadov sistema – umetna inteligenca, ki hitro pomaga pri zajezitvi, lahko dobesedno reši življenje. Podobno lahko finančna institucija uporabi umetno inteligenco za začetno triažo domnevnega vdora goljufije ob 3. uri zjutraj, tako da je do trenutka, ko so dežurni ljudje na spletu, že opravljenega veliko pripravljalnega dela (odjava prizadetih računov, blokiranje transakcij itd.). Z dopolnitvijo ekip za odzivanje na incidente z generativno umetno inteligenco lahko organizacije znatno skrajšajo odzivne čase in izboljšajo temeljitost njihovega obravnavanja, kar na koncu zmanjša škodo zaradi kibernetskih incidentov.

Vedenjska analitika in odkrivanje anomalij

Številne kibernetske napade je mogoče odkriti tako, da opazimo, kdaj nekaj odstopa od »običajnega« vedenja – pa naj gre za uporabniški račun, ki prenaša nenavadno količino podatkov, ali omrežno napravo, ki nenadoma komunicira z neznanim gostiteljem. Generativna umetna inteligenca ponuja napredne tehnike za vedenjsko analizo in odkrivanje anomalij , učenje običajnih vzorcev uporabnikov in sistemov ter nato opozarjanje, ko se zdi nekaj nenavadnega.

Tradicionalno zaznavanje anomalij pogosto uporablja statistične pragove ali preprosto strojno učenje na podlagi določenih metrik (povečanje uporabe procesorja, prijava ob nenavadnih urah itd.). Generativna umetna inteligenca lahko to nadaljuje z ustvarjanjem bolj niansiranih profilov vedenja. Model umetne inteligence lahko na primer sčasoma vnese prijave, vzorce dostopa do datotek in e-poštne navade zaposlenega ter oblikuje večdimenzionalno razumevanje »normalnosti« tega uporabnika. Če ta račun kasneje naredi nekaj drastično izven svoje norme (na primer prijava iz nove države in dostop do zaloge kadrovskih datotek ob polnoči), bi umetna inteligenca zaznala odstopanje ne le na eni metriki, temveč kot celoten vzorec vedenja, ki ne ustreza uporabnikovemu profilu. Tehnično gledano lahko generativni modeli (kot so avtokodirniki ali zaporedni modeli) modelirajo, kako je videti »normalno«, in nato ustvarijo pričakovani obseg vedenja. Ko realnost pade izven tega obsega, se označi kot anomalija ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ).

Ena praktična uporaba je spremljanje omrežnega prometa . Glede na anketo iz leta 2024 je 54 % ameriških organizacij navedlo spremljanje omrežnega prometa kot glavni primer uporabe umetne inteligence v kibernetski varnosti ( Severna Amerika: najboljši primeri uporabe umetne inteligence v kibernetski varnosti po vsem svetu 2024 ). Generativna umetna inteligenca se lahko nauči običajnih komunikacijskih vzorcev v omrežju podjetja – kateri strežniki se običajno pogovarjajo med seboj, kakšne količine podatkov se premikajo med delovnim časom v primerjavi s čez noč itd. Če napadalec začne izluščiti podatke s strežnika, četudi počasi, da bi se izognil odkritju, lahko sistem, ki temelji na umetni inteligenci, opazi, da »strežnik A nikoli ne pošlje 500 MB podatkov ob 2. uri zjutraj na zunanji IP« in sproži opozorilo. Ker umetna inteligenca ne uporablja le statičnih pravil, temveč razvijajoči se model omrežnega vedenja, lahko zazna subtilne anomalije, ki jih statična pravila (kot je »opozorilo, če podatki > X MB«) morda spregledajo ali pomotoma označijo. Zaradi te prilagodljive narave je odkrivanje anomalij, ki ga poganja umetna inteligenca, močno v okoljih, kot so omrežja bančnih transakcij, infrastruktura v oblaku ali flote naprav interneta stvari, kjer je določanje fiksnih pravil za normalno in nenormalno izjemno zapleteno.

Generativna umetna inteligenca pomaga tudi pri analitiki vedenja uporabnikov (UBA) , ki je ključna za odkrivanje notranjih groženj ali ogroženih računov. Z ustvarjanjem osnovne vrednosti za vsakega uporabnika ali entiteto lahko umetna inteligenca zazna stvari, kot je zloraba poverilnic. Če na primer Bob iz računovodstva nenadoma začne poizvedovati po zbirki podatkov o strankah (česar prej ni počel), bo model umetne inteligence za Bobovo vedenje to označil kot nenavadno. Morda ne gre za zlonamerno programsko opremo – lahko gre za primer kraje in uporabe Bobovih poverilnic s strani napadalca ali pa za Bobovo preiskovanje tam, kjer ne bi smel. V vsakem primeru je varnostna ekipa opozorjena, da lahko to razišče. Takšni sistemi UBA, ki jih poganja umetna inteligenca, obstajajo v različnih varnostnih izdelkih, tehnike generativnega modeliranja pa povečujejo njihovo natančnost in zmanjšujejo lažne alarme z upoštevanjem konteksta (morda je Bob na posebnem projektu itd., kar lahko umetna inteligenca včasih sklepa iz drugih podatkov).

Na področju upravljanja identitet in dostopa odkrivanje globokih ponaredkov vse bolj potrebno – generativna umetna inteligenca lahko ustvari sintetične glasove in videoposnetke, ki zavajajo biometrično varnost. Zanimivo je, da lahko generativna umetna inteligenca pomaga tudi pri odkrivanju teh globokih ponaredkov z analizo subtilnih artefaktov v zvoku ali videoposnetku, ki jih ljudje težko opazijo. Videli smo primer pri podjetju Accenture, ki je z generativno umetno inteligenco simuliralo nešteto izrazov obraza in pogojev, da bi usposobilo svoje biometrične sisteme za razlikovanje resničnih uporabnikov od globokih ponaredkov, ki jih je ustvarila umetna inteligenca. V petih letih je ta pristop podjetju Accenture pomagal odpraviti gesla za 90 % svojih sistemov (s prehodom na biometrijo in druge dejavnike) in zmanjšati napade za 60 % ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). V bistvu so z generativno umetno inteligenco okrepili biometrično avtentikacijo, s čimer so jo naredili odporno na generativne napade (odličen primer boja umetne inteligence proti umetni inteligenci). Tovrstno vedenjsko modeliranje – v tem primeru prepoznavanje razlike med živim človeškim obrazom in obrazom, ki ga je sintetizirala umetna inteligenca – je ključnega pomena, saj se pri avtentikaciji vse bolj zanašamo na umetno inteligenco.

Zaznavanje anomalij, ki ga poganja generativna umetna inteligenca, je uporabno v vseh panogah: v zdravstvu pri spremljanju vedenja medicinskih pripomočkov za odkrivanje znakov vdora; v financah pri opazovanju trgovalnih sistemov za odkrivanje nepravilnih vzorcev, ki bi lahko kazali na goljufijo ali algoritmično manipulacijo; v energetiki/javnih storitvah pri opazovanju signalov nadzornih sistemov za odkrivanje znakov vdorov. Kombinacija širine (pregled vseh vidikov vedenja) in globine (razumevanje kompleksnih vzorcev) , ki jo zagotavlja generativna umetna inteligenca, jo naredi močno orodje za odkrivanje kazalnikov kibernetskega incidenta, ki kažejo na iglo v senu. Ko grožnje postajajo vse bolj prikrite in se skrivajo med običajnim delovanjem, postane ta sposobnost natančne opredelitve »normalnega« in opozarjanja, ko nekaj odstopa, ključnega pomena. Generativna umetna inteligenca tako služi kot neutrudni stražar, ki se nenehno uči in posodablja svojo definicijo normalnosti, da bi sledila spremembam v okolju, in opozarja varnostne ekipe na anomalije, ki si zaslužijo natančnejši pregled.

Priložnosti in koristi generativne umetne inteligence v kibernetski varnosti

Uporaba generativne umetne inteligence v kibernetski varnosti prinaša številne priložnosti in koristi za organizacije, ki so pripravljene sprejeti ta orodja. Spodaj povzemamo ključne prednosti, zaradi katerih je generativna umetna inteligenca prepričljiv dodatek k programom kibernetske varnosti:

• Hitrejše zaznavanje in odzivanje na grožnje: Generativni sistemi umetne inteligence lahko v realnem času analizirajo ogromne količine podatkov in prepoznajo grožnje veliko hitreje kot ročna človeška analiza. Ta prednost v hitrosti pomeni zgodnejše odkrivanje napadov in hitrejše omejevanje incidentov. V praksi lahko varnostno spremljanje, ki ga poganja umetna inteligenca, zazna grožnje, za katere bi ljudje potrebovali veliko več časa za povezovanje. Z odzivanjem na incidente (ali celo samostojnim izvajanjem začetnih odzivov) lahko organizacije drastično skrajšajo čas zadrževanja napadalcev v svojih omrežjih in tako zmanjšajo škodo.

• Izboljšana natančnost in pokritost groženj: Ker se generativni modeli nenehno učijo iz novih podatkov, se lahko prilagodijo razvijajočim se grožnjam in zaznajo subtilnejše znake zlonamerne dejavnosti. To vodi do izboljšane natančnosti zaznavanja (manj lažno negativnih in lažno pozitivnih rezultatov) v primerjavi s statičnimi pravili. Na primer, umetna inteligenca, ki se je naučila značilnosti lažnega predstavljanja e-pošte ali vedenja zlonamerne programske opreme, lahko prepozna različice, ki jih še nikoli ni bilo. Rezultat je širša pokritost vrst groženj – vključno z novimi napadi – kar krepi splošno varnostno držo. Varnostne ekipe pridobijo tudi podrobne vpoglede iz analize umetne inteligence (npr. razlage vedenja zlonamerne programske opreme), kar omogoča natančnejšo in ciljno usmerjeno obrambo ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ).

• Avtomatizacija ponavljajočih se opravil: Generativna umetna inteligenca blesti pri avtomatizaciji rutinskih, delovno intenzivnih varnostnih opravil – od pregledovanja dnevnikov in sestavljanja poročil do pisanja skriptov za odzivanje na incidente. Ta avtomatizacija zmanjšuje obremenitev človeških analitikov in jim omogoča, da se osredotočijo na strategijo na visoki ravni in kompleksno odločanje ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ). Vsakdanja, a pomembna opravila, kot so skeniranje ranljivosti, revizija konfiguracije, analiza dejavnosti uporabnikov in poročanje o skladnosti, lahko opravi (ali vsaj pripravi prve osnutke) umetna inteligenca. Z obravnavanjem teh opravil s hitrostjo stroja umetna inteligenca ne le izboljša učinkovitost, temveč tudi zmanjša človeške napake (pomemben dejavnik pri kršitvah).

• Proaktivna obramba in simulacija: Generativna umetna inteligenca organizacijam omogoča prehod iz reaktivne v proaktivno varnost. Z uporabo tehnik, kot so simulacija napadov, generiranje sintetičnih podatkov in usposabljanje na podlagi scenarijev, lahko branilci predvidijo in se pripravijo na grožnje, preden se uresničijo v resničnem svetu. Varnostne ekipe lahko simulirajo kibernetske napade (phishing kampanje, izbruhe zlonamerne programske opreme, DDoS itd.) v varnih okoljih, da preizkusijo svoje odzive in okrepijo morebitne slabosti. To nenehno usposabljanje, ki ga je pogosto nemogoče temeljito izvesti samo s človeškim naporom, ohranja obrambo ostro in posodobljeno. Podobno je kibernetski »gasilski vaji« – umetna inteligenca lahko vaši obrambi prinese številne hipotetične grožnje, da lahko vadite in se izboljšujete.

• Povečanje človeškega strokovnega znanja (umetna inteligenca kot multiplikator moči): Generativna umetna inteligenca deluje kot neutrudni mlajši analitik, svetovalec in pomočnik v enem. Manj izkušenim članom ekipe lahko zagotovi smernice in priporočila, ki se običajno pričakujejo od izkušenih strokovnjakov, s čimer učinkovito demokratizira strokovno znanje v ekipi ( 6 primerov uporabe generativne umetne inteligence v kibernetski varnosti [+ primeri] ). To je še posebej dragoceno glede na pomanjkanje talentov v kibernetski varnosti – umetna inteligenca pomaga manjšim ekipam narediti več z manj. Izkušeni analitiki pa imajo koristi od umetne inteligence, ki se ukvarja z najtežjim delom in odkriva neočitne vpoglede, ki jih lahko nato potrdijo in ukrepajo. Skupni rezultat je varnostna ekipa, ki je veliko bolj produktivna in sposobna, pri čemer umetna inteligenca povečuje vpliv vsakega človeškega člana ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti ).

• Izboljšana podpora odločanju in poročanje: Z jasnim prevajanjem tehničnih podatkov v vpoglede v naravni jezik generativna umetna inteligenca izboljša komunikacijo in odločanje. Vodje varnostnih oddelkov dobijo jasnejši vpogled v težave prek povzetkov, ki jih ustvari umetna inteligenca, in lahko sprejemajo informirane strateške odločitve, ne da bi morali razčlenjevati surove podatke. Prav tako se izboljša medfunkcijska komunikacija (z vodstvom, uradniki za skladnost itd.), ko umetna inteligenca pripravi lahko razumljiva poročila o varnostnem stanju in incidentih ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). To ne le gradi zaupanje in usklajenost glede varnostnih zadev na ravni vodstva, temveč tudi pomaga upravičiti naložbe in spremembe z jasnim izražanjem tveganj in vrzeli, ki jih je odkrila umetna inteligenca.

Te prednosti skupaj pomenijo, da lahko organizacije, ki uporabljajo generativno umetno inteligenco v kibernetski varnosti, dosežejo močnejšo varnostno držo s potencialno nižjimi operativnimi stroški. Lahko se odzovejo na grožnje, ki so bile prej ogromne, pokrijejo vrzeli, ki niso bile nadzorovane, in se nenehno izboljšujejo s pomočjo povratnih zank, ki jih poganja umetna inteligenca. Konec koncev generativna umetna inteligenca ponuja priložnost, da prehitite nasprotnike, saj hitrost, obseg in prefinjenost sodobnih napadov uskladite z enako dovršeno obrambo. Kot je pokazala ena anketa, več kot polovica poslovnih in kibernetskih vodij pričakuje hitrejše odkrivanje groženj in večjo natančnost z uporabo generativne umetne inteligence ( [PDF] Global Cybersecurity Outlook 2025 | Svetovni gospodarski forum ) ( Generative AI in Cybersecurity: A Comprehensive Review of LLM ... ) – kar priča o optimizmu glede prednosti teh tehnologij.

Tveganja in izzivi uporabe generativne umetne inteligence v kibernetski varnosti

Čeprav so priložnosti pomembne, je ključnega pomena, da se k generativni umetni inteligenci v kibernetski varnosti pristopi z odprtimi očmi za tveganja in izzive . Slepo zaupanje v umetno inteligenco ali njena zloraba lahko povzroči nove ranljivosti. Spodaj opisujemo glavne pomisleke in pasti ter kontekst za vsako od njih:

• Uporaba v nasprotju s strani kibernetskih kriminalcev: Iste generativne zmogljivosti, ki pomagajo branilcem, lahko opolnomočijo napadalce. Akterji grožnje že uporabljajo generativno umetno inteligenco za ustvarjanje prepričljivejših lažnih e-poštnih sporočil, ustvarjanje lažnih person in videoposnetkov z globokimi ponaredi za socialni inženiring, razvoj polimorfne zlonamerne programske opreme, ki se nenehno spreminja, da bi se izognila odkrivanju, in celo avtomatizacijo vidikov hekanja ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ). Skoraj polovica (46 %) vodij na področju kibernetske varnosti je zaskrbljenih, da bo generativna umetna inteligenca vodila do naprednejših nasprotniških napadov ( Generativna varnost umetne inteligence: trendi, grožnje in strategije za ublažitev ). Ta »oboroževalna tekma umetne inteligence« pomeni, da ko branilci sprejmejo umetno inteligenco, napadalci ne bodo veliko zaostajali (pravzaprav so morda na nekaterih področjih pred njimi, saj uporabljajo neregulirana orodja umetne inteligence). Organizacije morajo biti pripravljene na grožnje, okrepljene z umetno inteligenco, ki so pogostejše, sofisticirane in jih je težje izslediti.

• Halucinacije in netočnost umetne inteligence: Generativni modeli umetne inteligence lahko ustvarijo izhode, ki so verjetni, vendar napačni ali zavajajoči – pojav, znan kot halucinacija. V varnostnem kontekstu lahko umetna inteligenca analizira incident in zmotno sklepa, da je bil vzrok določena ranljivost, ali pa ustvari napačen skript za sanacijo, ki ne more zadržati napada. Te napake so lahko nevarne, če jih jemljemo dobesedno. Kot opozarja NTT Data, »lahko generativna umetna inteligenca verjetno izpiše neresnično vsebino, ta pojav pa se imenuje halucinacije ... trenutno jih je težko popolnoma odpraviti« ( Varnostna tveganja generativne umetne inteligence in protiukrepov ter njen vpliv na kibernetsko varnost | Skupina NTT DATA ). Prekomerno zanašanje na umetno inteligenco brez preverjanja lahko privede do napačno usmerjenih prizadevanj ali lažnega občutka varnosti. Umetna inteligenca lahko na primer lažno označi kritični sistem kot varen, čeprav ni, ali pa, nasprotno, sproži paniko z »zaznavanjem« kršitve, ki se ni nikoli zgodila. Za ublažitev tega tveganja je bistvenega pomena stroga validacija izhodov umetne inteligence in vključevanje ljudi v zanko kritičnih odločitev.

• Lažno pozitivni in negativni rezultati: V povezavi s halucinacijami lahko model umetne inteligence, če je slabo usposobljen ali konfiguriran, pretirano poroča o neškodljivi dejavnosti kot zlonamerni (lažno pozitivni rezultati) ali, še huje, spregleda resnične grožnje (lažno negativni rezultati) ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti ). Prekomerno število lažnih opozoril lahko preobremeni varnostne ekipe in povzroči utrujenost od opozoril (kar izniči prav tiste izboljšave učinkovitosti, ki jih je obljubila umetna inteligenca), medtem ko zgrešena zaznavanja organizacijo izpostavijo. Iskanje pravega ravnovesja pri generativnih modelih je izziv. Vsako okolje je edinstveno in umetna inteligenca morda ne bo takoj delovala optimalno. Tudi nenehno učenje je dvorezen meč – če se umetna inteligenca uči iz izkrivljenih povratnih informacij ali iz okolja, ki se spreminja, lahko njena natančnost niha. Varnostne ekipe morajo spremljati delovanje umetne inteligence in prilagajati pragove ali zagotavljati korektivne povratne informacije modelom. V kontekstih z visokimi vložki (kot je zaznavanje vdorov v kritično infrastrukturo) je morda preudarno, da se predlogi umetne inteligence nekaj časa izvajajo vzporedno z obstoječimi sistemi, da se zagotovi, da se uskladijo in dopolnjujejo, namesto da bi bili v konfliktu.

• Zasebnost in uhajanje podatkov: Generativni sistemi umetne inteligence pogosto zahtevajo velike količine podatkov za učenje in delovanje. Če so ti modeli v oblaku ali niso ustrezno izolirani, obstaja tveganje, da bi lahko uhajale občutljive informacije. Uporabniki lahko nenamerno vnesejo lastniške podatke ali osebne podatke v storitev umetne inteligence (pomislite, da bi ChatGPT prosil, naj povzema zaupno poročilo o incidentu), ti podatki pa bi lahko postali del znanja modela. Nedavna študija je dejansko pokazala, da je 55 % vhodnih podatkov v generativna orodja umetne inteligence vsebovalo občutljive ali osebno določljive podatke , kar vzbuja resne pomisleke glede uhajanja podatkov ( Varnost generativne umetne inteligence: trendi, grožnje in strategije za ublažitev ). Poleg tega, če je bila umetna inteligenca usposobljena za interne podatke in je bila po njej izvedena določena vprašanja, lahko posreduje nekomu drugemu. Organizacije morajo izvajati stroge politike ravnanja s podatki (npr. uporaba lokalnih ali zasebnih primerkov umetne inteligence za občutljivo gradivo) in zaposlene izobraževati o tem, da ne smejo vnašati tajnih informacij v javna orodja umetne inteligence. V poštev pridejo tudi predpisi o zasebnosti (GDPR itd.) – uporaba osebnih podatkov za učenje umetne inteligence brez ustreznega soglasja ali zaščite bi lahko bila v nasprotju z zakoni.

• Varnost in manipulacija modelov: Generativni modeli umetne inteligence lahko sami postanejo tarče. Nasprotniki lahko poskušajo zastrupiti modele , tako da med fazo učenja ali preusposabljanja vnašajo zlonamerne ali zavajajoče podatke, tako da se umetna inteligenca nauči napačnih vzorcev ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti ). Napadalec lahko na primer subtilno zastrupi obveščevalne podatke o grožnjah, tako da umetna inteligenca ne prepozna napadalčeve lastne zlonamerne programske opreme kot zlonamerne. Druga taktika je vbrizgavanje prompta ali manipulacija izhodov , kjer napadalec najde način, kako umetni inteligenci izdati vhodne podatke, zaradi katerih se obnaša nepredvideno – morda da prezre varnostne ograje ali razkrije informacije, ki jih ne bi smela (kot so notranji pozivi ali podatki). Poleg tega obstaja tveganje izogibanja modelom : napadalci ustvarjajo vhodne podatke, posebej zasnovane za prevaro umetne inteligence. To vidimo v primerih nasprotovanja – rahlo moteni podatki, ki jih človek vidi kot normalne, vendar jih umetna inteligenca napačno razvrsti. Zagotavljanje varnosti dobavne verige umetne inteligence (celovitost podatkov, nadzor dostopa do modelov, testiranje robustnosti v nasprotju s konkurenco) je nov, a nujen del kibernetske varnosti pri uvajanju teh orodij ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ).

• Prekomerno zanašanje in erozija znanj in spretnosti: Obstaja manjše tveganje, da bi se organizacije lahko preveč zanašale na umetno inteligenco in pustile, da človeške spretnosti atrofirajo. Če bodo mlajši analitiki slepo zaupali rezultatom umetne inteligence, morda ne bodo razvili kritičnega mišljenja in intuicije, ki ju potrebujejo, ko umetna inteligenca ni na voljo ali se moti. Scenarij, ki se mu je treba izogniti, je varnostna ekipa, ki ima odlična orodja, vendar nima pojma, kako delovati, če ta orodja odpovejo (podobno kot piloti, ki se preveč zanašajo na avtopilota). Redne vaje usposabljanja brez pomoči umetne inteligence in spodbujanje miselnosti, da je umetna inteligenca pomočnik in ne nezmotljiv orakelj, so pomembne za ohranjanje ostrine človeških analitikov. Ljudje morajo ostati končni odločevalci, zlasti pri odločitvah z velikim vplivom.

• Etični izzivi in ​​izzivi skladnosti: Uporaba umetne inteligence v kibernetski varnosti sproža etična vprašanja in bi lahko sprožila težave s skladnostjo s predpisi. Če na primer sistem umetne inteligence zaradi anomalije napačno označi zaposlenega za zlonamernega notranjega uporabnika, bi to lahko neupravičeno škodovalo ugledu ali karieri te osebe. Odločitve, ki jih sprejema umetna inteligenca, so lahko nepregledne (problem »črne skrinjice«), zaradi česar je revizorjem ali regulatorjem težko razložiti, zakaj so bili sprejeti določeni ukrepi. Ker postaja vsebina, ki jo ustvarja umetna inteligenca, vse bolj razširjena, je zagotavljanje preglednosti in ohranjanje odgovornosti ključnega pomena. Regulatorji začenjajo natančno preučevati umetno inteligenco – zakon EU o umetni inteligenci bo na primer uvedel zahteve za »visoko tvegane« sisteme umetne inteligence, umetna inteligenca na področju kibernetske varnosti pa bi lahko spadala v to kategorijo. Podjetja se bodo morala znajti v teh predpisih in se po možnosti držati standardov, kot je okvir NIST za upravljanje tveganj za umetno inteligenco, da bi lahko odgovorno uporabljala generativno umetno inteligenco ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Skladnost se nanaša tudi na licenciranje: uporaba odprtokodnih ali modelov tretjih oseb lahko vsebuje pogoje, ki omejujejo določene uporabe ali zahtevajo izboljšave deljenja.

Skratka, generativna umetna inteligenca ni čarobna rešitev – če se ne izvaja skrbno, lahko povzroči nove slabosti, medtem ko rešuje druge. Študija Svetovnega gospodarskega foruma iz leta 2024 je poudarila, da ~47 % organizacij navaja napredek generativne umetne inteligence s strani napadalcev kot glavno skrb, zaradi česar je to »najbolj zaskrbljujoč vpliv generativne umetne inteligence« na kibernetsko varnost ( [PDF] Global Cybersecurity Outlook 2025 | Svetovni gospodarski forum ) ( Generativna umetna inteligenca v kibernetski varnosti: celovit pregled LLM ... ). Organizacije morajo zato sprejeti uravnotežen pristop: izkoristiti prednosti umetne inteligence, hkrati pa dosledno obvladovati ta tveganja z upravljanjem, testiranjem in človeškim nadzorom. V nadaljevanju bomo razpravljali o tem, kako to ravnovesje doseči v praksi.

Prihodnost: Razvoj vloge generativne umetne inteligence v kibernetski varnosti

V prihodnosti bo generativna umetna inteligenca postala sestavni del strategije kibernetske varnosti – in prav tako orodje, ki ga bodo kibernetski nasprotniki še naprej izkoriščali. Dinamika igre mačke in miši se bo pospešila, umetna inteligenca pa bo na obeh straneh ograje. Tukaj je nekaj vpogledov v prihodnost, kako bi lahko generativna umetna inteligenca v prihodnjih letih oblikovala kibernetsko varnost:

• Kibernetska obramba, razširjena z umetno inteligenco, postane standard: Do leta 2025 in pozneje lahko pričakujemo, da bo večina srednje velikih in velikih organizacij v svoje varnostne operacije vključila orodja, ki jih poganja umetna inteligenca. Tako kot so protivirusni programi in požarni zidovi danes standardni, bodo morda tudi kopiloti umetne inteligence in sistemi za zaznavanje anomalij postali osnovne komponente varnostnih arhitektur. Ta orodja bodo verjetno postala bolj specializirana – na primer, različni modeli umetne inteligence, natančno nastavljeni za varnost v oblaku, za spremljanje naprav interneta stvari, za varnost kode aplikacij itd., vsi pa bodo delovali usklajeno. Kot je zapisano v eni od napovedi, bo »leta 2025 generativna umetna inteligenca sestavni del kibernetske varnosti, kar bo organizacijam omogočilo proaktivno obrambo pred sofisticiranimi in razvijajočimi se grožnjami« ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti ). Umetna inteligenca bo izboljšala zaznavanje groženj v realnem času, avtomatizirala številne odzivne ukrepe in pomagala varnostnim ekipam upravljati veliko večje količine podatkov, kot bi jih lahko ročno.

• Neprekinjeno učenje in prilagajanje: Prihodnji generativni sistemi umetne inteligence v kibernetskem prostoru se bodo izboljšali pri sproti učenju iz novih incidentov in obveščevalnih podatkov o grožnjah ter posodabljali svojo bazo znanja skoraj v realnem času. To bi lahko privedlo do resnično prilagodljive obrambe – predstavljajte si umetno inteligenco, ki zjutraj izve za novo phishing kampanjo, ki je prizadela drugo podjetje, in je do popoldneva že prilagodila e-poštne filtre vašega podjetja kot odgovor. Varnostne storitve umetne inteligence v oblaku bi lahko olajšale tovrstno kolektivno učenje, kjer anonimizirani vpogledi ene organizacije koristijo vsem naročnikom (podobno kot delitev obveščevalnih podatkov o grožnjah, vendar avtomatizirano). Vendar bo to zahtevalo previdno ravnanje, da se izognemo deljenju občutljivih informacij in preprečimo napadalcem, da bi v skupne modele vnesli slabe podatke.

• Konvergenca talentov za umetno inteligenco in kibernetsko varnost: Nabor znanj in spretnosti strokovnjakov za kibernetsko varnost se bo razvijal in vključeval znanje umetne inteligence in podatkovne znanosti. Tako kot se današnji analitiki učijo jezikov za poizvedbe in skriptov, bodo jutrišnji analitiki morda redno izpopolnjevali modele umetne inteligence ali pisali »priročnike« za izvajanje umetne inteligence. Morda bomo videli nove vloge, kot sta »trener za varnost umetne inteligence« ali »inženir umetne inteligence za kibernetsko varnost« – ljudje, ki so specializirani za prilagajanje orodij umetne inteligence potrebam organizacije, potrjevanje njihove učinkovitosti in zagotavljanje varnega delovanja. Po drugi strani pa bodo vidiki kibernetske varnosti vse bolj vplivali na razvoj umetne inteligence. Sistemi umetne inteligence bodo zgrajeni z varnostnimi funkcijami od začetka navzgor (varna arhitektura, zaznavanje nedovoljenih posegov, dnevniki revizije za odločitve umetne inteligence itd.), ogrodja za zaupanja vredno umetno inteligenco (poštena, razložljiva, robustna in varna) pa bodo vodila njihovo uporabo v varnostno kritičnih kontekstih.

• Bolj sofisticirani napadi, ki jih poganja umetna inteligenca: Žal se bo z umetno inteligenco razvijala tudi pokrajina groženj. Pričakujemo pogostejšo uporabo umetne inteligence za odkrivanje ranljivosti ničtega dne, za ustvarjanje visoko ciljno usmerjenega lažnega predstavljanja (npr. umetna inteligenca, ki strga družbene medije za ustvarjanje popolnoma prilagojene vabe) in za ustvarjanje prepričljivih globoko ponarejenih glasov ali videoposnetkov za izogibanje biometrični avtentikaciji ali goljufijam. Pojavili bi se lahko avtomatizirani hekerski agenti, ki lahko samostojno izvajajo večstopenjske napade (izvidovanje, izkoriščanje, lateralno premikanje itd.) z minimalnim človeškim nadzorom. To bo prisililo branilce, da se zanašajo tudi na umetno inteligenco – v bistvu avtomatizacija proti avtomatizaciji . Nekateri napadi se lahko zgodijo s hitrostjo stroja, na primer boti umetne inteligence, ki poskušajo tisoč permutacij lažnega predstavljanja e-pošte, da bi videli, katera preide filtre. Kibernetska obramba bo morala delovati s podobno hitrostjo in prilagodljivostjo, da bo sledila ( Kaj je generativna umetna inteligenca v kibernetski varnosti? - Palo Alto Networks ).

• Regulacija in etična umetna inteligenca na področju varnosti: Ko se bo umetna inteligenca vse bolj vpletala v funkcije kibernetske varnosti, bo prišlo do večjega nadzora in morebitne regulacije, da se zagotovi odgovorna uporaba teh sistemov umetne inteligence. Pričakujemo lahko okvire in standarde, specifične za umetno inteligenco na področju varnosti. Vlade bi lahko določile smernice za preglednost – npr. zahtevale, da pomembnih varnostnih odločitev (kot je prekinitev dostopa zaposlenega zaradi suma zlonamerne dejavnosti) ne more sprejeti umetna inteligenca sama brez človeškega pregleda. Morda bodo obstajali tudi certifikati za varnostne izdelke umetne inteligence, ki kupcem zagotavljajo, da je bila umetna inteligenca ocenjena glede pristranskosti, robustnosti in varnosti. Poleg tega bi se lahko razširilo mednarodno sodelovanje glede kibernetskih groženj, povezanih z umetno inteligenco; na primer sporazumi o ravnanju z dezinformacijami, ki jih ustvarja umetna inteligenca, ali norme proti določenemu kibernetskemu orožju, ki ga poganja umetna inteligenca.

• Integracija s širšimi ekosistemi umetne inteligence in IT: Generativna umetna inteligenca v kibernetski varnosti se bo verjetno integrirala z drugimi sistemi umetne inteligence in orodji za upravljanje IT. Na primer, umetna inteligenca, ki upravlja optimizacijo omrežja, bi lahko sodelovala z varnostno umetno inteligenco, da bi zagotovila, da spremembe ne odpirajo vrzeli. Poslovna analitika, ki jo poganja umetna inteligenca, bi lahko delila podatke z varnostnimi umetnimi inteligencami, da bi povezala anomalije (kot je nenaden padec prodaje z morebitno težavo s spletnim mestom zaradi napada). V bistvu umetna inteligenca ne bo živela v silosu – bo del večje inteligentne strukture delovanja organizacije. To odpira priložnosti za celostno upravljanje tveganj, kjer bi lahko umetna inteligenca združila operativne podatke, podatke o grožnjah in celo podatke o fizični varnosti, da bi zagotovila 360-stopinjski pregled nad varnostnim stanjem organizacije.

Dolgoročno upamo, da bo generativna umetna inteligenca pomagala prevesiti tehtnico v korist zagovornikov. Z obvladovanjem obsega in kompleksnosti sodobnih IT-okolj lahko umetna inteligenca naredi kibernetski prostor bolj obramben. Vendar je to pot in pri izpopolnjevanju teh tehnologij ter učenju ustreznega zaupanja vnje se bodo pojavljale težave. Organizacije, ki so obveščene in vlagajo v odgovorno uvajanje umetne inteligence za varnost, bodo verjetno tiste, ki se bodo najbolje znale spopasti z grožnjami prihodnosti.

Kot je bilo zapisano v nedavnem poročilu Gartnerja o trendih kibernetske varnosti, »pojav generativnih primerov uporabe (in tveganj) umetne inteligence ustvarja pritisk na preobrazbo« ( Trendi kibernetske varnosti: Odpornost skozi preobrazbo - Gartner ). Tisti, ki se bodo prilagodili, bodo umetno inteligenco izkoristili kot močnega zaveznika; tisti, ki bodo zaostajali, bodo morda prehiteli nasprotniki, ki jih bo opolnomočila umetna inteligenca. Naslednjih nekaj let bo ključnih pri opredeljevanju, kako bo umetna inteligenca preoblikovala kibernetsko bojišče.

Praktični nasveti za uporabo generativne umetne inteligence v kibernetski varnosti

Za podjetja, ki ocenjujejo, kako izkoristiti generativno umetno inteligenco v svoji strategiji kibernetske varnosti, je tukaj nekaj praktičnih spoznanj in priporočil za odgovorno in učinkovito uvedbo:

1. Začnite z izobraževanjem in usposabljanjem: Zagotovite, da vaša varnostna ekipa (in širše osebje IT) razume, kaj generativna umetna inteligenca zmore in česa ne. Zagotovite usposabljanje o osnovah varnostnih orodij, ki jih poganja umetna inteligenca, in posodobite svoje programe ozaveščanja o varnosti za vse zaposlene, da bodo zajemali grožnje, ki jih omogoča umetna inteligenca. Na primer, poučite osebje, kako lahko umetna inteligenca ustvari zelo prepričljive prevare z lažnim predstavljanjem in lažne klice. Hkrati usposobite zaposlene za varno in odobreno uporabo orodij umetne inteligence pri njihovem delu. Dobro obveščeni uporabniki manj verjetno napačno ravnajo z umetno inteligenco ali postanejo žrtve napadov, okrepljenih z umetno inteligenco ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ).

2. Določite jasne politike uporabe umetne inteligence: Z generativno umetno inteligenco ravnajte kot s katero koli zmogljivo tehnologijo – z upravljanjem. Razvijte politike, ki določajo, kdo lahko uporablja orodja umetne inteligence, katera orodja so odobrena in za kakšne namene. Vključite smernice za ravnanje z občutljivimi podatki (npr. prepoved posredovanja zaupnih podatkov zunanjim storitvam umetne inteligence), da preprečite uhajanje. Na primer, lahko dovolite, da le člani varnostne ekipe uporabljajo notranjega pomočnika umetne inteligence za odzivanje na incidente, trženje pa lahko uporablja preverjeno umetno inteligenco za vsebino – vsi ostali so omejeni. Številne organizacije zdaj v svojih politikah IT izrecno obravnavajo generativno umetno inteligenco, vodilni organi za standardizacijo pa spodbujajo politike varne uporabe namesto popolnih prepovedi ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Poskrbite, da bodo ta pravila in utemeljitev zanje seznanjeni z vsemi zaposlenimi.

3. Zmanjšajte »senčno umetno inteligenco« in spremljajte uporabo: Podobno kot pri senčni IT se »senčna umetna inteligenca« pojavi, ko zaposleni začnejo uporabljati orodja ali storitve umetne inteligence brez vednosti IT-oddelka (npr. razvijalec uporablja nepooblaščenega pomočnika za kodiranje umetne inteligence). To lahko prinese neopazna tveganja. Izvedite ukrepe za odkrivanje in nadzor nedovoljene uporabe umetne inteligence . Spremljanje omrežja lahko označi povezave s priljubljenimi API-ji umetne inteligence, ankete ali revizije orodij pa lahko razkrijejo, kaj zaposleni uporabljajo. Ponudite odobrene alternative, da dobronamerni zaposleni ne bodo v skušnjavi, da bi šli po zlu (na primer, zagotovite uradni račun ChatGPT Enterprise, če se ljudem zdi koristen). Z razkritjem uporabe umetne inteligence lahko varnostne ekipe ocenijo in upravljajo tveganje. Ključnega pomena je tudi spremljanje – čim bolj natančno beležite dejavnosti in rezultate orodij umetne inteligence, da obstaja revizijska sled za odločitve, na katere je vplivala umetna inteligenca ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ).

4. Izkoristite umetno inteligenco v obrambi – ne zaostajajte: Zavedajte se, da bodo napadalci uporabljali umetno inteligenco, zato bi jo morala uporabljati tudi vaša obramba. Določite nekaj področij z velikim vplivom, kjer bi generativna umetna inteligenca lahko takoj pomagala vašim varnostnim operacijam (morda triaža opozoril ali avtomatizirana analiza dnevnikov) in zaženite pilotne projekte. Izboljšajte svojo obrambo s hitrostjo in obsegom umetne inteligence, da se boste lahko spopadli s hitro spreminjajočimi se grožnjami ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Tudi preproste integracije, kot je uporaba umetne inteligence za povzemanje poročil o zlonamerni programski opremi ali ustvarjanje poizvedb za iskanje groženj, lahko analitikom prihranijo ure. Začnite z majhnimi koraki, ocenite rezultate in ponovite. Uspehi bodo okrepili argumente za širšo uporabo umetne inteligence. Cilj je uporabiti umetno inteligenco kot multiplikator sile – če na primer napadi lažnega predstavljanja preobremenjujejo vašo službo za pomoč uporabnikom, uvedite klasifikator e-pošte z umetno inteligenco, da proaktivno zmanjšate ta obseg.

5. Investirajte v varne in etične prakse umetne inteligence: Pri uvajanju generativne umetne inteligence upoštevajte varne prakse razvoja in uvajanja. Za občutljive naloge uporabljajte zasebne ali samostojno gostovane modele, da ohranite nadzor nad podatki. Če uporabljate storitve umetne inteligence tretjih oseb, preglejte njihove varnostne in zasebne ukrepe (šifriranje, politike hrambe podatkov itd.). Vključite ogrodja za upravljanje tveganj umetne inteligence (kot je okvir za upravljanje tveganj umetne inteligence NIST ali smernice ISO/IEC), da sistematično obravnavate stvari, kot so pristranskost, razložljivost in robustnost v svojih orodjih umetne inteligence ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti? 10 primerov iz resničnega sveta ). Načrtujte tudi posodobitve/popravke modelov kot del vzdrževanja – modeli umetne inteligence imajo lahko tudi »ranljivosti« (npr. morda jih bo treba ponovno usposabljati, če začnejo odstopati ali če se odkrije nova vrsta nasprotnega napada na model). Z vključevanjem varnosti in etike v uporabo umetne inteligence gradite zaupanje v rezultate in zagotavljate skladnost z nastajajočimi predpisi.

6. Obveščajte ljudi: Uporabite umetno inteligenco za pomoč pri človeški presoji na področju kibernetske varnosti, ne pa za popolno nadomestitev. Določite točke odločanja, kjer je potrebna človeška potrditev (na primer, umetna inteligenca lahko pripravi poročilo o incidentu, vendar ga analitik pregleda pred distribucijo; ali pa lahko umetna inteligenca predlaga blokiranje uporabniškega računa, vendar človek to dejanje odobri). To ne le preprečuje, da bi napake umetne inteligence ostale nepreverjene, temveč tudi pomaga vaši ekipi, da se uči od umetne inteligence in obratno. Spodbujajte sodelovalni potek dela: analitiki bi se morali počutiti udobno pri preverjanju rezultatov umetne inteligence in izvajanju preverjanj razumnosti. Sčasoma lahko ta dialog izboljša tako umetno inteligenco (s povratnimi informacijami) kot tudi veščine analitikov. V bistvu zasnujte svoje procese tako, da se umetna inteligenca in človeške prednosti dopolnjujejo – umetna inteligenca obravnava količino in hitrost, ljudje pa dvoumnost in končne odločitve.

7. Merjenje, spremljanje in prilagajanje: Nenazadnje obravnavajte svoja generativna orodja umetne inteligence kot žive komponente vašega varnostnega ekosistema. Nenehno merite njihovo učinkovitost – ali zmanjšujejo čas odzivanja na incidente? Ali zgodaj zaznavajo grožnje? Kakšen je trend stopnje lažno pozitivnih rezultatov? Pridobite povratne informacije od ekipe: ali so priporočila umetne inteligence koristna ali povzročajo šum? Uporabite te metrike za izboljšanje modelov, posodabljanje podatkov o usposabljanju ali prilagajanje načina integracije umetne inteligence. Kibernetske grožnje in poslovne potrebe se razvijajo, zato je treba vaše modele umetne inteligence redno posodabljati ali ponovno usposabljati, da ostanejo učinkoviti. Imejte načrt za upravljanje modela, vključno s tem, kdo je odgovoren za njegovo vzdrževanje in kako pogosto se pregleduje. Z aktivnim upravljanjem življenjskega cikla umetne inteligence zagotovite, da ostane prednost in ne obveznost.

Skratka, generativna umetna inteligenca lahko znatno izboljša zmogljivosti kibernetske varnosti, vendar uspešna uvedba zahteva premišljeno načrtovanje in stalen nadzor. Podjetja, ki izobražujejo svoje ljudi, postavljajo jasne smernice in integrirajo umetno inteligenco na uravnotežen in varen način, bodo požela sadove hitrejšega in pametnejšega upravljanja groženj. Ta spoznanja zagotavljajo načrt: združite človeško strokovno znanje z avtomatizacijo umetne inteligence, pokrijte osnove upravljanja in ohranite agilnost, saj se tehnologija umetne inteligence in okolje groženj neizogibno razvijata.

S temi praktičnimi koraki lahko organizacije samozavestno odgovorijo na vprašanje »Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti?« – ne le v teoriji, temveč tudi v vsakodnevni praksi – in s tem okrepijo svojo obrambo v našem vse bolj digitalnem svetu, ki ga poganja umetna inteligenca. ( Kako se lahko generativna umetna inteligenca uporablja v kibernetski varnosti )

Bele knjige, ki jih boste morda želeli prebrati po tem:

🔗 Delovna mesta, ki jih umetna inteligenca ne more nadomestiti, in katera delovna mesta bo umetna inteligenca nadomestila?
Raziščite globalni pogled na to, katera delovna mesta so varna pred avtomatizacijo in katera ne.

🔗 Ali lahko umetna inteligenca napove gibanje na borzi?
Podrobnejši pogled na omejitve, preboje in mite o sposobnosti umetne inteligence za napovedovanje gibanja na trgu.

🔗 Na kaj se lahko zanesemo z generativno umetno inteligenco brez človeškega posredovanja?
Razumeti, kje lahko umetna inteligenca deluje samostojno in kje je človeški nadzor še vedno bistven.