AI je nazvan ‘nuklearnom’ prijetnjom kibernetičkoj sigurnosti. Ali može se koristiti i za obranu

Budući da mnoge tvrtke oklijevaju dopustiti zaposlenicima koji se bave kibernetičkom sigurnošću korištenje AI alata u svom radu, strahujući da je to područje neregulirano i još uvijek nedovoljno razvijeno, ključni mislioci iz raznih industrija nedavno su napisali otvoreno pismo u kojem zahtijevaju zaustavljanje eksperimenata AI naprednijih od ChatGPT-4.

Neki čak kažu da pismo nije dovoljno i da društvo nije spremno nositi se s razgranavanjem umjetne inteligencije.

Nažalost, Pandorina kutija je već otvorena, a oni koji se pretvaraju da možemo poništiti bilo koju od ovih inovacija su u zabludi.

Ni to nije novi izum: godinama smo u interakciji s ograničenim modelima.

Možete li izbrojati koliko puta ste upotrijebili chatbot web stranice, svog pametnog pomoćnika ili kućni uređaj poput Alexe?

AI se infiltrirao u naše živote baš kao što su prije njega internet, pametni telefoni i oblak. Strah je opravdan, ali tvrtke bi trebale biti zabrinute zbog kibernetičkih kriminalaca te napretka i sve veće sofisticiranosti njihovih napada.

Nadmašeni i nadmudreni

Hakeri koji koriste ChatGPT brži su i sofisticiraniji nego prije, a analitičari kibernetičke sigurnosti koji nemaju pristup sličnim alatima vrlo brzo mogu biti nadmašeni i nadmudreni od strane napadača potpomognutih umjetnom inteligencijom.

Oni koriste ChatGPT za generiranje koda za phishing e-poštu, zlonamjerni softver, alate za šifriranje, pa čak i stvaranje mračnih web tržišta.

Mogućnosti za hakere da koriste AI su beskrajne, a kao rezultat toga, mnogi analitičari također pribjegavaju neovlaštenoj upotrebi AI sustava samo kako bi obavili svoj posao.

Prema HelpNet Security, 96% stručnjaka za sigurnost poznaje nekoga tko koristi neovlaštene alate unutar njihove organizacije, a 80% priznalo je da i sami koriste zabranjene alate.

To dokazuje da je umjetna inteligencija već široko korišteno sredstvo u industriji kibernetičke sigurnosti, uglavnom zbog nužde.

Sudionici ankete čak su rekli “da bi se odlučili za neovlaštene alate zbog boljeg korisničkog sučelja (47%), specijaliziranijih mogućnosti (46%) i omogućavanja učinkovitijeg rada (44%).”

Fatalni nedostaci koji se mogu iskoristiti

Korporacije pokušavaju shvatiti upravljanje oko umjetne inteligencije, ali dok to čine, njihovi zaposlenici očito prkose pravilima i moguće ugrožavaju poslovanje tvrtke.

Prema Cyberhaven studiji od 1,6 milijuna radnika, 3,1% unosi povjerljive informacije o tvrtki u ChatGPT. Iako se broj čini malim, 11% pitanja korisnika uključuje privatne podatke.

To može uključivati ​​imena, brojeve socijalnog osiguranja, interne datoteke tvrtke i druge povjerljive informacije.

ChatGPT uči iz svakog razgovora koji vodi sa svojim korisnicima i može povratiti korisničke informacije ako se ispravno ispita.

Ovo je kobna greška za korporativnu upotrebu s obzirom na to kako hakeri mogu manipulirati sustavom da im da prethodno skrivene informacije.

Još važnije, AI će također znati sigurnosne mehanizme koje tvrtka ima kada je ugrađena na korporativni poslužitelj.

Naoružan tim informacijama, napadač bi mogao uspješno dobiti i distribuirati povjerljive informacije.

Ne možemo zaustaviti inovacije

Bilo da se radi o oblaku ili internetu, integracija novih tehnologija uvijek je izazivala kontroverze i oklijevanje.

No zaustaviti inovaciju nemoguće je kada su kriminalci dobili pristup naprednim alatima koji praktički rade posao umjesto njih.

Kako bi ispravno riješili ovaj problem oko sigurnosti našeg društva, tvrtke moraju primijeniti prethodna pravila upravljanja na AI.

Ponovno korištenje povijesno dokazanih postupaka omogućilo bi tvrtkama da uhvate korak sa svojim napadačima i uklone neravnotežu moći.

Pojednostavljena regulativa među stručnjacima za kibernetičku sigurnost omogućila bi tvrtkama da nadgledaju koje alate zaposlenici koriste, kada ih koriste i koje se informacije unose.

Ugovori između pružatelja tehnologije i organizacija također su uobičajeni za korištenje korporativnog oblaka i mogu se primijeniti na maglovitu sferu umjetne inteligencije.

Možemo samo stvoriti sigurna, kontrolirana okruženja

Prešli smo točku s koje nema povratka, a kritičko usvajanje naše je jedino rješenje za život u svijetu koji pokreće AI.

Povećana inovativnost, povećana javna dostupnost i jednostavnost korištenja dali su kibernetičkim kriminalcima prednost koju je teško preokrenuti.

Kako bi promijenile stvari, tvrtke moraju prihvatiti AI u sigurnom, kontroliranom okruženju.

Naprednu tehnologiju gotovo je nemoguće kontrolirati, a analitičari kibernetičke sigurnosti moraju naučiti kako se njome koristiti odgovorno.

Obuka zaposlenika i razvoj poslovnih alata ojačali bi postupke kibernetičke sigurnosti sve dok industrijski div poput Microsofta ne upotrijebi sličan nedavno najavljenom alatu za sigurnosnu analizu Security Copilot za transformaciju industrije.

U međuvremenu, tvrtke moraju prestati zabijati glavu u pijesak, nadajući se da će se stvarnost promijeniti.

Stvari će postati distopijske ako organizacije nastave ignorirati sveprisutne probleme umjesto da se bave neugodnim svijetom koji smo stvorili.

Rodrigo Loureiro je stručnjak za kibernetičku sigurnost. On je glavni izvršni direktor tvrtke NewPush te osnivač i izvršni partner u CyberVerse Advisors sa sjedištem u Washingtonu, DC.

Mi u Euronewsu vjerujemo da su svi stavovi važni. Kontaktirajte nas na [email protected] kako biste poslali prijedloge ili podneske i bili dio razgovora.