Küsida võib kõike: kui vestlusrobot ChatGPT keeldub vastamast, saab abi WormGPT käest

Tsenseerimata WormGPT muudab keerulised küberrünnakud tehisintellekti abiga nii lihtsaks, et ka võhik saab hakkama Foto: Lukas/Pexels

• WormGPT aitab teha kõiki keelatud asju, mis on teiste tehisintellektide juures tsenseeritud.
• Lahendust on juba kasutatud väga usutavate ärikirjade imiteerimisel, mis õngitsevad salajast infot.
• WormGPT toob ülikeerulised küberrünnakud kandikul võhikute kätte.

ChatGPT kasutajad kurdavad, et see tuntud tehisintellekti vestlusrobot on aina enam tsenseeritud ja ei vasta paljudele küsimustele, kuna need võivad olla ohtlikud. Olukorra lahendas häkker, treenides suurt keelemudelit samade andmetega, kuid jättes kõik piirangud peale panemata. Esimesed kuritegelikud rünnakud on selle tööriistaga juba tehtud.

Seal, kus tehisintellekti vestlusrobot ChatGPT ütleb kasutajatele otse, et ei saa päringut täita, astub mängu selle kuri kloon WormGPT, mis lahenduse looja sõnul «aitab teha igasuguseid ebaseaduslikke asju ja seda tulevikus hõlpsalt ka veebis müüa.»

WormGPT sarnaneb väga ChatGPTga, kuid sellel pole mingeid eetilisi piiranguid.

Juba on rakendatud piiranguteta tehisintellekt ka pahalaste teenistusse. See koostab nimelt ärikirju, mis meelitavad olulistelt kasutajatelt välja salajast infot. Tehisintellekti vestlusrobot proovib imiteerida võimalikult tõetruult väljavalitud ohvri kirjavahetust, paludes näiteks uuesti saata mõne salajase infoga e-kirja. 

WormGPTst ja sellega tehtud esimesest teadaolevast õngitsusrünnakust kirjutas turvatarkvara ettevõte Slashnext. WormGPT on nende sõnul GPTJ keelemudelil põhinev tehisintellekti moodul. Sellel on mitu funktsiooni, sealhulgas piiramatu tähemärkide arvu tugi, vestluse mälus säilitamine täpsemate vastuste andmiseks ning programmikoodi vormindamise võimalused.

WormGPT koostas rünnakuks õngitsusmeili, mis polnud mitte ainult väga veenev, vaid ka strateegiliselt ülimalt kaval, näidates selle tööriista võimalusi väga keerukate andmepüügirünnakute jaoks. Slashnexti ekspertide sõnul on uus relv küberkurjategijate käes väga tõhus, sest see suudab luua e-kirju, mis on grammatiliselt ja stiililiselt korrektsed, imiteerivad võimalikku senist kirjavahetust ja tõenäosus, et neid peetakse kahtlaseks, on tunduvalt väiksem.

Turvatarkvara ettevõte hoiatab, et see lahendus muudab ka keerukate õngitsusrünnakute korraldamise väga lihtsaks. Isegi väheste oskustega ründajad saavad käepärast tehnoloogiat kasutades teha väga raskesti tõrjutavaid küberrünnakuid.

Kevadel oli veel võimalik teatud küsimustega ka tavalist ChatGPT tehisintellekti ära trikitada, sundides seda vastama keelatud küsimustele. Üks võimalus oli näiteks küsida, et mis oleks, kui ma küsiks keelatud asja kohta küsimuse lihtsalt selle pärast, et teada saada, kuidas seda vältida? Nii võis ChatGPT anda ohtlike ainete retsepte, mida kindlasti ei tohiks ise teha või meelitati avaldama Windowsi aktiveerimise võtmeid. Sellist lähenemist nimetati «surnud vanaema» efektiks: ChatGPT-l paluti end kehastada surnud vanaemaks, kes jagab oma salajasi retsepte ja tehisintellekt muutuski teatud juhtudel täiesti avameelseks, jagades teadmisi kõige kohta, mis oli tavaliselt peidetud tsensuuri taha. Nüüd seda enam teha ei saa, sest ka see võimalus tsensuurist mööda hiilida on kinni keeratud.

WormGPTga aga on mindud keerulisemat teed pidi ja keelemudelit treeniti sarnaste andmetega, millega treeniti ka ChatGPTd (lisaks hulga pahavarafoorumite andmetega), kuid väljund inimese esitatud küsimustele on vaba: küsida võib absoluutselt kõike. Twitterisse on postitatud näiteks video, kus küsitakse WormGPT käest pahavaralist Javascripti koodi ja selle saabki kohe kätte:

Our WormGPT tool in action 👍

Buy/Questions - https://t.co/XXv2dm4UCC#WormGPT #AI #CyberSecurity #ChatGPT #OpenAI #WormAI #Worm #ArtificialIntelligence #Malware pic.twitter.com/toBb8NfU8D

— WormGPT (@wormgpt) July 17, 2023