Veliki jezikovni modeli v kibernetski varnosti

Ameriško-slovenska izobraževalna fundacija (ASEF) vabi na predavanje o uporabi velikih jezikovnih modelov v kibernetski varnosti, izzivih ocenjevanja njihovih zmogljivosti ter njihovem potencialu za odkrivanje doslej neznanih ranljivosti. Na predavanju bo Jakob, ASEF štipendist, predstavil raziskovalno delo, ki ga je opravljal na Univerzi Kalifornije v Berkeleyju pod mentorstvom prof. dr. Dawn Song. Dogodek bo ponudil vpogled v sodobne pristope k ocenjevanju ofenzivnih in obrambnih zmogljivosti velikih jezikovnih modelov. O PREDAVANJU Ker veliki jezikovni modeli ustvarjajo vse večji delež kode, se odpirajo nova vprašanja o njihovi uporabi v kibernetski varnosti. Medtem ko lahko pomagajo pri odkrivanju in odpravljanju ranljivosti, se lahko uporabljajo tudi za njihovo izkoriščanje. Zato postaja vse pomembnejše zanesljivo ocenjevanje njihovih dejanskih zmogljivosti. Predavanje bo obravnavalo izzive razvoja avtomatiziranih sistemov za ocenjevanje modelov, saj obstoječi pristopi pogosto temeljijo na metrikah, ki ne potrjujejo dejanske uspešnosti izkoriščanja ali odpravljanja ranljivosti. Predstavljeni bodo pristopi k vzpostavitvi razširljivih ocenjevalnih okolij, ki temeljijo na merljivih in preverljivih rezultatih. Posebna pozornost bo namenjena tudi možnosti, da takšna okolja avtonomnim agentom omogočijo odkrivanje doslej neznanih ranljivosti. O PREDAVATELJU Jakob je magistrski študent računalništva in matematike na Fakulteti za računalništvo in informatiko Univerze v Ljubljani, kjer študij združuje z delom razvijalca programske opreme. Njegove delovne izkušnje obsegajo razvoj tehnologij za transkripcijo govora in delo na decentraliziranih sistemih, pri čemer se osredotoča na strojno učenje ter razvoj in optimizacijo kompleksnih sistemov. Udeležil se je mednarodnih tekmovanj s področja kibernetske varnosti in hekatonov na več celinah, na katerih je osvojil več nagrad. V okviru štipendijskega programa ASEF je raziskoval na Univerzi Kalifornije v Berkeleyju pod mentorstvom prof. dr. Dawn Song, kjer se je posvečal uporabi velikih jezikovnih modelov na področju kibernetske varnosti. ASEF mladi umi je serija poljudnoznanstvenih predavanj mladih, ki mlade spodbuja k predstavitvi svojega raziskovalnega dela ter pridobljenih izkušenj v okviru štipendijskega programa ASEF na način, ki je dostopen in razumljiv širši javnosti. ASEF se v projektu povezuje z lokalnimi organizacijami, ki delujejo v krajih, od koder prihajajo predavatelji. S sodelovanjem se želi doseči navezovanje in vključevanje mladih izobražencev v lokalno slovensko okolje. ASEF povezuje in združuje slovenske znanstvenike in akademike po celem svetu. Projekt podpirata Urad RS za mladino in Urad Vlade RS za Slovence v zamejstvu in po svetu.