Didžiosios Britanijos universiteto padalinys Mindgard apsaugo įmones nuo AI grėsmių
Dirbtinis intelektas įmonėms sukuria dilemą: kol kas jo neįdiekite ir galite prarasti produktyvumo padidėjimą ir kitą potencialią naudą; tačiau darykite tai neteisingai ir savo verslui bei klientams galite nesumažinti rizikos. Štai čia ateina nauja „AI saugumo“ banga su prielaida, kad šių grėsmių, tokių kaip įsilaužimas į kalėjimą ir greitas įpurškimas, negalima ignoruoti.
Kaip ir Izraelio startuolis „Noma“ bei JAV konkurentai „Hidden Layer“ ir „Protect AI“, Didžiosios Britanijos universiteto padalinys „Mingard“ yra vienas iš jų. „AI vis dar yra programinė įranga, todėl visi kibernetiniai pavojai, apie kuriuos tikriausiai girdėjote, taip pat taikomi dirbtiniam intelektui“, – sakė jos generalinis direktorius ir CTO, profesorius Peteris Garraghanas (dešinėje aukščiau esančiame paveikslėlyje). Tačiau „jei pažvelgsite į nepermatomą neuroninių tinklų ir sistemų prigimtį ir iš esmės atsitiktinį elgesį“, pridūrė jis, tai taip pat pateisina naują požiūrį.
„Mingard“ atveju minėtas metodas yra dinaminis AI (DAST-AI) taikomųjų programų saugos testavimas, skirtas pažeidžiamumui, kurį galima aptikti tik vykdymo metu. Tai apima nuolatinį ir automatizuotą raudonųjų komandų sudarymą, būdą imituoti atakas, pagrįstas Mindgard grėsmių biblioteka. Pavyzdžiui, jis gali patikrinti vaizdų klasifikatorių atsparumą priešpriešinėms įvestims.
Šiuo ir ne tik „Mindgard“ technologija priklauso nuo Garraghano, kaip profesoriaus ir tyrinėtojo, besikreipiančio į DI saugumą, išsilavinimo. Ši sritis sparčiai vystosi – „ChatGPT“ neegzistavo, kai jis į ją įėjo, tačiau jis nujautė, kad NLP ir įvaizdžio modeliai gali susidurti su naujomis grėsmėmis, sakė jis „TechCrunch“.
Nuo to laiko tai, kas skambėjo perspektyviai, greitai augančiame sektoriuje tapo realybe, tačiau LLM nuolat keičiasi, kaip ir grėsmės. Garraghanas mano, kad jo nuolatiniai ryšiai su Lankasterio universitetu gali padėti įmonei neatsilikti: Mindgard automatiškai per ateinančius kelerius metus priklausys 18 papildomų doktorantūros tyrėjų IP. „Pasaulyje nėra įmonės, kuriai būtų sudarytas toks sandoris“.
Nors „Mindgard“ yra susijęs su moksliniais tyrimais, jis jau yra komercinis produktas, o tiksliau „SaaS“ platforma, kurios vienas iš įkūrėjų Steve Street vadovauja COO ir CRO. (Ankstyvas vienas iš įkūrėjų Neeraj Suri, kuris buvo susijęs su tyrimais, nebėra su kompanija.)
Įmonės yra natūralus Mindgard klientas, kaip ir tradiciniai raudonieji komandos nariai ir rašiklių testuotojai, tačiau bendrovė taip pat dirba su AI pradedančiomis įmonėmis, kurios turi parodyti savo klientams, kad jie užsiima DI rizikos prevencija, sakė Garraghanas.
Kadangi daugelis šių potencialių klientų yra įsikūrę JAV, bendrovė į savo kepurėlių lentelę įtraukė šiek tiek amerikietiško skonio. 2023 m. surinkęs 3 milijonus svarų sterlingų, Mindgardas dabar skelbia naują 8 milijonų dolerių vertės turą, kuriam vadovauja Bostone įsikūrusi .406 Ventures, dalyvaujant Atlantic Bridge, WillowTree Investments ir esamiems investuotojams IQ Capital ir Lakestar.
Finansavimas padės „sukurti komandą, kurti produktus, MTTP ir viską, ko galite tikėtis iš startuolio“, bet taip pat plėsis į JAV. Neseniai paskirtas rinkodaros viceprezidentas, buvęs Next DLP CMO Fergal Glynn Bostonas. Tačiau bendrovė taip pat planuoja išlaikyti MTEP ir inžineriją Londone.
15 darbuotojų „Mindgard“ komanda yra palyginti nedidelė ir tokia išliks – iki kitų metų pabaigos planuojama pasiekti 20–25 žmones. Taip yra todėl, kad dirbtinio intelekto saugumas „dar net neturi savo klestėjimo“. Tačiau kai dirbtinis intelektas pradės diegti visur, o grėsmės saugumui paseks, Mindgard bus pasiruošęs. Garraghanas sako: „Mes sukūrėme šią įmonę, kad padarytume teigiamą naudą pasauliui, o teigiamas dalykas yra tai, kad žmonės gali pasitikėti ir saugiai naudoti AI.
