OpenAI laiž klajā «Daybreak Red Team» un «Defense Factory»: MI aģenti meklēs un labos ievainojamības

Mākslīgā intelekta uzņēmums OpenAI ceturtdien, 12. novembrī, prezentēja divus jaunus kiberdrošības rīkus — «Daybreak Red Team» un «Daybreak Defense Factory». Pirmais meklē vājās vietas tīmekļa lietotnēs, otrais palīdz tās izlabot. Abi darbojas ar aģentiem jeb MI programmām, kas patstāvīgi izpilda vairākus soļus pēc kārtas.

Uzbrucēja skatījums uz savu lietotni

«Red Team» pagaidām piedāvā agrīnās piekļuves programmā. Aģentu grupa pēta lietotnes pirmkodu un kontekstu, meklē iespējamos uzbrukuma ceļus un pārbauda, vai ievainojamība tiešām pastāv. Rīks var arī pārbaudīt ziņojumus no koda skeneriem, kļūdu atlīdzības programmām un drošības pētniekiem, lai komanda zinātu, kas jālabo vispirms. Kad labojums gatavs, «Red Team» pārbauda, vai tas tiešām aptur uzbrukumu.

Pēc OpenAI teiktā, pārbaudes notiek noteiktās robežās — izolētā vidē, un īpaša kontroles sistēma nosaka, kurām lietotnēm un adresēm aģenti drīkst piekļūt.

Labojums kā gatavs koda pieprasījums

«Defense Factory» pārņem labošanas darbu. Aģenti izpēta esošo drošības rīku vai «Red Team» atradumus, izseko ievainojamību kodā un sagatavo labojumu. Pirms izmaiņas nonāk produkcijā, tās pārskata un notestē inženieri. «Tādējādi inženieri saņem apvienošanai gatavu koda pieprasījumu ar labojumu un testu, kas pierāda, ka tas strādā,» konferencē sacīja OpenAI kiberdrošības virziena vadītāja Nensija Vana, vēsta «The Register».

Rīks pieslēdzas GitHub repozitorijam un var pārbaudīt visu galveno zaru vai atsevišķas mapes, sekot jaunām izmaiņām un pārbaudīt koda pieprasījumus, pirms tos apvieno, raksta «Help Net Security».

Brokmens: drošība atkarīga no modeļa

«Esam nonākuši punktā, kad uzņēmumi būs droši tikai tik lielā mērā, cik spēcīgu modeli tie izmanto aizsardzībai un cik labi to izmanto,» ceturtdienas konferencē sacīja OpenAI prezidents Gregs Brokmens. Viņš gan piebilda, ka drošības pamatprincipi joprojām ir svarīgi.

Drošības platformu «Daybreak» OpenAI pirmo reizi prezentēja šā gada maijā. Tirgū tā konkurē ar līdzīgiem kiberdrošības rīkiem, ko piedāvā arī citi lielie MI izstrādātāji.