Microsoft je odpravil resno varnostno ranljivost v orodju AutoGen Studio, ki se uporablja za hitro prototipiranje in razvoj AI agentov. Varnostni raziskovalci so verigo ranljivosti, poimenovano AutoJack, odkrili v vmesniku, ki razvijalcem omogoča vizualno ustvarjanje in testiranje avtonomnih AI agentov.
Ranljivost je bila še posebej nevarna, ker ni zahtevala kompleksnih predpogojev za izkoriščanje. Napadalec je moral žrtev – najpogosteje razvijalca ali podatkovnega znanstvenika, ki aktivno uporablja AutoGen Studio – le prepričati, da obišče zlonamerno pripravljeno spletno stran. Od tam je bil napad popolnoma avtomatiziran.
Tehnično gledano gre za verigo ranljivosti, ki izkoriča zaupanje, ki ga AutoGen Studio izkazuje do ukazov, posredovanih prek AI agentov. Napadalec je prek zlonamernih vhodnih podatkov lahko manipuliral z agentom tako, da je ta na gostiteljskem sistemu izvedel poljubne sistemske ukaze – s polnimi pravicami uporabnika, ki je poganjal Studio. To odpira pot do kraje podatkov, namestitve zlonamerne programske opreme ali popolnega prevzema razvojnega okolja.
Glede na naravo orodja so bili v največji nevarnosti razvijalci umetne inteligence, podatkovni znanstveniki in ekipe, ki AutoGen Studio uporabljajo v lokalnih ali internih razvojnih okoljih. Prav ta profil uporabnikov pogosto dela z občutljivimi podatki, API ključi in dostopi do produkcijskih sistemov, kar povečuje potencialno škodo ob uspešnem napadu.
Microsoft je popravek izdal v okviru rednega cikla varnostnih posodobitev. Uporabnikom in ekipam, ki uporabljajo AutoGen Studio, svetujemo takojšnjo posodobitev na najnovejšo različico orodja. Do objave tega članka točna CVE oznaka še ni bila javno objavljena v celoti, vendar Microsoft ranljivost uvršča med visoko resne glede na možnost oddaljenega izvajanja kode (RCE).
Incident znova opozarja na specifična tveganja, ki jih prinašajo orodja za razvoj AI agentov. Ker tovrstni agenti po svoji zasnovi izvajajo kodo in komunicirajo z zunanjimi viri, so njihove varnostne površine bistveno večje kot pri klasičnih aplikacijah. Varnostne ekipe bi morale tovrstna orodja obravnavati z enako strogostjo kot kateri koli drug izvajalni vmesnik.
Priporočila za zaščito vključujejo: posodobitev AutoGen Studio na najnovejšo različico, omejitev mrežnega dostopa do razvojnih okolij z AI agenti, redno pregledovanje dovoljenih ukazov in obsega, ki ga imajo agenti na voljo, ter izobraževanje razvojnih ekip o tveganju napadov prek spletnih vmesnikov.
Vir: https://www.bleepingcomputer.com/news/security/microsoft-fixes-autogen-studio-flaw-that-enabled-code-execution/
Originalna objava: 2026-06-22
Članek je pripravljen na osnovi tujega vira s pomočjo AI in prilagojen za slovenskega bralca.