Biztonságosan futtassa a felhőalapú alkalmazásokban a mesterséges intelligenciával generált kódot

Mivel gyakran halljuk a kérdést a Google Cloud-nál: Hogyan futtathatunk biztonságosan AI által generált kódot vagy megbízhatatlan binárisokat anélkül, hogy veszélybe helyeznánk a host alkalmazást, az adatokat és a felhő hitelesítéseit? Más szóval, hogyan biztosíthatjuk az AI által írt programok számára a biztonságos futást, amely megőrzi a megbízható programokat, amelyek magasabb jogosítványokkal rendelkeznek? Amíg ez nem történt, a fejlesztők bonyolult sandbox infrastruktúrát kellett építeni konténercsoportokkal, vagy fizetni kellett egy speciális harmadik fél microVM futtatóért. Ma, a WeAreDevelopers World Congress-on, bemutatjuk a Google Cloud Run sandboxokat a nyilvános előnézetben. A Cloud Run sandboxok natív, biztonságos és rendkívül gyors futtató környezet, amely kifejezetten a megbízhatatlan kód és az ügynök-munka futtatására van tervezve, a milliszekundumok alatt. A következő példában, egy Cloud Run szolgáltatást kérünk, hogy biztonságosan futasson megbízhatatlan Python kódot, amely 1000 sandboxot indít el, átlagosan 500 ms késés mellett. Ebben a bejegyzésben, megosztjuk a funkcióval és a fő felhasználási esetekkel kapcsolatos információkat. Mi az egy Cloud Run sandbox? A Cloud Run sandboxok könnyű, izolált futtató határok, amelyeket azonnal helyben, a meglévő Cloud Run szolgáltatásban tudjuk indítani. Akár egy LLM-et szeretnénk futtatni, hogy dinamikusan generált Python szkriptet használjunk üzleti marginok kiszámolására, vagy headless böngészőt használjunk webes kutatáshoz, a Cloud Run sandboxok biztosítják a biztonságos, izolált sandboxot, amelyben ezeket a feladatokat elvégezhetitek anélkül, hogy elhagynátok a szerverlesszernyezett környezeteteteket. Fő felhasználási esetek LLM kód-interpretátorok: Hozzon létre fejlett adatelemzési funkciókat a termékeite AI termékeibe. Engedje meg, hogy a modelje Python, R vagy SQL kódot írjon és futtasson a datasetek elemzésére, diagramok generálására és komplex matematikai műveletekre biztonságosan. Headless böngészők: Biztonságos környezetet biztosítson az ügynökeite számára. Készítsen weboldalakat, készítsen képernyőképeket, és automatizálja a webes munkákat anélkül, hogy veszélyeztessenen a host gépeit. Felhasználói kód-végrehajtás: A Cloud Run-on üzemelő platformok, amelyek nemcsak AI, hanem más alkalmazások is, biztonságosan futtathatnak felhasználó által feltöltott kódokat, pluginokat vagy webhooks-okat. Hogyan működik: A fejlesztői élmény A sandboxok engedélyezése a Cloud Run szolgáltatában annyi, hogy egyetlen flag-et adjunk hozzá a deploymenthez. 1. Engedélyezze a sandbox launcher-t: Ha deployálja a Cloud Run szolgáltatását, engedélyezze a sandbox launcher-t a gcloud vagy a YAML konfiguráció segítségével: 2. Indítsa el egy sandbox-ot programosan: Miután engedélyezte, egy könnyű sandbox CLI bináris automatikusan mountolódik a futtató környezetébe. Az ügynök alkalmazása programosan sandboxokat indíthat standard subprocess hívások segítségével. Íme, hogyan futtathatja biztonságosan egy LLM által generált megbízhatatlan Python szkriptet: Biztonság a tervezésben: Alapértelmezett biztonság A Cloud Run sandboxokat úgy tervezték, hogy védjék a host alkalmazást és a felhő erőforrásokat a rosszindulatú vagy hibás kód végrehajtás ellen. A runtime három kulcsfontosságú biztonsági határokat alkalmaz: 1. Credencial és környezeti izoláció: Ezek a sandboxok nem férnek hozzá a Cloud Run szolgáltatás környezeti változataihoz, nem is tudnak a Google Cloud metadat szerverét hívni. 2. Személyes, alapértelmezett elutasítás (deny-by-default): Alapértelmezett módon a sandboxok nem rendelkeznek semmilyen kimenő hálózati hozzáféréssel. Ha az ügynök megpróbálja a rosszindulatú szerverre küldeni azenadatot, a hálózati kérés blokkolva lesz a rendszer szintjén. Az elérés csak explicit kérés esetén engedélyezhető: 3. Biztonságos fájlrendszer-felülirás: A sandbox a konténer fájlrendszerének olvasható változatában fut (amely lehetővé teszi, hogy hasznosítsa a beépített csomagjait, Python futtatóit és binárisait), de az összes változást egy izolált, ideiglenes memóriás felületre írja. Miután a sandbox futás befejeződött, az összes generált fájl eltávolítva lesz. Bár továbbra is importálhatja és exportálhatja a fájlokat, amiket újra felhasználhat a sandboxok között: