A generatív AI fejlődésével új veszélyek, például az indirekt prompt injekciók, felmerülnek. Ezek az támadások külső adatforrásokat használnak, hogy sziszegő módon befolyásolják az AI rendszereket. A Google GenAI Security Team egy átfogó biztonsági stratégiával foglalkozik, amely a Gemini eszközéhez tartozik, és magában foglalja a tartalom osztályozási technikákat, a biztonsági gondolatok megerősítését és egy felhasználói megerősítési keretrendszert. Ezek a intézkedések javítják a prompt injekciók elleni védelem, és robusztus védelmet nyújtanak, mivel bizonyos műveletek végrehajtásához felhasználói interakciókra van szükség, és figyelmeztetik a felhasználókat a lehetséges veszélyekről. A biztonsági kutatókkal való folyamatos együttműködés és a szigorú tesztelés tovább erősíti a Gemini védelemét ezek ellen a folyamatosan fejlődő veszélyek ellen.
6 PERC OLVASÁS
arrow_forward