CYBERSECURITY
KIEMELT ELEMZÉS
Az OpenAI GPT-Red automatizálja a prompt-injektálási tesztelést a GPT-5.6 védelméhez
SZERZŐ
The Hacker News
FORRÁS
The Hacker News
DATE
READ
1 perc olvasás
Az OpenAI részletezte a GPT-Red nevű, belső automatizált “red-teaming” modellt, amely a prompt injection-es gyengeségek felfedezését automatizálja, ezzel a cél, hogy a problémákat a eszközök széles körben …
Az OpenAI részletezte a GPT-Red nevű, belső, automatizált “red-teaming” modellt, amely a prompt-injektúrával kapcsolatos biztonsági hiányosságok felfedezését nagymértékben képes bővíteni, azzal a céllal, hogy a problémákat a használat előtt kijavítsák. A GPT-Red egy hatékony “red-teamer”, és a korábbi modeljeink rendkívül veszélyeztetettek a prompt-injektúrájára, - mondta az mesterséges intelligencia (AI) vállalat. A GPT-Red-et a “red-teaming” céljaira használjuk.