Vissza a hírekhez
Biztonsági védvonallal látja el az AI-ügynököket a Microsoft
A Microsoft új fejlesztésekkel bővítette a Project Perception platformot az autonóm AI-ügynökök kockázatainak kezelésére.
0
A Microsoft új képességekkel bővítette a Project Perception rendszert, amely az autonóm AI-ügynökök által jelentett biztonsági kockázatokat kezeli. A megközelítés lényege, hogy a nyelvi modellekre belső kockázati tényezőként tekintenek, ezért a biztonsági vezérlőket a modellen kívülre helyezik.
Az új funkciók folyamatosan értékelik az ügynökök kockázati szintjét, dinamikusan módosítják a hozzáférési jogosultságokat, és szükség esetén elszigetelik a fenyegetéseket. A rendszer célja, hogy megakadályozza az önállóan cselekvő rendszerek nem kívánt vagy káros lépéseit a vállalati környezetben.
Az eredeti szöveg (Satya Nadella (X))
I recently wrote about why we need to treat models as insider risks, with security controls sitting outside the model itself.
Today, we're putting that principle into practice by expanding Project Perception with new capabilities to help continuously assess agent risk, adapt permissions, and contain threats.
https://blogs.microsoft.com/blog/2026/10/19/securing-the-agentic-insider/