Vissza a hírekhez
Az Anthropic hatékonyabban védi a Claude-ot a modellmásolástól
A cég jelentős előrelépést ért el a lepárlásos támadások elleni védekezésben a Claude modellek esetében.
0
Az Anthropic jelentős eredményeket ért el a lepárlásos támadások hatékonyságának csökkentésében a Claude modelleknél. A lepárlás során más fejlesztők a Claude válaszait használják fel saját, kisebb és olcsóbb AI-modellek betanítására.
A vállalat új kutatási eredményeiben bemutatja azokat a védelmi mechanizmusokat, amelyekkel nehezebbé teszik a modell képességeinek és tudásának engedély nélküli másolását. A megoldás célja a szellemi tulajdon védelme és a modellek biztonságos használatának megőrzése.
Az eredeti szöveg (Anthropic (X))
Over the last few months, we’ve made significant progress in reducing the effectiveness of distillation attacks against Claude.
In this post, we explain how: https://www.anthropic.com/research/distillation-defenses