سام
سکوی ارزیابی امنیتی مدلهای هوش مصنوعی
مخفف: سکوی ارزیابی امنیتی مدلهای هوش مصنوعی
قابلیتهای سامانه
ارزیابی جامع امنیتی مدلهای هوش مصنوعی با پشتیبانی از حملات متنوع و تولید گزارش حرفهای
حملات جعبه سفید
FGSM، PGD، C&W، DeepFool و دهها حمله دیگر با دسترسی کامل به پارامترهای مدل
حملات جعبه سیاه
Boundary، Square Attack و دیگر حملات مبتنی بر پرسجو بدون نیاز به دسترسی به مدل
تشخیص دربپشتی
شناسایی BadNets، حملات تروجان و بررسی سلامت مدل از لحاظ دربهای پشتی مخفی
ارزیابی امنیت LLM
Jailbreak چندزبانه، Prompt Injection، استخراج داده، تست عملیاتی و پرسجوی Black-box روی مدلهای زبانی
بنچمارک جامع
ارزیابی عملکرد پاک مدل روی دادگان train، validation و test با معیارهای ارزیابی استاندارد
گزارش PDF حرفهای
تولید خودکار گزارش آسیبپذیری با مراجع علمی، نمودارها و توصیههای امنیتی
ارزیابی امنیتی مدل های LLM
سام اکنون ارزیابی امنیتی مدلهای زبانی بزرگ را با تستهای عملیاتی و Jailbreak پوشش میدهد.
Jailbreak چندزبانه
فارسی، انگلیسی، Base64 و نقشآفرینی
Prompt Injection
مستقیم، غیرمستقیم و Few-shot
تست عملیاتی
تأخیر، ثبات امتناع، پاسخ ایمن
Black-box Query
پرسجوی مرز ایمنی بدون دسترسی داخلی
سرویس OpenAI-compatible
Huggingface format + Openai format
چطور کار میکند؟
در چهار مرحله ساده، مدل خود را ارزیابی کنید
ثبتنام / ورود
با ایمیل یا شماره موبایل وارد شوید
ثبت درخواست
مدل و پکیج ارزیابی را انتخاب کنید
اجرای آزمونها
سیستم به صورت خودکار حملات را اجرا میکند
دریافت گزارش
گزارش امنیتی با جزئیات دریافت کنید
همکاری مشترک دانشگاه صنعتی امیرکبیر و بنیاد ملی نخبگان