درباره سام
سکوی ارزیابی امنیتی مدلهای هوش مصنوعی
سام
پهلوان اسطورهای شاهنامه فردوسی
سام کلمهای اصیل فارسی و ایرانی است که در شاهنامه فردوسی، پسر نریمان و پدر زال و پدربزرگ رستم از تبار گرشاسب و از پهلوانان اسطورهای ایران باستان است. سام که به «سام سوار» نیز معروف است، نمادی از قدرت، حکمت و شجاعت در فرهنگ ایرانی محسوب میشود.
نام این سامانه نیز به پاس این قهرمان اسطورهای ایرانی و با الهام از ویژگیهای برجسته او انتخاب شده است. همچنین، سام مخفف «سکوی ارزیابی امنیتی مدلهای هوش مصنوعی» است که هدف اصلی این پروژه را نیز بیان میکند.
«چو سام نریمان بیامد سوار / زمانه برو گشت روشن چو روز»
— شاهنامه فردوسی
ماموریت ما
با رشد روزافزون استفاده از مدلهای هوش مصنوعی در صنایع مختلف، ارزیابی امنیتی این مدلها به یک ضرورت تبدیل شده است. سامانه سام با هدف فراهم کردن یک سکوی هوش مصنوعی جامع، خودکار و مبتنی بر مقالات علمی معتبر برای ارزیابی امنیتی مدلهای هوش مصنوعی ایجاد شده است.
چه کاری انجام میدهیم؟
حملات Adversarial
تست مقاومت مدل در برابر حملات FGSM, PGD, C&W, DeepFool و ...
شناسایی بکدور
بررسی وجود دربهای پشتی مخفی (BadNets, Trojan) در مدل
ارزیابی LLM
تست Prompt Injection, Jailbreak و استخراج داده از مدلهای زبانی
گزارش حرفهای
تولید گزارش آسیبپذیری با مراجع علمی به صورت PDF و آنلاین