زمان مطالعه: 4 دقیقهمایکروسافت و شرکاش، هکرهای هوش مصنوعی رو به چالش کشیدن تا یک سرویس ایمیل شبیهسازیشده با قابلیتهای هوش مصنوعی رو با استفاده از حمله Prompt Injection هک کنن. تیمهای برنده جایزهای به ارزش ۱۰ هزار دلار دریافت خواهند کرد. حمله ی Prompt Injection یک نوع آسیبپذیری امنیتی در سیستمهای مبتنی […]
برچسب: prompt injection
معرفی پلتفرم باگ بانتی 0din
زمان مطالعه: 4 دقیقهموزیلا یک پلتفرم باگ بانتی جدید بنام 0din برای GenAI بالا آورده و از متخصصین امنیتی دعوت کرده تا تحقیقاتشون رو در این حوزه، از طریق این پلتفرم گزارش بدن. GenAI چیه: هوش مصنوعی مولد یا Generative artificial intelligence یا به اختصار GenAI، نوعی هوش مصنوعی است که در […]
راهنمای مایکروسافت برای تیم های قرمز هوش مصنوعی
زمان مطالعه: 6 دقیقهمایکروسافت هم مانند گوگل ، تجربیات و مستنداتی خودش رو در خصوص تیم قرمز هوش مصنوعیش منتشر کرده، تا علاقمندان بتونن ایده های اولیه رو از اون بگیرن. تیم قرمز بعنوان یکی از بخش های ایمنی نرم افزار، بطور گسترده به تمرین شبیه سازی شده از دشمنان دنیای واقعی و […]