زمان مطالعه: 6 دقیقهمایکروسافت هم مانند گوگل ، تجربیات و مستنداتی خودش رو در خصوص تیم قرمز هوش مصنوعیش منتشر کرده، تا علاقمندان بتونن ایده های اولیه رو از اون بگیرن. تیم قرمز بعنوان یکی از بخش های ایمنی نرم افزار، بطور گسترده به تمرین شبیه سازی شده از دشمنان دنیای واقعی و […]
برچسب: هوش مصنوعی
داروسازی که علاقمند به شکار تهدید شد
زمان مطالعه: 26 دقیقهمطالبی که در ادامه میخونید مربوط به مصاحبه ی xnomas با 4n6strider ،که با نام Jindra هم معروفه، هستش. ایشون یکی از محققین Trend Micro هستن و تمرکزشون روی Threat Intelligence هستش. شکل زیر 365 روز در SOC رو نشون میده: برای شروع، امکان داره خودتون رو معرفی […]
گوگل و تیم قرمز برای سیستمهای هوش مصنوعی
زمان مطالعه: 5 دقیقهگوگل یه تیم قرمز برای سیستم های هوش مصنوعی (AI Red Team) ایجاد کرده و یه گزارشی هم منتشر کرده که توش یه نمای کلی از حملات رایج و درس هایی که از فرایند تیم قرمز در این خصوص اشته رو بیان کرده. گوگل چند هفته بعد از اینکه سیستم […]
هک هوش مصنوعی در DEFCON31
زمان مطالعه: 2 دقیقهاین روزها احتمالا خبرهای مختلفی رو در خصوص هوش مصنوعی مشاهده میکنید. خبرهایی از پیشرفتشون، ویژگی های جدیدی که ارائه میدن و البته تهدیداتی که ممکن داشته باشن. بر همین اساس کاخ سفید از شرکتهایی که در این زمینه پیشرو هستن درخواست کرده تا مدلهاشون در کنفرانس امنیتی DefCON ارائه […]
TROJANPUZZLE تکنیک جدیدی برای سوء استفاده از پروژه های هوش مصنوعی
زمان مطالعه: < 1 دقیقهبا ظهور پروژه های هوش مصنوعی مانند GitHub’s Copilot و OpenAI’s ChatGPT ، این ایده مطرح شد که این پروژه ها امکان ایجاد کدهای ناامن رو هم ممکنه داشته باشن. یعنی مدل کدی رو پیشنهاد بده که توش آسیب پذیری هایی مانند XSS و SQLI و … وجود داشته باشه. […]
پروژه ChatGPT و کاربرد آن در امنیت سایبری
زمان مطالعه: < 1 دقیقه یکی از پروژه هایی که این روزهاخیلی سر و صدا کرده و احتمالا تو توییتر هم در موردش دیدید یا شنیدید ، پروژه ChatGPT شرکت openai هستش. در کل این پروژه هوش مصنوعی، یک مدل آموزش دیده هستش که شما میتونید بصورت گفتگو محور باهاش ارتباط برقرار کنید و سوالاتتون […]