زمان مطالعه: 5 دقیقهگوگل یه تیم قرمز برای سیستم های هوش مصنوعی (AI Red Team) ایجاد کرده و یه گزارشی هم منتشر کرده که توش یه نمای کلی از حملات رایج و درس هایی که از فرایند تیم قرمز در این خصوص اشته رو بیان کرده. گوگل چند هفته بعد از اینکه سیستم […]
برچسب: هوش مصنوعی
هک هوش مصنوعی در DEFCON31
زمان مطالعه: 2 دقیقهاین روزها احتمالا خبرهای مختلفی رو در خصوص هوش مصنوعی مشاهده میکنید. خبرهایی از پیشرفتشون، ویژگی های جدیدی که ارائه میدن و البته تهدیداتی که ممکن داشته باشن. بر همین اساس کاخ سفید از شرکتهایی که در این زمینه پیشرو هستن درخواست کرده تا مدلهاشون در کنفرانس امنیتی DefCON ارائه […]
TROJANPUZZLE تکنیک جدیدی برای سوء استفاده از پروژه های هوش مصنوعی
زمان مطالعه: < 1 دقیقهبا ظهور پروژه های هوش مصنوعی مانند GitHub’s Copilot و OpenAI’s ChatGPT ، این ایده مطرح شد که این پروژه ها امکان ایجاد کدهای ناامن رو هم ممکنه داشته باشن. یعنی مدل کدی رو پیشنهاد بده که توش آسیب پذیری هایی مانند XSS و SQLI و … وجود داشته باشه. […]
پروژه ChatGPT و کاربرد آن در امنیت سایبری
زمان مطالعه: < 1 دقیقه یکی از پروژه هایی که این روزهاخیلی سر و صدا کرده و احتمالا تو توییتر هم در موردش دیدید یا شنیدید ، پروژه ChatGPT شرکت openai هستش. در کل این پروژه هوش مصنوعی، یک مدل آموزش دیده هستش که شما میتونید بصورت گفتگو محور باهاش ارتباط برقرار کنید و سوالاتتون […]