زمان مطالعه: 21 دقیقهشرکت OpenAI گزارشی منتشر کرده با عنوان “Disrupting malicious uses of AI” و در اون به بررسی روشهایی که بازیگران تهدید برای مقاصد مختلفشون، از هوش مصنوعی سوء استفاده میکنن و نحوه ی برخورد مدل و شرکت با اونا، پرداخته. در این پست نگاهی به این گزارش انداختیم. نکات […]
برچسب: ChatGPT
داروسازی که علاقمند به شکار تهدید شد
زمان مطالعه: 26 دقیقهمطالبی که در ادامه میخونید مربوط به مصاحبه ی xnomas با 4n6strider ،که با نام Jindra هم معروفه، هستش. ایشون یکی از محققین Trend Micro هستن و تمرکزشون روی Threat Intelligence هستش. شکل زیر 365 روز در SOC رو نشون میده: برای شروع، امکان داره خودتون رو معرفی […]
گوگل و تیم قرمز برای سیستمهای هوش مصنوعی
زمان مطالعه: 5 دقیقهگوگل یه تیم قرمز برای سیستم های هوش مصنوعی (AI Red Team) ایجاد کرده و یه گزارشی هم منتشر کرده که توش یه نمای کلی از حملات رایج و درس هایی که از فرایند تیم قرمز در این خصوص اشته رو بیان کرده. گوگل چند هفته بعد از اینکه سیستم […]
گفتگو با حمید کشفی
زمان مطالعه: < 1 دقیقهبرنامه گفتگو محور Security Talks با یه وقفه تقریبا طولانی، دوباره برگشته و در اولین برنامه اشون ، به سراغ گفتگو با حمید کشفی رفتن. در این گفتگو که به میزبانی علی یزدانی برگزار شده، در خصوص chatGPT و تاثیری که روی امنیت گذاشته و همچنین فریلنسری در حوزه امنیت […]
برنامه باگ بانتی OpenAI
زمان مطالعه: < 1 دقیقهکمپانی OpenAI خالق ChatGPT اعلام کرده که برنامه باگ بانتی خودش روی پلتفرم Bugcrowd راه اندازی کرده و براساس شدت و تاثیر گزارش ها ،مبلغی بین 200 تا 20 هزار دلار برای گزارشها بانتی میده. در این برنامه علاوه بر سایت و API و بات ChatGPT ، این […]
تایید نقض داده توسط کمپانی خالق ChatGPT
زمان مطالعه: 2 دقیقهکمپانی OpenAI خالق سرویس پر سرو صدای ChatGPT اعلام کرده به دلیل وجود یه باگ امنیتی در کتابخونه Redis-py بخشی از اطلاعات کاربراش به بیرون نشت کرده. این شرکت روز جمعه با Redis برای حل این مشکل تماس گرفته و در این مدت chatbot رو آفلاین کرده بود. باگ در […]