Skip to content

ONHEXGROUP

اخبار دنیای امنیت سایبری

  • اخبار
    • آسیب پذیری امنیتی
    • آنالیز بدافزار
    • کنفرانس ،دوره ، وبینار ، لایو ، CTF
    • بازیگران تهدید
    • توسعه اکسپلویت
    • افشای اطلاعات
    • باگ بانتی
    • تیم آبی
    • تیم قرمز
    • امنیت وب
  • دوره های آموزشی
    • دوره رایگان مهندسی معکوس نرم افزار
  • لیست های ویژه
    • موتورهای جستجو برای امنیت سایبری
    • کاتالوگ KEV آژانس CISA
    • آسیب پذیری های وردپرس
      • آسیب پذیری پلاگین ها
      • آسیب پذیری های هسته
      • آسیب پذیری تم ها
    • محصولات خارج از پشتیبانی مایکروسافت
      • محصولات مایکروسافتی که در سال 2022 پشتیبانی نمیشن
      • محصولات مایکروسافتی که در سال 2023 پشتیبانی نمیشن
      • لیست محصولات مایکروسافتی که در سال 2024 پشتیبانی نمیشن
      • لیست محصولات مایکروسافتی که در سال 2025 پشتیبانی نمیشن
    • معرفی فیلم ها و سریالهای مرتبط با هک و امنیت
  • آموزش های ویدیویی
  • انتشارات
    • مجله
    • مقالات
    • پادکست
  • پروژه ها
    • ماشین آسیب پذیر
      • وردپرس آسیب پذیر
  • حمایت مالی ( Donate)
  • تماس با ما
 
  • Home
  • اخبار
  • اخبار

TROJANPUZZLE تکنیک جدیدی برای سوء استفاده از پروژه های هوش مصنوعی

On دی 22, 1401فروردین 28, 1402
seyyid
Share
زمان مطالعه: < 1 دقیقه

با ظهور پروژه های هوش مصنوعی مانند GitHub’s Copilot و OpenAI’s ChatGPT ، این ایده مطرح شد که این پروژه ها امکان ایجاد کدهای ناامن رو هم ممکنه داشته باشن.

یعنی مدل کدی رو پیشنهاد بده که توش آسیب پذیری هایی مانند XSS و SQLI و … وجود داشته باشه.

این پروژه ها با یسری کد عمومی آموزش داده میشن و ممکنه توشون کدهای ناامن هم باشه و سیستم بتونه کد ناامن رو هم یاد بگیره و  ایجاد کنه.

برای رفع این مورد از تکنیک های مبتنی بر امضای و آنالیز استاتیک استفاده میکنن.

محققای دانشگاه UC Santa Barbara و ویرجینیا و مایکروسافت یه مقاله ای منتشر کردن که تونستن این روش ها رو دور بزنن و مدل رو طوری آموزش بدن که بتونه کد ناامن هم ایجاد کنه. اسم این روش رو هم TROJANPUZZLE گذاشتن.

تو این مقاله یه روشی رو پیدا کردن که از طریق رشته های Docstrings برای آموزش دادن استفاده میکنن.

TROJANPUZZLE

این رشته ها ، برای توضیحات در کدها کاربرد دارن و ابزار های استاتیک اونارو نادیده میگیرن. در نتیجه مهاجم میتونه مدل رو با این رشته ها آموزش بده و درنتیجه مسمومش کنه و امکان پیشنهاد کدهای ناامن رو فراهم کنه.

اشتراک در شبکه های اجتماعی :

Facebook
Twitter
Pinterest
LinkedIn
In اخبارIn TROJANPUZZLE , هوش مصنوعی

راهبری نوشته

لیست محصولات مایکروسافتی که در سال 2023 پشتیبانی نمیشن
رفع آسیب پذیری های حیاتی کافی نیست!

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دسته‌ها

  • Osint
  • آسیب پذیری امنیتی
  • آموزش های ویدیویی
  • آنالیز بدافزار
  • اخبار
  • افشای اطلاعات
  • امنیت وب
  • انتشارات
  • اینترنت اشیاء
  • بازیگران تهدید
  • باگ بانتی
  • پادکست
  • پروژه ها
  • توسعه اکسپلویت
  • تیم آبی
  • تیم قرمز
  • دوره های آموزشی
  • فازینگ
  • کنفرانس ،دوره ، وبینار ، لایو ، CTF
  • لیست های ویژه
  • ماشین آسیب پذیر
  • مجله
  • مقالات
  • مهندسی معکوس نرم افزار

پست های مرتبط

  • آسیب پذیری امنیتی
  • اخبار
seyyid
On تیر 22, 1402تیر 22, 1402

بررسی آسیب پذیری بحرانی CVE-2023-36664 در Ghostscript

  • آسیب پذیری امنیتی
  • اخبار
  • توسعه اکسپلویت
  • مقالات
seyyid
On دی 30, 1401فروردین 28, 1402

نگاهی به آسیب پذیری های 2022 از دید ZDI

  • آسیب پذیری امنیتی
  • اخبار
seyyid
On مرداد 19, 1402مرداد 19, 1402

اصلاح 48 آسیب پذیری در بروزرسانی آگوست اندروید

  • آسیب پذیری امنیتی
  • اخبار
seyyid
On دی 29, 1402

سال جدید و اولین زیرودی در مرورگر کروم

درباره ما

بعد از چندین سال فعالیت تو حوزه امنیت سایبری و تولید محتوا در شبکه های اجتماعی ، بالاخره تصمیم گرفتیم تا یه سایت راه اندازی کنیم و مطالب رو ساده تر ، در یک محیط منسجم و طبقه بندی شده به دست مخاطب برسونیم. امیدوارم که قدمی در راستای رشد امنیت سایبری کشورمون برداشته باشیم.

تگ ها

0day APT command injection Deserialization of Untrusted Data Directory Traversal FBI Fortinet Heap buffer overflow integer overflow kali LockBit Memory Corruption nuclei Off By One Security out-of-bounds write Out of bounds read Patch Tuesday PWN2OWN Stack Buffer overflow type confusion use after free vulnerable wordpress XSS ZDI vulnerability آموزش اکسپلویت نویسی ارز دیجیتال اندروید اپل اکسپلویت باج افزار تلگرام زیرودی سیسکو فارنزیک فورتی نت فیشینگ لاک بیت مایکروسافت هوش مصنوعی وردپرس وردپرس آسیب پذیر ویندوز پلاگین کروم گوگل

شبکه های اجتماعی

    • Instagram
    • Telegram
    • Twitter
    • GitHub
    • YouTube
    • LinkedIn
      کپی مطالب با ذکر منبع بلامانع است | 1401-1404