یکی از پروژه هایی که این روزهاخیلی سر و صدا کرده و احتمالا تو توییتر هم در موردش دیدید یا شنیدید ، پروژه ChatGPT شرکت openai هستش.
در کل این پروژه هوش مصنوعی، یک مدل آموزش دیده هستش که شما میتونید بصورت گفتگو محور باهاش ارتباط برقرار کنید و سوالاتتون رو ازش بپرسید. اشتباهاتش بهش بگید تا یاد بگیره و … .
در حوزه امنیت سایبری هم این ربات خیلی کاربردی و جالب بوده. نمونه هایی از سوالات رو در ویدیو زیر که توسط Fuzzing Labs جمع آوری شده میتونید ببینید.
برای مثال کد دیکامپایل شده IDA رو میدن به ربات و میگن این کد چیکار میکنه ؟ یا مثلا یه کد رو میدن بهش و میگن که کجاش آسیب پذیر هستش؟ حتی کدی رو دادن و گفتن براش فازر بنویس . تو دنیای وب هم نمونه هایی برای پلاگین نویسی تو BURP و … بوده.
اما stackoverflow ارسال کدهای این پروژه رو در سایتش ممنوع اعلام کرد !
سایت stackoverflow ارسال کدهای تولید شده توسط ابزار OpenAI’s ChatGPT رو بصورت موقت در سایتش ممنوع کرده.
این سایت مدعیه که ، پاسخ های صحیح دریافتی از این ابزار ، بصورت میانگین خیلی پایینه و بنابراین برای کاربرانی که دنبال پاسخ صحیح سوالات هستن مضر هستش.
این سایت میگه که پاسخ های این ابزار صحیح نیستن و معمولا به نظر آسون و خوب میاد، اما در واقعیت این کدها درست کار نمیکنن. بنابراین قراره که یسری سیاست برای جلوگیری از ارسال کدهای این ابزار تو سایت ایجاد کنن، از جمله برخورد با کاربران. البته موضوع باز هستش و میتونید در خصوصش نظر بدید.
علاوه بر stackoverflow ، موسسه offensive security هم استفاده از جوابهای این پروژه رو تو امتحاناتش ممنوع اعلام کرده.