
اختلال در عملیات نفوذ با استفاده از هوش مصنوعی
اوپنایآی از شناسایی و اختلال در دو عملیات نفوذ مبتنی بر هوش مصنوعی خبر داد. این عملیاتها با استفاده از هویتهای رسانهای جعلی و یک اندیشکده، پیامهای ژئوپلیتیکی را منتشر میکردند.
اوپنایآی اعلام کرد دو عملیات نفوذ مبتنی بر هوش مصنوعی را شناسایی و مختل کرده است. به گفته این شرکت، این عملیاتها با استفاده از ساختارهای ظاهراً مستقل برای انتشار پیامهای ژئوپلیتیکی فعالیت میکردند. در این عملیاتها از روزنامهنگاران جعلی و یک اندیشکده ساختگی بهعنوان پوشش استفاده شده بود. این رویکرد که «عملیات پوششی جعلی» (false-front operations) نامیده میشود، با ایجاد ظاهر یک سازمان یا رسانه مستقل، منشأ واقعی پیامها را پنهان میکند. اوپنایآی میگوید هوش مصنوعی در اجرای این عملیاتها نقش داشته است، اما اطلاعات ارائهشده در این گزارش درباره جزئیات فنی، گستره فعالیت و عوامل پشت این عملیاتها محدود است. این اقدام در چارچوب تلاشهای این شرکت برای مقابله با سوءاستفاده از مدلهای هوش مصنوعی در عملیات نفوذ انجام شده است. برای توسعهدهندگان ایرانی، این خبر اهمیت امنیتی و فنی دارد؛ زیرا نشان میدهد مدلهای هوش مصنوعی میتوانند در تولید و مقیاسدهی محتوای مرتبط با عملیات نفوذ به کار گرفته شوند. در نتیجه، طراحی سامانههای تولید محتوا و ابزارهای هوش مصنوعی با سازوکارهای تشخیص سوءاستفاده، احراز منشأ محتوا و پایش رفتار غیرعادی اهمیت بیشتری پیدا میکند.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




