
ابزار جدید اوپنایآی برای مقابله با محتوای آزار جنسی کودکان
اوپنایآی طبقهبند تصویری جدیدی برای شناسایی محتوای آزار جنسی کودکان منتشر کرد. همچنین چتجیپیتی هشدارهایی به کاربران متخلف میدهد و حسابهای متخلف را موقتاً مسدود میکند.
اوپنایآی روز دوشنبه اعلام کرد که یک طبقهبند تصویری (image classifier) جدید را برای شناسایی محتوای آزار جنسی کودکان (CSAM) منتشر کرده است. این ابزار بهگونهای طراحی شده که بتواند تصاویر حاوی چنین محتوایی را با دقت بالا تشخیص دهد. همچنین این شرکت اعلام کرد که چتجیپیتی (ChatGPT) هشدارهایی به کاربرانی که تلاش به دسترسی به محتوای CSAM کنند نمایش میدهد و حساب آنها را به مدت ۲۴ ساعت مسدود میکند. این اقدام بهعنوان یک هشدار برای کاربران متخلف تلقی میشود و در صورت تکرار ممکن است منجر به مسدودسازی دائمی شود. این تصمیم اوپنایآی در ادامه تلاشهای این شرکت برای مقابله با سوءاستفاده از پلتفرمهای هوش مصنوعی و افزایش ایمنی کاربران، بهویژه کودکان، اتخاذ شده است. پیشتر نیز شرکتهای فناوری بزرگ سیاستهای مشابهی را برای جلوگیری از تولید و انتشار محتوای مضر اجرا کرده بودند. برای توسعهدهندگان ایرانی که از APIهای اوپنایآی استفاده میکنند، آگاهی از این سیاستها ضروری است. رعایت قوانین ایمنی و جلوگیری از پردازش محتوای غیرقانونی میتواند از مسدود شدن حسابها و اختلال در سرویسهای مبتنی بر هوش مصنوعی جلوگیری کند. همچنین توسعهدهندگان باید اطمینان حاصل کنند که برنامههایشان از فیلترهای محتوایی مناسب برخوردارند.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




