
افزایش امنیت محیط آموزش مدلهای پیشرو در OpenAI
OpenAI اعلام کرد که سازوکارهای مهار محیط آموزش و ارزیابی مدلهای پیشرو را تقویت کرده است. این تدابیر شامل محیطهای آفلاین و تخصیص توان محاسباتی بالا به تست تهاجمی میشود.
OpenAI در پستی در وبلاگ رسمی خود اعلام کرد که سازوکارهای مهار و جداسازی (containment) محیط آموزش و ارزیابی مدلهای پیشرو را تقویت کرده است. به گفته این شرکت، این تغییرات با هدف کاهش خطر خروج کنترلنشده مدل از محیط عملیاتی و محدود کردن دامنه تأثیر آن طراحی شدهاند. بر اساس این گزارش، بخشی از تدابیر جدید به اجرای فرایندهای آموزش و ارزیابی در محیطهای آفلاین (offline environments) مربوط میشود؛ یعنی محیطهایی که دسترسی شبکهای در آنها محدود یا قطع است تا احتمال انتقال داده یا خروج غیرمجاز اطلاعات کاهش یابد. OpenAI همچنین از تخصیص توان محاسباتی بالا به تست تهاجمی (red-teaming) خبر داده است؛ رویهای که در آن تیمهای مستقل تلاش میکنند نقاط ضعف مدل و سازوکارهای حفاظتی را شناسایی کنند. این شرکت جزئیات فنی درباره معماری این محیطها، معیارهای ارزیابی یا نتایج تستها منتشر نکرده است. اعلام این تدابیر در حالی صورت میگیرد که شرکتهای توسعهدهنده مدلهای پیشرو تحت فشار فزاینده نهادهای نظارتی و پژوهشگران ایمنی هوش مصنوعی برای شفافسازی درباره روشهای کنترل مدلهای قدرتمند قرار دارند. برای توسعهدهندگان ایرانی که از رابطهای برنامهنویسی (API) مدلهای خارجی استفاده میکنند، این موضوع دو پیامد عملی دارد: نخست اینکه سطح امنیت محیط آموزش، بهطور غیرمستقیم بر قابلیت اتکا و پایداری سرویسهای مبتنی بر این مدلها اثر میگذارد؛ دوم اینکه الگوهای توصیفشده، مانند جداسازی محیط اجرا و محدودسازی دسترسی شبکه، برای تیمهایی که مدلهای متنباز را روی زیرساخت داخلی مستقر میکنند نیز قابل استفاده است. OpenAI اعلام نکرد که این تدابیر از چه تاریخی اجرایی شده یا آیا بر دسترسی مشتریان به مدلها اثری داشته است.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




