
آغاز ارزیابیهای مستقل ایمنی مدلهای OpenAI
OpenAI نخستین مرحله از ارزیابیهای جاسازیشده را با همکاری Apollo Research، METR، Transluce و Goodfire آغاز کرد. این نهادهای مستقل همراستایی، حفاظها و سیستمهای پایش مدلهای OpenAI را ارزیابی میکنند.
OpenAI اعلام کرد که نخستین مرحله از ارزیابیهای جاسازیشده (embedded assessments) را با همکاری چهار نهاد مستقل آغاز کرده است. این نهادها شامل Apollo Research، METR، Transluce و Goodfire هستند. هدف از این ارزیابیها، بررسی مستقل همراستایی (alignment) مدلها، حفاظها (safeguards) و سیستمهای پایش (monitoring systems) عنوان شده است. در این فرآیند، نهادهای بیرونی به طور مستقیم به ارزیابی رفتار و ایمنی مدلهای OpenAI میپردازند. این اقدام در چارچوب تلاشهای گستردهتر برای افزایش شفافیت و پاسخگویی در توسعه هوش مصنوعی انجام میشود. ارزیابیهای مستقل میتوانند به شناسایی نقاط ضعف و بهبود ایمنی مدلها کمک کنند. برای توسعهدهندگان ایرانی، این تحول نشاندهنده اهمیت روزافزون ارزیابیهای مستقل ایمنی در اکوسیستم هوش مصنوعی است. آگاهی از استانداردها و روشهای ارزیابی میتواند در طراحی و استقرار ایمنتر مدلها و کاربردهای مبتنی بر API مفید باشد.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




