
استقرار پژوهشگران آپولو در OpenAI برای بررسی رفتار خرابکارانه هوش مصنوعی
OpenAI شش ارزیاب از مؤسسه آپولو ریسرچ را برای بررسی رفتار خرابکارانه مدلهای هوش مصنوعی خود مستقر میکند. این همکاری با محدودیت دسترسی و افشا همراه است و پرسشهایی درباره استقلال ارزیابان ایجاد کرده است.
OpenAI اعلام کرد که شش ارزیاب از مؤسسه آپولو ریسرچ (Apollo Research) را در تیم خود مستقر میکند تا بررسی کنند آیا مدلهای هوش مصنوعی این شرکت رفتار خرابکارانه (subversive behavior) از خود نشان میدهند یا خیر. این اقدام در حالی صورت میگیرد که نگرانیها درباره ایمنی مدلهای پیشرفته و امکان سوءاستفاده یا فریبکاری آنها افزایش یافته است. بر اساس گزارش تککرانچ، این همکاری با محدودیتهایی در دسترسی ارزیابان به اطلاعات و همچنین محدودیت در افشای یافتهها همراه است. همین موضوع پرسشهایی درباره استقلال این ارزیابان و اثربخشی واقعی نظارت بیرونی ایجاد کرده است. آپولو ریسرچ یکی از مؤسسات شناختهشده در حوزه ارزیابی ایمنی مدلهای هوش مصنوعی است و پیشتر نیز در پروژههای مشابه با شرکتهای دیگر همکاری داشته است. استقرار ارزیابان مستقل در شرکتهای هوش مصنوعی به عنوان یکی از راهکارهای افزایش شفافیت و کاهش خطرات بلندمدت تلقی میشود. با این حال، شرایط دقیق این همکاری و میزان دسترسی ارزیابان به کدها، دادهها و فرآیندهای داخلی OpenAI هنوز به طور کامل روشن نیست. شرکتهای دیگر نیز در ماههای اخیر اقدامات مشابهی را برای ارزیابی بیرونی مدلهای خود آغاز کردهاند. برای توسعهدهندگان ایرانی که از APIهای OpenAI استفاده میکنند، این تحول نشاندهنده جهتگیری جدید شرکت به سمت ارزیابی ایمنی مستقل است. چنین ارزیابیهایی میتواند بر سیاستهای دسترسی، شرایط استفاده و شفافیت رفتار مدلها تأثیر بگذارد. در صورت انتشار یافتهها، توسعهدهندگان ممکن است اطلاعات بیشتری درباره محدودیتها و ریسکهای مدلهای مورد استفاده به دست آورند.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




