
اوپنایآی کمپین تقطیر مدل را مختل کرد
اوپنایآی از مختل کردن کمپینی هماهنگ برای استخراج استدلال محافظتشده مدلهایش خبر داد. این شرکت اعلام کرد دفاعهای خود را در برابر تقطیر خصمانه تقویت کرده است.
اوپنایآی روز چهارشنبه اعلام کرد کمپینی هماهنگ را که با هدف استخراج استدلال محافظتشده مدلهای این شرکت انجام میشد، مختل کرده است. بر اساس این گزارش، این عملیات تلاش میکرد با روشهای تقطیر مدل (model distillation) خروجیهای استدلالی مدلهای اوپنایآی را استخراج و به مدل دیگری منتقل کند. تقطیر مدل به فرایندی گفته میشود که در آن یک مدل کوچکتر با استفاده از خروجیهای یک مدل بزرگتر آموزش داده میشود. اوپنایآی این اقدام را در چارچوب تقطیر خصمانه (adversarial distillation) طبقهبندی کرده و آن را نقض شرایط استفاده از خدمات خود دانسته است. این شرکت افزود که دفاعهای فنی خود را در برابر چنین حملاتی تقویت کرده است، اما جزئیات روشهای مقابله یا هویت عاملان این کمپین را منتشر نکرد. اوپنایآی همچنین اعلام کرد که به نظارت بر فعالیتهای مشابه ادامه خواهد داد. تقطیر خصمانه یکی از چالشهای اصلی شرکتهای توسعهدهنده مدلهای زبانی است، زیرا امکان میدهد رقبا یا بازیگران دیگر با هزینه کمتر به قابلیتهای مدلهای پیشرفته دسترسی پیدا کنند. این موضوع به ویژه برای مدلهایی که از استدلال زنجیرهای (chain-of-thought) استفاده میکنند، حساستر است. برای توسعهدهندگان ایرانی، این خبر اهمیت دارد زیرا دسترسی به APIهای خارجی همواره با محدودیتهای تحریمی و نظارتی همراه بوده است. شرکتهایی که بر پایه مدلهای خارجی سرویس میسازند باید توجه داشته باشند که سیاستهای ضدتقطیر ممکن است بر نحوه استفاده از خروجیهای مدل تأثیر بگذارد و ریسک قطع دسترسی یا تغییر شرایط را افزایش دهد.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




