
آنتروپیک سیستمی برای اثبات هویت مدلهای هوش مصنوعی میسازد
آنتروپیک از توسعه سامانهای به نام FlashProve خبر داده است که هدف آن اثبات هویت مدلهای هوش مصنوعی و بررسی اصالت پاسخهای تولیدشده است. این سیستم به کاربران اجازه میدهد تأیید کنند یک پاسخ واقعاً از مدل مدعی صادر شده است و جزئیات فنی آن هنوز منتشر نشده است.
آنتروپیک اعلام کرده است که روی سامانهای به نام FlashProve (فلشپروف) کار میکند؛ سیستمی که به گفته این شرکت به هر کاربری امکان میدهد بررسی کند یک پاسخ هوش مصنوعی واقعاً از همان مدلی صادر شده است که مدعی تولید آن است. هدف اعلامشده، ایجاد سازوکاری برای اثبات هویت مدل (Model Identity Verification) در برابر جعل هویت و انتساب نادرست خروجیها است. بر اساس توضیح منتشرشده، کارکرد این سامانه بر پایه امکان راستیآزمایی (Verification) پاسخها استوار است؛ به این معنا که کاربر یا سرویس دریافتکننده پاسخ میتواند اصالت منبع آن را بررسی کند. آنتروپیک جزئیات فنی مربوط به روش رمزنگاری، معماری سامانه، مدلهای پشتیبانیشده و زمان عرضه عمومی را منتشر نکرده است. این موضوع از منظر صنعت اهمیت دارد، زیرا در سالهای اخیر واسطهها و فروشندگان API (رابط برنامهنویسی کاربردی) متعددی مدلهای خود را با نام مدلهای مطرحتر عرضه کردهاند و امکان تفاوت میان مدل واقعی و مدل ادعاشده برای مصرفکننده وجود نداشته است. سازوکار اثبات هویت میتواند معیاری برای اعتماد در قراردادهای سازمانی و ارزیابی کیفیت خروجی مدلها فراهم کند. برای توسعهدهندگان ایرانی، این موضوع در دو سطح مرتبط است. نخست، بخش قابل توجهی از دسترسی به مدلهای خارجی از طریق واسطهها و سرویسهای واسط انجام میشود و وجود ابزار راستیآزمایی میتواند به تشخیص مدل واقعی در پشت این سرویسها کمک کند. دوم، در صورت عمومیشدن این سازوکار، توسعهدهندگانی که محصولات مبتنی بر API میسازند ممکن است ناچار شوند قابلیت بررسی اصالت پاسخ را در معماری خود لحاظ کنند. آنتروپیک تاکنون تنها هدف این پروژه را تشریح کرده و اعلام نکرده است که FlashProve بهصورت استاندارد باز، محصول تجاری یا قابلیتی درون API این شرکت عرضه خواهد شد.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




