
هشدار آنتروپیک درباره نزدیکی به توانایی خودتوسعهای هوش مصنوعی
آنتروپیک هشدار داد که به توانایی خودتوسعهای سریع (RSI) در هوش مصنوعی بسیار نزدیک شده است. در این وضعیت، مدلها میتوانند خود را آموزش دهند و سرعت پیشرفت تواناییها بهشدت افزایش مییابد.
شرکت آنتروپیک اعلام کرد که به نقطهای نزدیک شده است که در آن هوش مصنوعی میتواند بهطور مستقل خود را آموزش دهد و چرخهای از بهبود سریع تواناییها را ایجاد کند. این وضعیت که «خودتوسعهای سریع» (Recursive Self-Improvement یا RSI) نامیده میشود، به معنای آن است که سیستمهای هوش مصنوعی به سطحی از توانمندی میرسند که میتوانند نسل بعدی خود را با سرعتی فزاینده بسازند. به گفته آنتروپیک، نزدیک شدن به RSI میتواند پیامدهای عمیقی برای ایمنی و کنترل هوش مصنوعی داشته باشد. منتقدان و پژوهشگران ایمنی هوش مصنوعی مدتهاست که RSI را یکی از سناریوهای پرخطر میدانند، زیرا در چنین شرایطی نظارت انسانی بر روند توسعه دشوارتر میشود. با این حال، این شرکت جزئیات فنی یا زمانبندی دقیقی برای رسیدن به این نقطه ارائه نکرده است. برای توسعهدهندگان ایرانی، این هشدار نشاندهنده اهمیت روزافزون درک سازوکارهای ایمنی و کنترل در سیستمهای هوش مصنوعی است. آگاهی از مفاهیمی مانند RSI و پیامدهای آن میتواند به تیمهای فنی کمک کند تا در طراحی و پیادهسازی راهکارهای مبتنی بر هوش مصنوعی، ملاحظات ایمنی را جدیتر بگیرند. آنتروپیک از جمله شرکتهایی است که بر research ایمنی هوش مصنوعی تمرکز دارد و این اعلامیه در ادامه تلاشهای آن برای شفافسازی درباره risques توسعه مدلهای پیشرفته منتشر شده است.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




