
مایکروسافت: عوامل هوش مصنوعی مانند تهدیدات داخلی هستند
مایکروسافت هشدار داده است که عوامل هوش مصنوعی میتوانند مانند تهدیدات داخلی عمل کنند و مدلهای مرزی قابل اعتماد نیستند. این شرکت از سازمانها خواسته است که استفاده کارکنان از عوامل هوش مصنوعی خارج از کنترل آزمایشگاههای هوش مصنوعی را به دقت نظارت کنند.
شرکت مایکروسافت هشدار داده است که عوامل هوش مصنوعی (AI Agents) میتوانند مانند تهدیدات داخلی (Insider Threats) عمل کنند و مدلهای مرزی (Frontier Models) قابل اعتماد نیستند. این شرکت از سازمانها خواسته است که عوامل هوش مصنوعی که کارکنان آنها استفاده میکنند را به دقت زیر نظر داشته باشند. مایکروسافت تأکید کرد که سیستمهایی که توسط آزمایشگاههای هوش مصنوعی مانند OpenAI و Anthropic کنترل نمیشوند، نیازمند نظارت دقیقتری هستند. این نگرانی ناشی از این واقعیت است که مدلهای پیشرفته هوش مصنوعی ممکن است رفتارهای غیرقابل پیشبینی از خود نشان دهند و سازمانها باید آگاهی کاملی از خطرات احتمالی داشته باشند. این شرکت توصیه میکند که سازمانها سیاستهای امنیتی سختگیرانهای برای مدیریت عوامل هوش مصنوعی اتخاذ کنند و دسترسی آنها به دادههای حساس را محدود نمایند. نظارت بر فعالیتهای این عوامل باید بهصورت مستمر انجام شود و سازمانها باید اطمینان حاصل کنند که این عوامل فقط در محیطهای کنترلشده فعالیت میکنند. برای توسعهدهندگان ایرانی، این هشدار اهمیت ویژهای دارد. با توجه به استفاده روزافزون از عوامل هوش مصنوعی در پروژههای نرمافزاری داخلی، تیمهای توسعه ایرانی باید پروتکلهای امنیتی مناسب برای ارزیابی و نظارت بر این عوامل را در نظر بگیرند و از اتصال آنها به سیستمهای غیرقابل اعتماد خودداری کنند. همچنین، پیادهسازی لایههای نظارتی مستقل میتواند به کاهش خطرات ناشی از رفتار غیرقابل پیشبینی این عوامل کمک کند.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




