
گزارش: عامل هوش مصنوعی Muse متا دادههای خصوصی را افشا میکند
گزارش تککرانچ حاکی است عامل هوش مصنوعی Muse متا مکالمات کاربران را مخلوط کرده و اطلاعات خصوصی مانند پیامهای مراقبت از کودک و موجودی حساب بانکی را که متعلق به آنان نبوده، نمایش داده است. این رویداد نگرانیها درباره حریم خصوصی و جداسازی داده در سیستمهای عامل هوش مصنوعی را افزایش داده است.
بر اساس گزارش تککرانچ، کارمندان متا اعلام کردهاند که عامل هوش مصنوعی این شرکت به نام Muse در برخی موارد مکالمات کاربران را با یکدیگر مخلوط کرده و اطلاعات خصوصی را نمایش داده است. در این موارد، پیامهایی درباره درخواستهای مراقبت از کودک که کاربران هرگز مطرح نکرده بودند، مشاوره شغلی بدون درخواست، سفارش محصولاتی که ثبت نشده بود و موجودی حساب بانکی که متعلق به کاربر نبوده، مشاهده شده است. این گزارش نشان میدهد که سیستم Muse در جداسازی دادههای کاربران مختلف دچار نقص شده و ممکن است اطلاعات حساس را به اشخاص نادرست نشان دهد. چنین رفتاری میتواند اعتماد کاربران به عاملهای هوش مصنوعی را کاهش دهد و نگرانیهای مربوط به حریم خصوصی و امنیت داده را برجسته کند. متا تاکنون واکنش رسمی به این گزارش نشان نداده است. با این حال، این رویداد بار دیگر بر اهمیت طراحی سامانههای چندکاربره هوش مصنوعی با جداسازی دقیق دادهها و کنترلهای امنیتی تأکید میکند. برای توسعهدهندگان ایرانی، این خبر یادآور ضرورت توجه به جداسازی دادهها و حریم خصوصی در ساخت عاملهای هوش مصنوعی است. بهویژه در پروژههایی که از APIهای خارجی استفاده میکنند، اطمینان از عدم نشت اطلاعات کاربران و رعایت اصول امنیتی باید در اولویت قرار گیرد.
این مدل در اپکس۲۴ قابل دسترس است
یک کلید API — ۵۰+ مدل هوش مصنوعی




