دستهبندی ریسک در قانون AI اروپا چیست و چرا مهم است؟
EU AI Act یک قانون «محصولمحور» است، نه «فناوریمحور»: بهجای ممنوع کردن یک مدل یا یک فناوری، کاربردهای آن را بر اساس میزان خطر برای سلامت، ایمنی و حقوق بنیادین افراد دستهبندی میکند. این رویکرد ریسکپایه یعنی هرچه خطر بالاتر، الزامات سنگینتر — از ممنوعیت کامل در یک انتها تا آزادی کامل همراه با توصیههای داوطلبانه در انتهای دیگر [S1][S2]. همین منطق ساده است که قانون را از مقررات فناوریهای دیگر متمایز میکند: شما نه بر اساس اینکه «چه مدلی» استفاده میکنید، بلکه بر اساس «چه کاری با آن میکنید» ارزیابی میشوید.
قانون چهار دستهٔ اصلی دارد: ریسک غیرقابلقبول (ممنوع)، ریسک بالا (الزامات کامل انطباق)، ریسک محدود (فقط الزامات شفافیت) و ریسک حداقلی (بدون الزام قانونی). علاوه بر این ۴ پله، مدلهای همهمنظوره یا GPAI (General-Purpose AI) یک مسیر عمودی جداگانه با تعهدات مخصوص خود دارند که در بخش ۵ میبینیم. نکتهٔ کلیدی برای توسعهدهنده این است که یک محصول واحد میتواند چند ویژگی در پلههای مختلف داشته باشد؛ مثلاً چتباتی که هم با کاربر حرف میزند (شفافیت) و هم رزومه رتبهبندی میکند (ریسک بالا).
| دسته | مبنای قانونی | پیامد برای توسعهدهنده | مثال ملموس |
|---|---|---|---|
| غیرقابلقبول | مادهٔ ۵ | ممنوعیت عرضه و استفاده در اروپا؛ جریمهٔ حداکثری | امتیازدهی اجتماعی شهروندان؛ تشخیص احساسات در محل کار |
| ریسک بالا | مادهٔ ۶ + ضمیمههای I و III | ارزیابی تطابق، مستندسازی فنی، لاگ، نظارت انسانی | نرمافزار غربالگری رزومه در استخدام |
| ریسک محدود | مادهٔ ۵۰ | اعلام هویت AI و برچسب محتوای مصنوعی | چتبات پشتیبانی مشتری؛ تولید تصویر با AI |
| ریسک حداقلی | بدون الزام (توصیهٔ کدهای رفتاری) | آزادی کامل با رعایت رفتار مسئولانه | فیلتر اسپم؛ پیشنهادگر فروشگاه |
| مدل GPAI (مسیر جدا) | مواد ۵۱ تا ۵۶ | بر عهدهٔ ارائهدهندهٔ مدل: مستندسازی، سیاست کپیرایت | مدلهای زبانی پایه مثل مدلهای ارائهشده در APX24 |
ریسک غیرقابلقبول: کدام کاربردها در اروپا ممنوعاند؟
مادهٔ ۵ قانون، ۸ گروه از کاربردها را بهطور کامل ممنوع میکند؛ منطق مشترک همهٔ آنها آسیب جدی و نامتناسب به حقوق بنیادین افراد است. این ممنوعیتها از ۲ فوریهٔ ۲۰۲۵ — یعنی ۶ ماه پس از ورود قانون به قدرت اجرا — لازمالاجرا شدهاند و با اصلاحیهٔ Digital Omnibus، از ۲ دسامبر ۲۰۲۶ یک ممنوعیت جدید هم برای تولید تصویر غیراخلاقی بدون رضایت (نرمافزارهای nudification) اضافه میشود [S1][S3][S4]. اگر هر یک از این کاربردها بخشی از محصول شماست، پاسخ ساده است: آن قابلیت را برای بازار اروپا حذف یا بازطراحی کنید.
- دستکاری ناهشیار (subliminal) با تکنیکهای مضر که مانع تصمیمگیری آگاهانهٔ فرد میشود و به او آسیب میزند.
- سوءاستفاده از آسیبپذیری افراد به دلیل سن، معلولیت یا موقعیت اجتماعی-اقتصادی با هدف تغییر رفتار مضر.
- امتیازدهی اجتماعی (social scoring): رتبهبندی افراد بر اساس رفتار عمومی و اعطای مزیت/تنبیه نامتناسب در بافتهای نامرتبط.
- پیشبینی ریسک ارتکاب جرم صرفاً بر اساس پروفایلسازی و شخصیتپردازی، بدون ارتباط با رفتار عینی قابل اثبات.
- جمعآوری بیهدف تصاویر چهره از اینترنت یا دوربینهای مداربسته برای ساخت پایگاه شناسایی چهره.
- تشخیص احساسات (emotion inference) در محل کار و مؤسسات آموزشی — بهجز دلایل پزشکی یا ایمنی.
- دستهبندی زیستی افراد برای استنتاج نژاد، عقیدهٔ سیاسی، عضویت اتحادیه، باور دینی، گرایش جنسی و ویژگیهای حساس مشابه.
- شناسایی زیستی از راه دورِ همزمان (real-time) در فضاهای عمومی برای اجرای قانون — جز استثناهای باریک و مستند قانونی مثل جستوجوی قربانی ربایش.
ریسک بالا: کدام سیستمها الزامات سنگین انطباق دارند؟
اگر سیستم شما ممنوع نیست، دو راه برای رسیدن به دستهٔ «ریسک بالا» وجود دارد. مسیر اول مادهٔ ۶(۱) است: سیستم AI بهعنوان جزء ایمنی (safety component) یا خودِ محصول، داخل تجهیزاتی گنجانده شود که مشمول قانونگذاری هماهنگ اروپا هستند — مثل ماشینآلات، اسباببازی، تجهیزات پزشکی، خودرو و هوانوردی (ضمیمهٔ I). مسیر دوم مادهٔ ۶(۲) است: سیستم مستقل باشد و حوزهٔ کاربردش در ضمیمهٔ III فهرست شده باشد [S1][S3]. برای توسعهدهندهٔ SaaS معمولاً مسیر دوم — ضمیمهٔ III — تعیینکننده است و اتفاقاً بیشترین سوءبرداشتها همینجا رخ میدهد.
| حوزهٔ ضمیمهٔ III | مثال ملموس از محصول |
|---|---|
| زیستسنجی (کاربردهای غیرممنوع) | احراز هویت با چهره در کنترل مرز فرودگاه |
| زیرساخت حیاتی | پیشبینی خرابی در شبکهٔ توزیع برق یا آب |
| آموزش و آموزش حرفهای | تصحیح و رتبهبندی خودکار امتحان ورودی دانشآموزان |
| استخدام و مدیریت نیروی کار | غربالگری خودکار رزومه و ارزیابی عملکرد کارکنان |
| دسترسی به خدمات ضروری (خصوصی/عمومی) | اعتبارسنجی و امتیازدهی وام (credit scoring) و قیمتگذاری بیمه |
| اجرا و پلیس (کاربردهای غیرممنوع) | ارزیابی اعتبار شواهد دیجیتال در تحقیق |
| مهاجرت، پناهندگی و کنترل مرز | بررسی خودکار درخواستهای ویزا و اقامت |
| عدالت و فرایندهای دموکراتیک | نرمافزار دستهبندی رأیدهندگان و شناخت رفتار رأی |
- سیستم مدیریت ریسک مستمر در کل چرخهٔ عمر سیستم (مادهٔ ۹).
- حاکمیت داده: آموزش/آزمون/اعتبارسنجی با دادههای مرتبط و بدون سوگیری معنادار (مادهٔ ۱۰).
- مستندسازی فنی قبل از عرضه مطابق ضمیمهٔ IV (مادهٔ ۱۱).
- ثبت خودکار رویدادها (logging) با قابلیت ردیابی عملکرد سیستم (مادهٔ ۱۲).
- شفافیت و ارائهٔ راهنمای استفاده به بهکاربرندگان (مادهٔ ۱۳).
- طراحی برای نظارت مؤثر انسانی (human oversight) با امکان مداخله و توقف (مادهٔ ۱۴).
- سطح مناسب دقت، استواری و امنیت سایبری (مادهٔ ۱۵).
- سیستم مدیریت کیفیت (مادهٔ ۱۷) و ارزیابی تطابق قبل از عرضه با علامت CE (مواد ۴۳ و ۴۸).
- ثبت سیستم در پایگاه اطلاعاتی اروپایی (مادهٔ ۴۹).
- پایش جدی پس از عرضه و گزارش حوادث جدی (مواد ۷۲ و ۷۳).
نکتهٔ تقویمی مهم: الزامات ریسک بالا در متن اصلی قرار بود از ۲ اوت ۲۰۲۶ (ضمیمهٔ III) و ۲ اوت ۲۰۲۷ (ضمیمهٔ I) اعمال شود؛ اما اصلاحیهٔ Digital Omnibus — Regulation (EU) 2026/1744 که در ۲۴ ژوئیهٔ ۲۰۲۶ در روزنامهٔ رسمی ابلاغ شد — این مهلتها را به ۲ دسامبر ۲۰۲۷ برای سیستمهای مستقل ضمیمهٔ III و ۲ اوت ۲۰۲۸ برای سیستمهای جاسازیشده در محصولات ضمیمهٔ I موکول کرد [S3][S4]. این موکولشدن «لغو» نیست: الزامات بدون تغییر باقی ماندهاند و برونسپاریِ آمادهسازی به ۲۰۲۷، تیم شما را در وضعیت بحرانی قرار میدهد.
ریسک محدود: مادهٔ ۵۰ و شفافیت برای توسعهدهندگان چتبات چیست؟
دستهٔ سوم، که اکثر چتباتها و ابزارهای تولید محتوا در آن مینشینند، الزام «شفافیت» دارد. ستون فقرات این دسته مادهٔ ۵۰ است که از ۲ اوت ۲۰۲۶ لازمالاجراست؛ فقط الزام نشانهگذاری ماشینخوان (watermarking) محتوای مصنوعی برای سیستمهایی که قبل از این تاریخ در بازار بودهاند، تا ۲ دسامبر ۲۰۲۶ فرصت دارد [S3][S4]. مادهٔ ۵۰ چهار سناریو را پوشش میدهد: تعامل مستقیم با کاربر (اعلام هویت AI)، تولید محتوای مصنوعی (برچسب ماشینخوان)، دیپفیک (افشای صریح) و انتشار متن دربارهٔ مسائل عمومی (افشای تولید AI).
AI systems intended to interact directly with natural persons shall be designed and developed in such a way that the natural persons concerned are informed that they are interacting with an AI system...
— مادهٔ ۵۰(۱) — Regulation (EU) 2024/1689 (متن اصلی به انگلیسی)
ریسک حداقلی و مدلهای GPAI: کجا مرز آزادی است؟
هر کاربردی که نه ممنوع باشد، نه در ضمیمههای ریسک بالا بنشیند و نه الزام شفافیت مادهٔ ۵۰ را فعال کند، در پلهٔ «ریسک حداقلی» قرار میگیرد. قانون برای این دسته هیچ الزام اجباری ندارد؛ فقط توسعهٔ کدهای رفتاری داوطلبانه را تشویق میکند که در ساختار حاکمیتی قانون هم نقش دارند [S2]. بخش بزرگی از اکوسیستم — از فیلتر اسپم تا پیشنهادگر محصولات — اینجا زندگی میکند و همین پهناور بودن پلهٔ پایین، منطق «متناسب بودن الزام با خطر» را حفظ میکند.
- فیلترهای اسپم و هرزنامه در سرویسهای ایمیل.
- پیشنهادگر محصول و شخصیسازی فهرست خرید در فروشگاه آنلاین.
- بازیهای ویدیویی با NPC هوشمند و محتوای تولیدی درونبازی.
- ابزارهای پیشنویس ایمیل شخصی بدون تصمیمگیری دربارهٔ افراد.
- کشف تقلب آماری در محتوای کاربر بدون امتیازدهی به خود فرد.
مدلهای همهمنظوره (GPAI) — مدلهایی که قابلیتهای گسترده دارند و در طیف وسیعی از کاربردها استفاده میشوند — پلهٔ جداگانهای دارند: مواد ۵۱ تا ۵۶. ارائهدهندهٔ مدل باید مستندات فنی، سیاست رعایت کپیرایت در اتحادیهٔ اروپا و خلاصهای از دادهٔ آموزشی منتشر کند؛ اگر توان محاسباتی آموزش مدل از آستانهٔ ۱۰ به توان ۲۵ عملیات ممیز شناور بگذرد، مدل «دارای ریسک سیستمی» فرض میشود و تعهدات سنگینتری مثل ارزیابی مدل، تست خصمانه، گزارش حوادث و امنیت سایبری هم لازم میشود [S1][S2]. این الزامات از ۲ اوت ۲۰۲۵ لازمالاجرا شدهاند و مسئولشان ارائهدهندهٔ مدل است، نه توسعهدهندهٔ اپلیکیشن روی مدل.
چطور محصول خود را در ۵ گام دستهبندی کنیم؟
- 1
فهرست قابلیتها و اهداف کاربرد را بنویسید
هر «سیستم AI» و هر هدف مشخص (intended purpose) را جداگانه فهرست کنید؛ دستهبندی به هدف کاربرد بستگی دارد، نه به مدل زیرین. مثال: «چتبات پشتیبانی» و «ماژول امتیازدهی کارکنان» دو ردیف جدا هستند.
- 2
مادهٔ ۵ (ممنوعیتها) را چک کنید
برای هر قابلیت، فهرست ۸گانهٔ بخش ۲ را مرور کنید. اگر مطابقت دارد، آن قابلیت را برای بازار اروپا حذف یا بازطراحی کنید؛ مستندسازی نتیجه با تاریخ و نسخه الزامی است.
- 3
ضمیمههای I و III را تطبیق دهید
آیا قابلیت به حوزههای ضمیمهٔ III (مثل استخدام، آموزش، اعتبارسنجی) میخورد؟ آیا داخل تجهیزات مشمول ضمیمهٔ I (پزشکی، ماشینآلات) جاسازی شده؟ اگر بله، شما در مسیر ریسک بالا هستید و مادهٔ ۶(۳) را هم بررسی کنید.
- 4
الزامات شفافیت مادهٔ ۵۰ را بررسی و پیاده کنید
تعامل مستقیم با کاربر دارید؟ محتوای مصنوعی تولید میکنید؟ دیپفیک میسازید؟ برای هر مورد، اعلام هویت AI، برچسب ماشینخوان و افشای صریح را در UI و متادیتا پیاده کنید (الگوی کد بخش ۴).
- 5
نتیجه را مستند و بازبینی منظم کنید
برای هر قابلیت، یک برگهٔ ارزیابی با تاریخ، نسخهٔ قانون، دستهٔ انتخابی و دلایل بسازید. هر تغییر قابلیت یا هر استاندارد جدید اروپا، بازبینی مجدد را لازم میکند؛ این برگهها در مناقصهها و ممیزیهای مشتری هم استفاده میشوند.
برای توسعهدهندههای ایرانی: نقش شما کدام است و قلمرو قانون کجاست؟
سؤال اول هر تیم غیراروپایی این است: «ما در ایرانیم؛ چه ربطی به ما دارد؟» پاسخ در مادهٔ ۲ است: قانون بر دو پایهٔ قلمرو فرامرزی ایستاده است — عرضهٔ سیستم در بازار اتحادیهٔ اروپا و استفاده از «خروجی» سیستم در اروپا. اگر کاربر نهایی، مشتری یا شرکت تابعهٔ اروپایی دارید، در قلمرو هستید؛ مشابه همان منطقی که GDPR را برای همهٔ وب جهانی عملی کرد. به همین دلیل بخشهای بزرگی از توسعهدهندههای فارسیزبان که به مشتریان اروپایی یا خاورمیانهایِ فعال در بازار اروپا سرویس میدهند، عملاً مشمول حداقل مادهٔ ۵ و مادهٔ ۵۰ هستند [S1].
تقویم اجرا و جریمهها: آخرین وضعیت با اصلاحیهٔ ۲۰۲۶ چیست؟
| نوع نقض | سقف جریمه (شخصیت حقوقی) | نکتهٔ SME |
|---|---|---|
| نقض ممنوعیتهای مادهٔ ۵ | ۳۵ میلیون یورو یا ۷٪ گردش مالی جهانی (هر کدام بیشتر) | برای SME سقف پایینتر اعمال میشود |
| سایر الزامات (ریسک بالا، شفافیت و ...) | ۱۵ میلیون یورو یا ۳٪ گردش مالی جهانی | برای SME مقدار کمتر از دو عدد |
| ارائهٔ اطلاعات نادرست/گمراهکننده به مرجع نظارتی | ۷.۵ میلیون یورو یا ۱٪ گردش مالی جهانی | برای SME مقدار کمتر از دو عدد |
| عدم پاسخدهی ارائهدهندهٔ مدل GPAI به درخواستهای AI Office (مادهٔ ۱۰۱) | ۱۵ میلیون یورو یا ۳٪ | اعمال توسط کمیسیون اروپا |
جمعبندی فنی: چکلیست پایبندی برای تیم شما چیست؟
- فهرست کامل قابلیتهای AI محصول را بسازید و برای هر کدام نقش خود را مشخص کنید: ارائهدهندهٔ سیستم، بهکاربرنده یا هر دو (مادهٔ ۳).
- هر قابلیت را با فهرست ۸گانهٔ مادهٔ ۵ تطبیق دهید؛ موارد منطبق را حذف یا بازطراحی و تصمیم را مستند کنید.
- ضمیمههای I و III را برای هر قابلیت چک کنید؛ برای سیستمهای ریسک بالا، نقشهٔ راه انطباق تا دسامبر ۲۰۲۷/اوت ۲۰۲۸ تنظیم کنید.
- شفافیت مادهٔ ۵۰ را در سه لایه پیاده کنید: بنر UI، system prompt، و برچسب/متادیتای ماشینخوان برای محتوای مصنوعی.
- در قرارداد با ارائهدهندهٔ مدل، تقسیم مسئولیت و تعهد پشتیبانی از برچسبگذاری محتوا را صریح کنید.
- لاگ درخواست/پاسخ را با سیاست نگهداری حداقل ۶ ماهه (الگوی مادهٔ ۱۹ برای ریسک بالا) و با حداقل دادهٔ شخصی طراحی کنید.
- برگهٔ ارزیابی هر قابلیت (تاریخ، نسخهٔ قانون، دستهٔ ریسک، دلایل) را در مخزن پروژه نگه دارید و در تغییرات بازبینی کنید.
- تغییرات قانون — انتشار استانداردهای اروپا، راهنماهای کمیسیون و اصلاحیههای بعدی Digital Omnibus — را در یک تقویم رصد ماهانه دنبال کنید.




