قانون هوش مصنوعی اتحادیهٔ اروپا (EU AI Act) چیست و چرا برای توسعهدهندگان ایرانی هم مهم است؟
EU AI Act یا «قانون هوش مصنوعی اتحادیهٔ اروپا» با شمارهٔ رسمی Regulation (EU) 2024/1689، نخستین قانون جامع و افقی دنیا برای هوش مصنوعی است: در ۱۳ ژوئن ۲۰۲۴ تصویب، در ۱۲ ژوئیهٔ ۲۰۲۴ در روزنامهٔ رسمی اتحادیه منتشر و از ۱ اوت ۲۰۲۴ لازمالاجرا شد [S1]. نکتهٔ کلیدی این است که این قانون بهجای تنظیم «فناوری»، «کاربردها» را بر اساس سطح ریسک تنظیم میکند و سنگینترین لایهٔ آن — رفتارهای ممنوعه در مادهٔ ۵ — از ۲ فوریهٔ ۲۰۲۵ اعمال میشود [S4]. برای توسعهدهندهای که با API مدلهای زبانی محصول میسازد، مادهٔ ۵ همان خط قرمزهایی است که هیچ feature ای نباید از آن عبور کند.
- خطر غیرقابلقبول (Unacceptable risk): ممنوع مطلق — موضوع همین مقاله و مادهٔ ۵؛ جریمه تا ۳۵ میلیون یورو یا ۷٪ گردش مالی جهانی.
- پرریسک (High-risk): مجاز اما با تعهدات سنگین مثل مدیریت ریسک، لاگ، نظارت انسانی و اعتباربخشی — تاریخ اعمال طبق توافق Digital Omnibus به ۲ دسامبر ۲۰۲۷ و ۲ اوت ۲۰۲۸ موکول شده است [S5].
- محدود/شفافیت (Limited risk): الزام اطلاعرسانی به کاربر، مثلاً اعلام اینکه با AI حرف میزند یا برچسبگذاری محتوای تولیدی (مادهٔ ۵۰).
- کمریسک (Minimal risk): بدون الزام خاص — مثل فیلترهای اسپم یا بازیهای AI-محور؛ فقط تشویق به استفادهٔ مسئولانه.
نقشهٔ راه این مقاله: اول منطق «خطر غیرقابلقبول» را میفهمیم، بعد فهرست کامل ده ممنوعیت مادهٔ ۵ را با جدول و استثناها میبینیم، تفاوت ممنوع و پرریسک را رفع ابهام میکنیم، تقویم و جریمهها را مرور میکنیم و در دو بخش پایانی چکلیست عملی انطباق و گاردریل کدنویسیشده با APX24 را میسازیم. اگر فقط چند دقیقه وقت دارید، جدول بخش سوم و چکلیست بخش ششم را از دست ندهید.
رفتار ممنوع یعنی چه؟ منطق «خطر غیرقابلقبول» چیست؟
دو ممنوعیت نخست یک آزمون دومرحلهای مشترک دارند: اول وجود تکنیکِ دستکاری زیرآستانهای/فریبنده یا بهرهکشی از آسیبپذیری (سن، معلولیت، وضعیت اجتماعی-اقتصادی)، و دوم «تحریف اساسی رفتار» بهشکلی که توان تصمیم آگاهانه را مختل کند و «آسیب جدی» (significant harm) ایجاد کند یا بهطور معقول محتمل باشد ایجاد کند [S3]. نکتهٔ مهندسی مهم این است که قانون هم «هدف» (objective) را کافی میداند و هم «اثر» (effect) را — یعنی حتی بدون نیت بد، نتیجهٔ مخرب کافی برای ممنوعیت است.
چرا دقیقاً این ده دسته؟ منطق مشترک همهٔ آنها «عدم تقارن قدرت» است: در این سناریوها فرد یا بیخبر است (دستکاری ناخودآگاه)، یا قدرت نهادی مقابل اجازهٔ دفاع نمیدهد (امتیازدهی اجتماعی)، یا دادهٔ بیومتریک بدون رضایت جمع میشود (اسکرپ چهره). قانونگذار این شرایط را حتی با شفافیت و رضایتِ بعدی هم قابلجبران نمیداند و برای همین اصلاً «مجوز» تعریف نکرده است — برخلاف سیستمهای پرریسک که مجوز و اعتباربخشی دارند.
کدام کاربردهای هوش مصنوعی در مادهٔ ۵ ممنوع شدهاند؟ فهرست کامل دهگانه
مادهٔ ۵ در دو موج ممنوعیت اجرایی شده است: پاراگرافهای ۱(a) تا ۱(h) از ۲ فوریهٔ ۲۰۲۵ و پاراگرافهای ۱(ba) و ۱(bb) (محتوای صمیمی بدون رضایت و مواد مربوط به کودکان) از ۲ دسامبر ۲۰۲۶ [S2][S3]. جدول زیر همهٔ ده دسته را با مثال رایج جمع میکند — این جدول دقیقاً همان چیزی است که در جلسهٔ مرور feature به تیمتان نشان میدهید.
| # | ممنوعیت | پاراگراف | مثال رایج | تاریخ اعمال |
|---|---|---|---|---|
| ۱ | دستکاری زیرآستانهای یا فریبنده که تصمیمگیری آگاهانه را مختل و آسیب جدی ایجاد کند | ۵(۱)(a) | چتباتی که با تکنیکهای فشار روانی ناخودآگاه، کاربر را به خرید نامتناسب سوق میدهد | ۲ فوریهٔ ۲۰۲۵ |
| ۲ | بهرهکشی از آسیبپذیریهای سنی، معلولیت یا وضعیت اجتماعی-اقتصادی با آسیب جدی | ۵(۱)(b) | تبلیغ قمار آنلاین با هدفگیری الگوریتمی کودکان یا افراد در بحران مالی | ۲ فوریهٔ ۲۰۲۵ |
| ۳ | تولید/دستکاری محتوای صمیمی واقعنما از افراد قابلشناسایی بدون رضایت صریح (NCII) | ۵(۱)(ba) | اپهای «nudification» که عکس افراد واقعی را لختسازی میکنند | ۲ دسامبر ۲۰۲۶ |
| ۴ | تولید/دستکاری مواد آزار و بهرهکشی از کودکان (CSAM) | ۵(۱)(bb) | ابزارهای تولید محتوای غیرقانونی کودکان | ۲ دسامبر ۲۰۲۶ |
| ۵ | امتیازدهی اجتماعی با برخورد نامطلوب در زمینهٔ نامربوط یا نامتناسب | ۵(۱)(c) | رتبهبندی شهروندان بر اساس رفتار اجتماعی که به محرومیت از خدمات میانجامد | ۲ فوریهٔ ۲۰۲۵ |
| ۶ | پیشبینی ریسک ارتکاب جرم فقط بر اساس پروفایل یا ویژگیهای شخصیت | ۵(۱)(d) | «پلیس پیشبین» که فقط از پروفایل فرد «احتمال جرم» میسازد | ۲ فوریهٔ ۲۰۲۵ |
| ۷ | ساخت یا گسترش دیتابیس تشخیص چهره با اسکرپ بیهدف از اینترنت یا دوربین مداربسته | ۵(۱)(e) | خزیدن در شبکههای اجتماعی برای جمعآوری میلیونها عکس چهره | ۲ فوریهٔ ۲۰۲۵ |
| ۸ | تشخیص/استنتاج احساسات در محل کار و مؤسسات آموزشی | ۵(۱)(f) | سنجش «تمرکز» یا «روحیه» کارمند از وبکم (استثنا: پزشکی/ایمنی) | ۲ فوریهٔ ۲۰۲۵ |
| ۹ | دستهبندی بیومتریک برای استنتاج نژاد، عقیدهٔ سیاسی، عضویت سندیکایی، باور مذهبی یا زندگی جنسی | ۵(۱)(g) | مدلی که از چهره «مذهب» یا «گرایش جنسی» حدس میزند (استثنا: برچسبزنی قانونی دیتاستها) | ۲ فوریهٔ ۲۰۲۵ |
| ۱۰ | شناسایی بیومتریک راهدور بلادرنگ در فضاهای عمومی برای اجرای قانون | ۵(۱)(h) | دوربین ماسکشکنِ بلادرنگ در خیابان خارج از سه استثنای محدود | ۲ فوریهٔ ۲۰۲۵ |
- استثنای اول — جستوجوی قربانیان و مفقودان: شناسایی بلادرنگ برای پروندههای آدمربایی، قاچاق انسان و بهرهکشی جنسی و یافتن افراد مفقودشده.
- استثنای دوم — خطر فوری: پیشگیری از تهدید مشخص، اساسی و قریبالوقوع به جان یا سلامت جسمی، یا خطر واقعی و قابلپیشبینی حملهٔ تروریستی.
- استثنای سوم — جرایم سنگین: شناسایی مظنونان جرایمی که مجازاتشان حداقل ۴ سال حبس است.
- الزامات مشترک: هر سه استثنا نیازمند مجوز از مقام صالح، ضرورت اکید، تناسب و رعایت تضمینهای مادهٔ ۵(۲) و ۵(۳) است [S2].
استثناهای بقیهٔ پاراگرافها هم دقیقاند: در ۵(۱)(f) فقط «دلایل پزشکی یا ایمنی» مجاز است (مثلاً مانیتورینگ پزشکی بیمار، نه سنجش بهرهوری)؛ در ۵(۱)(g) فقط «برچسبزنی یا فیلتر قانونیِ دیتاستهای بیومتریکِ بهدستآمده بهصورت قانونی»؛ و در ۵(۱)(d) استفاده از AI برای پشتیبانی از ارزیابی انسانیِ مبتنی بر واقعیتهای عینی و قابلراستیآزماییِ مرتبط با فعالیت مجرمانه مجاز است [S1]. مرزهای این استثناها را در FAQ پایان مقاله هم باز میکنیم.
تفاوت رفتار ممنوع با سیستم پرریسک چیست؟
| مورد | جایگاه در قانون | مجاز بودن عرضه در اتحادیه | الزامات پیش از عرضه | سقف جریمه | مثال |
|---|---|---|---|---|---|
| ممنوع (مادهٔ ۵) | خطر غیرقابلقبول | خیر — مطلقاً ممنوع | هیچ — قابلتأمین نیست | ۳۵M€ یا ۷٪ گردش مالی | تشخیص احساسات کارمند در محل کار |
| پرریسک (مادهٔ ۶ + Annex III) | ریسک بالا | بله، مشروط | مدیریت ریسک، لاگ، نظارت انسانی، اعتباربخشی | ۱۵M€ یا ۳٪ | ابزار غربالگری رزومه در استخدام |
| محدود (مادهٔ ۵۰) | ریسک محدود | بله | اطلاعرسانی به کاربر و برچسب محتوای تولیدی | ۱۵M€ یا ۳٪ | چتباتها و محتوای مولد |
| کمریسک | ریسک حداقلی | بله | هیچ الزام خاصی | — | فیلتر اسپم |
یک تفکیک نقش هم لازم است: «ارائهدهنده» (provider) سیستم را میسازد و عرضه میکند و «استفادهکننده» (deployer) آن را زیر اختیار خود بهکار میگیرد. اگر با APX24 مدل مصرف میکنید و محصولی میسازید که خودتان آن را به بازار میدهید، شما در نقش ارائهدهندهٔ سیستم یا استفادهکنندهٔ آن ظاهر میشوید و مسئولیت کاربرد با شماست. مدل پایهٔ همهمنظوره (GPAI) ذاتاً ممنوع نیست؛ چیزی که قضاوت میشود کاربرد مشخصی است که با خروجی مدل میسازید.
ممنوعیتها از کِی اجرایی شدهاند و جریمهٔ تخلف چقدر است؟
| نوع تخلف | سقف — شرکت بزرگ | سقف — SME/استارتاپ | مثال |
|---|---|---|---|
| تخلف از رفتارهای ممنوعه (مادهٔ ۵) | ۳۵ میلیون یورو یا ۷٪ گردش مالی جهانی — هر کدام بیشتر | هر کدام کمتر | تشخیص احساسات در محل کار، اسکرپ بیهدف چهره |
| سایر تعهدات (پرریسک، GPAI، شفافیت) | ۱۵ میلیون یورو یا ۳٪ — هر کدام بیشتر | هر کدام کمتر | نداشتن نظارت انسانی یا مستندات پرریسک |
| ارائهٔ اطلاعات نادرست به مقامات | ۷٫۵ میلیون یورو یا ۱٪ — هر کدام بیشتر | هر کدام کمتر | پاسخ گمراهکننده به نهاد ناظر ملی |
برای برنامهریزی تیم شما سه تاریخ از بقیه مهمترند: ۲ فوریهٔ ۲۰۲۵ (گذشته — ممنوعیتها هماکنون قابلتعقیباند)، ۲ دسامبر ۲۰۲۶ (کمی بعد در زمان نگارش مقاله — ممنوعیت NCII/CSAM و واترمارک سیستمهای موجود) و ۲ دسامبر ۲۰۲۷ (شروع الزامات پرریسک Annex III). اگر امروز بین featureهایتان اولویتبندی میکنید، این سه ستون تقویم را بگذارید و بعد سراغ چکلیست بخش بعدی بروید.
چطور قبل از عرضهٔ محصول، انطباق با مادهٔ ۵ را چک کنم؟
تا اینجا «چه چیزهایی ممنوع است» را میدانید؛ حالا سؤال مهندسی: این فهرست را کجا در فرایند تیم بگذاریم؟ پاسخ، یک چکلیست ششمرحلهای است که قبل از هر release محصول AI — حتی اگر فقط یک کاربر اروپایی دارید — باید اجرا شود. این چکلیست عمداً سبک نگه داشته شده تا در یک جلسهٔ یکساعته قابل اجرا باشد و خروجیاش (سند تصمیم) در ممیزی هم به کار بیاید.
- 1
۱. فهرستبرداری از featureهای AI
همهٔ قابلیتهایی که تصمیم AI میگیرند یا محتوا تولید میکنند را با نام، دادهٔ ورودی و تصمیم خروجی فهرست کنید — از چتبات تا رتبهبندی داخلی.
- 2
۲. مقایسهٔ تکتک با جدول مادهٔ ۵
هر feature را با جدول دهگانهٔ بخش سوم چک کنید و شمارهٔ پاراگراف مربوطه را در سند یادداشت بزنید.
- 3
۳. بررسی نوع داده: بیومتریک؟ احساسات؟
اگر دادهٔ بیومتریک (چهره، صدا) یا استنتاج روانی-شناختی در جریان است، پاراگرافهای ۱(e) تا ۱(h) را با دقت دوبرابر چک کنید.
- 4
۴. تعیین نقش و محل استفادهٔ خروجی
شما provider هستید یا deployer؟ و آیا خروجی به کاربر اروپایی میرسد (مستقیم یا از طریق مشتری B2B)؟ این دو سؤال دامنهٔ مسئولیت شما را مشخص میکند.
- 5
۵. مستندسازی تصمیم و ارجاع موارد مرزی
برای هر feature یک پاراگراف تصمیم بنویسید؛ موارد مرزی را با متن دقیق پاراگراف مربوطه به مشاور حقوقی ارجاع دهید.
- 6
۶. گاردریل فنی و بازبینی دورهای
غربالگری خودکار (بخش بعدی) را در CI یا فرایند onboarding مشتری قرار دهید و هر سه ماه یا پس از هر تغییر قانونی، بازبینی کنید.
- وبکم یا میکروفون کارمند/دانشآموز برای تحلیل چهره، صدا یا «توجه» — پاراگراف ۱(f).
- امتیازدهی «شخصیت» یا «قابلیت اعتماد» برای افراد — مرزهای ۱(c) و ۱(d).
- جمعآوری عکس چهره از وب بدون تعادلکار مشخص — پاراگراف ۱(e).
- برچسبزدن ویژگیهای حساس (نژاد، مذهب، گرایش جنسی) روی دادهٔ بیومتریک — پاراگراف ۱(g).
- تکنیکهای ناخودآگاه یا فریبنده در UI فروش با آسیب جدی — پاراگراف ۱(a).
- تولید/ویرایش تصویر افراد قابلشناسایی بدون رضایت و بدون فیلتر — پاراگراف ۱(ba) از دسامبر ۲۰۲۶.
- پیشبینی «احتمال جرم» فقط از پروفایل کاربر — پاراگراف ۱(d).
چکلیست دستی عالی است اما مقیاسپذیر نیست: هر feature جدید، هر مشتری جدید و هر تغییر قانونی یعنی تکرار دستی. در بخش بعد همان منطق دهگانه را به یک گاردریل برنامهنویسیشده تبدیل میکنیم که با یک فراخوانی API، توصیف هر feature را به قضاوت JSON «ممنوع/مرزی/مجاز» تبدیل میکند — و البته جای بازبینی انسانی را نگه میداریم.
چطور با API سازگار با OpenAI (APX24) یک گاردریل انطباق بسازیم؟
ایدهٔ گاردریل ساده است: یک تابع که «توصیف feature» را میگیرد، آن را همراه با یک prompt سیستمی حاوی چکلیست مادهٔ ۵ به مدل زبانی میفرستد و یک قضاوت ساختیافتهٔ JSON تحویل میدهد. این گاردریل یک «فیلتر اول» است: استفادهٔ ممنوع واضح را در عرض چند ثانیه و با هزینهٔ چند توکن غربال میکند، اما رأی حقوقی نمیدهد — موارد مرزی همیشه به بازبینی انسانی و مشاور حقوقی میروند.
تفسیر پاسخ سه لایه دارد: verdict پاسخ اصلی است (prohibited یعنی feature را متوقف کنید)، category دستهٔ مادهٔ ۵ را نشان میدهد (اینجا emotion_recognition_workplace یعنی ۵(۱)(f)) و reason متن قابلانسان است که مستقیماً در سند انطباق کپی میشود. دقت کنید که مدل، پاراگراف دقیق را هم حدس میزند چون در prompt دستهها را نامبردهایم — اگر prompt را سادهتر کنید، دقت category پایین میآید.
محدودیتها را صادقانه بگوییم: مدل زبانی گاهی hallucinate میکند و میتواند یک کاربرد ممنوع را «allowed» برچسب بزند، مخصوصاً اگر توصیف feature مبهم باشد؛ پس توصیفها را دقیق بنویسید و threshold خطا را طوری بگذارید که هر خروجیِ غیرقابلپارس، borderline شود. این گاردریل جایگزین مشاور حقوقی یا ممیزی رسمی نیست — کاهندهٔ بار کاریِ غربالگری اولیه است. با همین فرض، ترکیب «چکلیست ششمرحلهای + گاردریل خودکار + بازبینی انسانی» برای تیمهای کوچک یک بستهٔ انطباق واقعبینانه است.
کاربردهای واقعی: کجا این قواعد بایتبهبایت اهمیت پیدا میکنند؟
نکتهٔ فنی مهم برای سازندگان ابزارهای تولید تصویر: ممنوعیت جدید فقط «هدف صریح» را نمیگیرد؛ اگر سیستم شما بهراحتی قابل تبدیل به ابزار لختسازی است و تدابیر ایمنی state-of-the-art (فیلتر ورودی، فیلتر خروجی، ممنوعیت چهرهٔ افراد قابلشناسایی بدون رضایت) ندارد، عرضهکننده هم وارد دامنهٔ ممنوعیت میشود. برای تیمهایی که با API مدلهای تصویری کار میکنند، یعنی لایهٔ فیلتر را خودتان باید روی خروجیها بسازید و مستندش کنید.
صحنهٔ سوم، فضای عمومی است: استفادهٔ پلیس از شناسایی چهرهٔ بلادرنگ فقط در سه استثنا و با مجوز مجاز است و خارج از آن، حتی «برای امنیت عمومی» ممنوع است [S2]. برای شرکتهای فناوری، پیام این است که فروش سیستمهای شناسایی بیومتریک به مشتریان دولتی باید مشمول بررسی هدف استفاده باشد؛ چون همانطور که در تعریف provider دیدیم، «عرضه با هدف استفادهٔ ممنوع» هم مشمول ممنوعیت است.
برای تیمهای فارسیزبان یک افق دیگر هم هست: مقرراتگذاری AI در منطقه (خلیج فارس، ترکیه و…) به سمت الگوهای مشابه حرکت میکند. محصولی که با استاندارد اروپا طراحی شده — بدون featureهای ممنوعه، با شفافیت و مستندسازی — عملاً برای موج بعدی مقررات در هر بازاری آمادهتر است؛ یعنی انطباق با مادهٔ ۵ نه هزینهٔ خالص، بلکه سرمایهٔ طراحی محصول است.
جمعبندی: مرجع سریع مادهٔ ۵ برای تیم فنی
| ممنوعیت | پاراگراف | استثنای صریح |
|---|---|---|
| دستکاری زیرآستانهای/فریبنده با آسیب جدی | ۵(۱)(a) | — |
| بهرهکشی از آسیبپذیری (سن/معلولیت/وضعیت اقتصادی) | ۵(۱)(b) | — |
| محتوای صمیمی بدون رضایت (NCII) | ۵(۱)(ba) — از دسامبر ۲۰۲۶ | تصاویر غیرقابلشناسایی/کارتونی و کاربردهای پزشکی [S5] |
| مواد آزار کودکان (CSAM) | ۵(۱)(bb) — از دسامبر ۲۰۲۶ | — |
| امتیازدهی اجتماعی با برخورد نامطلوب | ۵(۱)(c) | — |
| پیشبینی جرم فقط از پروفایل/شخصیت | ۵(۱)(d) | پشتیبانی از ارزیابی انسانی مبتنی بر واقعیتهای عینی |
| اسکرپ بیهدف چهره برای دیتابیس تشخیص چهره | ۵(۱)(e) | — |
| تشخیص احساسات در محل کار/آموزش | ۵(۱)(f) | دلایل پزشکی یا ایمنی |
| دستهبندی بیومتریک ویژگیهای حساس | ۵(۱)(g) | برچسبزنی/فیلتر قانونی دیتاستهای قانونی |
| شناسایی بیومتریک بلادرنگ پلیس در فضای عمومی | ۵(۱)(h) | قربانیان/مفقودان؛ تهدید فوری جانی/تروریستی؛ جرایم ≥۴ سال — با مجوز |
- مادهٔ ۵ EU AI Act ده کاربرد «خطر غیرقابلقبول» را ممنوع کرده است: هشت مورد از ۲ فوریهٔ ۲۰۲۵ و NCII/CSAM از ۲ دسامبر ۲۰۲۶.
- سقف جریمهٔ تخلف از ممنوعیتها ۳۵ میلیون یورو یا ۷٪ گردش مالی جهانی است — هر کدام بیشتر؛ برای SMEها هر کدام کمتر.
- قانون به خروجیِ استفادهشده در اتحادیه هم اعمال میشود (مادهٔ ۲(۱)(c))؛ پس «جایی که خروجی مصرف میشود» را بپرسید، نه «جایی که کد نوشته میشود».
گام بعدی عملی: چکلیست ششمرحلهای را این هفته روی featureهای فعلیتان اجرا کنید، سند تصمیم یکپاراگرافی بسازید و گاردریل بخش هفتم را در CI بگذارید. اگر کلید API ندارید، ساختش دو دقیقه طول میکشد و برای شروع، مستندات APX24 نمونههای بیشتری از کار با endpoint سازگار با OpenAI دارد. مقالههای بعدی این سری، لایهٔ پرریسک و الزامات شفافیت را با همین سبک پوشش میدهند.




