EU AI Act چیست و چرا برای توسعهدهندگان مهم است؟
EU AI Act — با نام رسمی Regulation (EU) 2024/1689 — نخستین چارچوب رگولاتوری افقی و جامع برای هوش مصنوعی در دنیاست. «افقی» یعنی برخلاف قوانین بخشی، همهٔ حوزهها را از سلامت تا استخدام پوشش میدهد و «جامع» یعنی کل چرخهٔ عمر را از توسعه و عرضه تا پایش پس از عرضه تنظیم میکند. نکتهٔ مهمتر برای تیمهای ایرانی و خاورمیانهای این است که این آییننامه اثر فراسرزمینی دارد: اگر خروجی سیستم شما در اتحادیه اروپا استفاده شود، حتی اگر تیم شما در تهران یا دبی باشد، مشمول آن میشوید (مادهٔ ۲(۲)).
a machine-based system that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments
— تعریف «سیستم هوش مصنوعی» — مادهٔ ۳(۱) آییننامهٔ (EU) 2024/1689 (متن اصلی)
- اثر فراسرزمینی: خروجی شما در EU استفاده شود، شمول قانون دارید — ملاک محل استفاده است نه محل ثبت شرکت.
- جریمهها تا ۳۵ میلیون یورو یا ۷٪ گردش مالی جهانی سال قبل؛ برای استارتاپها عدد کمتر از مبلغ و درصد ملاک است.
- بازار اروپا یکی از بزرگترین بازارهای SaaS دنیاست؛ انطباق یعنی امکان فروش، نه فقط پرهیز از جریمه.
- الگوی جهانی: قانونگذاران دیگر از همین معماری ریسکمحور الهام میگیرند؛ تمرین امروز، آمادگی برای فردا است.
هرم ریسک: چهار سطح خطر و منطق پشت آنها
| سطح ریسک | مثالهای شاخص | تکلیف اصلی | مبنای قانونی |
|---|---|---|---|
| ممنوع (Unacceptable) | امتیازدهی اجتماعی، تشخیص احساسات در محل کار و آموزش، شناسایی از راه دور بیهدف | مطلقاً ممنوع؛ از ۲ فوریهٔ ۲۰۲۵ اجرایی | مادهٔ ۵ |
| پرریسک (High-risk) | غربال رزومه، امتیاز اعتباری، ارزیابی آزمون، ایمنی زیرساخت حیاتی | هفت ستون تکالیف + ارزیابی انطباق + نشان CE + ثبت در پایگاه دادهٔ EU | مادهٔ ۶، باب III، پیوستهای I و III |
| محدود (Limited) | چتبات، دستیار مکالمهای، تولید محتوای شبیه واقعی (deepfake) | اعلام «با AI تعامل دارید» و برچسبگذاری محتوای مصنوعی | مادهٔ ۵۰ |
| حداقلی (Minimal) | فیلتر اسپم، پیشنهاددهندهٔ محصول، بازیهای هوشمند | بدون تکلیف خاص؛ تکلیف عمومی سواد AI (مادهٔ ۴) | بخش عمومی آییننامه |
نکتهٔ کلیدی این است که «پرریسک» یک برچسب سیاسی نیست؛ با دو فهرست بستهبندی شده: مادهٔ ۶(۱) سیستمهایی که جزء ایمنی محصولات تحت قوانین هماهنگ پیوست I هستند (مثل تجهیزات پزشکی و ماشینآلات) و مادهٔ ۶(۲) کاربردهای فهرستشده در پیوست III. اگر محصولی جزو هیچکدام نباشد، حتی اگر واقعاً ریسکی باشد، تکالیف سنگین باب III ندارد — ولی ممکن است تکالیف شفافیت یا قواعد عمومی بگیرد.
کدام سیستمها پرریسک محسوب میشوند؟ (پیوست III و فیلتر مادهٔ ۶(۳))
پیوست III هشت حوزهٔ پرریسک را فهرست میکند. نکتهٔ ظریف این است که «حوزه» فهرست شده است نه «فناوری»: همان مدل زبانی که برای خلاصهسازی تیکت استفاده میشود حداقلی است، ولی همین مدل اگر برای رتبهبندی رزومه به کار رود پرریسک میشود. یعنی طبقهبندی را کاربرد (intended purpose) تعیین میکند، نه معماری مدل — و همین نکته، سند کاربرد محصول را به یک سند انطباقی مهم تبدیل میکند.
| حوزهٔ پیوست III | مثال محصولی که پرریسک میشود | نکته برای تیم فنی |
|---|---|---|
| ۱) زیستسنجی | شناسایی چهرهٔ از راه دور در کنترل تردد فرودگاه | بخشی از کاربردهای زیستسنجی در مادهٔ ۵ ممنوعاند |
| ۲) زیرساخت حیاتی | AI ایمنی در مدیریت ترافیک، آب، گاز، برق | فقط بهعنوان جزء ایمنی (safety component) |
| ۳) آموزش و مهارتآموزی | ارزیابی خودکار آزمونها یا پذیرش دانشجو | شامل مانیتورینگ تقلب در آزمون هم میشود |
| ۴) اشتغال و مدیریت کارکنان | غربال رزومه، تصمیم ارتقا/اخراج، تخصیص وظیفه | رایجترین حوزه برای SaaSهای HR |
| ۵) خدمات ضروری و مزایا | امتیاز اعتباری (credit scoring)، قیمتگذاری بیمهٔ عمر/سلامت | تشخیص تقلب مالی از این حوزه مستثناست |
| ۶) اجرای قانون | ارزیابی ریسک بزهدیدگی، دروغسنج دیجیتال | تا حدی که قانون ملی/اتحادیه اجازه دهد |
| ۷) مهاجرت، پناهندگی و مرزها | بررسی خودکار درخواستهای ویزا/پناهندگی | شامل ابزارهای پایش مرزی |
| ۸) عدالت و فرایندهای دموکراتیک | تحقیق و تفسیر حقوقی، هدفگیری پیام انتخاباتی | شامل چتباتهای مشاورهٔ قضایی |
فیلتر مادهٔ ۶(۳): اگر سیستم در پیوست III است ولی «ریسک معناداری» برای سلامت، ایمنی یا حقوق بنیادین ایجاد نکند، میتواند از دستهٔ پرریسک خارج شود — به شرط مستندسازی. این مستندسازی خودش یک تکلیف است: ارزیابی باید قبل از عرضه انجام شود، در مستندات فنی ثبت شود و توسط ارائهدهنده ثبتنام گردد. اصلاحیهٔ Digital Omnibus تعریف «جزء ایمنی» در مادهٔ ۶(۱) را هم محدودتر کرد تا قابلیتهای صرفاً کمکی (مثل بهینهسازی عملکرد یا راحتی کاربر) خودبهخود محصول را پرریسک نکنند.
- 1
شمول جغرافیایی را بررسی کنید
آیا سیستم در EU عرضه یا اجرا میشود یا خروجیاش در EU استفاده میشود؟ اگر نه، خارج از شمول است (مادهٔ ۲).
- 2
ممنوعیت مادهٔ ۵ را چک کنید
اگر کاربرد در فهرست ممنوعه است (مثل امتیازدهی اجتماعی)، کلاً ممنوع است؛ این ماده از ۲ فوریهٔ ۲۰۲۵ اجرایی شده.
- 3
مادهٔ ۶ و پیوستها را تطبیق دهید
کاربرد در پیوست III است یا سیستم جزء ایمنی محصول پیوست I؟ اگر بله و فیلتر مادهٔ ۶(۳) رد نشد → پرریسک.
- 4
سطح شفافیت را تعیین کنید
اگر با کاربر تعامل دارد یا محتوای مصنوعی تولید میکند، تکالیف مادهٔ ۵۰ برقرار است؛ از ۲ اوت ۲۰۲۶ اجرایی شده.
تکالیف ارائهدهنده: هفت ستون + ارزیابی انطباق و نشان CE
| تکلیف | ماده | یعنی چه برای تیم فنی |
|---|---|---|
| سیستم مدیریت ریسک | مادهٔ ۹ | چرخهٔ مستمر شناسایی/ارزیابی/کاهش ریسک در کل چرخهٔ عمر؛ سند زنده، نه گزارش یکباره |
| حکمرانی داده | مادهٔ ۱۰ | مجموعههای آموزش/اعتبارسنجی/تست با کیفیت و نمایندگی مناسب؛ بررسی سوگیری مستند |
| مستندات فنی | مادهٔ ۱۱ + پیوست IV | بستهٔ مستندات قبل از عرضه؛ versioned و حداقل ۱۰ سال قابل ارائه |
| ثبت رویدادها (Logging) | مادهٔ ۱۲ | ثبت خودکار رخدادها در سطحی که ردپای عملکرد سیستم قابل بازگشت باشد |
| شفافیت و دستورالعمل | مادهٔ ۱۳ | اطلاعات و راهنمای استفاده به deployerها تا آنها بتوانند تکالیفشان را انجام دهند |
| نظارت انسانی | مادهٔ ۱۴ | طراحی بهگونهای که ناظر بتواند خروجی را درک، رد، اصلاح یا متوقف کند |
| دقت، استحکام و امنیت سایبری | مادهٔ ۱۵ | معیارهای دقت مدون، مقاومت به خطا و حملات adversarial |
| سیستم مدیریت کیفیت | مادهٔ ۱۷ | فرایندها و مستندسازی انطباق در سطح سازمان (چارچوب ISO/IEC 42001 کمک میکند) |
| ارزیابی انطباق + نشان CE | مادههای ۴۳ و ۴۸ | برای اکثر سیستمها کنترل داخلی؛ ثابت شدن انطباق قبل از عرضه و درج CE |
| ثبت در پایگاه دادهٔ EU | مادهٔ ۴۹ | ثبت اطلاعات سیستم در پایگاه دادهٔ اطلاعاتی اتحادیه |
| پایش پس از عرضه و گزارش حوادث | مادههای ۷۲ و ۷۳ | پایش فعال عملکرد و گزارش حوادث جدی به نهاد نظارتی |
| نمایندهٔ مجاز برای ارائهدهندگان غیراروپایی | مادهٔ ۲۲ | اگر تیم شما خارج از EU است، باید نمایندهٔ مجاز در اتحادیه معرفی کنید |
دو نکته برای تیمهای کوچک: اول، مستندات فنی پیوست IV و سیستم مدیریت ریسک مادهٔ ۹ سختترین بخشها هستند؛ توصیهٔ عملی این است که از چارچوبهای آماده مثل ISO/IEC 42001 یا NIST AI RMF بهعنوان ستون فقرات مستندات استفاده کنید تا از صفر شروع نکنید. دوم، ارائهدهندگان غیراروپایی باید نمایندهٔ مجاز (Authorised Representative) در اتحادیه اروپا معرفی کنند (مادهٔ ۲۲) — یعنی اگر از ایران یا هر کشور ثالث محصول عرضه میکنید، این تکلیف مستقیماً شما را هدف میگیرد.
تکالیف بهرهبردار (Deployer): از نظارت انسانی تا نگهداری لاگ ۶ماهه
خیلی از تیمها فکر میکنند چون «فقط استفادهکننده» هستند، قانون به آنها ربطی ندارد؛ برعکس، مادهٔ ۲۶ دقیقاً برای همین نقش نوشته شده و اجرایش نیازمند تصمیمهای مهندسی است: چه کسی ناظر انسانی میشود؟ دادههای ورودی چطور کنترل میشوند؟ و لاگها کجا و چقدر نگه داشته میشوند؟
- استفاده مطابق دستورالعمل ارائهدهنده (مادهٔ ۲۶(۱)) — نسخه و پیکربندی توصیهشده را تغییر ندهید.
- تعیین ناظران انسانی دارای صلاحیت، آموزشدیده و با اختیار واقعی (مادهٔ ۲۶(۲)).
- کنترل ورودیها: اطمینان از تناسب دادههای ورودی با هدف موردنظر سیستم (مادهٔ ۲۶(۴)).
- پایش عملکرد سیستم و تعلیق استفاده در صورت خطر (مادهٔ ۲۶(۵)).
- نگهداری لاگها حداقل ۶ ماه (مادهٔ ۲۶(۶)).
- اطلاع به نمایندگان کارکنان قبل از استفاده در محیط کار (مادهٔ ۲۶(۷)) و اطلاع به افراد مشمول تصمیم (مادهٔ ۲۶(۱۱)).
جدول زمانی جدید: چه چیزی از کِی اجباری است؟
چرا تعویق؟ دلیل اعلامشده، تأخیر در استانداردهای هماهنگ و راهنماهای اجرایی بود: بدون استاندارد، «انطباق» قابل سنجش نیست و ممیزی معنا ندارد. اما توجه کنید که دامنهٔ تعویق فقط تکالیف باب III پرریسک بود؛ ممنوعیتهای مادهٔ ۵، تکالیف GPAI، چارچوب جریمه و تکالیف شفافیت مادهٔ ۵۰ به قوت خود اجرا شدهاند. استراتژی درست، استفاده از ۱۴ ماه باقیمانده برای ساختن زیرساخت انطباق است، نه انتظار برای مهلت بعدی.
برای برنامهریزی، تاریخها را وارونه بخوانید: از ۲ دسامبر ۲۰۲۷ به عقب. اگر ارزیابی انطباق و مستندسازی سه ماه وقت میبرد و ارزیابی سوگیری روی دادهٔ اروپایی دو ماه، پس شروع واقعی کار شما نه دسامبر ۲۰۲۷، بلکه همان سهماههٔ آینده است.
وقتی از API استفاده میکنید: provider هستید یا deployer؟
پاسخ به یک چیز بستگی دارد: چه کسی «نام و برند» را روی محصول نهایی میگذارد. اگر شما API مدل خام را داخل محصول خودتان ادغام کنید و با برند خودتان به مشتری بفروشید، طبق مادهٔ ۲۵ provider سیستم نهایی محسوب میشوید — حتی اگر هیچ مدلی آموزش نداده باشید. اما اگر فقط بهعنوان سازمان از ابزار شخص ثالث برای فرایند داخلی استفاده کنید، معمولاً deployer هستید و تکالیف مادهٔ ۲۶ دارید. مرز باریکی است و قراردادها و اسناد بازاریابی هم در تعیینش مؤثرند.
برای تیمهایی که با APX24 کار میکنند، این چارچوب دو کاربرد عملی دارد: اول، در معماریای که خروجی مدل فقط «پیشنهاد» است و تصمیم نهایی را انسان میگیرد، اثبات پایین بودن ریسک مؤثر و مستندسازی فیلتر مادهٔ ۶(۳) آسانتر میشود. دوم، لایهٔ لاگ و نظارت انسانی که در بخش بعد میسازیم، مستقیماً شواهد انطباق مادههای ۱۲ و ۱۴ و ۲۶(۶) را تولید میکند. البته «سازگار بودن API» به معنای «انطباق محصول» نیست — انطباق محصول وظیفهٔ تیم سازندهٔ محصول است.
انطباق در کد: لاگ حسابرسی، نظارت انسانی و مدیریت خطا
تکالیف رگولاتوری وقتی به کد ترجمه شوند سه چیز میشوند: ردپای کامل هر فراخوانی (مادههای ۱۲ و ۲۶(۶))، نقطهٔ تأیید انسانی قبل از اثرگذاری روی فرد (مادهٔ ۱۴)، و رفتار قابلپیشبینی در خطا (مادهٔ ۱۵). در ادامه اول یک درخواست واقعی به API سازگار با OpenAI میبینید که یک کاربرد را طبقهبندی میکند، سپس wrapper پایتونی که همین سه اصل را پیاده میکند. کدها برای API نسخهٔ v1 (فرمت سازگار با OpenAI) نوشته شدهاند.
جریمهها و اجرا: چه چیزی در میان است؟
| نوع تخلف | سقف جریمه | مبنا |
|---|---|---|
| نقض ممنوعیتهای مادهٔ ۵ | ۳۵ میلیون یورو یا ۷٪ گردش مالی جهانی سال قبل (هر کدام بیشتر) | مادهٔ ۹۹(۴)(الف) |
| نقض سایر تکالیف (از جمله تکالیف پرریسک) | ۱۵ میلیون یورو یا ۳٪ گردش مالی جهانی سال قبل | مادهٔ ۹۹(۴)(ب) |
| ارائهٔ اطلاعات نادرست به نهادهای نظارتی | ۷٫۵ میلیون یورو یا ۱٪ گردش مالی جهانی سال قبل | مادهٔ ۹۹(۴)(پ) |
| SME و استارتاپ (شامل start-upهای وابسته) | مقدار کمتر از مبلغ ثابت و درصد ملاک است | مادهٔ ۹۹(۵) |
اجرای قانون دو لایه دارد: نهادهای ملی نظارت بر بازار برای سیستمهای AI و اصول بنیادین، و AI Office در سطح کمیسیون برای مدلهای عمومیمنظوره (GPAI). با اصلاحیهٔ ۲۰۲۶ صلاحیت AI Office گستردهتر شد و ابزارهای تحقیق و بازرسی بهتری گرفت. برای تیم فنی این یعنی درخواست ممیزی میتواند هر لحظه — تا ۱۰ سال پس از عرضه — برسد و پاسخ شما باید در مستندات versioned و لاگها آماده باشد.
چکلیست عملی انطباق برای تیم فنی (از امروز تا دسامبر ۲۰۲۷)
- فهرست همهٔ سیستمهای AI محصول + کاربرد واقعی هر کدام را بسازید (asset inventory).
- هر سیستم را با الگوریتم چهارمرحلهای بخش ۳ طبقهبندی و نتیجه را مکتوب و versioned کنید.
- برای هر سیستم پرریسک، مالک انطباق و نقشها (RACI) را تعیین کنید.
- سیستم مدیریت ریسک (مادهٔ ۹) را روی چارچوب ISO/IEC 42001 یا NIST AI RMF سوار کنید.
- مستندات فنی پیوست IV را versioned کنید و معرفی نمایندهٔ مجاز EU (مادهٔ ۲۲) را نهایی کنید.
- لاگ حسابرسی + دروازهٔ نظارت انسانی را در کد فعال کنید (الگوی بخش ۸).
- ارزیابی سوگیری و دقت روی دادهٔ نمایندهٔ کاربران EU را برنامهریزی و اجرا کنید (مواد ۱۰ و ۱۵).
- مسیر ارزیابی انطباق، نشان CE و ثبت در پایگاه دادهٔ EU (مواد ۴۳، ۴۸ و ۴۹) را با مشاور حقوقی هماهنگ کنید.
این چکلیست عمداً از «آسان به سخت» مرتب شده: دو قدم اول حدود یک هفته کار است و به شما نقشهٔ واقعی میدهد؛ قدمهای ۴ به بعد یک پروژهٔ سهششماههاند. اگر فقط یک کار میکنید، همین امروز لاگ حسابرسی را فعال کنید — آن ردپا برای همهٔ تکالیف دیگر پایه است و وقتی ممیز بیاید، اولین چیزی که میخواهد همین است.




