چرا قانون اروپا روی «شفافیت» اینقدر حساس است؟ (شهود پایه)
انگیزهٔ قانونگذار سه چیز است: جلوگیری از فریب کاربر، حفاظت از سلامت اطلاعات عمومی، و ساختن اعتماد قابلسنجش به هوش مصنوعی. مادهٔ ۵۰ سیستمهای «ریسک محدود» (limited risk) را هدف میگیرد — سیستمهایی که high-risk نیستند اما یا مستقیماً با انسان تعامل دارند یا محتوایی تولید میکنند که میتواند بهعنوان واقعی جا بزند. برای همین قانون از آنها میخواهد چیزی را «اعلام» کنند، نه اینکه از کار متوقف شوند.
تعهدات شفافیت EU AI Act دقیقاً چیست و چه کسانی را شامل میشود؟
| بند | مسئول | تعهد کلیدی | مثال |
|---|---|---|---|
| ۵۰(۱) | Provider | اطلاعرسانی تعامل با AI در یا قبل از اولین تعامل، مگر واضح باشد | چتبات، AI agent، آواتار مکالمهای |
| ۵۰(۲) | Provider | علامتگذاری machine-readable خروجی مصنوعی + قابلتشخیصبودن | متن، صدا، تصویر و ویدیوی تولیدی مدل |
| ۵۰(۳) | Deployer | اطلاعرسانی به افراد در معرض تشخیص احساسات/دستهبندی بیومتریک | سنجش استرس مشتری در کیوسک فروشگاه |
| ۵۰(۴) | Deployer | برچسبگذاری دیپفیک + افشای متن عمومی تولیدی AI | ویدیوی دیپفیک، خبر تولیدشده با AI |
دو نکتهٔ قلمروی حیاتی برای تیمهای خارج از اروپا: اول، این قانون فراملی است — provider خارج از اتحادیه هم مشمول است اگر خروجی سیستمش در اتحادیه استفاده شود؛ ملاک، محل استفادهٔ خروجی است نه محل ثبت شرکت. دوم، مرز provider و deployer بر اساس نقش است نه اندازهٔ سازمان؛ فریلنسری که بهصورت حرفهای خروجی AI منتشر میکند deployer است، ولی استفادهٔ کاملاً شخصی و غیرحرفهای از شمول خارج است.
Providers of AI systems established or located outside the EU are also subject to the provisions of the AI Act if the output of their AI system is used in the EU.
— کمیسیون اروپا — پرسشهای متداول مادهٔ ۵۰
چه کسی مسئول است؟ provider و deployer را چطور از هم جدا کنیم؟
Provider کسی است که سیستم AI را توسعه میدهد یا با نام و برند خودش وارد بازار اتحادیه میکند؛ deployer کسی است که سیستم را زیر اختیار خود و برای فعالیت حرفهای استفاده میکند. اگر هم میسازید و هم برای مشتری اجرایش میکنید — مثل اغلب محصولات SaaS — هر دو کلاه را سر دارید و باید هر دو ستون تعهدات را ببندید. کارمندانی که زیر دستور و کنترل شرکت کار میکنند، deployer جداگانه محسوب نمیشوند؛ مسئولیت روی شخصیت حقوقی است.
- 1
نقشسنجی
برای هر جریان محصول مشخص کنید provider هستید، deployer، یا هر دو؛ نقش شما تعیین میکند کدام بند به شما میرسد.
- 2
طراحی پیام افشا
متن واضح و قابلتشخیص برای ابتدای اولین تعامل بنویسید و هم در UI و هم در system prompt قرار دهید.
- 3
علامتگذاری خروجی مصنوعی
برای محتوای تولیدی، مکانیزم machine-readable (مثل Content Credentials خانوادهٔ C2PA) را در لایهٔ اپلیکیشن اضافه کنید.
- 4
برچسب جریان انتشار
اگر دیپفیک یا متن عمومی تولیدی منتشر میکنید، برچسب پایدار و قابلمشاهده بسازید؛ استثنای هنری/طنز را فقط با افشای متناسب اعمال کنید.
- 5
مستندسازی شواهد
لاگ متن افشا، نسخهٔ آن، زمان نمایش و متادیتای marking را نگه دارید؛ پیوستن داوطلبانه به Code of Practice بار اثبات را کم میکند.
- تعامل برای کاربر متعارف «واضح» است — تفسیر محدود است و بار اثبات با provider؛ روی آن حساب باز نکنید.
- سیستمهای مجاز قانونی برای کشف/پیشگیری/تحقیق جرائم مستثنیاند، مگر وقتی برای گزارش جرم در دسترس عموماند.
- ویرایش کمکی ساده مثل اصلاح گرامر که داده یا معنا را تغییر اساسی ندهد، از شمول ۵۰(۲) خارج است.
- محتوای واضحاً تخیلی و غیرممکن (اژدها، پرواز انسان) طبق راهنما، دیپفیک محسوب نمیشود.
- اثر هنری، طنز یا داستانی: افشا فقط به اندازهٔ «متناسب و بدون اختلال در اثر» کافی است.
چطور شفافیت را در کد چتبات پیاده کنیم؟ (نمونهٔ عملی با APX24)
پیادهسازی را سهلایه ببینید: لایهٔ UI که پیام افشا را همیشه در ابتدای گفتوگو نشان میدهد؛ لایهٔ prompt که مدل را ملزم میکند خودش را AI معرفی کند و هرگز ادعای انسانبودن نکند؛ و لایهٔ metadata که خروجی را برای علامتگذاری و شواهد آماده میکند. هیچکدام بهتنهایی الزام بند ۱ را کامل نمیبندد؛ ترکیب هر سه است که در بازرسی قابلدفاع است. کدهای این بخش روی endpoint سازگار با OpenAI در نسخهٔ v1 نوشته شدهاند و با هر پلتفرمی که همین قالب را پشتیبانی کند — از جمله APX24 — کار میکنند.
علامتگذاری machine-readable محتوای مصنوعی و برچسب دیپفیک؛ دقیقاً چه باید کرد؟
بند ۵۰(۲) از provider سیستمهای تولید محتوا میخواهد خروجی را «machine-readable و قابلتشخیص» علامت بزند؛ چهار صفت کلیدی در راهنما و Code of Practice تکرار میشود: مؤثر (effective)، قابلاعتماد (reliable)، قوی (robust) و قابلتعامل (interoperable). قانون نام هیچ فناوری مشخصی را الزامی نکرده و استانداردهای فنی و Code of Practice در حال تکمیل جزئیاتاند؛ برای همین پایش این مستندات بخشی از کار مهندسی شماست. طبق اصلاحیهٔ Digital Omnibus، سیستمهایی که پیش از ۲ اوت ۲۰۲۶ وارد بازار شده بودند تا ۲ دسامبر ۲۰۲۶ برای انطباق ۵۰(۲) فرصت دارند.
کدام مدلهای APX24 برای چتبات سازگار با مادهٔ ۵۰ مناسبترند؟
برای محصولی که تعهد افشا دارد، انتخاب مدل سه معیار فنی دارد. اول، پیروی قابلاتکا از system prompt — افشا نباید در مکالمههای طولانی «جا بزند». دوم، پشتیبانی از streaming تا بنر افشا و اولین توکنهای پاسخ بدون تأخیر محسوس پشت هم بیایند. سوم، کیفیت فارسی/انگلیسی متناسب با بازار هدفتان. مقایسهٔ زیر تحلیل تحریریه است، نه benchmark رسمی؛ تصمیم نهایی را با A/B روی چند صد مکالمهٔ واقعی خودتان بگیرید.
- پیروی قابلاتکا از system prompt — افشا نباید در مکالمههای طولانی فراموش شود؛ با تست خودکار چک کنید.
- پشتیبانی از streaming — نمایش فوری پیام افشا پیش از رسیدن کامل اولین پاسخ.
- کیفیت فارسی/انگلیسی متناسب با بازار هدف — با نمونهٔ واقعی مکالمههای خودتان بسنجید، نه با تبلیغات.
تیمهای ایرانی و GDPR: از امروز چه کار عملی انجام دهیم؟
| مورد | حوزه | چه کسی مشمول است | الزام کلیدی | سقف جریمه |
|---|---|---|---|---|
| EU AI Act — مادهٔ ۵۰ | شفافیت تعامل و محتوای مصنوعی | provider/deployer با خروجیِ استفادهشده در اتحادیه | اعلام AI + علامتگذاری + برچسب دیپفیک | ۱۵M€ یا ۳٪ |
| GDPR | حفاظت از داده شخصی | هر کسی داده شخصی کاربر اروپایی را پردازش کند | پایهٔ قانونی پردازش، شفافیت، حقوق فرد | ۲۰M€ یا ۴٪ |
| قاعدهٔ محتاطانه (تحلیل تحریریه) | اعتماد کاربر در هر بازاری | هر محصول چتباتی یا تولید محتوا | افشای AI حتی وقتی قانون محلی ساکت است | هزینهٔ اعتماد ازدسترفته |
برای تیمهای ایرانی دو پیام عملی وجود دارد. اول، اگر محصولتان به کاربر اتحادیه میرسد — سایت، اپ یا API با کاربر اروپایی — مادهٔ ۵۰ از اوت ۲۰۲۶ متعلق به شماست، هرچقدر هم شرکت جای دیگری ثبت شده باشد. دوم، حتی اگر کاربر اروپایی ندارید، الگوی «افشا + علامتگذاری» دارد در دنیا به استاندارد دِفکتو تبدیل میشود؛ زودتر بستن این پرونده یعنی دیرتر کمتر دردسر برای واردشدن به هر بازار تنظیمشدهٔ دیگری.
- انواع تعامل محصول (چت، صدا، تولید محتوا) را فهرست کنید و برای هرکدام بند مرتبط مادهٔ ۵۰ را بنویسید.
- متن افشای فارسی/انگلیسی را بنویسید، نسخهدار کنید و هم در UI و هم در system prompt بگذارید.
- برای محتوای تولیدی، مکانیزم provenance/metadata بسازید و پیشرفت Code of Practice و استانداردها را پایش کنید.
- جریان انتشار دیپفیک و متن عمومی را برچسبدار کنید — یا اگر منطقی برای افشا ندارید، فعلاً حذفش کنید.
- لاگ شواهد بسازید: نسخهٔ متن افشا، زمان نمایش، وضعیت marking و شناسهٔ مکالمه.
- تاریخهای ۲ دسامبر ۲۰۲۶ (سیستمهای قدیمی) و بهروزرسانیهای بعدی Omnibus را در تقویم فنی تیم بگذارید.




