تصویب و ابلاغ قانون ملی توسعه هوش مصنوعی را میتوان نقطه ورود ایران به مرحله تازهای از سیاستگذاری این حوزه دانست. تا پیش از این، بخش مهمی از بحثهای مربوط به هوش مصنوعی در کشور حول توسعه فناوری، ایجاد زیرساخت، حمایت از شرکتها و تعیین متولی میچرخید. قانون جدید بخشی از این ابهام را برطرف کرده و برای سازمان ملی هوش مصنوعی، زیرساخت، داده، آموزش، تأمین مالی و حتی دستهبندی مخاطرات تکالیفی در نظر گرفته است. اما درست از همین نقطه، پرسش دشوارتری مطرح میشود: قرار است هوش مصنوعی چگونه تنظیم شود؟
اهمیت این سؤال از آن جهت است که تنظیمگری هوش مصنوعی با حوزههای جاافتادهای مانند بانکداری یا مخابرات تفاوت دارد. هنوز بسیاری از کاربردهای این فناوری شکل نگرفتهاند، مدلهای کسبوکار آن در حال تغییرند و معلوم نیست ریسکهایی که امروز مهم به نظر میرسند، چند سال دیگر نیز مهمترین مسئله باشند. در چنین شرایطی، مقررات نامناسب میتوانند به همان اندازۀ نبود مقررات مسئلهساز باشند. تجربۀ اتحادیۀ اروپا از این جهت برای ایران قابل توجه است؛ البته نه برای کپیکردن، بلکه برای دیدن فرصتها و دشواریهای یک مسیر تنظیمگری نسبتاً سختگیرانه.
اروپا چرا سراغ قانون جامع رفت
تصمیم اروپا برای وضع قانون هوش مصنوعی واکنشی ناگهانی به ظهور ChatGPT نبود. بحث هوش مصنوعی قابل اعتماد از سالها قبل در اتحادیه اروپا مطرح شده بود. کمیسیون اروپا در سال ۲۰۲۰ سفیدنامه هوش مصنوعی را منتشر کرد و یک سال بعد پیشنهاد اولیه قانون هوش مصنوعی را ارائه داد. قانون سرانجام در سال ۲۰۲۴ تصویب شد. منطق اروپا این بود که قوانین موجود، هرچند بخشی از مسائل مربوط به حریم خصوصی، حمایت از مصرفکننده، ایمنی یا مسئولیت را پوشش میدهند، برای مواجهه با همه ویژگیهای هوش مصنوعی کافی نیستند. بنابراین باید یک لایه حقوقی اختصاصی ایجاد شود.
البته این قانون همۀ کاربردهای هوش مصنوعی را به یک شکل تنظیم نمیکند. برخی کاربردها بهدلیل ریسک غیرقابل قبول ممنوع شدهاند. برای سیستمهای پرریسک الزاماتی مانند مدیریت ریسک، مستندسازی، کیفیت داده، نظارت انسانی و امنیت پیشبینی شده و برای برخی کاربردهای دیگر نیز قواعد شفافیت وجود دارد. مدلهای عمومی و مدلهای بزرگ هوش مصنوعی نیز با مجموعهای از تکالیف جداگانه مواجهاند.
اتحادیۀ اروپا در عمل نیز با پروندههایی روبهرو شده که نشان میدهند مسئلۀ تنظیمگری هوش مصنوعی صرفاً نظری نیست. محدودیت موقت ChatGPT در ایتالیا، اختلافات مربوط به استفاده از دادههای شخصی و پروندههای مالکیت فکری مانند دعوای GEMA علیه OpenAI نشان دادهاند که هوش مصنوعی میتواند همزمان چند حوزه حقوقی را درگیر کند. بااینحال، اجرای قانون هوش مصنوعی آسان نبوده است. برخی بخشهای قانون مرحلهای اجرا شدهاند و اجرای کامل بعضی از الزامات، بهویژه در حوزۀ سیستمهای پرریسک، با تأخیر مواجه شده است. یکی از دلایل مهم نیز آمادهنبودن استانداردها و زیرساختهای اجرایی لازم است. همین تجربه نشان میدهد حتی اتحادیۀ اروپا، با ظرفیت نهادی و حقوقی بالا، ناچار شده میان سختگیری تنظیمگرانه و امکان اجرای واقعی مقررات تعادل برقرار کند.
مسئلۀ ایران الزاماً مسئلۀ اروپا نیست
اینجا همان نقطهای است که باید در استفاده از تجربه اروپا احتیاط کرد. زیستبوم هوش مصنوعی ایران با اروپا تفاوتهای جدی دارد. در ایران هنوز بخش بزرگی از مسئله، نه کنترل یک صنعت بالغ، بلکه اساساً شکلگیری صنعت است. دسترسی محدود به زیرساخت پردازشی، دشواری تأمین سختافزار، ضعف دسترسی شرکتها و پژوهشگران به دادههای باکیفیت، محدودبودن سرمایهگذاری، دشواری تجاریسازی محصولات و مهاجرت نیروی متخصص از مسائل جدی این حوزهاند. در چنین وضعیتی، اگر تنظیمگری از همان ابتدا با مجوزهای متعدد، الزامات سنگین و عدم قطعیت حقوقی همراه شود، ممکن است پیشاز آنکه بازار شکل بگیرد بخشی از ظرفیت آن از بین برود.
ازسویدیگر، خلأهای حقوقی واقعی نیز وجود دارند. هنوز در بسیاری از موارد مشخص نیست مسئولیت خسارت ناشی از تصمیم یک سامانۀ هوش مصنوعی دقیقاً متوجه چه کسی است؛ توسعهدهنده، بهرهبردار یا نهادی که بر اساس خروجی سیستم تصمیم گرفته است. در زمینۀ استفاده از دادههای شخصی برای آموزش یا اجرای مدلها نیز چهارچوب حقوقی منسجمی وجود ندارد. مسئلۀ مالکیت فکری آثار تولیدشده یا دادههای استفادهشده در آموزش مدلها نیز همچنان مبهم است. در کاربردهایی مانند اعتبارسنجی، استخدام یا ارائۀ خدمات عمومی نیز حق افراد برای اطلاع از استفاده از الگوریتم و اعتراض به تصمیم خودکار نیازمند تعیین تکلیف است.
مسئله نهادی نیز کماهمیت نیست. اکنون سازمان ملی هوش مصنوعی بهعنوان متولی این حوزه تثبیت شده، اما این لزوماً بهمعنای آن نیست که باید به تنظیمگر همۀ کاربردهای هوش مصنوعی تبدیل شود. بانک مرکزی، وزارت بهداشت، بیمۀ مرکزی، سازمان بورس و سایر نهادهای تخصصی، هرکدام دربارۀ حوزۀ خود دانش و اختیار تنظیمگری دارند. ایجاد یک ابررگولاتور هوش مصنوعی میتواند به همپوشانی اختیارات و افزایش مجوزها منجر شود.
نقطهآغاز تنظیمگری هوش مصنوعی در ایران
در شرایط کنونی، سه پیشنهاد ذیل میتوانند نقطهآغاز مسیر تنظیمگری هوش مصنوعی در ایران قرار گیرند:
نخست اینکه در چند سال ابتدایی، اصل بر تسهیل توسعه و تنظیم متناسب با ریسک باشد. هر کاربرد هوش مصنوعی نباید نیازمند مجوز پیشینی باشد. برای کاربردهای کمخطر، نظارت پسینی و قواعد عمومی میتواند کافی باشد. در مقابل، کاربردهایی که مستقیماً بر سلامت، اعتبار مالی، استخدام، امنیت یا حقوق شهروندان اثر میگذارند باید تحت نظارت بیشتری قرار گیرند.
دوم، سازمان ملی هوش مصنوعی بهتر است بیشاز آنکه خود وارد تنظیم جزئی همه بخشها شود، نقش هماهنگکننده را ایفا کند. میتوان در سطح ملی چند اصل مشترک مانند شفافیت در استفاده از هوش مصنوعی، حفاظت از داده، مسئولیت انسانی در تصمیمهای حساس و امکان اعتراض به تصمیمات خودکار را تعیین کرد و جزئیات را به تنظیمگران تخصصی سپرد.
سوم، تنظیمگری باید با ابزارهای توسعۀ بازار همراه باشد. سندباکسهای واقعی، امکان آزمایش محصول در محیط کنترلشده، دسترسی امن به دادههای عمومی و زیرساخت پردازشی مشترک میتوانند هم به شرکتها کمک کنند و هم به تنظیمگر اجازه دهند پیشاز وضع قواعد دائمی، رفتار واقعی فناوری و پیامدهای آن را ببیند.
در شرایط فعلی، مسیر مناسبتر برای ایران را میتوان در سه عبارت خلاصه کرد: قواعد عمومی محدود، تنظیمگری تخصصی در حوزههای پرریسک و یک دورۀ اولیه تسهیلگرایانه برای رشد زیستبوم هوش مصنوعی.
امیرحسین زنبق 
