ترازوی تنظیم‌گری و توازن امنیت ملی و توسعه فناوری

هوش مصنوعی به‌عنوان یکی از مهم‌ترین فناوری‌های زمانه ما، اگر نه مهم‌ترین، پیشرفت‌های خیره‌کننده‌ای را به نمایش گذاشته و به بحث‌ها درباره انقلاب در دانش، بازار کار، توسعه کشورها و حتی نحوه گذران اوقات فراغت مردم دامن زده است. اما در بین انبوه محتوای مربوط به قابلیت‌های شگفتی‌آور مدل‌های جدید هوش مصنوعی، روندهایی از مداخله دولت‌ها، به‌ویژه دولت آمریکا در زمانه ریاست‌جمهوری ترامپ با تمامی مشخصه‌های ساختارشکنانه و عجیب آن، در این بخش روبه‌رشد مشاهده می‌شود. این فضا سالیان منتهی به ترکیدن حباب دات کام در اوایل دهه 2000 را به ذهن متبادر می‌سازد؛ زمانی که تصور می‌شد فناوری روز زمان یعنی اینترنت، به‌مثابه عامل برهم‌زننده بازی حکمرانی دولت‌ها و سودآوری غول‌های بزرگ، قرار است شاهکارآفرینی کند. ورشکستگی شمار بسیاری از کارآفرینان نوظهور در پی ترکیدن حباب و همزمان غلبه قوانین و مقررات دولتی و همچنین سیطره شرکت‌های بزرگ به‌مانند هر صنعت حیاتی دیگری، آب سردی بود که بر موج هیجانات این رویاپردازی اتوپیایی ریخته شد. آیا قرار است سیلیکون ولی با تکرار این تراژدی مواجه شود؟

در ماه می سال جاری، قرار بود ترامپ فرمانی را امضا کند که توسعه‌دهندگان مدل‌های پیشرفته را ملزم می‌کرد تا تا ۹۰ روز پیش از انتشار عمومی، مدل‌های خود را برای بررسی امنیتی در اختیار دولت قرار دهند. اما تنها چند ساعت پیش از مراسم امضا، این تصمیم لغو شد. دلیل اصلی، فشار گسترده مدیران شرکت‌های فناوری از جمله ایلان ماسک، مارک زاکربرگ و دیگر فعالان سیلیکون‌ ولی بود. آن‌ها استدلال کردند که چنین سازوکاری عملاً به یک نظام صدور مجوز دولتی برای انتشار مدل‌های هوش مصنوعی تبدیل خواهد شد و نوآوری آمریکا را در رقابت با چین تضعیف می‌کند. اما این پایان بازی ترامپ با هوش مصنوعی نبود و در دوم ژوئن، ترامپ نسخه تعدیل‌شده‌ای از فرمان اجرایی را امضا کرد. طبق این فرمان، دفتر مدیر ملی سایبری که مسئولیت مشاوره به رئیس‌جمهور در امور امنیت سایبری را برعهده دارد، موظف است فرایندی توسعه دهد تا دولت پیش از عرضه عمومی مدل‌های هوش مصنوعی، اطلاعات مربوط به کشف آسیب‌پذیری‌های نرم‌افزاری توسط این سیستم‌ها را با اپراتورهای زیرساخت‌های حیاتی، از جمله بانک‌ها، تأسیسات محلی و بیمارستان‌ها به اشتراک بگذارد. نکته مهم دیگر این فرمان از حیث تنظیم‌گری آنست که در ارزیابی خطرات امنیت ملی مدل‌های هوش مصنوعی، وزارت دفاع، وزارت خزانه‌داری و NSA مشارکت مستقیم خواهند داشت و عملاً تنظیم‌گری هوش مصنوعی در آمریکا از اختیار یک نهاد مشخص خارج شده است.

چندان طول نکشید که این فرمان نخستین جلوه‌های خود در میدان اجرا را به نمایش بگذارد و کاخ سفید وارد عرصه مواجهه با شرکت‌ها شود. پس از آنکه پژوهشگران در آزمایش‌های امنیتی نشان دادند نسخه‌های فابل 5 و میتوس 5 شرکت کلاد می‌توانند آسیب‌پذیری‌های نرم‌افزاری بسیار خطرناک را شناسایی کنند، وزارت بازرگانی آمریکا در ۱۲ ژوئن دسترسی اتباع خارجی به این مدل‌ها را مسدود کرد؛ شرکت آنتروپیک را مجبور کرد عرضه عمومی آن‌ها را متوقف کند و کنترل‌های صادراتی جدیدی اعمال کرد. این ممنوعیت در نهایت با رسیدگی شرکت کلاد و جلب رضایت وزارت بازرگانی برداشته شد.

اما کلاد تنها قربانی سبک تنظیم‌گری ترامپیستی هوش مصنوعی نبود و صابون این دولت به تن اوپن اِی‌آی هم خورد. این شرکت در 26 ژوئن اعلام کرد که به دستور دولت آمریکا، انتشار جدیدترین مدل‌های هوش مصنوعی خود را به گروه کوچکی از شرکای مورد اعتماد محدود می‌کند. این مدل هوش مصنوعی GPT5.6 شامل سول مدل پرچمدار آن، ترا مدلی متعادل‌تر برای استفاده روزمره و لونا مدلی سریع‌تر و کم‌هزینه‌تر است. اگرچه سول قوی‌ترین مدل این شرکت به شمار می‌رود، اما دولت ترامپ انتشار هر سه مدل را محدود کرد. اوپن‌ای‌آی اعلام کرد پیش‌نمایش مدل‌های جدید به شرکایی محدود می‌شود که مشارکت آن‌ها به دولت اطلاع‌رسانی شده است.

فرارسیدن جولای به جای آنکه نویدبخش پذیرش انتقادات از سوی دولت ترامپ و اصلاح مدل تنظیم‌گری آن باشد، نشان‌دهنده نهادینه‌سازی آن در قالبی جدید و گذار به الگوی واکنشی به الگوی پیش‌دستانه بود. کاخ سفید در 14 جولای اعلام کرد یک گروه دائمی هماهنگی امنیت سایبری و هوش مصنوعی تشکیل می‌دهد که اعضای آن شامل شرکت‌هایی مانند اوپن ای‌آی، آنتروپیک، انویدیا و متا هستند. این کارگروه وظیفه دارد آسیب‌پذیری‌های مدل‌های پیشرفته را شناسایی کند و درباره انتشار مدل‌هایی که ممکن است برای امنیت ملی آمریکا مخاطراتی ایجاد کنند، با دولت هماهنگ باشد.

به‌مانند هر سیاست دیگر دولت ترامپ که مناقشه‌برانگیز بوده و مورد آماج انتقادات و بحث‌ها قرار گرفته، سیاست هوش مصنوعی کاخ سفید نیز از حجم بالای انتقادات در امان نبوده است. به‌صورت کلی می‌توان اردوگاه مخالفان تنظیم‌گری امنیتی‌سازی‌شده چهل‌وهفتمین مهمان دفتر بیضی واشنگتن دی‌سی را به پنج گروه تقسیم کرد.

نخستین جریان انتقادی از سوی کارآفرینان و مدیران صنعت هوش مصنوعی مطرح شد. آن‌ها بر این باورند که الزام شرکت‌ها به ارائه مدل‌های پیشرفته برای ارزیابی دولت پیش از عرضه، در عمل نوعی نظام صدور مجوز پیش از انتشار ایجاد می‌کند که با ماهیت نوآورانه این صنعت ناسازگار است. سم آلتمن و مارک زاکربرگ در مذاکرات فشرده با کاخ سفید در ماه می استدلال کردند که هرگونه اختیار دولت برای متوقف کردن عرضه یک مدل، سرمایه‌گذاری در شرکت‌های نوپا را با عدم‌اطمینان جدی مواجه می‌کند و مزیت رقابتی آمریکا در برابر چین را کاهش می‌دهد. به دنبال همین فشارها، نسخه اولیه فرمان اجرایی که بررسی اجباری مدل‌ها را پیش‌بینی می‌کرد، پیش از امضا اصلاح شد و بخشی از الزامات آن به سازوکارهای داوطلبانه تبدیل گردید. این گروه تأکید می‌کنند که در صنعتی که چرخه نوآوری آن چند هفته یا چند ماه است، هرگونه تاخیر ناشی از بررسی‌های دولتی می‌تواند به از دست رفتن مزیت رقابتی منجر شود.

دومین جریان انتقادی از سوی اقتصاددانان و متخصصان تنظیم‌گری مطرح شده است که بیش از اصل مداخله، شیوه مداخله را مورد نقد قرار داده‌اند. جاشوا گانس، اقتصاددان دانشگاه تورنتو و پژوهشگر اقتصاد نوآوری، استدلال کرده است که سرمایه‌گذاری در فناوری‌های نوظهور بیش از هر چیز به  ثبات تنظیم‌گری وابسته است؛ حال آنکه تصمیم‌گیری موردی دولت درباره اینکه کدام مدل اجازه انتشار داشته باشد و کدام مدل نه، فضای پیش‌بینی‌پذیر بازار را تضعیف می‌کند. کارشناسان حقوق فناوری این‌گونه استدلال خود را چارچوب‌بندی می‌کنند که استفاده از فرمان‌های اجرایی به جای قانون مصوب کنگره، موجب می‌شود قواعد بازی با تغییر دولت‌ها به سرعت تغییر کند و شرکت‌ها نتوانند افق بلندمدتی برای سرمایه‌گذاری ترسیم کنند. از منظر نظریه تنظیم‌گری، این نقد ناظر بر اصل ثبات و قابلیت پیش‌بینی‌پذیری است که یکی از پیش‌شرط‌های تنظیم‌گری کارآمد محسوب می‌شود.

سومین دسته از انتقادها را اندیشکده‌ها و حقوقدانان حوزه حکمرانی دیجیتال مطرح کرده‌اند. پژوهشگران موسسه بروکینگز، که سال‌هاست به‌عنوان یکی از برترین اندیشکده‌های جهان شناخته می‌شود، هشدار داده‌اند که اعطای اختیار گسترده به قوه مجریه برای تعیین اینکه چه مدل‌هایی می‌توانند منتشر شوند، ممکن است مرز میان امنیت ملی و کنترل سیاسی فناوری را کمرنگ کند. به اعتقاد آن‌ها، اگر معیارهای تشخیص مدل خطرنا  شفاف نباشد، این امکان به وجود می‌آید که دولت‌های مختلف از همین سازوکار برای اعمال ترجیحات سیاسی خود بر شرکت‌های فناوری استفاده کنند. گزارش‌های این اندیشکده تاکید می‌کنند که حتی اگر هدف اولیه، کاهش مخاطرات امنیتی باشد، نبود شفافیت در معیارها و نبود سازوکار نظارت مستقل می‌تواند به کاهش استقلال علمی شرکت‌ها و تضعیف اعتماد عمومی به نظام حکمرانی هوش مصنوعی بینجامد.

چهارمین دسته از انتقادات سوی پژوهشگران رقابت و اقتصاد دیجیتال مطرح شده است. دایان کویل، اقتصاددان دانشگاه کمبریج، و شماری از پژوهشگران سیاست رقابت استدلال کرده‌اند که الزامات پیچیده ارزیابی امنیتی، بیش از آنکه شرکت‌های بزرگ را محدود کند، ورود بازیگران جدید را دشوارتر می‌سازد. شرکت‌هایی مانند اوپن ای‌آی، آنتروپیک و گوگل از منابع مالی، تیم‌های حقوقی و زیرساخت‌های لازم برای تعامل مستمر با دولت برخوردارند، اما استارتاپ‌های کوچک فاقد چنین ظرفیتی هستند. در نتیجه، هزینه ورود به بازار افزایش می‌یابد و تنظیم‌گری به‌جای افزایش رقابت، به تقویت موقعیت بازیگران مسلط منجر می‌شود. در این وضعیت که از آن در ادبیات تنظیم‌گری با عنوان «ایجاد مانع ورود تنظیم‌گرانه» یاد می‌شود، مقررات، ناخواسته، به تثبیت قدرت شرکت‌های بزرگ می‌انجامد.

در نهایت پنجمین دسته پژوهشگران و کارشناسان ایمنی هوش مصنوعی هستند که البته فاقد اجماع نظر درباره رویکرد دولت ترامپ هستند. دمیس هاسابیس، مدیرعامل گوگل دیپ‌مایند که مشاور هوش مصنوعی دولت بریتانیا نیز هست، معتقد است که ارزیابی مدل‌های مرزی ضروری است، اما این وظیفه نباید به تصمیم‌های موردی دولت واگذار شود. او پیشنهاد کرده است نهادی مستقل و تخصصی مشابه نهادهای تنظیم‌گر بازارهای مالی ایجاد شود تا بر اساس معیارهای از پیش اعلام‌شده، مدل‌های پیشرفته را ارزیابی کند. از سوی دیگر، برخی پژوهشگران معتقدند حتی همین سطح از مداخله نیز می‌تواند سرعت پیشرفت فناوری را کاهش دهد و مسئولیت اصلی مدیریت ریسک باید بر عهده خود شرکت‌های توسعه‌دهنده، و نه دولت، باشد.

در مقام جمع‌بندی، آورده‌های نظری سالیان طولانی پژوهش‌های بین‌المللی در مورد تنظیم‌گری نشان‌دهنده این واقعیت هستند که ترازوی تنظیم‌گری می‌تواند ملاحظات امنیت ملی را دربرگیرد؛ در عین اینکه توسعه فناوری را هم فدا نکند و این می‌تواند رویکرد بدیلی در مقابل مدل ترامپیستی تنظیم‌گری هوش مصنوعی باشد. برای مثال، ایجاد نهاد مستقل ارزیابی مدل‌های مرزی که مخاطره مداخله سلیقه‌ای و سیاست‌زده مقامات سیاسی را کاهش می‌دهد. دیگر جایگزین تعریف هرم تنظیم‌گری است که در آن مسیر تنظیم‌گری از خودتنظیم‌گری و ممیزی مستقل آغاز شود و به تعهدات قانونی برای مدل‌های پرریسک برسد و خاتمه آن توقف اجباری مدل‌های پرمخاطره برای امنیت ملی باشد. در نهایت همچنان می‌توان به سندباکس‌های تنظیم‌گری امیدوار بود که مورد استفاده کشورهایی مانند بریتانیا هستند و به جای ممنوع‌کردن انتشار یک مدل، ابتدا آن را در محیطی کنترل‌شده آزمایش کرده و سپس مجوز عرضه عمومی آن را صادر می‌کنند.