متولی تنظیم‌گری هوش‌مصنوعی

بازار آریا - جفری دپ* مترجم: کیوان حسین‌وند این مساله که تنظیم‌گر مقررات هوش مصنوعی، دولت فدرال یا قوانینی در سطح ایالتی یا نهادی سوم باشد، مورد مناقشه است. برخی حاکمیت مصرف‌کننده را راهکار می‌دانند. از سوی دیگر در قانون‌گذاری این پدیده، شاهد دخالت شرکت‌های بزرگ هستیم که نوعی تضاد منافع را ایجاد می‌کند.
هوش مصنوعی به یکی از محورهای اصلی سیاستگذاری در آمریکا تبدیل شده است؛ اما بحث پیرامون آن عمدتا معطوف به این پرسش است که چه نهادی باید سکان هدایت آن را در دست بگیرد: کنگره، آژانس‌های فدرال، مجالس ایالتی یا کارگروهی تازه‌تاسیس. فرمان اجرایی اخیر دونالد ترامپ با عنوان «ترویج نوآوری و امنیت هوش مصنوعی پیشرفته» این تنگنا را به خوبی منعکس می‌کند؛ فرمانی که بر حفظ رهبری آمریکا تاکید دارد و از آژانس‌های فدرال می‌خواهد چارچوب‌های داوطلبانه، استانداردهای گزارش‌دهی و مکانیسم‌های نظارتی برای مدل‌های پیشرفته تدوین کنند. در ظاهر، این رویکرد ستودنی به نظر می‌رسد، اما پرسش بنیادین‌تری را نادیده می‌گیرد: آیا هیچ‌یک از سطوح دولت، دانش، انگیزه یا ظرفیت نهادی لازم برای تنظیم فناوری‌ای را دارند که با سرعتی خارق‌العاده در حال تکامل است؟ پاسخ این مقاله منفی است و دلیل آن نه صرفا نگرانی از کندشدن نوآوری، بلکه فقدان ذاتی دانش مورد نیاز برای چنین نظارتی و پویایی‌های سیاسی است که مقررات محدود را به کنترل گسترده بدل می‌کند.
حاکمیت با کیست؟
اینکه آیا دولت فدرال یا ایالت‌ها باید هوش مصنوعی را تنظیم کنند، خود نوعی حواس‌پرتی است. هر دو طرف نگرانی‌های مشروعی دارند: طرفداران مقررات فدرال از آشفتگی قوانین ایالتی و تضعیف رقابت با چین می‌هراسند، و طرفداران اقتدار ایالتی بر لزوم آزمایش‌گری و جلوگیری از تحمیل چارچوبی یک‌اندازه تاکید دارند. اما هر دو در پیش‌فرضی مشترک‌ هستند که سوال اصلی این است که کدام دولت باید تنظیم‌گر باشد. از منظر مکتب اتریشی، پرسش درست این است که آیا هیچ نهاد سیاسی اصلا دانش لازم برای تنظیم فناوری‌ای را دارد که مهم‌ترین کاربردها، ریسک‌ها و مکانیسم‌های حاکمیتی آن هنوز در حال کشف هستند؟
انتخاب بین فدرال و ایالتی فرض می‌کند که دانش مربوطه از پیش وجود دارد و فقط باید به ناظر مناسب واگذار شود، درحالی‌که بخش بزرگی از آن دانش هنوز وجود ندارد. مقررات فدرال ممکن است تنوع حوزه‌های قضایی را کاهش دهد، اما مشکل دانش را حل نمی‌کند؛ و مقررات ایالتی ممکن است امکان آزمایش میان حوزه‌ها را فراهم کند، اما همچنان با همان محدودیت‌های اطلاعاتی مواجه است. در هر صورت، سیاستگذاران در تلاشند فرآیند کشفی را پیش از انجام یافته‌های مرتبط مدیریت کنند. بیش از هشتاد سال پیش،‌ هایک نشان داد که دانش مورد نیاز برای هماهنگی یک اقتصاد پیچیده میان ‌میلیون‌ها فرد پراکنده است و هیچ مرجع مرکزی تمام آن را در اختیار ندارد. این بینش با قدرت بیشتری در مورد هوش مصنوعی صدق می‌کند؛ زیرا نه فقط سرعت تغییر، بلکه اصل موضوع این است که هیچ کس نمی‌داند هوش مصنوعی در نهایت به چه چیزی تبدیل خواهد شد.
ارزشمندترین کاربردها، مهم‌ترین مکانیسم‌های ایمنی و موثرترین ساختارهای حاکمیتی همگی از طریق آزمایش و رقابت در آینده ظهور خواهند کرد. هوش مصنوعی یک محصول نیست، بلکه فرایندی از کشف است. برخلاف خودروها یا داروها که ویژگی‌هایشان پیش از مصرف شناخته شده است، قابلیت‌های هوش مصنوعی از طریق استفاده روزمره توسط ‌میلیون‌ها کاربر کشف می‌شوند. هر تعامل، اطلاعاتی درباره کارایی، شکست، ارزش و ریسک تولید می‌کند. دانش مربوطه در واشنگتن یا پایتخت‌های ایالتی ساکن نیست، بلکه در میان کاربران، توسعه‌دهندگان، کارآفرینان و کسب‌وکارهایی است که در زمان واقعی با این فناوری آزمایش می‌کنند. متمرکز کردن قدرت نظارتی، نه تنها این مشکل را حل نمی‌کند، بلکه تصمیم‌گیری را از کسانی که اطلاعات را در اختیار دارند دورتر می‌سازد. یک استاندارد ملی واحد نمی‌تواند بر مشکل دانش غلبه کند، فقط یک مرکز ملی نادانی ایجاد می‌کند؛ جایگزینی پنجاه ناظر ناقص با یک ناظر ناقص، دشواری را تشدید می‌کند، نه اینکه از میان بردارد.
کرزنر با تاکید بر کشف کارآفرینانه، بینش ‌هایک را گسترش داد. بازارها نظام‌های ایستایی نیستند، بلکه فرآیندهای پویایی هستند که کارآفرینان از طریق آن فرصت‌هایی را کشف می‌کنند که دیگران از دست داده‌اند. توسعه هوش مصنوعی نمونه‌ای از این فرآیند است: هیچ ناظری رشد مهندسی پرامپت، ظهور سریع دستیارهای کدنویسی، یا سرعت ادغام هوش مصنوعی مولد در خدمات حقوقی، کشف دارو و تحقیقات علمی را پیش‌بینی نکرد. این اکتشافات از طریق آزمایش پدیدار شدند. این مساله برای ناظران جدی است؛ زیرا هر الزام گزارش‌دهی، استاندارد افشا یا چارچوب ایمنی لاجرم منعکس‌کننده دانش فعلی است و بهترین درک سیاستگذاران را در یک لحظه خاص تجسم می‌بخشد. اما اگر این درک ناقص باشد، که حتما هست، خطر این است که مقررات فرضیات امروز را به قوانین فردا منجمد کند.
چارچوبی که در ۲۰۲۶ تدوین می‌شود، مبتنی بر ریسک‌ها و فرصت‌های درک‌شده در همان سال است، درحالی‌که درک بازار در ۲۰۲۸ یا ۲۰۳۰ کاملا متفاوت خواهد بود. هرچه چارچوب دقیق‌تر باشد، خطر مسدود کردن کشف گزینه‌های بهتر بیشتر است. نوآوری اغلب از جهت‌هایی سر می‌زند که متخصصان پیش‌بینی نکرده‌اند؛ به همین دلیل تلاش‌های نظارتی برای هدایت نوآوری اغلب ناامیدکننده است. حتی اگر ناظران به نحوی بر مشکل دانش غلبه کنند، مشکل انگیزه‌ها باقی می‌ماند. مکتب اقتصاد سیاسی ویرجینیا، به ویژه آموزه‌های جیمز بوکانن، ما را از «دیدگاه رمانتیک» سیاست برحذر می‌دارد. مقامات دولتی نگهبانان همه‌دانای منافع عمومی نیستند؛ آنها انسان‌هایی هستند که به انگیزه‌ها پاسخ می‌دهند. فرمان ترامپ شایسته تقدیر است که بر اهمیت هوش مصنوعی و لزوم پرهیز از مقررات سنگین تاکید دارد، اما نهادها غالبا از نیات پیشی می‌گیرند.
بوروکراسی‌ها انگیزه گسترش اختیارات خود را دارند؛ آژانس‌ها از بودجه بیشتر، کادر بزرگ‌تر و ماموریت‌های وسیع‌تر سود می‌برند. الزامات گزارش‌دهی و افشا اغلب مرحله اول یک معماری نظارتی گسترده‌ترند؛ زیرا پیش از آنکه دولت بتواند فعالیتی را تایید، مجوز یا محدود کند، باید اطلاعات جمع‌آوری کند. اما جمع‌آوری اطلاعات به ندرت نقطه پایان است. زمانی که مکانیسم‌های گزارش‌دهی ایجاد شد، هم ظرفیت و هم وسوسه برای سیاستگذاران آینده به وجود می‌آید تا نظارت را از جمع‌آوری اطلاعات به کنترل فعال تبدیل کنند. تاریخ مقررات‌گذاری نشان می‌دهد که نظام‌های نظارتی فروتنانه آغاز می‌شوند؛ اما گسترش می‌یابند؛ الزامات جدید به مسوولیت‌های جدید، کارکنان جدید و بودجه جدید منجر می‌شوند و این چرخه نیازی به فساد یا سوءنیت ندارد، بلکه حاصل انگیزه‌های عادی در نهادهای سیاسی است.
تهدید بزرگ‌تر شاید از خود دولت نباشد، بلکه از شرکت‌های بزرگ هوش مصنوعی است که برای کمک به تدوین قوانین دعوت می‌شوند. نظریه جست‌وجوی رانت تولاک نشان می‌دهد که هرگاه دولت قدرت توزیع مزایا یا تحمیل هزینه‌ها را به دست آورد، شرکت‌ها منابعی برای تاثیرگذاری بر آن تصمیمات اختصاص می‌دهند. مقررات هوش مصنوعی دقیقا این انگیزه‌ها را ایجاد می‌کند. شرکت‌های بزرگ دارای بخش‌های تطابق، تیم‌های حقوقی و منابع مالی عمیق هستند؛ شرکت‌های کوچک و توسعه‌دهندگان منبع‌باز اغلب چنین نیستند. در نتیجه، شرکت‌های مسلط ممکن است از چارچوب‌های نظارتی که ظاهرا بی‌طرفند اما هزینه‌های سنگینی بر رقبای کوچک‌تر تحمیل می‌کنند، استقبال کنند. زبان ایمنی، شفافیت و پاسخ‌گویی می‌تواند به مکانیسمی برای افزایش هزینه‌های رقبا تبدیل شود. استاندارد گزارش‌دهی فدرال ممکن است فروتنانه به نظر برسد، اما هر الزامی نیازمند پرسنل، مستندسازی و زیرساخت اداری است؛ برای یک شرکت تریلیون دلاری قابل مدیریت، اما برای یک استارت‌آپ ممکن است غیرقابل تحمل باشد. نتیجه الگویی آشناست: مقرراتی که ظاهرا از مردم محافظت می‌کند، اغلب به محافظت از شرکت‌های مسلط در برابر رقابت ختم می‌شود، همان‌طور که میلتون فریدمن بارها مشاهده کرد.
طرفداران مقررات اغلب انضباط بازار را ناکافی می‌دانند، زیرا به زعم آنها بزرگ‌ترین شرکت‌های هوش مصنوعی بیش از حد قدرتمندند و پاسخ‌گویی معنادار نیازمند مداخله دولت است. اما این استدلال فشار رقابتی شدیدی را نادیده می‌گیرد که حتی ابرغول‌ها با آن روبه‌رو هستند. سرمایه‌گذاری صدها‌میلیارد دلاری در زیرساخت، انرژی و ایمنی نه به دستور ناظران، بلکه به این دلیل انجام می‌شود که مشتریان عملکرد بهتر، تاخیر کمتر و قابلیت اطمینان بیشتر می‌خواهند. شرکت‌ها نتایج بازار را دیکته نمی‌کنند، بلکه به آنها پاسخ می‌دهند. در ایمنی نیز، مدتها پیش از آنکه دولت‌ها چارچوب تدوین کنند، شرکت‌های پیشرو در تحقیقات هم‌راستایی، تیم‌قرمز و ارزیابی مدل سرمایه‌گذاری می‌کردند، زیرا مشتریان سازمانی، سرمایه‌گذاران و افکار عمومی به طور فزاینده‌ای آنها را طلب می‌کردند.
مشتریان سیستم‌های غیرقابل اعتماد را نمی‌خواهند و کاربران محصولات ناموفق را رها می‌کنند. این فشارهای بازار، زمانی که اجازه کار داشته باشند، انگیزه‌های قدرتمندی برای خودتصحیحی ایجاد می‌کنند. تمایز توماس ساول میان مشارکت‌کنندگان بازار و تصمیم‌گیرندگان جایگزین در اینجا حیاتی است: شرکت‌ها و مشتریان هزینه اشتباهات خود را مستقیما متحمل می‌شوند؛ درحالی‌که ناظران هزینه شخصی کمی برای تصمیمات نادرست خود می‌پردازند. بازارها کامل نیستند، اما رقابت به عنوان یک رویه کشف عمل می‌کند و تنوع رویکردها را تشویق می‌کند؛ درحالی‌که استانداردهای دولتی رفتار را همگن می‌سازند. سرمایه‌گذاری‌های عظیم ابرغول‌ها شواهدی بر شکست بازار نیست، بلکه شواهدی بر عملکرد آن است.
پاسخ میزس: حاکمیت مصرف‌کننده
اگر نه دولت فدرال و نه ایالت‌ها نمی‌توانند به طور موثر هوش مصنوعی را تنظیم کنند، چه کسی می‌تواند؟ پاسخ میزس حاکمیت مصرف‌کننده است. در کتاب «کنش انسانی»، میزس نشان داد که بازارها نه توسط بوروکرات‌ها، بلکه توسط مصرف‌کنندگان اداره می‌شوند. تولیدکنندگان تنها با برآورده کردن ترجیحات مصرف‌کنندگان موفق می‌شوند؛ مصرف‌کننده ناخدای کشتی است که تعیین می‌کند چه چیزی تولید شود. هوش مصنوعی نیز از این قاعده مستثنی نیست. هر روز، کاربران سیستم‌ها را بر اساس دقت، قابلیت اطمینان، سوگیری، سرعت، حریم خصوصی، امنیت و مفید بودن ارزیابی می‌کنند. وقتی سیستم‌ها خوب عمل می‌کنند، کاربران با پذیرش بیشتر پاداش می‌دهند؛ وقتی نه، ترک می‌کنند یا به رقیب روی می‌آورند. این مکانیسم‌های بازخورد به طور مستمر و در مقیاسی خارق‌العاده عمل می‌کنند.
برخلاف ناظران دولتی، کاربران دانش مستقیمی از نیازهای خود دارند؛ برخلاف نظارت بوروکراتیک، بازخورد مصرف‌کننده پیامدهای فوری ایجاد می‌کند؛ برخلاف دستورات نظارتی، ترجیحات مصرف‌کننده با تغییر شرایط تکامل می‌یابند و از همه مهم‌تر، انتخاب مصرف‌کننده آزمایش‌گری را تشویق می‌کند. کاربران مختلف ارزش‌های متفاوتی دارند: برخی ایمنی را اولویت می‌دهند، برخی خلاقیت، برخی سرعت، حریم خصوصی یا هزینه. بازارها این تفاوت‌ها را تطبیق می‌دهند، درحالی‌که چارچوب‌های نظارتی اغلب آنها را سرکوب می‌کنند. حاکمیت مصرف‌کننده به‌میلیون‌ها فرد اجازه می‌دهد خود تصمیم بگیرند؛ مقررات دولت، قضاوت تعداد کمی از مقامات را جایگزین قضاوت همه می‌کند.
بحث مقررات هوش مصنوعی در نهایت به اختلافی عمیق‌تر درباره چگونگی تولید دانش و چگونگی ظهور نظم اجتماعی بازمی‌گردد. دیدگاه مسلح فرض می‌کند که سیاستگذاران خردمند می‌توانند تعادل مناسب را شناسایی، آن را در قوانین تدوین و جامعه را به سمت نتیجه مطلوب هدایت کنند. سنت اتریشی چیز دیگری می‌گوید: دانش از طریق کشف پدیدار می‌شود، نظم از طریق تعامل پدیدار می‌آید، و آینده را نمی‌توان از پیش طراحی کرد، زیرا مهم‌ترین اطلاعات درباره آن آینده هنوز وجود ندارد.‌ هایک نشان داد که هیچ مرجع مرکزی دانش مورد نیاز را ندارد؛ کرزنر نشان داد که کشف کارآفرینانه چگونه دانش جدید تولید می‌کند؛ بوکانن و تولاک یادآوری کردند که نهادهای سیاسی به انگیزه‌ها پاسخ می‌دهند؛ و میزس نشان داد که مصرف‌کنندگان، نه بوروکرات‌ها، در نهایت نتایج اقتصادی را تعیین می‌کنند.
در «کنش انسانی»، میزس استدلال کرد که رهبران کسب‌وکار تنها تا زمانی که مصرف‌کنندگان را راضی کنند، موقعیت خود را حفظ می‌کنند؛ قدرت نهایی با کسانی است که انتخاب می‌کنند چه بخرند و چه چیزی را رد کنند. آینده هوش مصنوعی نه توسط کارگروه‌ها، استانداردهای گزارش‌دهی یا چارچوب‌های فدرال، بلکه توسط ‌میلیون‌ها کاربر شکل خواهد گرفت که تصمیم می‌گیرند به کدام سیستم اعتماد کنند، به کدام قابلیت ارزش بدهند و کدام شرکت شایسته کسب‌وکارشان است. این انتخاب‌ها بازخوردی تولید می‌کنند که سرمایه‌گذاری را هدایت، نوآوری را پاداش، شکست را تنبیه و بهبود مستمر را تشویق می‌کند. به بیان ساده، پرسش این نیست که آیا هوش مصنوعی تنظیم خواهد شد؛ آن در حال حاضر تنظیم می‌شود، هر روز، از طریق انتخاب‌های مصرف‌کنندگان در بازار.
کاربران به شرکت‌هایی که ارزش ارائه می‌دهند پاداش می‌دهند و آنهایی را که کوتاهی می‌کنند رها می‌سازند؛ آنها کاربردهای مفید را تشویق و کاربردهای ناکارآمد را رد می‌کنند و این کار را به‌طور مستمر، پویا و در مقیاسی انجام می‌دهند که هیچ نهاد دولتی نمی‌تواند تکرار کند. بنابراین سوال واقعی این است که آیا به قضاوت غیرمتمرکز‌میلیون‌ها کاربر اعتماد داریم یا به قضاوت متمرکز تعداد کمی از سیاستگذاران؟ فرمان اجرایی بیانگر اعتماد به دومی است، اما سنت اتریشی به اولی اعتماد دارد. اگر هدف، ترویج همزمان نوآوری و امنیت است، سیاستگذاران باید درسی را که از ‌هایک تا میزس بارها تکرار شده به خاطر داشته باشند: دانش مورد نیاز برای اداره جامعه در واشنگتن متمرکز نیست، بلکه در سراسر جامعه پراکنده است. چالش، جایگزینی آن فرآیند کشف با مقررات نیست، بلکه بیرون ماندن سیاستگذاران از مسیر آن است.
* مشاور ارشد قانون و سیاستگذاری