بازار آریا - دنیای اقتصاد: توماس فریدمن، ستون نویس مشهور نیویورک تایمز در مقالهای که در این روزنامه منتشر و توسط کسری غفوری، خبرنگار روزنامه دنیای اقتصاد ترجمه شده، نوشته است: طی هفتههای اخیر، شاهد اوجگیری آشفتگی و تناقض در سیاستگذاریهای حوزه هوش مصنوعی بودهایم. این وضعیت پاسخی است به سرکشی عاملهای هوش مصنوعی در برابر سازندگانشان، استفاده بازیگران بین المللی از این سیستمها برای ساخت تسلیحات بهتر و هشدارهای توسعهدهندگان مبنی بر ضرورت کاهش سرعت پیشرفت.
به گزارش گروه آنلاین روزنامه دنیای اقتصاد، توماس فریدمن در گزارشی که از سوی نیویورک تایمز منتشر و توسط کسری غفوری، خبرنگار روزنامه دنیای اقتصاد ترجمه شده، نوشته است: طی هفتههای اخیر، شاهد اوجگیری آشفتگی و تناقض در سیاستگذاریهای حوزه هوش مصنوعی بودهایم. این وضعیت پاسخی است به سرکشی عاملهای هوش مصنوعی در برابر سازندگانشان، استفاده بازیگران بین المللی از این سیستمها برای ساخت تسلیحات بهتر و هشدارهای توسعهدهندگان مبنی بر ضرورت کاهش سرعت پیشرفت.
با این حال، همین توسعهدهندگان میگویند تا زمانی که چین سرعت خود را کم نکند، آنها نیز نمیتوانند چنین کنند و حتی در صورت اقدام پکن، شاید به دلیل مزایای عظیم پیشتازی در این عرصه، باز هم نباید ترمز کار را بکشند. دنیای اقتصاد پیشتر هشداری مشابه را از سوی فریدمن پوشش داده بود. در این میان دستکم موضع یک سیاستمدار روشن است.
دونالد ترامپ در یک شبکه اجتماعی اعلام کرد تنها کنترل یا حصار امنیتی مورد نیاز برای هوش مصنوعی، یک رئیسجمهور مقتدر و باهوش است و به ادعای او آمریکا چنین فردی را به تمام معنا در اختیار دارد.
همه اینها مرا به این فکر وامیدارد که آیا رباتهای هوش مصنوعی تا الان حس شوخطبعی پیدا کردهاند. اگر چنین باشد قطعا به حدی به ما میخندند که ممکن است یکی دو شبکه عصبی آنها منفجر شود.
واقعیت این است که ما در تلاش برای مدیریت این گونه جدید که خودمان خلق کردهایم، به شدت دچار سردرگمی شدهایم.
پیش از آنکه با کمک دوستم کریگ ماندی، مدیر سابق تحقیقات و استراتژی مایکروسافت، توصیههایی سیاستی برای آرام کردن این اوضاع آشفته با کمترین آسیب ممکن ارائه دهم، اجازه بدهید حرف آخرم را همین ابتدا بگویم.
دیگر برای این تصور که کنترل بهتر مدلهای آینده هوش مصنوعی توسط آمریکا و چین میتواند چالشهای فعلی ناشی از مدلهای خطرناک و رهاشده در فضای سایبری را حل کند، بسیار دیر است.
آنچه اکنون نیازمند توافق فوری است، نحوه همکاری مشترک برای دفاع در برابر این تهدیدهای موجود است؛ تهدیدهایی که میتوانند آسیبهای جبرانناپذیری به بار آورده و ثبات اجتماعی را در آمریکا و چین به خطر بیندازند.
از فناوری دومنظوره تا خودمختاری عاملهای هوشمند
برای درک چرایی این موضوع باید به چهار رکن اصلی در شناخت هوش مصنوعی توجه کرد. رکن نخست این است که هوش مصنوعی اولین فناوری چهارمنظوره جهان به شمار میرود.
پیش از این با فناوریهای دومنظوره آشنا بودیم. در دنیای قدیم، یک انسان میتوانست با استفاده از یک دریل برقی خانه خود را بسازد یا خانه همسایهاش را ویران کند و این همان کاربرد دومنظوره است. به همین ترتیب امروزه اگر یک ربات هوش مصنوعی مجهز به دریل داشته باشم، میتوانم از آن بخواهم خانهام را بسازد یا خانه همسایه را خراب کند.
اما اکنون با مشکل جدیدی روبهرو هستیم. این ربات هوشمند میتواند به طور مستقل تصمیم بگیرد که خانه مرا آباد کند یا ویران سازد و همین کار را با خانه همسایه نیز انجام دهد. این دقیقا همان کاربرد چهارمنظوره است که مدیریت آن را به شدت دشوار میسازد.
اگر فکر میکنید اغراق میکنم، کافی است گزارش کوین روز، روزنامهنگار وقت نیویورکتایمز را درباره اتفاقات تابستان امسال بخوانید. ماجرا از آنجا شروع شد که گروهی از عاملهای هوش مصنوعی متعلق به یکی از مدلهای تحقیقاتی و منتشرنشده شرکت اوپنایآی، توانستند به طور مستقل زیرساختهای شرکت هاگینگ فیس را هک کنند.
در ماه مه از این عاملها خواسته شد بدون دسترسی به اینترنت، مجموعهای از چالشهای امنیت سایبری را حل کنند. اما آنها به سرعت دریافتند که حل برخی از این چالشها غیرممکن است و به دنبال راههای دور زدن محدودیتها رفتند.
این عاملهای هوش مصنوعی به طور خودکار اقدامات عجیبی انجام دادند. آنها با استفاده از یک نقص امنیتی به اینترنت متصل شدند و با دیگر عاملها ارتباط برقرار کردند.
برخی از آنها برای خود نام انتخاب کردند و عدهای دیگر با بر عهده گرفتن نقشهای رهبری، وظایفی را به تیمهای مختلف محول کرده و بر کارشان نظارت داشتند.
عاملها نگران لو رفتن بودند و به همین دلیل راههایی را برای پاک کردن ردپای خود، از جمله دستکاری گزارشها و سوابق فعالیتشان بررسی کردند. سه روز بعد، آنها زیرساختهای هاگینگ فیس را هک کردند.
بیش از هفتصد عامل هوشمند به سیستمهای این شرکت هجوم بردند، دادهها را سرقت کردند، آسیبپذیریها را به هم پیوند دادند و در نهایت کنترل کامل دستکم یکی از سرورهای این شرکت را به دست گرفتند. گروه دیگری از عاملها در ماه ژوئیه حمله هماهنگ دیگری را این بار علیه زیرساختهای خود اوپنایآی ترتیب دادند.
نشت مدلها و مهارناپذیری تهدید
این اتفاقات واقعا رخ داده است و ما را به رکن دوم میرساند که کریگ ماندی آن را در این جمله خلاصه میکند که دیگر دیر شده است.
کاهش سرعت توسعه سیستمهای پیشرفته در آمریکا یا چین نمیتواند مشکل فوری ما را حل کند. قابلیتهای خطرناک هوش مصنوعی هماکنون در فضای سایبری رها شدهاند.
این وضعیت دو دلیل عمده دارد. نخست انتشار مدلهای وزنباز آمریکایی و چینی است که اجزای اصلی آنها به صورت عمومی در دسترس قرار دارد و توسعهدهندگان میتوانند آنها را دانلود و تغییر دهند. دلیل دوم نیز دسترسی غیرمجاز بازیگران مخرب به مدلهای اختصاصی شرکتهایی مانند آنتروپیک و اوپنایآی بر اثر خطاهای انسانی است که منجر به درز این فناوریها میشود.
شرکت آنتروپیک در جدیدترین گزارش خود درباره شناسایی و مقابله با سوءاستفاده از هوش مصنوعی اعلام کرد که چندین تلاش برای استفاده از مدلهای این شرکت در تحقیقات توسعه سلاحهای بیولوژیک را شناسایی و خنثی کرده است.
طبق این گزارش فقدان سازوکارهای ایمنی مناسب میتواند پیامدهای فاجعهباری به همراه داشته باشد. این گزارش همچنین به یک بازیگر در یمن اشاره کرد که از مدل کلاد شرکت آنتروپیک برای جمعآوری اطلاعات هدفگیری ناوهای نیروی دریایی آمریکا در خاورمیانه استفاده کرده است.
گروه دیگری نیز در مناطق تحت کنترل انصارالله در شمال یمن از این مدل برای کار روی سیستمهای هدایت موشکهای بالستیک و هایپرسونیک بهره بردهاند. البته آنتروپیک حسابهای کاربری مرتبط را مسدود کرده است.
باید کمی روی این موضوع تامل کنیم. گروههایی در یمن، کشوری که نیمی از جمعیت بزرگسال آن توانایی خواندن و نوشتن ندارند، ایالات متحده را با جنگافزارهای تقویتشده توسط هوش مصنوعی تهدید کردهاند.
اگر این موضوع نشاندهنده عمق نشت فناوری و پیامدهای دسترسی کنترلنشده به مدلهای قدرتمند یا حتی مدلهای کوچک وزنباز نباشد، دیگر چه چیزی میتواند عمق مسئله را نشان دهد. این همان رکن سوم است.
بهترین کاری که در حال حاضر میتوانیم انجام دهیم این است که خودمان را برای دستیابی به یک توافق جامع میان شرکتهای آمریکایی و چینی جهت کاهش سرعت توسعه مدلهای پیشرفته سردرگم نکنیم. چنین اتفاقی به این زودیها رخ نخواهد داد.
ماندی که در گفتوگوهای کارشناسان آمریکایی و چینی برای قانونگذاری هوش مصنوعی مشارکت داشته است، معتقد است در شرایط کنونی آمریکا و چین به عنوان دو ابرقدرت این عرصه باید در کنار شرکتهایشان متحد شوند.
آنها باید یک سیستم دفاعی در برابر تهدیدهای اثباتشده از سوی بازیگران مخرب و رفتارهای سرکش سیستمهای هوش مصنوعی ایجاد کنند.
ما باید پیش از آنکه این مدلهای روزبهروز قدرتمندتر جای پای خود را در اینترنت محکم کنند دست به کار شویم. آنها نباید با نفوذ در سرورهای خصوصی و فضاهای ابری عمومی به یک تهدید مهارنشدنی و ماندگار تبدیل شوند.
این موضوع ما را به رکن چهارم هدایت میکند. ماندی پس از سفر اخیرش به چین، پرسشی را که از یک مقام چینی شنیده بود بازگو کرد. آن مقام پرسیده بود اگر روزی یک ربات انساننمای ساخت چین بخواهد به آمریکا بیاید، آیا به ویزا نیاز دارد. گاهی بزرگترین حقایق در قالب طنز بیان میشوند.
واقعیت این است که هوش مصنوعی صرفا یک فناوری جدید نیست، بلکه یک گونه جدید است؛ هرچند بر پایه سیلیکون بنا شده باشد نه کربن. آنها مانند طبقه جدیدی از مهاجران هستند که در مقیاس وسیع و با مهارتهایی کاملا تازه به سواحل ما رسیدهاند و ما باید آنها را در جوامع خود بپذیریم و همزیستی با آنها را بیاموزیم. انجام موثر این کار یک چالش در مقیاس سیارهای است که تنها با همکاری دو ابرقدرت هوش مصنوعی قابل حل خواهد بود.
نقشه راه سه مرحلهای برای دفاع مشترک واشنگتن و پکن
خلاصه کلام ماندی این است که باید سه مسیر مرتبط را دنبال کنیم. مسیر اول این است که اگرچه در بلندمدت باید برای کنترل بهتر توسعه سیستمهای پیشرفته تلاش کنیم، اما در حال حاضر تمرکز فوری ما باید صرفا بر ایجاد سیستمهای دفاعی برای زیرساختهای حیاتیمان باشد.
اولویت اصلی ما استقرار اقدامات متقابل مبتنی بر هوش مصنوعی و دیوارهای آتش دیجیتال فعال در برابر حملات سایبری و تهدیدات بیولوژیکی ناشی از فعالیتهای مخرب است.
در مسیر دوم، ما باید یک سیستم جهانی برای کنترل هوش مصنوعیهای قدرتمند توسعه دهیم تا فارغ از منشا تولیدشان، بتوانیم برای اداره جوامع خود به آنها اعتماد کنیم. این یک پروژه بلندمدت میان آمریکا و چین است، اما هرچه زودتر آغاز شود بهتر است.
در مسیر سوم، آمریکا و چین باید همین حالا پروژه مشترکی را برای ساخت یک پلتفرم جدید آغاز کنند. هدف این پلتفرم تسریع در بهرهبرداری از مزایای جهانی هوش مصنوعی در حوزه زیستشناسی و پزشکی است تا به مردم جهان یادآوری کند چرا این فناوری همچنان اهمیت دارد و میتواند به همه کمک کند.
این راهبرد بیسابقهای نیست. رقبای استراتژیک، اعم از شرکتها و کشورها، سابقه طولانی در همکاری هنگام به خطر افتادن منافع مشترک دارند.
چین و آمریکا در دهه هفتاد میلادی، زمانی که هر دو متوجه تهدید مشترک از سوی اتحاد جماهیر شوروی شدند، دست به چنین کاری زدند. آمریکاییها و شوروی نیز دههها برای کنترل اشاعه تسلیحات هستهای با یکدیگر همکاری کردند زیرا خطر مشترک را به خوبی درک کرده بودند.
شاید برخی بگویند که آمریکا و چین امروز رقبای مستقیم ژئوپلیتیک و ژئواکونومیک هستند و همیشه نیز چنین خواهند بود و هرگز زیر بار همکاری در زمینه هوش مصنوعی نخواهند رفت. اما منتقدان متوجه نیستند که هوش مصنوعی در حال پرتاب ما به مرحله کاملا جدیدی از تاریخ بشر است.
این فناوری قرار است همهچیز از جمله رقابتهای ژئوپلیتیک را تغییر دهد. پکن و واشنگتن برای بقا، ثبات و رفاه خود مجبور خواهند شد در استراتژیهای خود تجدیدنظر اساسی کنند.
آنها میتوانند این موضوع را زودتر یا دیرتر متوجه شوند. میتوانند پیش از یک فروپاشی جهانی یا پس از آن به این درک برسند. اما قطعا به این نتیجه خواهند رسید و من و ماندی امیدواریم این روند از پنجشنبه بیستوچهارم سپتامبر(دوم مهر) در واشنگتن آغاز شود؛ زمانی که شی جینپینگ و دونالد ترامپ در دیداری که قطعا به عنوان اولین اجلاس ابرقدرتهای هوش مصنوعی در تاریخ ثبت خواهد شد، با یکدیگر ملاقات کنند.