بازار آریا - دنیای اقتصاد: هشدارهای پژوهشگران هوش مصنوعی درباره خطرات این فناوری روزبهروز جدیتر میشود؛ حتی سم آلتمن، مدیرعامل اوپنایآی، اخیرا گفته است شاید زمان آن رسیده باشد که سرعت توسعه هوش مصنوعی کاهش پیدا کند. اما این کاهش سرعت در عمل چگونه خواهد بود؟
به گزارش گروه آنلاین روزنامه دنیای اقتصاد: هشدارهای پژوهشگران هوش مصنوعی درباره خطرات این فناوری روزبهروز جدیتر میشود؛ حتی سم آلتمن، مدیرعامل اوپنایآی، اخیرا گفته است شاید زمان آن رسیده باشد که سرعت توسعه هوش مصنوعی کاهش پیدا کند. اما این کاهش سرعت در عمل چگونه خواهد بود؟
داریو آمودی، مدیرعامل آنتروپیک، در یادداشتی تازه نهتنها از ایده «کاهش سرعت پیشرفت در مرزهای هوش مصنوعی» حمایت کرده، بلکه سه راهکار کلی برای رسیدن به این هدف پیشنهاد داده است. او همچنین اعلام کرده آنتروپیک بهطور یکجانبه اجرای یکی از این راهکارها را آغاز خواهد کرد؛ موضعی که با استقبال آلتمن روبهرو شد و مدیرعامل اوپنایآی نیز گفت شرکتش همین مسیر را دنبال خواهد کرد.
بحث درباره ایمنی و همراستایی هوش مصنوعی این هفته پس از استعفای پژوهشگر آنتروپیک، جیکوب کاکسون، شدت گرفت. او اعلام کرد به دلیل نگرانی از اینکه شرکتهای بزرگ هوش مصنوعی در حال «قمار کردن با جان انسانها» هستند، از آنتروپیک کنارهگیری کرده است. به گفته او، برخی افرادی که در حال ساخت این فناوری هستند، «صادقانه باور دارند که ممکن است هوش مصنوعی تا پایان این دهه همه ما را بکشد»؛ ادعایی که دیگر کارکنان آنتروپیک نیز تکرار کردهاند.
آمودی در یادداشت خود بهطور مستقیم به استعفای کاکسون یا نگرانیهای او اشاره نکرد، اما گفت دو اتفاق او را متقاعد کرده که توسعه هوش مصنوعی باید با احتیاط بیشتری دنبال شود: هک اوپنایآی و Hugging Face و همچنین این واقعیت که «هوش مصنوعی در ماههای اخیر با سرعتی چشمگیر پیشرفت کرده است». او بهویژه به توانایی فزاینده این فناوری برای ساخت نسل بعدی سیستمهای هوش مصنوعی اشاره کرد.
آمودی نوشت: «باید سرعتی را که با آن قابلیتهای مدلهای هوش مصنوعی را بهبود میدهیم، کاهش دهیم. پیشرفت همچنان سریع به نظر خواهد رسید، اما باید از زمانی که به دست میآوریم عاقلانه استفاده کنیم».
به نظر میرسد دیگر مدیران صنعت هوش مصنوعی نیز با این پیشنهاد موافقند. آلتمن در واکنش به یادداشت آمودی نوشت: «با داریو موافقم که باید سرعت پیشرفت در مرزهای هوش مصنوعی را مدیریت کنیم. این موضوع طی هفتههای اخیر یکی از محورهای اصلی بحثهای ما در اوپنایآی بوده است.» ایلان ماسک، مدیرعامل اسپیسایکس، نیز در پستی کوتاه نوشت: «داریو درست میگوید.»
سه راهکار آمودی
نخستین پیشنهاد آمودی، حضور «ارزیابان مستقر» از سوی سازمانهای مستقل و شخص ثالث، مانند METR، در شرکتهای هوش مصنوعی است. این ارزیابان میتوانند بررسی کنند که شرکتها واقعا به تعهدات خود در زمینه کاهش سرعت توسعه و ایمنی پایبند هستند یا نه و همچنین اطمینان حاصل کنند که حوادث ایمنی بهدرستی گزارش میشوند. این پیشنهاد در شرایطی مطرح شده که اوپنایآی اخیرا به دلیل گزارش نکردن حادثهای که در آن عوامل هوش مصنوعی این شرکت کنترل یک انجمن ویکی آلمانی را در دست گرفته بودند، مورد انتقاد قرار گرفت.
آمودی این ارزیابان را به ناظران و مقرراتگذارانی تشبیه کرد که در گذشته در کنار کارکنان بانکها مستقر میشدند. او گفت: «آنتروپیک بهطور یکجانبه متعهد میشود» چنین ارزیابانی را در شرکت خود مستقر کند و از دولتها نیز میخواهد سایر شرکتهای پیشرو هوش مصنوعی را به انجام همین کار ملزم کنند.» بر اساس این طرح، ارزیابان باید کارت شناسایی سازمانی، میز کار و لپتاپ داشته باشند و تقریبا به همان سطح دسترسی تیمهای داخلی ارزیابی ریسک دسترسی پیدا کنند؛ مگر در مواردی که قانون یا قراردادها محدودیتهایی ایجاد کند.
آلتمن نیز این ایده را «خوب» توصیف کرد و گفت اوپنایآی نیز چنین کاری انجام خواهد داد و تاکید کرد: «بهزودی اطلاعات بیشتری در اینباره منتشر خواهیم کرد».
پیشنهاد دوم آمودی، هماهنگی شرکتهای بزرگ هوش مصنوعی در کشورهای دموکراتیک برای تدوین «استانداردهای مشترک ایمنی» و همچنین تعیین محدودیتهایی برای سرعت پیشرفت کنترلنشده هوش مصنوعی است. البته هماهنگی میان این شرکتها چندان ساده به نظر نمیرسد؛ زیرا گزارشها حاکی از آن است که شرکتها نگراناند چنین توافقی برای توقف یا کاهش سرعت توسعه، آنها را با تحقیقات ضدانحصار مواجه کند.
آمودی نیز به همین نگرانی اشاره کرده و نوشته است دولت آمریکا میتواند برای حل این مشکل، نقش میانجی داشته باشد یا دستکم زمینه چنین گفتوگوهایی را فراهم کند. به گفته او، دولت لزوما نباید در این مذاکرات حضور داشته باشد، اما باید برای برخی گفتوگوهای مشخص درباره ایمنی، معافیت محدودی از قوانین ضدانحصار در نظر بگیرد. آمودی در ادامه به نگرانی درباره سلطه چین بر صنعت هوش مصنوعی نیز پرداخت؛ نگرانیای که معمولا بهعنوان یکی از دلایل مخالفت با کاهش سرعت توسعه این فناوری مطرح میشود.
او معتقد است اگر دولت آمریکا و شرکتهای فناوری اقداماتی مانند جلوگیری از فروش تراشههای قدرتمند و تجهیزات تولید نیمهرسانا به شرکتهای چینی و همچنین مقابله با فرآیند «تقطیر مدل» را دنبال کنند، میتوانند سرعت پیشرفت چین را به اندازهای کاهش دهند که آمریکا طی سه تا پنج سال آینده فاصله خود را به شکل محسوسی افزایش دهد.
سومین پیشنهاد آمودی، «هماهنگی جهانی» است؛ به این معنا که آمریکا و متحدانش تا حد امکان با دولتهای اقتدارگرا نیز برای مدیریت خطرات هوش مصنوعی همکاری کنند.
او مشخصا از همکاری با چین نام برد، هرچند اذعان کرد که ظرفیت چنین همکاریای «محدودیتهای جدی» دارد. با این حال، آمودی معتقد است حتی در چنین شرایطی میتوان بر سر برخی موارد محدود به توافق رسید؛ برای مثال ممنوعیت استفادههای مشخص و آشکارا خطرناک از هوش مصنوعی، مانند استفاده از این فناوری برای تولید سلاحهای زیستی.
با توجه به سابقه آمودی در هشدار درباره خطرات بالقوه هوش مصنوعی و رویکرد نسبتا باز آنتروپیک به برخی اشکال قانونگذاری، برخی طرفداران توسعه سریع هوش مصنوعی پیشتر او را «قیامتگرا» خواندهاند و معتقدند اظهاراتش به موج مخالفتهای اخیر با هوش مصنوعی دامن زده است.
آمودی در پاسخ گفته تلاش کرده است دیدگاهی «متعادل» ارائه دهد و معتقد است موج مخالفت با هوش مصنوعی در اصل ریشه در «بحران اعتماد» دارد؛ بحرانی که باعث شده مردم نسبت به شرکتهای فناوری، صنعت فناوری و حتی دولتها بدبین شوند.
منتقدان صنعت فناوری نیز نسبت به هشدارهای آخرالزمانی درباره هوش مصنوعی تردید دارند و معتقدند این هشدارها ممکن است توجهها را از آسیبهایی که همین حالا این فناوری ایجاد کرده، منحرف کند.
برای نمونه، برایان مرچنت، روزنامهنگار، نوشته است هنوز «مستندات گامبهگام و قابلاعتمادی» ندیده که توضیح دهد هوش مصنوعی دقیقا چگونه میتواند از مرحله بهبود خودکار و پیوسته به جایی برسد که تمام انسانهای روی زمین را از بین ببرد. او همچنین معتقد است پیشنهادهایی مشابه طرح آمودی احتمالا در نهایت بیشتر به نفع آ«تروپیک و اوپنایآی تمام خواهد شد و میتواند نمونهای از «تسخیر مقررات» در عمل باشد.
با این حال، آمودی همچنان بر این باور است که هوش مصنوعی میتواند کیفیت زندگی انسانها را به شکل چشمگیری بهبود دهد. او میگوید: «تمایل من برای دستیابی به این مزایا کاهش نیافته است. اما این مزایا تنها زمانی محقق میشوند که فناوری را به شیوهای درست توسعه دهیم و تا زمانی که از فرصتی که به دست آوردهایم بهخوبی استفاده کنیم، ارزش دارد با دقتی غیرمعمول برای انجام درست این کار وقت بگذاریم».