کدام چهره های سیاسی و فناوری موافق و مخالف رشد هوش مصنوعی شدند؟

به گزارش دیجیتالر به نقل از مهر؛ بحث های کارشناسی و اظهار نظرها درباره ی ایمنی هوش مصنوعی در ماه سپتامبر ۲۰۲۶ بالاتر از هر زمان دیگری برجسته شده است. هشدار درباره ی خطر مدلهای مرزی حالا از حلقه محققان ایمنی فراتر رفته و به مدیران بزرگ ترین لابراتوار های هوش مصنوعی، کنگره آمریکا، کاخ سفید و حتی مناقشه راهبردی واشنگتن و پکن رسیده است. دراین میان، پرسش کلیدی هم تغییر کرده است. مساله دیگر صرفا چگونگی ایمن سازی مدلهای قدرتمند نیست، بلکه مساله این است که آیا سرعت افزایش قابلیت های هوش مصنوعی باید عمداً کم شود تا ظرفیت فنی و نهادی کنترل آن فرصت همگام شدن پیدا کند؟
این اختلاف در چند روز گذشته به شکافی کم سابقه در صنعت فناوری تبدیل گشته است. داریو آمودی، مدیر عامل آنتروپیک، خواهان کاهش آهنگ افزایش قابلیت مدلهای هوش مصنوعی شده است. سم آلتمن و ایلان ماسک هم اصل استدلال او درباره ی لزوم کندکردن حرکت در مرز قابلیت ها را تأیید کرده اند. در سوی دیگر، جنسن هوانگ، مدیر عامل انویدیا، سرعت و ایمنی را قابل قبول می داند و دونالد ترامپ نگرانی های وجودی درباره ی هوش مصنوعی را در مقابل لزوم حفظ برتری آمریکا نسبت به چین قرار داده است.

از «ایمنی مدل» تا «ایمنی سرعت توسعه»

مهم ترین تحول مفهومی را میتوان در موضع تازه آمودی دید. استدلال او بر یک عدم تقارن زمانی بنا شده است. قابلیت مدلها با سرعتی بیشتر می شود که امکان دارد سازوکارهای ارزیابی، هم ترازی و کنترل نتوانند آنرا دنبال کنند. از همین روی، آمودی تصریح کرده که سرمایه گذاری بیشتر در جلوگیری از خطر کفایت نمی کند و سرعت پیشرفت قابلیت ها هم باید به نحوی تنظیم شود که مدیریت خطر فرصت همگام شدن داشته باشد.
این موضع با درخواست توقف کامل توسعه هوش مصنوعی متفاوت است. پیشنهاد آمودی بر نوعی تنظیم سرعت در مرز فناوری استوار است و یکی از اجزای مشخص آن، اعطای دسترسی دائمی در سطح کارکنان به ارزیابان مستقل شخص ثالث است تا رعایت تدابیر ایمنی، رخدادهای خطرناک و وضعیت هم ترازی مدلها را حتی در جریان آموزش بررسی نمایند. آلتمن هم از همین سازوکار استقبال و اعلام نموده اوپن ای آی هم اقدام مشابهی خواهدنمود.
پشت این چرخش، نگرانی مشخصی درباره ی قابلیت خودبهبوددهی بازگشتی یا «Recursive Self-Improvement» قرار دارد. جاکوب کاکسون، پژوهشگر سابق آنتروپیک و اوپن ای آی، بعد از استعفا از آنتروپیک ادعا کرد دو شرکت در راه توسعه «فراهوش خودبهبوددهنده» با مخاطرات غیرقابل قبولی پیش می روند. جاسمین وانگ، پژوهشگر هم ترازی اوپن ای آی هم طی روزهای اخیر، شتاب به طرف قابلیت مذکور را بسیار خطرناک خوانده و یاکوب پاچوکی، دانشمند ارشد اوپن ای آی، گفته است انتظار دارد روند پیشرفت بتواند وارد مرحله خودبهبوددهی بازگشتی شود و درباره ی آمادگی برای نتایج افزایش سریع هوش ماشینی ابراز نگرانی کرده است.
الکس ترنر، پژوهشگر سابق گوگل دیپ مایند، این استدلال را یک مرحله جلوتر می برد. از دید او، مساله بنیادین به شیوه ساخت مدلهای کنونی بازمی گردد. رفتار این سیستم ها مانند یک سازه مهندسی متعارف جزءبه جزء طراحی و فهم نمی شود و روش قابل اتکایی برای تضمین این که مدل جدید دقیقاً اولویت های طراح را دنبال کند وجود ندارد. او سپس یک حلقه بازخورد را ترسیم می کند که در آن مدلهای هوشمندتر در ساخت نسل بعدی مدلها مشارکت می کنند و افزایش قابلیت امروز، سرعت افزایش قابلیت فردا را بیشتر می کند.

پاسخ مخالفان: ایمنی مساله مهندسی است

جنسن هوانگ حدودا از نقطه مقابل به مساله نگاه می کند. مدیر عامل انویدیا هوش مصنوعی را یک «ذهن بیگانه» تلقی نمی کند و آنرا در نهایت مجموعه ای از سخت افزار و نرم افزار ساخته انسان می داند. از دید او، ایمنی فناوری یک مساله مهندسی است و قوانین موجود همراه با سازوکار بازار می توانند شرکتها را از عرضه محصولات ناایمن بازدارند.
هوانگ بر همین مبنا دوگانه سرعت یا ایمنی را کاذب می داند. به عقیده وی، شرکتها می توانند با حداکثر سرعت پیش بروند و هرگاه نسبت به ایمنی محصول اطمینان نداشتند، همان جا توقف کنند. در این چارچوب، متولی تصمیم گیری درباره ی سرعت از قانون گذار به خود توسعه دهنده تغییر می کند و تنظیم سرعت هم از یک قاعده پیشینی به واکنشی در مقابل خطر تبدیل می شود.
اینجا دقیقاً مرز اصلی اختلاف آشکار می شود. آمودی مساله را فاصله میان سرعت ایجاد قابلیت و سرعت تدوین سازوکار ایمنی می بیند. از طرفی، هوانگ بر قابلیت مهندسی خطر در جریان توسعه سریع تکیه می کند. اختلاف این دو روایت درباره ی وجود خطر نیست. نقطه مناقشه آنجاست که چه کسی باید درباره ی سرعت تصمیم بگیرد و آیا ایمنی می تواند بعد از ظهور قابلیت خطرناک به آن برسد یا باید پیشاپیش بر سرعت ظهور آن قابلیت اثر بگذارد.

تبدیل سرعت توسعه هوش مصنوعی به مساله امنیت ملی آمریکا

ورود سیاست به این معادله، مناقشه آهنگ توسعه هوش مصنوعی را پیچیده تر کرده است. ترامپ طی روزهای اخیر در جواب پرسشی درباره ی انقراض انسان بر اثر هوش مصنوعی اعلام نموده که نگران این مساله نیست و دغدغه خودرا عقب نماندن آمریکا در رقابت با چین معرفی نمود. این موضع با جهت گیری رسمی دولت او هم سازگار است. اسناد کاخ سفید در سال ۲۰۲۶ بر تسریع نوآوری، گسترش زیرساخت و حفظ رهبری آمریکا در هوش مصنوعی تاکید دارند.
پکن هم از زاویه دیگری به روایت ضرورت پایین آمدن سرعت گسترش فناوری هوش مصنوعی نگاه می کند. بر همین اساس، گوئو جیاکون، سخنگوی وزارت خارجه چین، در جواب پرسشی درباره ی درخواست مدیران فناوری آمریکایی برای پایین آمدن سرعت توسعه، بر توسعه باز و فراگیر هوش مصنوعی تاکید کرد و هراس افکنی، تقابل و رقابت مخرب را مانع حکمرانی سالم جهانی بر فناوری مذکور دانست. ازاین رو بحثی که در ابتدا حول احتمال از کنترل خارج شدن مدلها شکل گرفته بود، حالا با منطق رقابت قدرت های بزرگ درهم آمیخته است. در این معادله، هر محدودیت داخلی می تواند از نظر مخالفان به هزینه ژئوپلیتیکی تبدیل گردد و هر استدلال مبتنی بر رقابت هم از نظر موافقان پایین آمدن سرعت توسعه می تواند سازوکاری برای تداوم مسابقه ای باشد که خود منشا خطر تلقی می شود.

از نظارت مستقل تا ممنوعیت توسعه ابرهوش مصنوعی

در سیاست داخلی آمریکا هم یک پاسخ واحد به این چالش نوظهور شکل نگرفته است. بر همین اساس، باراک اوباما خواهان تدوین چارچوبی گسترده برای گفتگوی عمومی درباره ی مدیریت هوش مصنوعی شده که از پایین آمدن سرعت برای ایمنی تا آثار اشتغال و سلامت خردسالان را پوشش دهد. صورت بندی او میان مخاطرات و منافع فناوری تعادل برقرار می کند و در کنار هشدار درباره ی سرعت توسعه در دست بازیگران خصوصی، ظرفیت هوش مصنوعی برای تسریع کشف دارو و فناوری انرژی پاک را برجسته می سازد.
از سوی دیگر، برنی سندرز و گرگ کسار هم مسیر مداخله در این زمینه را پیشنهاد کرده اند. طرح عرضه شده این دو قانون گذار آمریکایی توسعه و استقرار «ابرهوش مصنوعی» را ممنوع می کند و توسعه سامانه های پیشرفته را تا زمان استقرار قواعد ایمنی فدرال بطور موقت متوقف می سازد. طرح مذکور همین طور ایجاد یک نهاد فدرال در سطح کابینه برای نظارت بر چرخه عمر هوش مصنوعی مرزی را پیشبینی کرده است.

مسئله اصلی دیگر خطرناک بودنهوش مصنوعی نیست

آنچه از کنار هم قرار دادن این مواضع آشکار می شود، تشکیل یک اختلاف عمیق تر درباره ی حکمرانی سرعت گسترش فناوری است. حدودا تمام طرف های اصلی این مناقشه، می پذیرند که هوش مصنوعی قدرتمند می تواند مخاطراتی ایجاد نماید. شکاف اصلی در سه پرسش کلیدی نهفته است:
آیا توانایی کنترل با همان سرعت قابلیت فنی پیشرفت می کند؟ چه نهادی صلاحیت تشخیص لحظه خطر را دارد؟ هزینه پایین آمدن سرعت یک بازیگر در محیط رقابت بین المللی چیست؟
از همین زاویه، مناقشه سپتامبر ۲۰۲۶ احتمالا نقطه مهمی در تحول سیاست هوش مصنوعی است. یک سوی بحث می خواهد سرعت توسعه را به متغیری قابل حکمرانی تبدیل کند و از ارزیابی مستقل تا توقف موقت و حتی ممنوعیت برخی قابلیت ها پیش می رود. سوی دیگر، سرعت را جزء مزیت نوآوری و قدرت ملی می بیند و مدیریت خطر را به مهندسی، مسئولیت شرکت و قواعد عمومی موجود می سپارد. سرنوشت تنظیم گری هوش مصنوعی تا حد زیادی به پاسخ همین پرسش وابسته خواهد بود. آیا جامعه باید بعد از ظهور یک قابلیت خطرناک برای مهار آن اقدام نماید، یا حق دارد قبل از عبور از آستانه ای که پیامدهایش هنوز قابل اندازه گیری نیست، سرعت رسیدن به آن آستانه را کنترل کند؟


حرف آخر اینکه دلال او بر یک عدم تقارن زمانی بنا شده است. مدیر عامل انویدیا هوش مصنوعی را یک ذهن بیگانه تلقی نمی کند و آن را در نهایت مجموعه ای از سخت افزار و نرم افزار ساخته انسان می داند. در سیاست داخلی آمریکا هم یک پاسخ واحد به این چالش نوظهور شکل نگرفته است.