۴۰۰ محقق خواهان ایجاد نهاد نظارتی بین المللی بر هوش مصنوعی شدند

دیجیتالر: گروه کثیری از پژوهشگران همچون دو پیشگام هوش مصنوعی خواهان ایجاد یک نهاد بین المللی برای نظارت و مهار این فناوری شدند.

به گزارش دیجیتالر به نقل از رویترز، حدود ۴۰۰ محقق همچون جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواهان تشکیل یک نهاد بین المللی شدند تا بر استانداردهای مهار و الزامات گزارش دهی حوادث در ارتباط با سیستم های پیشرفته هوش مصنوعی دارای قابلیت های سایبری نظارت کند.
نهاد پیشنهادی استانداردهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که به قول محققان بتدریج عمومی می شود را نگهداری می کنند.
محققان در نامه ای سرگشاده اعلام نمودند مدلهای هوش مصنوعی پیشرو باید در ابتدا به صورت ایزوله از شبکه های خارجی ارایه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.
پیشنهاد تاسیس چنین نهادی یک ماه بعد از آن ارایه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ گونه مکانیسم اجرایی رسمی متعهد شد.
به گفته محققان قبل از ارایه این نامه، زنجیره اتفاقاتی روی داده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، همچون مواردی که در آن مدلهای هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.
امضا کنندگان این نامه از ۳۴ کشور جهان هستند و اعتقاد دارند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت استانداردهای مهار با سطح اطمینان بالا را به کار گیرند و از طرف دیگر دولت ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.
سیاستگذاران به صورت روزافزون در رابطه با شیوه نظارت بر مدلهای هوش مصنوعی استدلالاتی ارایه می کنند. به قول هنا ویرکوون مدیر فناوری اتحادیه اروپا «قانون هوش مصنوعی» (AI Act) برای برطرف نمودن ریسک سیستم های هوش مصنوعی خطرناک کافی است.
این درحالی است که دولت آمریکا طی روزهای گذشته محدودیت اعمال شده بر موسسه امنیت هوش مصنوعی انگلیس برای دسترسی به لابراتوار های هوش مصنوعی آمریکایی جهت تست ایمنی مدلها را لغو نمود.
به گزارش دیجیتالر به نقل از رویترز، حدود ۴۰۰ محقق همچون جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواهان تشکیل یک نهاد بین المللی شدند تا بر استانداردهای مهار و الزامات گزارش دهی حوادث در ارتباط با سیستم های پیشرفته هوش مصنوعی دارای قابلیت های سایبری نظارت کند.نهاد پیشنهادی استانداردهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که به قول محققان بتدریج عمومی می شود را نگهداری می کنند.محققان در نامه ای سرگشاده اعلام نمودند مدلهای هوش مصنوعی پیشرو باید در ابتدا به صورت ایزوله از شبکه های خارجی ارایه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.پیشنهاد تاسیس چنین نهادی یک ماه بعد از آن ارایه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ گونه مکانیسم اجرایی رسمی متعهد شد.به گفته محققان قبل از ارایه این نامه، زنجیره اتفاقاتی روی داده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، همچون مواردی که در آن مدلهای هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.امضا کنندگان این نامه از ۳۴ کشور جهان هستند و اعتقاد دارند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت استانداردهای مهار با سطح اطمینان بالا را به کار گیرند و از طرف دیگر دولت ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.سیاستگذاران به صورت روزافزون در رابطه با شیوه نظارت بر مدلهای هوش مصنوعی استدلالاتی ارایه می کنند.

منبع: digitaler.ir

1405/07/23

10:46:51

0.0 / 5

تگهای خبر: آمریكا , امنیت , ایمنی , توسعه

این مطلب دیجیتالر را می پسندید؟

(0)

تازه ترین مطالب مرتبط

کامنت بینندگان دیجیتالر در مورد این مطلب

کامنت شما در مورد این مطلب

نام:

ایمیل:

کامنت:

سوال:

= ۷ بعلاوه ۳