۴۰۰ محقق خواهان ایجاد نهاد نظارتی بین المللی بر هوش مصنوعی شدند

به گزارش خرید بک لینک به نقل از رویترز، حدود ۴۰۰ محقق همچون جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواهان تشکیل یک نهاد بین المللی شدند تا بر استانداردهای مهار و الزامات گزارش دهی حوادث مربوط به سامانه های پیشرفته هوش مصنوعی دارای قابلیت های سایبری نظارت کند.
نهاد پیشنهادی استانداردهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که بگفته محققان کم کم عمومی می شود را نگهداری می کنند.
محققان در نامه ای سرگشاده اعلام نمودند مدلهای هوش مصنوعی پیشرو باید در ابتدا بطور ایزوله از شبکه های خارجی عرضه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.
پیشنهاد تاسیس چنین نهادی یک ماه بعد از آن عرضه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ نوع مکانیسم اجرائی رسمی متعهد شد.
به گفته محققان قبل از عرضه این نامه، زنجیره اتفاقاتی رخداده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، همچون مواردی که در آن مدلهای هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.
امضا کنندگان این نامه از ۳۴ کشور جهان هستند و باور دارند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت استانداردهای مهار با سطح اطمینان بالا را به کار گیرند و از طرفی دولت ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.
سیاستگذاران بطور بیش از پیش در رابطه با شیوه نظارت بر مدلهای هوش مصنوعی استدلالاتی عرضه می کنند. بگفته هنا ویرکوون مدیر فناوری اتحادیه اروپا «قانون هوش مصنوعی» (AI Act) برای مرتفع ساختن ریسک سیستم های هوش مصنوعی خطرناک کافی است.
این درحالی است که دولت آمریکا طی روزهای گذشته محدودیت اعمال شده بر موسسه امنیت هوش مصنوعی انگلیس برای دسترسی به لابراتوار های هوش مصنوعی آمریکایی جهت تست ایمنی مدلها را کنسل کرد.

به گزارش خرید بک لینک به نقل از رویترز، حدود ۴۰۰ محقق همچون جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواهان تشکیل یک نهاد بین المللی شدند تا بر استانداردهای مهار و الزامات گزارش دهی حوادث مربوط به سامانه های پیشرفته هوش مصنوعی دارای قابلیت های سایبری نظارت کند.نهاد پیشنهادی استانداردهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که بگفته محققان کم کم عمومی می شود را نگهداری می کنند.محققان در نامه ای سرگشاده اعلام نمودند مدلهای هوش مصنوعی پیشرو باید در ابتدا بطور ایزوله از شبکه های خارجی عرضه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.پیشنهاد تاسیس چنین نهادی یک ماه بعد از آن عرضه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ نوع مکانیسم اجرائی رسمی متعهد شد.به گفته محققان قبل از عرضه این نامه، زنجیره اتفاقاتی رخداده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، همچون مواردی که در آن مدلهای هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.امضا کنندگان این نامه از ۳۴ کشور جهان هستند و باور دارند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت استانداردهای مهار با سطح اطمینان بالا را به کار گیرند و از طرفی دولت ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.سیاستگذاران بطور بیش از پیش در رابطه با شیوه نظارت بر مدلهای هوش مصنوعی استدلالاتی عرضه می کنند.

منبع: mpo-kr.ir