400 محقق خواهان ایجاد نهاد نظارتی بین المللی بر هوش مصنوعی شدند
می هاست: گروه کثیری از محققان همچون دو پیشگام هوش مصنوعی خواهان ایجاد یک نهاد بین المللی برای نظارت و مهار این فناوری شدند.
به گزارش می هاست به نقل از رویترز، حدود ۴۰۰ محقق همچون جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواهان تشکیل یک نهاد بین المللی شدند تا بر معیارهای مهار و الزامات گزارش دهی حوادث در ارتباط با سیستم های پیشرفته هوش مصنوعی دارای قابلیت های سایبری نظارت کند.
نهاد پیشنهادی معیارهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که به قول محققان بتدریج عمومی می شود را نگهداری می کنند.
محققان در نامه ای سرگشاده اعلام نمودند مدلهای هوش مصنوعی پیشرو باید در ابتدا به صورت ایزوله از شبکه های خارجی عرضه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.
پیشنهاد تاسیس چنین نهادی یک ماه بعد از آن عرضه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ گونه مکانیسم اجرایی رسمی متعهد شد.
به گفته محققان قبل از عرضه این نامه، زنجیره اتفاقاتی روی داده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، همچون مواردی که در آن مدلهای هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.
امضا کنندگان این نامه از ۳۴ کشور جهان هستند و اعتقاد دارند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت معیارهای مهار با سطح اطمینان بالا را به کار گیرند و از طرف دیگر دولت ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.
سیاستگذاران به صورت بیش از پیش در رابطه با شیوه نظارت بر مدلهای هوش مصنوعی استدلالاتی عرضه می کنند. به قول هنا ویرکوون مدیر فناوری اتحادیه اروپا «قانون هوش مصنوعی» (AI Act) برای برطرف نمودن ریسک سیستم های هوش مصنوعی خطرناک کافی است.
این درحالی است که دولت آمریکا طی روزهای گذشته محدودیت اعمال شده بر موسسه امنیت هوش مصنوعی انگلیس برای دسترسی به لابراتوار های هوش مصنوعی آمریکایی جهت تست ایمنی مدلها را لغو نمود.
به گزارش می هاست به نقل از رویترز، حدود ۴۰۰ محقق همچون جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواهان تشکیل یک نهاد بین المللی شدند تا بر معیارهای مهار و الزامات گزارش دهی حوادث در ارتباط با سیستم های پیشرفته هوش مصنوعی دارای قابلیت های سایبری نظارت کند.نهاد پیشنهادی معیارهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که به قول محققان بتدریج عمومی می شود را نگهداری می کنند.محققان در نامه ای سرگشاده اعلام نمودند مدلهای هوش مصنوعی پیشرو باید در ابتدا به صورت ایزوله از شبکه های خارجی عرضه شود و تحت نظارت مستقل قرار گیرد. آنها استدلال می کنند تعهدات داوطلبانه این صنعت کافی نیستند.پیشنهاد تاسیس چنین نهادی یک ماه بعد از آن عرضه می شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ گونه مکانیسم اجرایی رسمی متعهد شد.به گفته محققان قبل از عرضه این نامه، زنجیره اتفاقاتی روی داده که ضعف هایی در شیوه آزمایش ومهار سیستم های هوش مصنوعی آشکار شده است، همچون مواردی که در آن مدلهای هوش مصنوعی محیط های آزمایشی را دور زدند و سیستم های خارجی را به خطر انداختند.امضا کنندگان این نامه از ۳۴ کشور جهان هستند و اعتقاد دارند نهادهایی که مدل هایی قابلیت سایبری را توسعه می دهند یا آزمایش می کنند باید به سرعت معیارهای مهار با سطح اطمینان بالا را به کار گیرند و از طرف دیگر دولت ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.سیاستگذاران به صورت بیش از پیش در رابطه با شیوه نظارت بر مدلهای هوش مصنوعی استدلالاتی عرضه می کنند.
این مطلب را می پسندید؟
(0)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب