ترس ایلان ماسک و گروهی از کارشناسان از قدرت هوش مصنوعی/آموزش GPT-4 را 6ماه به تعویق بیندازید

ایلان ماسک و گروهی از کارشناسان هوش مصنوعی و مدیران صنعت در نامه‌ای سرگشاده اعلام کردند که خواستار توقف شش ماهه سیستم‌های آموزشی قدرتمندتر از مدل تازه راه اندازی شده GPT-4 هستند و به خطرات احتمالی آن برای جامعه و بشریت اشاره کردند.

به گزارش گروه علم و پیشرفت آژانس خبری کارآفرینان اقتصاد به نقل از رویترز، نامه‌ای سرگشاده  توسط موسسه Future of Life منتشر شده و به امضای بیش از هزار نفر از جمله ماسک رسیده است. افراد در این نامه خواستار این هستند که تا زمان اجرا و ممیزی پروتکل‌های ایمنی مشترک برای طرح‌های آموزش هوش مصنوعی پیشرفته توسط کارشناسان،  توسعه آن متوقف شود.

در این نامه آمده است: «سیستم‌های قدرتمند هوش مصنوعی تنها زمانی باید توسعه یابند که مطمئن شویم اثرات آن‌ها مثبت و خطرات آن‌ها قابل مدیریت خواهد بود».

در این نامه همچنین خطرات بالقوه برای جامعه و تمدن توسط سیستم‌های هوش مصنوعی رقابتی در قالب اختلالات اقتصادی و سیاسی شرح داده شده است و از توسعه‌دهندگان خواسته شده است تا با سیاست‌گذاران در زمینه حاکمیت و مقامات نظارتی همکاری کنند.

این نامه در حالی منتشر می شود که نیروی پلیس اتحادیه اروپا (یوروپل) روز دوشنبه به گروهی از نگرانی های اخلاقی و قانونی در مورد هوش مصنوعی پیشرفته مانند ChatGPT پیوست و در مورد سوء استفاده احتمالی از سیستم در تلاش های فیشینگ، اطلاعات نادرست و جرایم سایبری هشدار داد.

ChatGPT از زمان انتشار آن در سال گذشته توسط OpenAI با پشتیبانی مایکروسافت، رقبا را بر آن داشت تا توسعه مدل‌های زبان بزرگ مشابه را تسریع کنند و شرکت‌ها مدل‌های هوش مصنوعی مولد را در محصولات خود ادغام کنند.

یکی از سخنگویان Future of Life به رویترز گفت که سم آلتمن، مدیر اجرایی OpenAI، این نامه را امضا نکرده است. گری مارکوس، استاد دانشگاه نیویورک که نامه را امضا کرده اظهار کرد که باید سرعت خود رابرای توسعه هوش مصنوعی کم کنیم تا زمانی که عواقب آن را بهتر درک کنیم زیرا آنها می توانند آسیب جدی به بار آورند.

پایان پیام/

 

دیدگاه خود را بیان کنید

0 دیدگاه