دانشمندان؛ هوش مصنوعی سرانجام جهان ما را نابود می کند!

  • مصطفی  جرفی مصطفی جرفی
  • ۲۸ شهریور ۱۴۰۱
  • زمان مطالعه : 2.4 دقیقه

راهنماتو- این ایده که هوش مصنوعی روزی تمدن بشر را نابود می کند، سال ها و بلکه دهه هاست که در ذهن بسیاری متفکران قرار دارد و حتی تعداد زیادی فیلم با این مضمون ساخته شده است. اینکه آیا چنین چیزی واقعاً رخ خواهد داد یا خیر، ذهن بسیاری از دانشمندان را به خود جلب کرده است و یک بررسی جدید می گوید که ما بالاخره کنترل خود را بر این هوش مصنوعی از دست خواهیم داد.

این دانشمندان می گویند کنترل یک ابر هوش بسیار فراتر از درک انسان نیازمند شبیه سازی آن است تا ما بتوانیم آن را تحلیل (و کنترل) کنیم. اما اگر ما قادر به درک آن نباشیم، ایجاد چنین شبیه سازی غیرممکن است. به عبارت دیگر، اگر ما نوع سناریوهایی را که یک هوش مصنوعی قرار است ایجاد کند، درک نکنیم، نمی‌توان قوانینی مانند «به انسان آسیبی وارد نکن» تنظیم کرد. پس وقتی که یک سیستم کامپیوتری در سطحی بالاتر از محدوده برنامه نویسان کار  کند، دیگر نمی توانیم محدودیت هایی را برایش تعیین کرد.

یک ابر هوش با چنین مشخصاتی می تواند دست به اقداماتی بزند که برای ما انسان ها مشکل ساز خواهند بود. این به این دلیل است که یک ابرهوش چند وجهی است، و بنابراین به طور بالقوه قادر به بسیج منابع مختلف برای دستیابی به اهدافی است که به طور بالقوه برای انسان غیرقابل درک است، چه رسد به قابل کنترل.

بخشی از استدلال های این دانشمندان برگرفته از فرضیه «مشکل توقف» است توسط آلن تورینگ در سال 1936 مطرح شد. این تئوری توضیح بر این پایه استوار است که وقتی مشکلی بر سر راه یک برنامه کامپیوتری قرار می گیرد و نتواند پاسخی برای آن بیابد، آیا متوقف می شود یا برای کسب نتیجه به تلاش های خود ادامه می دهد. همانطور که تورینگ از طریق برخی ریاضیات هوشمند ثابت کرد، هوش مصنوعی می‌تواند هر برنامه رایانه‌ای ممکن را برای پاسخ به مشکلات در حافظه خود نگه دارد.

بنابراین هر برنامه‌ای از جمله برنامه هایی که برای جلوگیری از آسیب رساندن هوش مصنوعی به انسان‌ها و نابود کردن جهان نوشته شده باشد، از نظر ریاضی غیرممکن است که بتوان آن را کنترل کرد و مطمئن بود که برای همیشه تحت کنترل بماند. ایاد رهوان، دانشمند کامپیوتر از موسسه توسعه انسانی ماکس پلانک در آلمان در سال 2021، گفت: «در واقع، این باعث می شود که الگوریتم مهار غیرقابل استفاده باشد.»

اکنون این ایده مطرح شده است که اگر قرار نیست از هوش مصنوعی برای حل مشکلات فراتر از محدوده ذهن انسان استفاده کنیم، پس چرا اصلاً آن را ایجاد کنیم؟ این بدان معنی است که ما باید شروع به پرسیدن برخی از سؤالات جدی در مورد مسیرهایی که در آن قرار داریم کنیم. مانوئل سبریان، دانشمند کامپیوتر از موسسه توسعه انسانی ماکس پلانک، همچنین در سال 2021، گفت: «ماشین فوق هوشمندی که جهان را کنترل می کند، به نظر می رسد فقط مربوط به دنیای علمی تخیلی باشد.»

مصطفی  جرفی
مصطفی جرفی

دیدگاه شما چیست؟

دیدگاه ها