۱۷:۵۶ – ۱۸ آذر ۱۴۰۴
وارمگ؛ جواد فراهانی – رومن یامپولسکی، محقق متخصص در امنیت هوش مصنوعی، هشدار میدهد که توسعه سریع این فناوری میتواند منجر به انقراض بشریت شود.
یامپولسکی تخمین میزند که احتمال وقوع این سناریوی فاجعهبار در ۱۰۰ سال آینده به ۹۹.۹ درصد میرسد.
این محقق هوش مصنوعی، هشدار خود را بر اساس مشاهداتش مبنی بر اینکه همه سیستمهای هوش مصنوعی فعلی فاقد حفاظات امنیتی کافی هستند، بیان میکند و هیچ امیدی نمیبیند که نسلهای آینده این فناوریها مشکلات اساسی خود را حل کنند. بنابراین، او به فهرست رو به رشدی از متخصصان نگران، از جمله برخی از پیشگامان این حوزه، میپیوندد.
یامپولسکی کتابی با عنوان «هوش مصنوعی: غیرقابل توضیح، غیرقابل پیشبینی، غیرقابل کنترل» منتشر کرده است که در آن خطرات اصلی، مانند عدم توانایی در پیشبینی رفتار هوش مصنوعی یا درک دلایل تصمیمات آن را توضیح میدهد.
این کتاب به مسائل پیچیدهای مانند اینکه چه کسی این فناوری را کنترل میکند و پیامدهای ناخواسته آن چه میتواند باشد، میپردازد و با بحثهای فلسفی در مورد اینکه آیا هوش مصنوعی میتواند دارای آگاهی یا شخصیت باشد، به پایان میرسد.
در حالی که پیشکسوتانی مانند یامپولسکی جزء بدبینترین افراد هستند، تحقیقات دیگر تخمینهای نه چندان وخیمی ارائه میدهند. مطالعهای که توسط دانشگاههای آکسفورد و بن انجام شد و بیش از ۲۷۰۰ متخصص را مورد بررسی قرار داد، احتمال انقراض انسان به دلیل هوش مصنوعی را تنها ۵ درصد تخمین زد.
کاتیا گریس، محقق، توضیح میدهد که اکثر متخصصان خودِ خطر را تصدیق میکنند، اما اختلاف نظر واقعی در میزان دقیق آن نهفته است.
از سوی دیگر، چهرههای برجستهای مانند اندرو نگ، یکی از بنیانگذاران گوگل برین و یان لکان، پیشگام هوش مصنوعی، ایده انقراض کامل انسان را رد میکنند. لکان استدلال میکند که برخی از هشدارهای اغراقآمیز ممکن است اهدافی غیر از علم داشته باشند.
از سوی دیگر، سم آلتمن، رئیس OpenAI، اظهارات جنجالی مطرح کرد و هشدار داد که هوش مصنوعی تعداد زیادی از مشاغلی را که او آنها را «کار واقعی» توصیف نکرده بود، از بین خواهد برد که انتقادات گستردهای را به دنبال داشت. او همچنین پیشبینی کرد که این فناوری منجر به تغییرات اساسی در «قرارداد اجتماعی» موجود خواهد شد.
بیش از یک دهه پیش، در سال ۲۰۱۵، آلتمن جمله معروفی گفت: «هوش مصنوعی به احتمال زیاد به پایان جهان منجر خواهد شد، اما قبل از آن، شرکتهای بزرگی ایجاد خواهد کرد.»
منبع: اکسپرس
