خطری بزرگ که آینده انسان را به خطر می‌اندازد

«شما دیده می‌شوید، دولت یک سیستم سری دارد که هر روز، هر ساعت جاسوسی شما را می‌کند. من این دستگاه را طراحی کردم تا اقدامات تروریسی را تشخیص بدهد، اما همه‌چیز را می‌بیند...»

به نظر می‌رسد، این دیالوگ یکی از سریال‌های ساخته شده در رابطه با هوش مصنوعی تا چند سال دیگر به اتفاقی واقعی تبدیل شود. چند روز گذشته یک هکر در گفت‌وگو با گاردین اعلام کرد هوش مصنوعی یکی از بزرگ‌ترین خطراتی است که آینده انسان را تهدید می‌کند.

ادوارد اسنودن، تحلیل‌گر کامپیوتری که چند سال پیش برخی اطلاعات محرمانه آژانس امنیت ملی ایالات متحده آمریکا درباره جاسوسی از مردم را در اختیار رسانه‌ها قرار داد و از آمریکا فرار کرد، در این رابطه به گاردین گفت: «با بهبود فناوری‌های مربوط به هوش مصنوعی، بزرگترین خطر هنوز هم پیش روی ماست. یک دوربین مداربسته مجهز به هوش مصنوعی، تنها یک دستگاه ضبط نخواهد بود و به چیزی شبیه یک افسر پلیس خطرناک تبدیل می‌شود.»

به طور کلی هوش مصنوعی به این شکل تعریف می‌شود: «به سیستم‌هایی گفته می‌شود که می‌توانند واکنش‌هایی مشابه رفتارهای هوشمند انسانی از جمله درک شرایط پیچیده، شبیه‌سازی فرایندهای تفکری و شیوه‌های استدلالی انسانی و پاسخ موفق به آنها، یادگیری و توانایی کسب دانش و استدلال برای حل مسایل را داشته باشند.»

این سیستم‌ها اما می‌توانند برای انسان خطرات زیادی به وجود بیاورند. این هشداری است که سال‌های گذشته هم بارها دانشمندان و چهره‌های مختلف نسبت به آن هشدار دادند، به طوری که در ژانویه سال ۲۰۱۵، استفان هاوکینگ فیزیکدان، الون ماسک سازنده تسلا و ده‌ها کارشناس در نامه‌ای باز از خطرات این موضوع هشدار داده بودند.

در بخشی از نامه آن‌ها آمده است: «با طلوع ابرهوش‌هایی که به درخواست انسان عمل نمی‌کنند، شاید ما یک روز کنترل هوش‌ مصنوعی را از دست بدهیم و چنین سیستم‌های قوی می‌توانند بقای انسان را تهدید کنند.»

به طور کلی هوش مصنوعی در کنار همه مزایایی که دارد به شیوه‌های مختلفی انسان را تهدید می‌کند، تهدیدهایی که بخشی کوچک از آن‌ها هم واقعی است؛ برای مثال در ماجرای انتخابات اخیر آمریکا و تاثیرات اقدامات فیسبوک در نتایج انتخابات یک هوش مصنوعی داده‌ها را تحلیل کرده بود.

به طور کلی هوش‌ مصنوعی به چند روش مختلف هستی انسان را تهدید می‌کند؛ از هوش مصنوعی‌ای که کدهای آن به شکلی نوشته شده است که به شکل عمدی به انسان آسیب وارد کند تا هوش مصنوعی‌ای که انسان را تهدیدی برای خودش می‌بیند و به نوعی انتخاب می‌کند که به انسان آسیب وارد کند.

۱: هوش مصنوعی که برنامه ویران کننده‌ای برای آن نوشته شده است

سلاح‌های خود مختارهای سیستم‌های هوش مصنوعی هستند که برای کشتن برنامه‌ریزی شده‌اند. اگر این سلاح‌ها  به دست افراد نادرستی برسد این امکان وجود دارد که جان افراد زیادی گرفته شود. علاوه بر این، شاید چنین مسائلی به شکل ناخواسته منجر به یک جنگ هوش مصنوعی شوند. از سویی این تفنگ‌ها به شکلی طراحی شده‌اند که خاموش کردن آن‌ها کار بسیار سختی است، این موضوعی است شاید منجر به این شود که انسان دیگر نتواند این سلاح‌ها را کنترل کند.

۲: هوش مصنوعی که برنامه درستی برای آن نوشته شده است

این اتفاق زمانی رخ می‌دهد که شما اهداف یک هوش مصنوعی را با اهداف خودتان به طور کامل یکسان نکنید. مثلا اگر از یک خودرو مجهر به هوش مصنوعی بخواهید شما را به سریع‌ترین شکل ممکن به فرودگاه برساند، ممکن است با پیامدهای مرگباری روبرو شوید. اگر از یک هوش مربوط به مهندسی بخواهید کاری انجام بدهد، این امکان وجود دارد که به محیط زیست آسیب‌های فراوانی روبرو شوید.

۳: ابر هوش مصنوعی اصلی‌ترین خطری که انسان را تهدید می‌کند

این موضوعی بود که الون ماسک و دیگر چهره‌ها در نامه خود به آن اشاره کردند. به طور کلی ابر هوش مصنوعی، سیستمی تکامل یافته است که از انسان باهوش‌تر است و برای رسیدن به اهدافش هرکاری انجام می‌دهد. اگر این اهداف، با اهداف انسان‌ها مطابقت نداشته باشد در آن صورت مشکلات فراونی به وجود می‌آید.

برای مثال در تحقیقی که سال ۲۰۰۲ توسط بولتون درباره هوش مصنوعی انجام شده در این رابطه نوشته است: «زمانی که اولین ابرهوش غیرقابل نفوذ ساخته شود این امکان وجود دارد که با انتخاب اهداف اشتباه برای آن منجر به نابودی بشر شویم. برای مثال شما از آن دستگاه می‌خواهید یک مسئله ریاضی را حل کند و این دستگاه برای این کار تمام مواد منظومه شمسی را به یک ماشین حساب تبدیل کند.»