* ریسک‌های نامعلوم

تصمیم‌های سرخودی و به عبارتی تصمیم‌گیری‌های فردی و برخاسته از عقل هر فرد اینک در بسیاری از سازمان‌ها و نهادهای متکی بر نیروهای جمعی در غرب باب است. داستان آسیموف نیز براساس هوش مصنوعی فردی و اطلاعات ماشینی تنظیم شده و هرچند اینک نمونه‌های این ادوات در برخی اداره‌ها در غرب وجود دارند اما استفاده عمومی از آن رواج ندارد و کمپانی‌ها حاضر نیستند امنیت خود را به آسانی قربانی ریسک‌های نامعلوم کنند. برای نصب و به‌کارگیری ادوات جنگی تکنولوژیک و مرتبط با روبات‌ها و یا توقع یک کار کم نقص از این موجودات هوشمند فلزی باید یک کار بسیار دقیق انجام پذیرد.

در این ارتباط هر چه فرصت تفکر شخصی بیشتر از این موجودات فلزی گرفته شود و کمک به نیازمندان یا ورود به حیطه موردنظر سریعتر صورت گیرد به نفع همگان خواهد بود زیرا یک کار توأم با صبر و مدارا عرصه را برای روبات جهت انجام کاری متفاوت با دستورات مسدود می‌کند.

* چینی‌ها و روس‌ها مشغول شده‌اند

با این حال سیستم‌های تفکر رایانه‌ای یا تصمیم‌گیری‌های روباتیک در شکل‌گیری سیستم‌های بعدی تدافعی در جهان بسیار سهیم خواهند بود و دولت‌ها و نهادها روی آن و کامل‌سازی‌اش حساب می‌کنند. باب وورک، معاون وزارت دفاع امریکا می گوید: «ما می‌دانیم چینی‌ها در حال کار کردن روی مدل‌های جدید روبات‌های مستقل و استفاده از آنها در روش‌های نظامی هستند و درنتیجه ما باید در قبال آن برخوردی هوشمندانه داشته باشیم و ماجرا را تحت کنترل قرار بدهیم.»

با این حال مشکل امریکایی‌ها به چینی‌ها ختم نمی‌شود و اخیراً گراسیموف، رئیس ستاد کل نیروهای مسلح روسیه نیز گفته که این کشور برای مشارکت تمام عیار در جنگی روباتیک مهیا شده است.

او حتی تا به آنجا پیش رفته که مدعی شده می‌توان گروهان نظامی کاملاً روباتیکی را دایر کرد و به آن اختیار عمل داد و در کارهایش دخالت نکرد و اجازه داد رأساً به عملیات نظامی بپردازد.

* فکر بشر یا نظم ماشین‌ها؟

در این صورت باید پرسید دولت‌ها و سران ارتش‌ها کی به این نتیجه نهایی و مهم می‌رسند که می‌توانند به تصمیم‌هایی که این روبات‌ها و لشکرهای تکنولوژیک برای سروسامان دادن به کارها می گیرند، اعتماد کرد و تصمیم‌گیری‌های مهم را هم به آنها سپرد.

عوامل و فاکتورهای مؤثر در این زمینه مقصود هستند؛ از یک سو ناب بودن فکر بشر که حتی ماشین‌ها به آن نمی‌رسند اصلی غیرقابل انکار نشان می‌دهد و از سوی دیگر به قدرت و نظم رایانه‌ها و روبات‌های مجهز به فرآیندهای کامپیوتری می‌رسیم که معمولاً در این زمینه‌ها بی‌رقیب‌اند.

ملت‌ها خواهند پرسید آیا می‌توان به صحت تصمیم‌گیری مخلوقات الکترونیک که همه چیز آنها را دیتاها شکل می‌دهند اعتماد کرد و آیا بدون نبوغ انسانی می‌توان تصمیمی را گرفت که سلامت ملت‌ها را تعیین و تأمین ‌کند؟

* اشتباهات محصولات تکنولوژی

نمونــــه‌های متعــــــــــــددی در سال‌های اخیر شکل گرفته که خبر از تصمیم‌گیری‌های لحظه‌ای غلط سیستم‌های مبتنی بر تکنولوژی صرف داده است.در یک مورد در ارتباط با هواپیمایی که 12 هزار پا بالاتر از سطح زمین طی طریق می‌کرد، تصمیمی اتخاذ و اجرا شد که برخلاف مصلحت و منفعت هواپیما بود و بررسی‌ها نشان داد حتی در برآورد فاصله‌ها اشتباه شده و عملیات به چندین و چند متر دورتر از نقطه موردنظر انتقال یافته است.

مهم‌تر از آن بحث تشخیص دوست یا دشمن بودن هواپیما و یا هر وسیله تعارضی دیگر در جریان یک رویارویی و مطرح کردن این پرسش است که آیا یک روبات همیشه می‌تواند تشخیص بدهد هواپیمایی که در حال نزدیک شدن است خودی است یا متعلق به دشمن؟ در این زمینه‌ها اگر دیتا موافق یا مثبت باشد، روبات با آن همسویی نشان می دهد اما انسان چنان هوشمند است که حتی در صورت مثبت بودن نشانه‌ها به صحت امر شک و مسأله را از نو بالا و پایین می‌کند و به این ترتیب درصد خطا را آشکارا پایین‌تر می‌آورد.

* انسان هم خطا می‌کند اما...

می‌توان به روبات‌ها و یا سیستم‌های بزرگ تکنولوژیک تمامی سوابق تاریخی و اطلاعات لازم را داد اما طراوت فکر بشری غیرقابل انتقال به ماشین‌های ولو هوشمند فلزی است و نمی‌توان انتظار داشت دیتاها و فرآیندهای ارتباطی و اطلاع‌رسانی آن قدر کامل باشند که روبات‌های متکی بر آن هیچگاه خطا نکنند. انسان‌ها نیز بارها به سبب عوارض و کسالت‌های ساده یا پیچیده و حتی خواب‌آلودگی خطا می‌کنند اما یک ذهن بیدار که محصول کارکرد پیکر یک انسان سالم و توانمند باشد و علم روز به آن تزریق شده باشد، بسیار کمتر از ماشین‌هایی خطا می‌کند که تمامی خیل اطلاعات‌شان نیز برای بخشیدن نگاهی انسانی به آنها کفایت نمی‌کند.

* نشانه تکامل بشری

شک و تردید درخصوص طرح های مربوط به واگذاری مسئولیت‌های جنگی به روبات‌ها درحالی شدت گرفته است که هم در پنتاگون و هم کرملین درصدهای مربوط به میزان توفیق این طرح دائماً رو به تزاید می‌رود و مجریان طرح‌ها معتقدند می‌توان به این فرآیندها اعتماد کرد اما تا این لحظه هیچ جنگی و حتی ستیزهای منطقه‌ای کوچک به واحد و گروهانی از روبات‌ها و یا یک عقل هوشمند کلی سپرده نشده است تا بتوان اسناد موفقیت یا ناکامی آن را به شکلی محکمه پسند اعلام کرد. طرفداران ارتش‌های روباتیک و رهبری‌های تکنولوژیک از سرعت تصمیم‌گیری ها توسط IC ها و موجودات فلزی سیم‌پیچی شده لذت می‌برند و آن را نشانه تکامل بشری می دانند اما بشر به طریق اولی قادر به خلق ماشینی نیست که حس و هوش انسانی و غیرمصنوعی را وارد پروسه‌ای کند که همه اجزای آن فلزی و رایانه‌ای و غیرانسانی هستند و مشکل از همین‌جا آغاز می‌شود؛ آنجا که انسان باید در شرایطی به موجود فلزی دست ساز خود اعتماد کند که بسیاری از فاکتورهای تصمیم‌گیر هر چیزی هستند الا ماشینی و فلزی و رایانه‌ای، این اعتماد سستی است که می‌تواند نتایجی فاجعه‌بار در پی داشته باشد.

با اندکی اضافات و تلخیص برگرفته از روزنامه ایران، صفحه 16، تاریخ انتشار: یکشنبه 28 شهریور 1395، شماره: 6314.