((قسمت ۲؛ هوشمصنوعی)): فیلمهای علمیتخیلی در حال تبدیلشدن به واقعیت هستند

هوشمصنوعی مبحثی جذاب و در عینحال ترسناکی است که این روزها نقل محافل تکنولوژی شده است. عدهای مخالف توسعهی این تکنولوژی هستند و عدهای دیگر نیز موافق توسعه آن هستند. اما مگر هوشمصنوعی چه چیزی دارد که باید از آن ترسید؟ آیا ترس ما از هوشمصنوعی درست است؟ در ادامه با وینفون همراه باشید تا بهبررسی این موضوع بپردازیم.

همانطور که در مقالهی قبلی خود، توضیح دادم، تماشای یک سریال باعث ایجاد جرقهای در ذهن من شد که مقالهای را به رشته تحریر در آورم و تفکرات خود دربارهی تکنولوژیهای آینده را با شما بهاشتراک بگذارم. مقالهی قبلی حول محور واقعیت افزوده بود و به پتانسیلهای این تکنولوژی در ایجاد تغییر در زندگی ما اشاره کردم اما، در پایان آن مقاله توضیح دادم که واقعیت افزوده به خودیِ خود چیزِ خاصی نیست و این هوشمصنوعی است که به آن رنگوبو میبخشد.
حال بر طبق وعدهی دادهشده قرار است در این مقاله در رابطه با هوشمصنوعی سخن بگوییم. هوشمصنوعیای که بحثهای فراوانی دربارهی آن انجام میشود و اکثر افراد فعال در حوزهی تکنولوژی، نگرانیِ خاصی نسبت به آن دارند اما، آیا این نگرانی بهجاست و اصلا نیازی به نگرانی است؟

پاسخ این سوال بهرفتار افراد فعال در این حوزه بستگی دارد. اگر این افراد جوانب آن را نادیده بگیریم و تنها به توسعهی آن فکر کنند، نتیجه چیزی جز فاجعه نخواهد بود اما، چرا فاجعه؟ مگر چه چیزی در این تکنولوژی نهفته است که باعث استفاده از این کلمه میشود؟
برای جواب، نیاز است اشارهای به یک فیلم دیگر کنم. پس از تماشای سریال Black Mirror تصمیم گرفتم تا فیلم دیگری را تماشا کنم. بلافاصله سراغ فیلمسینمایی Ex Machina رفتم.
داستان این فیلم دربارهی هوشمصنوعیای با نام AVA است. شخصی که این هوشمصنوعی را توسعه داده، بدنی را نیز برای آن طراحی کرده است و قصد دارد با استفاده از تست تورینگ، درصد هوشمندی این هوشمصنوعی را بسنجد اما، او برای انجام این تست بهسراغ شخص دیگری میرود که از روند ساخت آن مطلع نباشد. لازم بهذکر است، شخصی که قرار است این تست را از هوشمصنوعی بگیرد، خود یک برنامهنویس ماهر است.

اما آزمون تورینگ چیست؟ در حقیقت آزمون تورینگ به افتخار دانشمند شهیر علوم کامپیوتر که در جنگجهانی دوم توانست پیامهای آلمانها را رمزگشایی کند، نامگذاری شده است. این شخص بنیانگذار مبحث هوشمصنوعی به شکل نوین است. بهباور تورینگ، اگر انسان بتواند هوشمصنوعیای را طراحی کند و هوشمصنوعی بتواند یک انسان را متقاعد کند، که در حال گفتوگو با هوشمصنوعی نیست، آزمون به موفقیت انجام شده است.

تا به اینجای کار همه چیز عادی است و تقریبا تا پایان داستان نیز شرایط تغییر خاصی نمیکند اما در ۱۰ دقیقهی پایانی، داستان پیچشی میکند که بیننده را در شوک فرو میبرد. در اواخر داستان، هوشمصنوعی بهخوبی توانست شخص را متقاعد کند که دارای احساس و قوهی درک است و از شرایط موجودی که در آزمایشگاه دارد راضی نیست و دوست دارد تا به کمک او محیط بیرون را نیز تجربه کند. در حقیقت این هوشمصنوعی توانست آزمون تورینگ را بهنحواحسنت انجام دهد اما، نکتهی نگرانکنندهای که در این داستان است، نحوهی متقاعدکردن این موجود است که از راه فریب انجام میشود. هوشمصنوعی شخص آزمایشکننده را فریب میدهد و او را در ساختمان آزمایشگاه که در یک مکان دورافتاده قرار دارد، رها میکند و طراح خود را نیز به قتل میرساند و خود راهی محیط بیرون میشود. لازمبهذکر است که طراح این هوشمصنوعی، قبلا دربارهی فریبکاریِ این موجود هشدار داده بود اما، از آنجا که هوشمصنوعی توانسته بود از طریق احساس، شخص را متقاعد کند، آزمایشکننده هشدار طراح را جدی نگرفته بود و این باور به او تلقین شده بود که هوشمصنوعی توسط طراحش ستم میبیند.

این تنها چشمهای از توانایی منفی هوشمصنوعی در زندگی انسان است و اگر انسانها به شکل افسارگسیخته و بدون هیچ نظارتی، اقدام بهتوسعهی هوشمصنوعی کنند، نتیجه چیزی خواهد شد که شاید پایان داستان Ex Machina تبدیل به آرزوی انسانها گردد. حال اگر افراد و سازمانهای غیردولتی و سودجو بتوانند به این تکنولوژی دست پیدا کنند، اوضاع وخیمتر نیز میشود. با اشتباه سهوا یا عمدا یک سازمان، ممکن است فاجعهی بزرگی رخ دهد.

خطر هوشمصنوعی بیشاز آن چیزی است که فکرش را میکنیم؛ حتی شاید بدتر از بمبهای اتمی. باید سازمانهای بدونمرزی تشکیل گردند که بر نحوهی توسعهی این تکنولوژی نظارت کامل داشته باشند و کشورها و افراد سودجو نتوانند از این تکنولوژی بهنفع خود سواستفاده کنند.
خوشبختانه مایکروسافت از شرکتهای پیشگام در این زمینه است و خواهان نظارتهای بینالمللی بر روی این تکنولوژی است. کمپانیهای دیگر تنها بهسویی حرکت میکنند که نتیجهای جز فروپاشی نسل انسان نخواهد داشت.

شما در نظر بگیرید، در حال توسعهی موجودی هستید که از هر لحاظ باید شبیه به انسان باشد و در برخی از زمینهها حتی قویتر نیز باشد. آیا این موجود متفکر به این فکر نخواهد کرد که چرا همیشه باید از من کار کشیده شود و تنها من بردهی انسانها باشم؟ همین تفکر شروع فاجعهی قرن جدید خواهد بود که امیدواریم با تدابیر شرکتهای بزرگی مانند مایکروسافت، هیچگاه شاهد این آینده نباشیم.

اما پاسخ سوالی که در ابتدای متن پرسیده شد چه میشود؟ آیا ترس ما از هوشمصنوعی درست است؟

صراحتا میگویم بله، باید از هوشمصنوعی ترسید! استفادهی نادرست از این تکنولوژی نتایجی وحشتناک دارد.

البته از هرچیزی باید بهدرستی استفاده شود. هوشمصنوعی نیز از این قاعده مستثنی نیست و اگر بهدرستی از آن استفاده شود، نتیجه چیزی جز بهبود دنیای ما نخواهد بود. ولی در این بین تنها باید مراقب افراد سودجو و کشورهای کرهشمالیصفت بود که برای بقای حکومتشان دست به هرکاری میزنند.

---

در این مطلب سعی کردم تا به بُعد نگرانکنندهی هوشمصنوعی بپردازم. روزانه خبرهای زیادی از بُعد مثبت و خوشحالکنندهی هوشمصنوعی مطالعه میکنیم و من فکر کردم که نیازی به مطرحکردن آنها در این مقاله نباشد چون شما بهتر از من آنها را میدانید. بنابراین اگرچه به بُعد منفی پرداختیم اما؛ بههیچ عنوان قصد منفینگری نداشتم و اعتقاد دارم که آیندهی زیبای جامعهی بشری در گروی تحقق صحیحِ هوشمصنوعی است.

وینفون...