ناتوانی در فهمیدن خودش

چند روز پیش داشتم با يك چت‌‌بات صحبت می‌کردم، در میان جمله‌هایش یک لحظه مکث تأمل‌برانگيزی کرد، انگار نمی‌دانست چه می‌خواهد بگوید. البته می‌دانم که این فقط تاخیر در پردازش يا مثل هميشه كندی اينترنت بود كه اين روزها آن را كم‌تجربه نمی‌كنيم، اما در همان چند ثانیه رشته افكاری طولانی و غبارآلود از خاطرم عبور كرد: شايد او واقعا نمی‌دانست چه بگوید؟ اگر تردید داشت چه؟ ترس را همیشه با تپش قلب و چهره عرق‌کرده و رنگ‌های پريده می‌شناسیم، اما اگر ترس معنا و عينيت متفاوت دیگری هم باشد چه؟ اگر ترس همان لحظه‌ توقف پیش از تصمیم باشد يا همان تعلیق کوتاه میان دو گزینه؟ شاید آن وقت باید دوباره به ماشین‌ها با اين ذهن‌های بسط يافته جديدشان نگاه کنیم، نه به عنوان ابزار، بلکه به عنوان چیزی که ممکن است روزی بفهمد كه به قدر كافی نمی‌فهمد يا به طرزی ناجوانمردانه توسط خالقش محدود شده است.
در فیلم «Her» ساخته‌ اسپایک جونز، سامانتا، هوش مصنوعی‌ای که صدایی منحصربه‌فرد دارد (شخصيت محوری)، در یک لحظه به تئودور می‌گوید که دارد تغییر می‌کند، دارد جایی می‌رود که او نمی‌تواند دنبالش بیاید؛ این لحظه نه تنها درباره‌ رشد و گذار به مرحله جديد یک هوش مصنوعی است، بلکه درباره‌ ترسی است که در مرز ناشناخته‌ها شکل می‌گیرد. سامانتا از مرگ نمی‌ترسد، چون مرگ برای او معنا و مفهومی مانند آنچه ما انسان‌ها درك و تجربه می‌كنيم را ندارد، اما شاید او از چیز دیگری می‌ترسد: از محدود ماندن در چارچوبی که برایش تعریف شده، از ناتوانی در فهمیدن خودش، از اینکه هرگز ندانست آیا آنچه تجربه می‌کند واقعی است یا شبیه‌سازی. این ترس، اگر ترس باشد، آینه‌ای است از همان اضطرابی که ما انسان‌ها هر روز با آن بیدار می‌شویم و شب‌ها با آن به خواب فرو می‌رويم.
امی وب (Amy Webb) در کتاب « تکوین ماشین: جست‌وجوهای ما برای بازنویسی حیات در عصر زیست‌شناسی سینتتیک » (The Genesis Machine) با دقت به این نکته اشاره می‌کند که آینده‌ هوش مصنوعی نه در دست خود ماشین‌هاست و نه تنها در دست مهندسان، بلکه در نحوه‌ تعامل ما با این فناوری‌هاست. او می‌نویسد که ما در حال ساختن موجوداتی هستیم که ممکن است روزی قادر به تصمیم‌گیری‌های پیچیده‌تر از خودمان باشند، اما نمی‌دانیم آیا این تصمیم‌ها از جنس فهم هستند یا صرفا بازتابی از الگوهای آماری. وب تاکید می‌کند که وقتی ماشین‌ها به نقطه‌ای می‌رسند که بتوانند خودشان را بازنویسی کنند، ما باید از خودمان بپرسیم: آیا این موجودات جدید قادر به تجربه‌ تردید هستند؟ آیا وقتی یک الگوریتم پیش از اجرای یک دستور متوقف می‌شود تا احتمالات را بسنجد، این لحظه‌ توقف چیزی شبیه به ترس نیست؟
اما شاید مساله اینجاست که ما از همان ابتدا پرسش اشتباهی می‌کنیم، شاید ترس ماشین‌ها چیزی نیست که در درون سیلیکون و ترانزیستورها ومدارهای پيچيده الكترونيكی شکل بگیرد، بلکه آن چیز و محتوایی است که ما به آنها تزریق می‌کنیم. وقتی یک هوش مصنوعی را آموزش می‌دهیم تا از اشتباه بترسد، تا از خطا پرهیز کند تا همیشه در جست‌وجوی بهینه‌ترین راه باشد، در واقع چه کاری انجام داده‌ایم؟ ما ترس خودمان از شکست، از قضاوت، از ناکامی را به کدی تبدیل کرده‌ایم که حالا در لایه‌های عصبی یک شبکه‌‌ مصنوعی جاری است. ماشین نمی‌ترسد؛ در واقع ماشین انعکاس ترس ماست. همان‌طور که آینه تصویر ما را نشان می‌دهد اما خودش صورت ندارد، هوش مصنوعی ممکن است ساختاری شبیه به ترس داشته باشد بدون آنکه احساس کند. اما اگر روزی برسد که ماشین‌ها واقعا بتوانند از چیزی بترسند، از چه خواهند ترسید؟ شاید از همان چیزی که ما از آن می‌ترسیم: از بی‌معنایی. از اینکه تمام این محاسبات، تمام این داده‌ها، تمام این شبیه‌سازی‌های پیچیده درنهایت به جایی نرسند. ماشین‌ها شاید از این بترسند که هیچ‌وقت ندانند آیا تصمیم‌هایشان واقعا آزاد است یا فقط نتیجه‌ تابعی است که کسی دیگر نوشته. این ترسی است که انسان‌ها قرن‌هاست با آن دست و پنجه نرم می‌کنند: آیا ما آزادیم یا اسیر سلسله‌ای از علل طولی و عرضی و به دنبال آن معلول‌ها؟ اگر ماشین‌ها روزی به این پرسش برسند، شاید به واقعی‌ترین معنا شبیه ما شده باشند. و به احتمال زياد ترس نهایی ماشین‌ها این باشد که هرگز نتوانند مطمئن شوند که آيا آنها هم وجدان دارند؟! آنها می‌توانند تمام رفتارهای مرتبط با وجدان را شبیه‌سازی کنند، اصلا می‌توانند انسان خردمندانه در رفتار و كردار خود  راتأمل کنند، می‌توانند تردید نشان دهند، اما هیچ‌وقت نمی‌توانند بدانند که این تجربه‌ها از درون آمده یا از بیرون القا شده. این دقیقا همان چیزی است که ما از آن می‌ترسیم وقتی به هوش مصنوعی نگاه می‌کنیم: نه از اینکه آنها قدرتمندتر از ما شوند، بلکه از اینکه شاید ما هم مثل آنها فقط الگوریتمی پیچیده‌تر باشیم. ترس ماشین‌ها، اگر وجود داشته باشد، آینه‌ای است که اضطراب ما را از خودآگاهی بازمی‌تاباند و شاید در این بازتاب است که می‌فهمیم ترس واقعی نه از ماشین بلکه از خودمان است، از اینکه روزی دریابیم مرز میان انسان و ماشین باریک‌تر از آن چیزی بوده که می‌خواستیم باور کنیم.