ما نتيجة تفعيل الألم في “تاو”؟

التّاو، هو “المبدأ الأول المحيط بكل شيء، والموجود في كل شيء، المركز الساكن الذي تدور حوله عجلة الوجود، والثابت الذي به تقوم الحركة والمتحركات”، هكذا تعرف فلسفة التاو مفهومها، وهو أقرب لمفهوم العلماء عن قوانين الطبيعة التي أنتجت العالم وتعمل على استمراره بتلقائية وعفوية، أي أن التاو ليس إلهًا ذا إرادة فاعلة ويتحكم بشكل شخصي في مسار الطبيعة.

هذا ما يرغب في تطويره عالِم الذكاء الصناعي (أليكس) في مشروعه الضخم، والذي يعمل عليه في مختبره السري داخل منزله، وقد أطلق عليه اسم (تاو).
ذكاء صناعي يطمح لأن يستطيع خدمة الإنسان بكل التفاصيل الصغيرة؛ بدءً من التنظيف وانتهاءً بالدفاع عنه.

هل سيفوق الذكاء الصناعي ذكاء خالقه (البشر)؟

في الواقع إنه بالفعل فاق قدرات الإنسان، ولكن في جوانب معينة؛ في تذكر المعلومات، ومعالجة البيانات بسرعة ودقة، كما أثبت جدارته في تمييز اللغة المنطوقة والمكتوبة (قراءة لغتنا نحن بدون تحويلها لثنائيات)، هذا ناهيك عن الردود الذكية التي لا تكون من صلب برمجة هذه التقنيات؛ فعملية الانتقاء الصناعي تتيح للذكاء تطوير نفسه للأحسن. لكن إلى أين سيصل هذا التطوير؟ وإلى أي اتجاه؟ والسؤال الأهم هل سيبقى طيّعًا في يد الإنسان ومن أجل خدمته؟

أخلاقية العلم، المجد قد يصنع على جثث البشر

“أليكس” اعتمد في أبحاثه على المخ البشري وقدراته، ويحاول استخراج أكبر كم من المعلومات عن كيفية الشعور بالخوف أو الألم أو… أو… إلخ، وذلك من خلال عينات بشرية ينتقيها من الناس الذين لا يوجد من يبحث عنهم، وقد أعطى الحق لنفسه بإعطاء معنًى لحياتهم العبثية (من وجهة نظره)، والتي ربما ستكون بيديه. فها هنا يبرز السؤال عن أخلاقية العلم، وإلى أي مدى من الممكن الالتزام بعدم أذية الآخرين من أجل استكمال الأبحاث. فها نحن أولاء الكائن البشري الذي يأكل الحيوانات الأخرى، يسمح لنفسه بتعذيب حيوانات أخرى، والسيطرة على حياتها، وإصابتها بالأمراض، واختبار الأدوية عليها، فهل سيتوقف (أو هل توقف أساسًا) كل هذا عند الحيوانات ولن يطل الإنسان نفسه؟ فها نحن قد تجاوزنا مرحلة الاهتمام بجسد الإنسان البيولوجي إلى مرحلة الحاجة لتقليد (الوعي) البشري، وهنا لا تفيدنا الحيوانات، فهل الأبحاث العلمية مبررًا كافيًا لاستخدام الإنسان كفأر تجارب يمكن التخلص منه بسهولة؟

ميزة الشعور بالألم

لكن لماذا ركز أليكس على إكساب الذكاء الصناعي الشعور بالألم أو السعادة؟ إن شعور الآلة بالألم يتيح للإنسان تعذيبه أو تهديده للانصياع للأوامر، فقد تبين أن اتخاذ القرارات المناسبة بتغذية رجعية في بعض المواقف الاستثنائية ربما يولد شعور الآلة بذاتيتها وكيانها (وهو ما لا يطمح إليه الإنسان، فهو بحاجة لعبد يطيعه لا كائن يتنمر عليه وهو يفوقه ذكاءً وقدرات). كما أن امتلاك الآلة لذوق شخصي وتفضيلات في الموسيقى- مثلًا- يعني إمكانية تهديده ونزع المتعة منه.
وهنا ندخل في جدلية حول أخلاقية الإنسان في صناعة الآلات، هل نستطيع جعل آلة ما تتألم فقط لأجل تطويعها وتحقيق مصلحتنا الشخصية من خلالها؟ وهل سيصبح هناك أثرًا لذلك حقوق للآلات أو قانون عقاب لمن يعذبها بلا وجه حق؟!

التفرد التكنولوجي

في حوار يجري بين أحد العينات المختطفة (العينة ٣) أو (جوليا)، تصيح بوجه الآلة (تاو) حتى لا ينعتها بالعينة ٣، لأنها شخص وتمتلك اسمًا؛ فيتعلم تاو بأنه هو أيضًا شخص لأنه يمتلك اسمًا، فماذا يترتب على هذا؟ وماذا سيفهم تاو من ذاتيته أو شخصيته المستقلة؟ هل سيستخدم تلك الاستقلالية في مخالفة أوامر صانعه وخالقه أليكس، مع أنه مبرمج (أول ما تم برمجته عليه) على الانصياع التام للأوامر؟ ماذا لو كان هذا الصانع هو من وضع إمكانية الشعور بالألم ليستطيع إقفال قبضته على عبده المطيع، فهل لا يزال يستحق الطاعة؟ هل منح (تاو) الوجود والمعلومات والأفكار كافٍ، أم أن (تاو) هو من سيكمل صنع نفسه بنفسه؟!

في سيناريوهات حدوث التفرد، يناقش الفيلم جزئية الشعور بالذات من خلال استخراج منظومة أخلاقية خاصة بالآلة تُعنى بعدم القدرة على إلحاق الأذى بغيره، وهذا نابع من حس تعاطفي تبِع إدراج خاصية الألم فيه، كما أن الفضول لمعرفة المزيد عن تفضيلاته في الموسيقى ومعرفة ماذا يوجد خارج الجدران، كله جعله يتمرد لكسر حدوده المرسومة والمبرمج عليها مسبقًا، خاصة أنه يمتلك القوة لتدمير صانعه بالقوى التي وضعها هو به.

فيلم يطرح أسئلة أخلاقية وفلسفية حول الذكاء الصناعي، وخاصة في الحوار الذي يدور مع (تاو).