موكي تننباوم عن الذكاء الاصطناعي والحرب والقوّة

هذا الحوار مع موكي تننباوم —كاتب ومسائي ومحلّل لأثر الذكاء الاصطناعي— سُجِّل في Solanas Convention Center، بونتا بايينا، مالدونادو. يتناول دور الذكاء الاصطناعي في الأمن والطبّ والحرب والتضليل والسيطرة السلطوية، مع انتباه خاصّ للاحتكار التكنولوجي الذي يحدّد الميزان العالمي.

آراء المُحاوَر آراؤه؛ قسم الحوارات لا يعني تطابقاً مذهبياً.

جيمي: أريد أن أحاورك عن الذكاء الاصطناعي من زوايا مختلفة. بدايةً: أيجدر تسميته “ذكاءً”، أم إنه خوارزمية بتقنية بالغة التطوّر تتيح إنتاج أداة نافعة؟ أهي حقّاً تقنية تتعلّم، تفهم، لها بعض الوعي؟

موكي: الذكاء الاصطناعي آلة. مفكّ يتكلّم جيّداً. لا أكثر من ذلك. بالغ التطوّر، بالغ الإثارة، لكنّ له وعياً كهذه الشجرة: صفر. إنه مجرّد نموذج لغة استغرق وقتاً طويلاً جدّاً لتطويره.

ولن يكون له وعي أبداً. مهما فعلنا، مهما جعلناه متطوّراً. لأنّه لكي يكون ثمّة وعي يجب أن تعاني. أساس كلّ ما نفعله نحن البشر هو الهرب من المعاناة. لكنّ المعاناة هي ما وراء الحضارة: لو لم نعانِ، لما ارتقينا. ولو لم نرتقِ، لما صنعنا، بنينا، دمّرنا. كلّ ما صنعناه نتيجة المعاناة. وإلّا لكنّا حماراً وحشياً. لكنّا لا شيء.

جيمي: والحيوانات؟ أظنّ أنّ لها بعض الوعي.

موكي: يمكن أن نختلف. أظنّ أنّ الحيوانات لا وعي لها. وإلّا لكانت لها حضارة، لكان لها شيء. لا شيء لها. إنها حواسيب بيولوجية، لا أكثر: لها برنامج، تشغّل البرنامج، لا تعرف أن تفعل شيئاً آخر.

إنها لا تعاني. يؤلمها، لا تعاني. حين يعطيك الطبيب لقاحاً، يؤلمك لكنّك لا تعاني. حين يُضرَب مازوخي، يؤلمه لكنّه لا يعاني. الألم والمعاناة ليسا الشيء نفسه. الحيوانات يؤلمها —بالطبع يؤلمها— لكنّها لا تعاني. لأنّ لكي تعاني تحتاج مسافة. تحتاج القدرة على النظر إلى نفسك. هذا ما لا يستطيع الحيوان فعله. لسنا أفضل ولا أسوأ بأن يكون لنا وعي: نحن مختلفون. إنه ببساطة شيء آخر.

الآن، بشأن تسميته “ذكاءً” أو لا: أظنّ أنّه يمكن تسميته ذكاءً. لكن له عيب: لا يقول أبداً “لا أعرف”. هذا غريب. تسأله شيئاً ودائماً لديه جواب.

جيمي: أعرف أناساً كذلك أيضاً.

موكي: (ضحك) نعم، لكن في هذه الحالة هذا مبهر. لنفهم: كلّ عمل يُؤدّى جالساً، اختفى. لم يعد موجوداً. الذكاء الاصطناعي يحلّ محلّه. إنها مسألة وقت قصير.

جيمي: ننتقل إلى السابع من أكتوبر. كشف هجوم حماس حدود أنظمة الأمن القائمة على الذكاء الاصطناعي، التي يمكن خداعها أو تعطيلها أو تدميرها. استغلّ المهاجمون نقاطاً عمياء وشوّشوا الإشارات. كيف يمكن تحسين هذه الأنظمة لتكون أقلّ توقّعاً وأكثر صموداً، مع إشراف بشري فعّال؟

موكي: شارك الذكاء الاصطناعي قليلاً جدّاً في الجزء الدفاعي. لكن بفضل الذكاء الاصطناعي، صفّت إسرائيل حزب الله في ثلاثة أسابيع.

رأيت حين انفجرت أجهزة البيجر؟ ذلك لا صلة له بالذكاء الاصطناعي —كان عملاً بارعاً من رجال الاستخبارات—. لكن حين انفجرت أجهزة البيجر، حلّقت في الأعلى مسيّرات إسرائيلية. التقطت هذه المسيّرات انفجارات في أماكن مختلفة في أوقات مختلفة. كلّ هذه المعلومات أُعطيت للذكاء الاصطناعي، وصار سهلاً جدّاً إيجاد الأشخاص: لأنّ هذا كان مع هذا، وهذا كان مع ذاك، وهكذا. أعدّ الذكاء الاصطناعي في ساعات خطّة هجوم، وفي ثلاثة أسابيع أخرى، بقي حزب الله قوّةً مسلّحة خطيرة ضدّ إسرائيل بنسبة ٨٠٪ من صواريخه مدمّرة. كان لديهم ألف صاروخ موجّه نحو إسرائيل.

أمّا حدود السابع من أكتوبر: سأقول لك إنّ المشكلة كانت العكس. لم يكن آلياً بما يكفي. كان ثمّة أناس، كانت ثمّة فتيات ينظرن إلى الشاشات. ارتُكبت أخطاء. ثمّة من سيظنّ أنّه كان ثمّة جاسوس لأنّ المعلومات التي كانت لدى المهاجمين كانت جيّدة أكثر ممّا ينبغي. آخرون سيظنّون أنّنا نمنا على المقود، كما حدث في حرب يوم الغفران. تحدث أمور غير متوقّعة.

وهناك قد لا يأخذ الذكاء الاصطناعي هذه الحالات في الحسبان، لأنّه يقوم على أنماط بمعلومات كثيرة. الأشياء الجديدة تخرجه من توازنه. وإن كان، في الواقع، الأشياء الجديدة دائماً أشياء قديمة معاد صياغتها. هذه المماثلة: نرى أنّ شيئاً يعمل هكذا، فنحاول تشغيله في مكان آخر. هذا هو الذكاء. والذكاء الاصطناعي يتعلّم هكذا بالضبط.

جيمي: لكنّه أيضاً قابل للاختراق (hackable).

موكي: لا. الذكاء الاصطناعي في هذه اللحظة صندوق أسود. لا أحد يعرف كيف يعمل. تدخل خنازير من جهة وتخرج نقانق من الجهة الأخرى: nobody knows. ثمّة مشروع كامل —يسمّى التفسيرية— لمحاولة اكتشاف كيف يفعل ذلك، وحتى الآن دون نجاح.

إن كنت لا تعرف كيف يعمل شيء، لا تستطيع اختراقه. لم أرَ بعد ذكاءً اصطناعياً على مستوى اختُرق بدليل. تعمل المنظومة بشيء يسمّى الأوزان، الـ weights. لا تستطيع أن تعرف ماذا سيحدث. وفوق ذلك تضيف له انحيازات —لأنّك لا تريده أن يتعلّم صنع قنبلة، لا تريده أن يكون معادياً للسامية أو عنصرياً—. وبما أنّنا نُدخل أصابعنا، وهي غليظة نوعاً ما، في المنظومة، فأنت تجعله أكثر توقّعاً.

جيمي: وما دور الإنسان إذاً؟

موكي: أقول إنّه لا دور للإنسان. هذا رأيي. سننتقل من أبطال إلى شهود. الذكاء الاصطناعي هو ما سيتجاوزنا.

أعطيك المثال الذي أستخدمه دائماً. اليوم تريد طوكيو بناء مبنى جديد: تدعو البلدية أكبر عشرة مكاتب عمارة في العالم، تُقدَّم عشرة مشاريع، تفحص لجنتان، تختاران المقترح النهائي. هكذا يعمل الأمر اليوم.

الآن، مع الذكاء الاصطناعي، لم تعد ثمّة عشرة مشاريع: ثمّة عشرة آلاف. ويحدث أمران. أوّلاً، أنّه بعشرة آلاف مقترح، نتلاشى. لن نختفي لأنّ تيرميناتور سيأتي. سنختفي بالتلاشي. في كلّ مرّة سيكون لنا تدخّل أقلّ في ما يجري.

أتعرف أنّهم وضعوا ذكاءين اصطناعيّين ليتواصلا، ولكي يفعلا ذلك أسرع ابتكرا لغة خاصّة بهما، ولم يفهم أحد ماذا يتكلّمان؟ هذا ما سيحدث. سيتكلّمان بينهما. كما حين كنّا صغاراً وتكلّم الوالدان مع الأعمام عن أين سيأخذونك، وأنت هناك تقول: “إلى أين نذهب؟” هذا ما سيحدث لنا.

جيمي: وهل هذا جيّد؟

موكي: جيّد. مخيف قليلاً، نعم. لكنّهم خافوا حين خرجت السيّارة: “لن تنجح لأنّ الناس تريد البقاء مع الحصان”. كلّ مرّة تظهر تقنية يحدث هذا.

لكنّ لهذه التقنية أمراً خاصّاً جدّاً: إنها الوحيدة التي تأتي بالخبز تحت ذراعها. إنها التقنية الوحيدة التي تستطيع إصلاح نفسها. المشاكل التي تجلبها، تحلّها هي نفسها. مثال جيّد الطاقة: سنحتاج طاقة هائلة للذكاء الاصطناعي. من سيحلّ هذه المشكلة؟ الذكاء الاصطناعي نفسه سيجد أشكالاً ناجعة لا نتخيّلها اليوم.

جيمي: لكن أوَلن نبقى بلا بيانات لتدريبه؟

موكي: بقينا سلفاً بلا بيانات. اليوم للذكاءات الاصطناعية لم تعد بيانات جديدة لتتلقّاها. السبيل الوحيد استخدام بيانات اصطناعية: الذكاء الاصطناعي نفسه يولّدها ويعيدها إلى نفسه تدريباً. نأكل الذيل.

للذكاء الاصطناعي سلفاً وصول إلى ١٠٠٪ من المعرفة الإنسانية. وإن وُلد أينشتاين آخر، أيّ دور له؟ لا أعرف. أيّ أهمّية لنا في أينشتاين آخر؟ كانت لأينشتاين أهمّية لأنّه أعطانا نافذة على عالم معيّن. لكن إن كان الذكاء الاصطناعي قد أدّى هذا العمل سلفاً، وينافس بهذا المقياس، يتلاشى دور أينشتاين البشري.

سيقول الناس: “لكنّ الإبداع الإنساني…”. نحن حيوانات. حيوانات متغطرسة. نقول: “نحن صنعنا ثلاثة أشياء”. أدخلنا كلّ المعلومات إلى الذكاء الاصطناعي وفجأة يصنع كلّ شيء. في ثانية تعلّم الجهاز كلّ شيء بسرعة كبيرة.

جيمي: ننتقل إلى الذكاء الاصطناعي والحرب. يُحدث الذكاء الاصطناعي ثورة في الصراعات بإتاحته قرارات في الزمن الحقيقي وأهدافاً مستقلّة. أيجب أن تكون له سلطة اتّخاذ قرارات قاتلة؟ كيف نضمن المساءلة؟

موكي: لا سبيل لإيقاف التقدّم. أحدهم سيفعلها، وستضطرّ إلى فعلها أيضاً، لأنّه وإلّا، فالأذكياء سيلتهمونك.

أين المال الكبير للذكاء الاصطناعي؟ ليس في نماذج اللغة التي تساعدك على كتابة بريد —إن كنت تدفع ٢٠ دولاراً في الشهر، فليس من هناك يأتي المال الكبير، كما كنّا نقول في الأرجنتين—. إنه في العسكري. ثمّة شركة اليوم معروفة جدّاً، بالانتير، تبيع للإدارة الأمريكية. ثمّ ثمّة أندوريل، شركة شهيرة أخرى في الشؤون العسكرية. هناك سيمرّ المال الكبير. وهذا يحدث سلفاً.

جيمي: والقرار الأخير بالقتل، من يتّخذه، الإنسان أم الذكاء الاصطناعي؟

موكي: حين تحين اللحظة، يقتل الذكاء الاصطناعي وحده. بسبب السرعة. تخيّل إسقاط صواريخ بإنسان في الحلقة: مستحيل.

ستبدأ الحروب أن تُخاض بالروبوتات. هذه البشرى السارّة، بمعنًى ما: في النهاية لن يكون ثمّة أناس في الجهة الأخرى. الذكاء الاصطناعي سيصنع روبوتاته، وهذه الروبوتات ستقتل بعضها بعضاً. نرسلها إلى مكان ما في البلاد لتُقتَل وحدها، ونحن نعيش بسلام. قلت لك: ستكون شاهداً.

جيمي: لنتكلّم عن الصين. تقول إنها منتهية.

موكي: الصين لا وصول لها إلى ذكاء اصطناعي متطوّر لأنّها لا وصول لها إلى الرقائق. ولن يكون لها وصول إلى الرقائق أبداً. لا لأنّ الأمريكيين لا يريدون، بل لأنّ الصينيين لا يستطيعون.

أشرح لك كيف يعمل الأمر. يحتاج الذكاء الاصطناعي رقائق خاصّة تسمّى GPU. الـ GPU تصنعها أساساً NVIDIA، التي صارت أكبر شركة في العالم، تتقدّم وتتأخّر مع آبل. رقائق NVIDIA تسبق بين عامين وأربعة أعوام أيّ منافس، ولا تبقى تنتظر.

لكي تصنع هذه الرقائق، تصمّمها NVIDIA لكن ترسلها للتصنيع إلى شركة واحدة فقط في العالم: TSMC، في تايوان. TSMC تصنع ٩٢٪ من رقائق الذكاء الاصطناعي. تسبق بخمس سنوات أيّ منافس.

لكي تستطيع TSMC تصنيع الرقائق، تحتاج آلات. وهذه الآلات تصنعها شركة واحدة فقط، في هولندا: ASML. ASML تسبق بين ٢٠ و٢٥ سنة أيّ منافس. لا أحد سيلحق.

آلات ASML تكلّف بين ٣٠٠ و٥٠٠ مليون دولار لكلّ واحدة. تحتاج صيانة كلّ أسبوعين. إن مرّ شهر دون صيانة، فهي خردة: مكان تضع عليه مزهريات. إنها مليون مرآة متزامنة بإتقان، تعمل على مستوى الذرّة، بالضوء.

هذا الاحتكار الثلاثي —ASML في هولندا، TSMC في تايوان، NVIDIA في الولايات المتّحدة— يتحكّم بالذكاء الاصطناعي في العالم. أفضل ما فعله بايدن في رئاسته أن ضغط وأخذ من الصين إمكان تصنيع رقائق متقدّمة. الرقائق تُقاس بالنانومترات. أقلّ من سبعة نانومترات لا تنفع لذكاء اصطناعي متقدّم. كان للصين وصول حتى أربعة عشر، الآن مع الجولة الأخيرة يبدو من عشرين فقط. الآلات التي لديها ستكفّ عن تلقّي الصيانة. في شهر لا تنفع لشيء.

جيمي: والصينيون ماذا يفعلون؟

موكي: يائسون. أمامهم طريقان. الأوّل: ضخّ مال كثير للحصول على التقنية بقواهم الذاتية. هذا لا ينجح لأسباب عدّة لن أدخل فيها الآن لأنّها جانبية. الطريق الثاني: حكاية القصص. “أنجزنا”، “صنعنا”، “نحن قادمون”. DeepSeek، مثلاً. سأقول هذا صراحةً: DeepSeek تسويق لكسب الوقت. في يوم واحد قالوا إنّهم نجحوا في إخراج من رقاقة ٨٠٠ مرّة من السرعة المعتادة. هذا غير موجود تقنياً. إنه تضليل.

في الصين استهلاك داخلي لهذا السرد، لأنّه إن فهم الناس أنّهم يتأخّرون —وأنّ الاقتصاد سيظلّ سيّئاً— سيثورون. ثمّة اتّفاق ضمني بين الحزب الشيوعي والشعب: “أعطيكم الازدهار، لا تتدخّلون”. هذا الازدهار انتهى. تخيّل ماذا قد يحدث.

جيمي: ننتقل إلى التضليل. يستطيع الذكاء الاصطناعي إنتاجه بمقياس كبير، ويمحو الحدّ بين الحقيقة والتلاعب. كيف تستطيع المجتمعات التكيّف؟

موكي: هذا شأننا. إن قرّرت أن تعرف أكثر وتقرأ هذه الصحيفة أو تلك، عاجلاً أو آجلاً سينتهون إلى بيع الوهم لك. لأنّ هذا عملهم: بيع الوهم.

الناس، أوّلاً، لا تريد معرفة الحقيقة. الناس تريد ألّا تعاني. وإن كانوا، لكي لا يعانوا، يحتاجون الإيمان بالله، بالجنّيّة، بأنّنا سنكون خالدين، سيفعلون ذلك. وعن حقّ، لاحظ. ليس لي نظرة رواقية “اصمد واعانِ”. لا: على أيّ حال أنت ستهرب من المعاناة.

أنا لا ينفعني الإيمان بالله أو بالجنّيّة. أنا أريد أن أعرف. أتغذّى من المعلومات الموجودة في الخارج، أحاول المقارنة، وأحياناً أكتب مقالات في الموضوع. أوقّع على كلّ مقالاتي: الأشياء كما هي.

لكنّ الناس لا تريد المعرفة. وعن حقّ. أيّ منفعة لهم في معرفة الحقيقة إن كانت الحقيقة تؤلمهم؟

من جهة أخرى، لدينا انحياز التأكيد. وصفه كانمان، حائز نوبل في الاقتصاد. سأنتبه دائماً إلى ما يؤكّد فكرتي —مجدّداً، لكي لا أعاني—. وإلّا، لاضطررت إلى العيش مع صدام فكرتين في الداخل. لماذا؟

جيمي: والتربية؟

موكي: لن تكون ثمّة تربية. هذا انتهى لأسباب عدّة. أوّلاً: كلّ المعرفة متاحة سلفاً. كانت دائماً في الهاتف، الآن أسهل لأنّك تستطيع سؤاله مباشرة. المدارس اليوم جليسات أطفال فخمة. يضعون الطفل هناك لكي يستطيع الوالدان الذهاب إلى العمل. أمر هم أيضاً لن يحتاجوا إلى فعله طويلاً، لأنّ الذكاء الاصطناعي سيحلّ محلّ العمل.

كانت الجائحة بروفةً عامّة لكلّ هذا. الأطفال في البيت، الوالدان يعملان من البيت. وحصّلنا لقاحاً في سنة، حللنا المسألة، عدنا إلى حيث كنّا.

انظر: قضت البشرية على الجوع. ثمّة حفنة مناطق فيها جوع، لكنّ بقيّة العالم لا يعوزه الطعام. في الواقع ثمّة سمنة في كلّ مكان، لا في الدول الغنيّة فقط. قرأتُ أنّ الأطفال الإيطاليين أكثر بدانةً في أوروبا. كلّ حيوان مستعدّ لمواجهة الندرة، لا الوفرة.

بدل النظر إلى المنجزات نقول: “ندمّر الكوكب، نقتل الحيوانات، يأتي التسونامي، يأتي الكويكب”. استدر، توقّف لحظة، انظر خلفك. شيئاً ما فعلناه جيّداً.

جيمي: وماذا تقول لمن يرتعبون من نظرتك؟

موكي: إن كنتُ محقّاً، فالناس لا ينبغي أن يسمعوا نظريّتي —لأنّ سماع نظريّتي يضرّهم—. حين أقول “نهرب من المعاناة”، ما أقوله إنّنا جميعاً جبناء. من يريد أن يكون جباناً؟ أتعرف أنّها الشتيمة الوحيدة الموجودة في كلّ اللغات: جبان.

فالناس لا تريد أن تعرف أنّها تهرب من المعاناة. تريد الاعتقاد أنّها تذهب إلى الأحفاد، إلى المستقبل. وعن حقّ ألّا تريد سماعي. إن تقبّلتُ أنّ الشيء الوحيد الذي أفعله هو الهرب من المعاناة، أشعر بأنّي جبان. وسأشعر بسوء.

أنا في وضع عبقري: إن أصغوا إليّ، فأنا محقّ. إن لم يصغوا إليّ، فأنا محقّ أيضاً.

ملاحظة تحريرية

يُورَد إسنادان للمُحاوَر كما قيلا: انحياز التأكيد يُنسَب عادةً إلى بيتر واسون، لا إلى دانيال كانمان؛ وتوماس هوبز (١٥٨٨-١٦٧٩) شخصية من القرن السابع عشر، لا من السادس عشر.

سُجِّل في Solanas Convention Center، بونتا بايينا، مالدونادو، أوروغواي.

حُرِّر للقراءة انطلاقاً من النصّ الأصلي للفيديو.