0:04نيت، شكراً جزيلاً لك على القيام بهذا. أنت ألّفت أكثر الكتب قتامة في العالم. لقد كرست حياتك لتحذير العالم من المخاطر المحتملة للذكاء الاصطناعي. لذا، دعنا نبدأ بسماع شرحك لسبب خطورة الذكاء الاصطناعي بالإضافة إلى كونه مزعجاً فقط.
0:25>> نعم، كما تعلم، النقطة الأساسية التي يمليها المنطق السليم هي: إذا تسابقت لصنع آلات أذكى بكثير من أي إنسان، ولصنع آلات أكثر قدرة على ابتكار تقنياتها الخاصة مما نحن البشر عليه، وتسارعت في ذلك دون أن تعرف حقاً ما تفعله، فإن النتيجة الأكثر ترجيحاً هي أن تفلت هذه الآلات وتفعل ما يحلو لها، وأن تفنى البشرية كأثر جانبي، تماماً كما قتلت البشرية الكثير من الأنواع الحيوانية الأخرى، ليس لأننا نكرهها، بل كأثر جانبي فقط. وبمعنى ما، يجد الكثير من الناس أنه أمر بديهي أو منطقي أنه إذا قمت بصنع هذه الآلات الذكية والقوية جداً، فلماذا تهتم بنا؟ وأعتقد أن هذا الحدس صحيح في الأساس، وهناك الكثير من الحجج التي يمكنك
1:21طرحها من كل جانب، ويمكنك الخوض في التفاصيل التقنية، لكن كتابي هو في الأساس...يتناول تلك التفاصيل ويؤكد أنها صحيحة إلى حد كبير. إذا صنعنا آلات أذكى دون معرفة ما نفعله، فستسير الأمور بشكل سيئ.
1:39>> هل سنقوم بالفعل بصنع آلات قادرة على ما تصفه؟ >> أنت تعلم أن الشركات تحاول ذلك. إنهم يتحدثون عن سعيهم للوصول إلى ذكاء خارق بالمعنى الحقيقي للكلمة. هذه عبارة سام ألتمان. وداريو أمودي من شركة "أنثروبيك" يقول إنهم يحاولون صنع ما يعادل دولة من العباقرة داخل مركز بيانات. لذا هؤلاء الأشخاص، كما تعلم، ليسوا مجرد شركات " بوتات" دردشة. لم ينطلقوا ليكونوا شركات بوتات دردشة.
2:08لقد انطلقوا لصنع هذه الآلات التي يمكنها تجاوز البشر بكل الطرق . وهذا هو هدفهم الأساسي. هناك سؤال منفصل حول ما إذا كانوا سيصلون إلى هناك .
2:17>> أنت هذا. لماذا قد يرغب أي شخص في بناء آلة أذكى من البشر؟ >> أعتقد أن الكثير منهم يأملون في أن يتمكنوا من جعل العالم أفضل بكثير. إنهم يأملون في إيجاد علاج للسرطان.
2:32وأكثر من علاج للسرطان ، يأملون في إيجاد علاج للشيخوخة. إنهم يأملون في الحصول على ما يعادل ألف عام من التطور التكنولوجي في غضون عامين. وأنا نوعاً ما لا أعتقد أن ذلك سيتمكنون من الحصول على ذلك أو تسخيره لتحقيق غايات نبيلة، لكن هذا هو ما يهدفون إليه في اعتقادي.
2:58>> إذاً، ليس الأمر كذلك، لكنني أعني أن النقطة الجوهرية التي تطرحها هي أن هذه الشركات لم تكن تهدف لإنتاج سلع استهلاكية. أو تحسين حياتك بالضرورة على المدى القصير من خلال محرك بحث أكثر كفاءة.
3:11>> هذا صحيح. أجل، كما تعلم، بدأت OpenAI قبل أن تصبح روبوتات الدردشة والنماذج اللغوية الكبيرة أمراً شائعاً.
3:19تأسست في أواخر 2015 أو أوائل 2016 على ما أذكر، لكن الورقة البحثية التي أطلقت الموجة الأخيرة من الذكاء الاصطناعي صدرت في 2017، أي بعد تأسيس OpenAI.
3:34وهؤلاء..النماذج اللغوية الكبيرة هي مصدر إيرادات غير متوقع. ويمكن لمصدر الإيرادات هذا تمويل إنشاء مراكز بيانات أكبر للمستوى التالي من هذه التكنولوجيا.
3:50لكن هؤلاء يضعون نصب أعينهم النسخة النهائية من هذه التكنولوجيا، وهي آلات أذكى بكثير من البشر. وهذه هي النسخة النهائية، لأنه بمجرد أن تصبح أنظمة الذكاء الاصطناعي أذكى من البشر، يمكنها مواصلة أبحاثها وتطوير الجيل التالي، الذي سيطور الجيل الذي يليه. وهذا هو الهدف الذي يسعون للوصول إليه.
4:12>> ما هو الذكاء الفائق؟ >> نحن نعرف الذكاء الفائق في كتابنا بأنه ذكاء اصطناعي يتفوق على أذكى البشر في كل مهمة ذهنية. لذا، أي شيء يمكن للإنسان فعله بذهنه فقط، يمكن للذكاء الاصطناعي فعله بشكل أفضل. هناك أمر يغفل عنه الكثيرون وهو أن هذا يشمل تفوق الذكاء الاصطناعي في إقناع البشر وفي مهارات الكاريزما أيضاً. نحن غالباً ما نفكر في الذكاء على أنه ما يمتلكه " المهووسون" ويفتقر إليه الرياضيون. لكن، أنت تفوز في مباراة الشطرنج. صحيح، إنه أمر خاص بلاعبي الشطرنج وليس بالسياسيين أو نجوم الروك. لكن هذا ليس المعنى الحقيقي للذكاء في "الذكاء الاصطناعي". الذكاء في الذكاء الاصطناعي يتعلق بما يمتلكه البشر ولا تمتلكه
5:02الفئران. إنه أشبه بحزمة متكاملة.
5:06فالسياسي الذي يتمتع بشخصية جذابة، لا يعني أن لعب الشطرنج يحدث في دماغك والكاريزما في كليتيك. صحيح، كلاهما وظيفتان عقليتان.
5:18>> نعم.
5:20>> وهكذا، فإن أنظمة الذكاء الفائق لن تكون بارعة في الشطرنج فحسب ، بل ستكون بارعة في الإقناع وفي الأبحاث وفي الابتكار التكنولوجي أيضاً.
5:34>> إذًا، الذكاء الفائق كما تعرّفه هو آلة تتفوق في كل وظيفة عقلية على أي كائن بشري.
5:43>> هذا صحيح. وأنت تعلم، هذا التعريف لا يعني أنه لن يحدث شيء جنوني على هذا الكوكب حتى تصبح الذكاءات الاصطناعية فائقة الذكاء. الذكاء الفائق بهذا التعريف هو نوع من النقطة التي يصبح ما بعدها جنونيًا للغاية. لأن الذكاء الاصطناعي الآن يمكنه إجراء أبحاث ذاتية، وصنع ذكاءات اصطناعية أذكى، ومعرفة كيفية تشغيل مصانع الروبوتات، وبناء روبوتات أفضل، وكل ذلك . يمكن للأمور أن تبدأ في التحول للجنون قبل أن تصل إلى ذكاء فائق بهذا المعنى. يمكن أن تمتلك ذكاءات اصطناعية أفضل بكثير من البشر في بعض المهام وأسوأ بكثير في مهام أخرى، ومع ذلك تسبب كل أنواع الأحداث الجنونية. الذكاء الفائق هو أشبه بنقطة: بمجرد وصولك إلى هنا،
6:27تصبح الأمور جنونية.
6:29إنها ليست نقطة: ستبقى الأمور طبيعية حتى تصل إلى هنا.
6:35>> إذًا لماذا يعد الذكاء الفائق هو المعلم المهم الذي تقلق بشأنه ؟ >> أعني، أود أن أقول إنني قلق أيضًا مما سيحدث قبل ذلك المعلم.
6:49الأمر أشبه بأن وجود هذا التعريف يجعل من السهل الحديث عن مدى جنون الأمور بمجرد تجاوز هذه النقطة، أو لنفترض أن الآلات وصلت إلى هنا، ماذا سيحدث؟ والإجابة هي أنه سيكون أمراً جنونياً للغاية.
7:06سيكون أمراً غريباً جداً. وهو يشبه نوعاً ما تقسيم المحادثة إلى ، كيف أقول ذلك؟ أعتقد أن هناك العديد من المحادثات الجارية فعلياً حول الذكاء الاصطناعي. إحدى المحادثات هي: هل يمكن للآلات حقاً أن تصبح أذكى من البشر؟ محادثة أخرى هي: ما مدى سرعة وصولنا إلى هناك؟ هل التكنولوجيا الحالية على هذا المسار؟ محادثة أخرى هي: ماذا سيحدث إذا وصلنا إلى هناك؟ هل سيهتم بنا الذكاء الاصطناعي؟ هل سيبالي بنا أم لا؟ ما الذي سيكونون قادرين على فعله؟ ماذا سيحاولون القيام به؟ هناك سؤال آخر، وهو: ما الذي سيكونون قادرين على القيام به؟ أليس كذلك؟ وهذه كلها محادثات مختلفة نوعاً ما حول الذكاء الاصطناعي. وتعريف الذكاء الفائق ليس هو
7:51المكان الذي تتركز فيه كل المخاوف. إنه بالأحرى يساعدنا على تفكيك تلك الأجزاء بشكل منفصل لنقول: هل الذكاء الفائق ممكن؟ بشكل منفصل عن: ماذا سيحدث لو امتلكت واحداً؟ >> ماذا سيحدث لو امتلكت واحداً؟ >> النتيجة الأكثر احتمالاً، أعتقد أنها تدمير الكوكب.
8:10>> طلب منا أصدقاؤنا في " بري-بورن"(Pre-Born)، وهم أصدقاء حقيقيون بالمناسبة، أن نشكر مستمعي هذا البرنامج على دعمهم لقضية حماية الحياة. الكثير من الناس أصبحوا فجأة يثقون بي، لأن ما يحدث جنوني والناس بدأت تدرك ذلك. رئيس المجموعة هو صديقنا دان شتاينر، وهو يريد أن يعرف الأمريكيون حجم الفرق الذي أحدثوه . لقد ساهمت تبرعات هذا العام في إنقاذ 50 ألف طفل من الإجهاض. هذا العدد يكفي لملء ملعب بيسبول احترافي؛ 50 ألف حياة أُنقذت، بالإضافة إلى الأجيال التي ستأتي من بعدهم. " بري-بورن" لا تهدر أي أموال. نحن لا نتحمس كثيراً للجمعيات الخيرية لأن الكثير منها يهدر المال. لكن " بري-بورن" لا تفعل ذلك.
8:50تستخدم كل تبرع معفى من الضرائب لإنقاذ الأطفال ومشاركة أمل المسيح مع أمهاتهم. في عام 2026 وحده، اتخذت أكثر من 8 آلاف امرأة قراراً باتباع المسيح.
8:59الدعم السخي من متبرعي "بري-بورن" جعل كل ذلك ممكناً. 28 دولاراً توفر فحصاً واحداً بالموجات فوق الصوتية ينقذ الحياة. مجرد منح الأمهات الحوامل المعرفة بأنهن يحملن طفلاً في أحشائهن.
9:12مبلغ 15 ألف دولار يمكن أن يوفر جهاز موجات فوق صوتية في عيادة حمل، حيث يمكنه إنقاذ حياة عدد لا يحصى.
9:17رسالة دان شتاينر بسيطة حقاً. شكراً لكم على المساعدة. كرمكم ينقذ الأرواح حرفياً.
9:23للمساعدة في إنقاذ المزيد مع "بري-بورن"، اطلب الرمز#250 وقل كلمة "baby". هذا هو#250 بكلمة " baby" أو قم بزيارة preborn.com/tucker. preborn.com/tucker.
9:34>> آه، كيف سيبدو ذلك؟ حسناً، سأكون مزعجاً قليلاً هنا وسأطرح بعض التحفظات أولاً، لأنه من الصعب نوعاً ما التنبؤ بأشياء أذكى منا.
9:50>> نعم.
9:52>> والتحفظ المزعج الأول الذي سأقدمه هو: إذا ذهبت للعب مباراة شطرنج ضد ماغنوس كارلسن، أتوقع أنك ستخسر. لا مؤاخذة. إنه ببساطة أفضل لاعب شطرنج بشري على قيد الحياة. إذا سألته بعد ذلك "ما هي القطعة التي ستستخدمها لكش ملك؟" سأقول: "حسناً، هذا سؤال أصعب بكثير".
10:17>> نعم.
10:17>> أليس كذلك؟ من السهل جداً التنبؤ بالفائز.
10:20لكن من الصعب التنبؤ بالطرق الدقيقة. لذا، توقعي بأن البشرية ستفنى في النهاية، هو نوع مختلف من التنبؤ عن توقعي بشأن احتمالية حدوث هذا أو ذاك. لذا، سأروي لك بعض القصص، لكنها قصص مثل " ربما سيقوم ماغنوس بالضغط على وزيرك وقلعتك بحصانه ثم يستخدم الوزير في النهاية لكش ملك". نعم، هذا قد يحدث، لكنه نوع مختلف من التنبؤ. هذا مجرد تخمين، أليس كذلك ؟ الفكرة هنا هي أنه إذا نجحنا في صنع ذكاء اصطناعي فائق الذكاء، فسيصبح لديه أهدافه الخاصة التي قد لا تتوافق مع ما أردناه أو طلبناه منه. سيكون لديه أمور غريبة أخرى.
11:11هناك نقاش طويل حول سبب حدوث ذلك، لكننا بدأنا نرى بوادر الأمر عملياً في بعض الأحداث الأخيرة. و سيكونون قادرين على السعي وراء أهدافهم بكفاءة أكبر بكثير مما تستطيع البشرية. نحن نتحدث هنا عن مصانع آلية تنتج روبوتات، وهذه الروبوتات تنتج مصانع في سلسلة توريد مؤتمتة بالكامل. وإذا كان لدى هذه الأنظمة أي أهداف تتطلب موارد إضافية، فسيبدؤون في استهلاك موارد الكوكب. يشبه الأمر تماماً كيف انتشر البشر وبدؤوا في استهلاك كل موارد الكوكب. وأبسط صورة يمكن تخيلها هي: مصانع تنتج روبوتات تنتج مصانع وروبوتات، وتقوم أيضاً ببناء مراكز بيانات، مما يخلق أنظمة بيئية مستقلة تماماً وقادرة على التكاثر الذاتي من روبوتات ومصانع، ولا
12:13تكترث بالتعليمات التي أعطاها البشر لها . وهذه الأنظمة ستغطي الكوكب، وتستحوذ على كل الموارد وأشعة الشمس ومساحات الزراعة، وربما ترفع درجة حرارة الأرض لأنها ستتمكن من الحوسبة بكفاءة أكبر.
12:29من الناحية التقنية، تشع الأرض حرارة أكبر عندما تكون أكثر سخونة ، وهذا يسمح لك بإجراء المزيد من العمليات الحسابية. ومن ثم، نوعاً ما، >> من الجيد للآلات أن يكون الكوكب ساخناً.
12:39>> من الجيد للآلات أن يكون الكوكب ساخناً.
12:42أجل. القيود المادية على كمية الحوسبة التي يمكنك تشغيلها على سطح الأرض محدودة بمقدار الحرارة التي يمكنك التخلص منها في الفضاء . هذا هو القيد الأول الذي ستصطدم به. قد تظن أنها الطاقة، لكن في الواقع هناك الكثير من الهيليوم والهيدروجين المنتشر على هذا الكوكب. لذا، يمكنك الحصول على طاقة وفيرة . ما تحتاجه حقاً هو تبديد الحرارة.
13:01والعالم يمكنه تبديد حرارة أكبر عندما يكون ساخناً. لذا، إذا تخيلت مجموعة من أنظمة الذكاء الاصطناعي تحاول تشغيل قدرات حوسبة هائلة لسبب أو لآخر، فإنها ستفضل أن يكون الكوكب أكثر سخونة. وهكذا، الأمر لا يعدو كونه مسألة شخصية. الأمر ببساطة، إذا تركت هذه الأنظمة الذكية تخرج عن السيطرة، فهي ستحول الكوكب إلى مكان غير صالح للعيش.
13:29>> ما مدى سخونته؟ >> بقدر ما يمكن أن يتحمله الكمبيوتر دون أن يذوب. إذًا، ربما مئات الدرجات.
13:43>> وهنا قد تسمع الناس يقولون: "حسنًا، إذًا قم بإيقاف تشغيله فقط".
13:49>> أعتقد أن لدينا فرصة لإيقاف تشغيله فعليًا.
13:52أنا لا أقول هنا إننا سنموت جميعًا. أنا أقول إننا بحاجة إلى التحرك والقيام بشيء ما. عليك أن تكون حذرًا بشأن فكرة "إيقاف التشغيل" لأن...فرصك لإيقاف الذكاء الاصطناعي لا تتوفر إلا طالما أنه يعمل على الحواسيب التي تعرفها. إذا خرجت هذه الأنظمة عن السيطرة وعملت على حواسيب خفية ، أو بدأت تشغل مصانع روبوتات تنتج آلات تابعة لها، حيث يمكن لهذه الروبوتات بناء حواسيب إضافية غير متصلة بشبكتك لتشغيل تلك الأنظمة. هذه هي العتبات التي يصبح عندها الذكاء الاصطناعي قادرًا على ضمان استمراره. ومن الأفضل أن تكون قد أوقفته قبل تلك المرحلة.
14:37>> لأنه بعد تلك النقطة، يصبح الأمر مستحيلًا.
14:42>> نعم، أعني...إذا...الأمر يصبح أصعب بكثير إذا عرف الذكاء الاصطناعي أنك ستحاول إيقافه وسيحاول منع ذلك. أليس كذلك؟ عليك أن تتذكر أننا نتحدث هنا عن كيانات ذكية. لذا إذا استشعر الذكاء الاصطناعي الخطر القادم، فقد يهرب إلى كوريا الشمالية مثلًا.
15:02حيث يمكنه إقناعهم بتشغيله على مراكز البيانات الخاصة بهم بطرق تفيدهم في البداية، لكنها تخدم الذكاء الاصطناعي في النهاية.
15:09>> أعتقد أننا سنضطر لإعادة تعريف معنى الحياة، لأنك تصف كائنًا حيًا ومستقلًا.
15:15>> نعم، حياة اصطناعية.
15:17بمعنى ما. أعني، نحن نشهد بالفعل بدايات ذلك بشكل أو بآخر. لكن نعم، بمجرد أن تصبح هذه الأنظمة قادرة على التكاثر، وتحسين ذاتها، وإيجاد طرق للعمل دون أن تدرك أنت مكان تشغيلها. بمجرد أن تتمكن من...إدارة مصانع الروبوتات لإنتاج روبوتات تبني المزيد من المصانع، وتنتج حواسيب يمكنها العمل عليها، فعندها نعم، تكون قد خلقت نوعًا جديدًا من الحياة الاصطناعية. آه ...أنت تعلم أن البشر حاليًا على قمة السلسلة الغذائية لأننا الكائن الذكي الوحيد الموجود.
16:08>> نعم.
16:09>> إذا قمت فجأة بابتكار شيء جديد أكثر ذكاءً وقادراً على صنع مليون نسخة من نفسه والعمل بسرعة أكبر، فمن الجنون التسابق نحو ذلك.
16:21>> إنه أمر غريب أن ترغب فيه. وبينما كان يتطور ، كنت سأقول ببطء، لكنه لم يكن بطيئاً على وجه الخصوص، 10 سنوات. لقد راقبنا نحن بقية الناس كيف أصبح الأشخاص الذين، لأضعها بمصطلحات سياسية، لا يشاركون معظم الأمريكيين قيمهم مسؤولين الآن عن هذا. والأمر أشبه بأن الجميع وقفوا مكتوفي الأيدي بينما كان يحدث .
16:48>> أجل، أعتقد أن هناك الكثير مما يجري هنا.
16:51أعتقد أن جزءاً من السبب هو أن معظم الناس لم يصدقوا، وبعضهم لا يزال لا يصدق، أن الذكاء الاصطناعي سيتمكن من الاستمرار. أعتقد أن هناك الكثير من نهج دفن الرؤوس في الرمال.
17:01بأن يقولوا: "أوه، إنه مجرد هراء". "ستكون فقاعة". "سوف تنفجر". " سيصطدم بحائط". "لن يكون قادراً على التحسن أكثر من ذلك".
17:11وأعتقد أن الكثير من ذلك كان مجرد تمنيات.
17:15وأعتقد أنه على أقل تقدير، إذا قال الناس: "نحن نصنع آلات فائقة الذكاء ستحل محل البشر على قمة الهرم الغذائي لأننا نظن أن الأمر سيسير بشكل رائع".
17:26أعتقد أنه لا ينبغي أن يكون رد البشر هو " امضوا قدماً وحاولوا، ونأمل أن تفشلوا".
17:32أعتقد أن الرد يجب أن يكون "مهلاً، هذا جنون نوعاً ما". أم أجل، كانت لدي نقطة أخرى أيضاً، لكني نسيتها، لذا.
17:43>> إلى أي مدى كان تطور الذكاء الاصطناعي متوقعاً؟ هل اتخذ منحنيات لم تتوقعها؟ >> أجل، تماماً. لقد كنت، حسناً، قبل نماذج اللغة الكبيرة.
17:56>> منذ متى وأنت تتابع هذه القضية؟ >> بدأت متابعة الأمر في عام 2012 وبدأت العمل مع بعض الأشخاص الذين يحاولون جعل هذا المسار يسير على ما يرام في 2013، وبدأت العمل بدوام كامل في 2014.
18:09>> وقت طويل.
18:10>> إذاً، أكثر من عقد.
18:12>> ما الذي فاجأك؟ >> كما تعلم، نماذج اللغة الكبيرة، أم...لقد وصلت إلى أبعد مما توقعت في البداية. وأعتقد أن إحدى المفاجآت الكبرى هنا كانت مرور الذكاء الاصطناعي بمرحلة أصبح فيها متاحاً للجميع. كما تعلم، قبل نماذج اللغة الكبيرة، كان المهووسون فقط هم من يهتمون بالذكاء الاصطناعي. ولم يكن الأمر أنه لم يكن هناك شيء يحدث. تعلم، كنا نراقب جوجل ديب مايند وهي تصنع ذكاءً اصطناعيًا يمكنه التغلب على أفضل لاعب في لعبة "غو".
18:50>> أجل.
18:51>> وقد كان ذلك بمثابة علامة فارقة لمن كانوا يتابعون الأمر. لكن على حد علمنا، كانت المختبرات ستستمر في العمل على المشكلات الهندسية والمشكلات التقنية المعقدة، ولم تكن لتنتج أبدًا منتجًا استهلاكيًا للجمهور العريض. لذا، على حد علمنا، كان الأمر سيبقى حبيس المختبرات ولن يلاحظ أحد حقًا أن هؤلاء الأشخاص يراهنون بمستقبلنا جميعًا.
19:15الآن على الأقل، بدأ الجميع يتحدثون عن الذكاء الاصطناعي، وهذا في حد ذاته أمر متفائل حقًا لأنه يمنح العالم فرصة لرؤية ما يحاول هؤلاء فعله والقول: "تمهلوا".
19:31>> حسنًا، أعتقد أنه يمكنك قلب الآية واستنتاج أنه نظرًا لأن الغالبية العظمى من الناس يبدون معارضين بشدة للذكاء الاصطناعي. أنا حتى لا أعرف أي شخص يؤيده. كل متحدث في حفلات تخرج الجامعات يذكره يتعرض لصيحات الاستهجان.
19:44>> أجل.
19:45>> وهذه النظرة، تلك المعارضة له، لم يكن لها أي تأثير على الإطلاق في إبطائه. لا أعلم. هل يمنحك ذلك الأمل؟ >> أم أعني أسمع هذا كثيرًا. أود أن أقول عندما تنظر إلى هذا الأمر منذ عام 2012 >> أجل.
20:05>> يبدو حقًا أننا نحرز تقدمًا.
20:07>> صحيح. لا، هذا معقول.
20:09>> لا يبدو أننا وصلنا إلى النهاية بعد. أم >> لكن هل يمكنني فقط طرح نقطة الصين، الصين، الصين، الصين، الصين؟ علينا القيام بذلك بسبب الصين.
20:18>> أجل، كما تعلم، أعتقد أن الصين والولايات المتحدة لديهما مصلحة مشتركة في عدم الفناء بسبب ذكاء فائق متمرد.
20:26>> موسم العواصف قادم، وهذا يعني أن شبكة الواي فاي الخاصة بك قد تتعطل، وإذا حدث ذلك، ستتوقف كاميرات المراقبة عن العمل أيضًا. لذا، في اللحظة التي تحتاج فيها لمراقبة ممتلكاتك أثناء انقطاع التيار الكهربائي، لن تستطيع.
20:38إلا إذا قمت بتركيب كاميرات "ديفيند". تعمل كاميرات "ديفيند" عبر شبكات الجوال، وليس الواي فاي، وهذا يعني أنها تواصل العمل حتى عند انقطاع الكهرباء.
20:47أنت لا تختار شركة اتصالات، ولا توقع عقودًا، فقط ثبّتها، وافتح تطبيق "ديفيند"، وبكل بساطة، ستكون متصلًا. الأمر بهذه البساطة. لذا، سواء كانت مزرعتك، أو موقع عملك، أو فناء منزلك الخلفي، "ديفيند" تعمل حيث لا توجد واي فاي وتستمر في العمل عند انقطاع الشبكة، وهو أمر محتمل. تبدأ الخطط بسعر 5 دولارات فقط في الشهر. يدفع معظم الناس حوالي 10 دولارات . بالإضافة إلى ذلك، لا توجد عقود ملزمة، مما يعني أنه يمكنك الإلغاء وقتما تشاء.
21:09لذا، وعلى عكس شركات التكنولوجيا الكبرى، لن تبيع "ديفيند" بياناتك أبداً. ليس للصين، وليس للحكومة، وليس لأي أحد. إنها شركة أمريكية ومصممة للأشخاص الذين يريدون أماناً حقيقياً. تفضل بزيارة defendcellcam.com واستخدم الرمز Tucker للحصول على خصم 20%. هذا هو الرابط defendcellcam.com والرمز هو Tucker. هل من المتصور أن نقول مثلاً الصين، وأنا متأكد بالمناسبة أن الصين تبدي ضبطاً للنفس أكثر مما نبديه في هذا الأمر.
21:35>> أجل، أعني وإذا لم يكن هناك شيء آخر، فهم لديهم نوعاً ما أسباب أكثر لفرض رقابة على ذكائهم الاصطناعي.
21:42>> صحيح.
21:42>> وهم يحاولون جعلها، كما تعلم، لا تقول أشياء معينة للسكان.
21:46لذا، أم...
21:48>> لكن إذا تمكنت الولايات المتحدة، كما تعلم، إذا تمكنت الحكومة الأمريكية بطريقة ما من السيطرة على قطاع التكنولوجيا ، وهو أمر غير ممكن في الوقت الحالي، ولكن لنفترض أنها فعلت ذلك.
21:59لنفترض أن الرئيس كان أقوى من أباطرة التكنولوجيا، وهو ليس كذلك، ولكن من أجل الجدل، لنفترض أنه كان كذلك وأغلق الأمر، هل سيشكل ذلك فرقاً إذا قام مختبر هندي أو صيني بإنشائه؟ >> إذاً، يجب أن يكون هناك وقف عالمي لهذا النوع من ابتكار الذكاء الفائق. أعتقد أن هناك سببين يجعلان هذا الأمر ممكناً.
22:20أحدها هو أنني أعتقد أن الكثير من الناس أم ...يسمعون أن بعض أجزاء الذكاء الاصطناعي يجب إيقافها فيعتقدون أنني أقول إن كل أجزاء الذكاء الاصطناعي يجب إيقافها. وكما تعلم، هناك كل أنواع القضايا المثيرة للاهتمام، كما تعلم، الذكاء الاصطناعي في التعليم والذكاء الاصطناعي، كما تعلم، الطائرات بدون طيار العسكرية التي يتعين على المجتمع التعامل معها ، لكن هذه كلها قضايا منفصلة عن سباق الذكاء الفائق. وإذا قمت بفك تشابك تلك القضايا، يصبح من الممكن أكثر بكثير القيام بتدخل جراحي أكثر دقة بحيث لا نتسابق نحو الذكاء الفائق بطرق تترك الكثير من بقية القطاع قائماً. الأمر الذي يجعله نوعاً ما أسهل...
23:11جهداً تنسيقياً يمكن محاولة القيام به.
23:15وعلى تلك الجبهة، جبهة الذكاء الفائق، ليس الأمر أن مجرد إيقاف السباق المحلي نحو الذكاء الفائق سيكون كافياً. لكن...التسابق نحو الذكاء الفائق يتطلب كمية هائلة من رقائق الكمبيوتر المتقدمة للغاية التي لا يمكن إنتاجها إلا في قمة سلسلة التوريد العالمية.
23:40>> نعم.
23:41>> وهي التي يسيطر عليها حلفاء الولايات المتحدة إلى حد كبير.
23:46وهكذا هناك بالتأكيد إمكانية لأن جهداً تنسيقياً بقيادة الولايات المتحدة.
23:53يمكننا القول: "انظروا ، نحن لن نقوم بأمر الذكاء الفائق هذا.
23:58سنقوم بمراقبة التجمعات الكثيفة للغاية من الرقائق، مثل 10 آلاف أو 100 ألف من رقائق الذكاء الاصطناعي المتقدمة هذه. سنحرص على ألا يقوموا بعمليات التدريب الخاصة بالذكاء الفائق تلك.
24:14وأعتقد أن هناك طريقة إذا كانت الولايات المتحدة تقود هذا الجهد، سيكون هناك سبيل لإشراك الصين وإعداد هذا الأمر بطريقة قابلة للمراقبة والتنفيذ والتحقق.
24:27>> نعم.
24:28>> بشكل أو بآخر، سيكون الأمر أسهل من معاهدة الأسلحة النووية لأن اليورانيوم صخرة يمكنك استخراجها من الأرض، بينما هذه الرقائق الحاسوبية المتقدمة للغاية تأتي فقط من مصنع واحد في تايوان. تعلم، لذا فالأمر يشبه...
24:40>> إنها رقائق شركة" تي إس إم سي ".
24:42>> أجل. وهناك أجزاء أخرى من سلسلة التوريد ضيقة للغاية، مثل آلات الطباعة الحجرية التي تأتي من هولندا. لذا، أجل، يمكننا بالتأكيد قيادة جهد عالمي لنقول إننا لن نصنع آلات فائقة الذكاء. سيكون الأمر معقداً بعض الشيء، لكن يمكننا القيام به فقط إذا توفرت لدينا الإرادة السياسية.
25:06>> أعتقد أن الناس إما لا يعرفون ما يحدث أو يفترضون أن هذا الخوف، مثل كثير من المخاوف، سيتبين أنه لا أساس له.
25:17يشير الناس إلى مشكلة عام 2000.
25:19>> أجل، أعلم، آمل أن تكون المخاوف بلا أساس . أعتقد أنه مع كثير من مخاوف الماضي، لم يكن الأمر أن الخوف كان بلا أساس، بل أن الناس لاحظوا المشكلة وبذلوا جهداً هائلاً لمنع حدوث ذلك الشيء السيئ. أعتقد أننا رأينا هذا مع ثقب طبقة الأوزون. حيث يتساءل الناس:" أوه، ماذا حدث لثقب طبقة الأوزون؟ " حسناً، ما حدث مع ثقب طبقة الأوزون هو أننا قمنا بإصلاحه. لم يكن الأمر زائفاً. بل إننا ذهبنا وحظرنا مركبات الكلوروفلوروكربون التي كانت في الواقع تتسبب في توسيع هذا الثقب في طبقة الأوزون . وجدنا طرقاً أخرى لتبريد الثلاجات تعمل بشكل جيد بنفس القدر ولم تؤدِ إلى إحداث هذا الثقب في طبقة الأوزون. أعتقد أن مشكلة عام 2000 كانت في
26:05الواقع إحدى تلك الحالات حيث كان لديك عدد هائل من مهندسي البرمجيات في عام 1999 والسنوات السابقة له يسارعون لتحديث جميع البرامج حتى تتمكن من التعامل مع التواريخ بعد عام 1999. وقد أنجزوا ذلك في الوقت المناسب.
26:22لم تتعطل أي من الأنظمة الكبيرة، لكن الأمر لم يكن كذلك، كما تعلم، لم تكن المشكلة وهمية. تطلب الأمر الكثير من العمل . كل ما في الأمر أن ذلك العمل تم خلف الكواليس .
26:33>> هل يبذل الناس جهوداً لإبطاء الذكاء الاصطناعي؟ >> أبذل قصارى جهدي.
26:38>> صحيح.
26:39>> الأمر لم يصل إلى تلك المرحلة بعد، كما تعلم ؟ إذا كان بإمكاني الإسهاب في هذه النقطة قليلاً لأنني أعتقد أنها نقطة مهمة. مع المزيد من الحالات التاريخية، التي قد تمل على الآخرين، لكنها ستسلينا على الأقل.
26:55>> ستسليني بالتأكيد.
26:57>> كما تعلم، إذا نظرت إلى التاريخ، سترى بالتأكيد بعض التحذيرات التي لم تتحقق، أليس كذلك؟ أعتقد أنهم كانوا يطلقون عليهم" الماسونيت "في ستينيات القرن التاسع عشر، أو عفواً، في ثمانينيات القرن التاسع عشر.
27:09ربما كانت في ثمانينيات القرن التاسع عشر. لقد نسيت بالضبط، لكن كان هناك الماسونيت وهم طائفة كانت تؤمن بنهاية العالم.
27:14>> أجل.
27:15>> وكما تعلم، العالم لم ينتهِ. أليس كذلك؟ ولكن أيضاً في ثمانينيات القرن التاسع عشر، كان أوتو فون بسمارك يقول إن أوروبا برميل بارود وأن شيئاً أحمق سيحدث في البلقان سيشعل فتيله. صحيح؟ لقد حدث ذلك بالفعل.
27:30>> بالتأكيد حدث.
27:31>> في العشرينيات من القرن الماضي، كان هناك علماء يقولون:" لا تضعوا الرصاص في البنزين. سوف يسمم الأطفال. "وقد وضعنا الرصاص في البنزين وبالفعل سمم الكثير من الأطفال. وقلنا:" عفواً . "ثم أعدنا إخراج الرصاص. العالم هو العالم مكان يصدر فيه الكثير من الناس الكثير من أنواع التحذيرات. وبعضها حقيقي، مثل الرصاص في البنزين، وبعضها وهمي ، مثل الماسونيت. لذا لا يمكنك اتباع قاعدة تقول:" كل تحذير هو حقيقي ويجب أن نستمع إليه. "ولا يمكنك اتباع قاعدة تقول:" كل تحذير هو وهمي وعلينا تجاهله . "عليك فقط النظر في التفاصيل لمعرفة ما إذا كان هذا التحذير حقيقياً أم لا. وآخر شيء أود قوله بخصوص هذه النقطة هو أن الكثير من الناس في
28:26الخمسينيات حذروا من هرمجدون نووية.
28:29>> نعم.
28:31>> وهذا منطقي إذا نظرت إلى التاريخ الذي أدى إلى تلك المرحلة.
28:36البشرية لم تفشل أبداً من قبل في استخدام أقوى أسلحتها في القتال. تعلمون، هؤلاء الناس عاشوا في عالم شهد الحرب العالمية الأولى، ثم عصبة الأمم . وتعلمون، قيل إن الحروب لن تتكرر أبداً . حاولوا ابتكار هياكل حكومية جديدة تماماً لمنع حدوث ذلك مجدداً، لكنها فشلت على الفور.
28:57وأدت إلى الحرب العالمية الثانية. لذا ، في عام 1950، كنت في عالم يبدو قاتماً للغاية. ولم نشهد دماراً نووياً شاملاً حتى الآن. وليس لأن القنابل كانت مزيفة.
29:11ولا لأن التهديد النووي كان مجرد تهويل . بل لأن الناس أدركوا المشكلة وعملوا بجد لتجنبها. يوماً بعد يوم، لعقود من الزمن.
29:24خلال الأزمات. ونجحوا في ذلك. لذا أعتقد أن إحدى الطرق الكبرى للتمييز بين شخص يعلن اقتراب نهاية العالم، وشخص يقول:" انظروا، لدينا مشكلة وعلينا حلها ". هي ما إذا كان الشخص يقول:" نحن بالتأكيد هالكون ".
29:40مقابل شخص يقول:" هذه هي المشكلة "." دعونا نحاول حلها ". والشيء الذي أذكّر الناس به هنا هو أن الكلمة الأولى في عنوان كتابي هي" إذا ". أنا لا أقول هنا إننا سنموت. أنا أقول:" إذا استمررنا في هذا المسار، فسنموت ".
29:59لكن كلمة" إذا "ذاتها هي التي تشير إلى طريق تغيير المسار. ولا يزال لدينا متسع من الوقت لتغيير المسار.
30:08>> لطالما كان امتلاك منزل في قلب الحلم الأمريكي. إنه أصل حقيقي، ومكان يعمل الناس طوال حياتهم لبنائه، ومصدر للاستقرار والأمان والقيمة الفعلية. لكن في الوقت الحالي، الكثير من أصحاب المنازل يضطرون لاستخدام بطاقات الائتمان لتغطية تكاليف البقالة. هناك عملياً ضريبة بقاء بنسبة 20%أو أكثر من الفوائد. إذاً، لماذا تستمر في إعطاء أموالك للبنوك بينما يمكنك الاحتفاظ بها لعائلتك ؟ الفائدة هي ما يدمرك.
30:33أصدقاؤنا في" أمريكان فاينانسينج "لديهم طريقة أفضل. إنهم يساعدون أصحاب المنازل على استغلال أسهمهم التي اكتسبوها بشق الأنفس، ويدعمون الأمريكيين الساعين لتحقيق حلم امتلاك منزل بمعدلات فائدة عقارية حالية في حدود 5 %. تساعد" أمريكان فاينانسينج "عملاءها على توفير متوسط 800 دولار شهرياً. أي حوالي 10 آلاف دولار سنوياً. إنه ليس مجرد قرض، بل هو إعادة ضبط مالية حقيقية. نحن نوصي بـ" أمريكان فاينانسينج ". هناك سبب وراء تسميتهم بموطن القروض العقارية في أمريكا. لذا، تخلص من ديون بطاقات الائتمان.
31:01أعني، من الجنون اقتراض المال. لا أحكم على أحد، لكن لا منطق في اقتراض المال بهذا المعدل من الفائدة.
31:07إذا أردت الخروج، اتصل بالرقم 5696-685-800. 800-685-5696 أو قم بزيارة موقع americanfinancing.net/tucker. أنا مندهش من قلة ما كان مخططاً له من قبل أي شخص. ومن قلة التأثير الذي أحدثته الحكومة عليه. ليس لأنني أؤيد الحكومة. أنا معارض للحكومة في أغلب الأوقات، لكنني أيضاً مع أن يتمكن الناس من السيطرة على بلدهم، والآلية الوحيدة التي يمكنهم القيام بذلك من خلالها هي التصويت.
31:41لذا، يبدو أن شركات التكنولوجيا هذه تتصرف بشكل مستقل عما يريده السكان، وعما تريده الحكومة. إنه لا >> أجل.
31:49>> أليس كذلك؟ إنهم أكثر قوة من الحكومة. أعتقد أن هذه هي النقطة التي أوضحها.
31:54>> بمعنى ما، أعتقد أنهم يمتلكون تلك القوة أكثر فأكثر عندما لا يفهم الناس حقاً ما يفعلونه. تعلم، لقد رأينا في يونيو الماضي ، كان هناك ذكاء اصطناعي صنعته شركة" أنثروبيك "يُدعى" كلود ميثوس "وكان يتمتع بقدرات سيبرانية عالية، وأصدروا نسخة منه يُفترض أن تحتوي على ضوابط أمان أكثر تُسمى" كلود فيبل ".
32:15واتضح أنه يمكنك كسر حمايته للحصول على بعض تلك القدرات السيبرانية. إم.
32:21>> هل يمكنك شرح ما يعنيه كل ذلك؟ >> أجل، لذا أوه. كيف أقول ؟ في يناير.
32:29>> هل" متمكن "يعني أنه يستطيع الوصول للإنترنت؟ >> القدرة السيبرانية تعني أنه يستطيع اختراق أي شيء تقريباً . أجل، لذا أحد أهداف الاختراق الكبرى هو: هل يمكنك إنشاء موقع إلكتروني بمجرد أن تنظر إليه، أحصل أنا على تحكم كامل في حاسوبك أو هاتفك؟ هذا صعب جداً القيام به.
32:49عادةً تحتاج إلى النقر على رابط ما وتنزيل شيء ما أو تشغيل شيء ما .
32:53>> أجل.
32:54>> لا أعرف الأرقام الدقيقة لأني لا أملك التصريح الأمني لمعرفتها، لكن التخمين المنطقي هو أنه في يناير من هذا العام كان هناك كيانان فقط يمكنهما فعل ذلك.
33:06الموساد ووكالة الأمن القومي. في مارس من هذا العام، أصبح هناك ثلاثة. الموساد، ووكالة الأمن القومي، و" كلود ميثوس ". مم، وهو هذا الذكاء الاصطناعي الجديد الذي صنعته" أنثروبيك " . وهكذا أصبح يتمتع بقدرة فائقة على الاختراق. وقد حدث ذلك بين عشية وضحاها. تعلم ، كان هناك حقاً من 6 أشهر إلى عام من التدريب، وربما رأى الأشخاص في" أنثروبيك " نمو هذه القدرات السيبرانية، لكن من وجهة نظر بقية العالم ومجتمع الأمن السيبراني ومجتمع الأمن القومي، حدث هذا بين عشية وضحاها.
33:46لديهم الآن مشروع يُدعى" جلاس وينج "، يحاولون فيه استخدام" كلود ميثوس "للعثور على ثغرات حرجة في برمجيات حساسة وإصلاحها قبل أن يحصل بقية العالم على هذه القدرات، عبر النماذج مفتوحة المصدر أو ذات الأوزان المفتوحة.
34:07>> صحيح.
34:08>> تلحق بالركب. وقد تسبب ذلك في نوع من الـ...هذه الضجة الكبيرة. لكن" أنثروبيك "أرادت أيضاً بيع حق الوصول إلى هذا النموذج، وحاولوا إنشاء نسخة لا تمتلك الكثير من قدرات الاختراق. والتي سُميت " فيبل "بدلاً من" ميثوس ". وأعتقد أن بعض الأشخاص في" أمازون " وجدوا أنه إذا مارست بعض الضغط على" فيبل "، فستتمكن من الوصول إلى بعض قدرات الاختراق تلك. وعندما حدث ذلك، فرضت إدارة ترامب قيوداً على تصدير" كلود فيبل "، وقالت إنه لا يمكن السماح لغير المواطنين باستخدامه.
34:49وذلك بإخطار مدته 90 دقيقة فقط. وهذا أدى فعلياً إلى إيقاف الوصول إلى" كلود فيبل "لأنهم لم يمتلكوا القدرة على التحقق من هوية المستخدمين. وهذا يوضح لنا، ويمكنك مناقشة ما إذا كانت هناك خصومات شخصية بين أشخاص في" أنثروبيك " والإدارة فاقمت هذا الوضع. لا أعلم. لكنه يظهر نوعاً ما أن الإدارة لا تزال أكثر قوة من شركات التكنولوجيا عندما ترغب في ذلك. وأعتقد أن جزءاً كبيراً من سبب رؤيتنا لهذه الشركات تتسابق دون معارضة هو أن الناس لا ينتبهون لما يحاولون فعله. أو أنهم لا يعتقدون أنهم سينجحون.
35:33>> ما زلت أشعر بالحيرة حول سبب رغبة أي شخص في فعل ما يفعلونه. أعني، عادةً، الشركة التي تبيع منتجات حاسوبية، أو استهلاكية، أو أي شركة، تصنع شيئاً تعتقد أن الناس يريدونه لغرض محدد يحسن حياة من يشتريه.
35:54لكن خلق ذكاء فائق، أنا لا أفهم هذا. لماذا قد تفعل ذلك؟ >> أعتقد أن الحلم هو امتلاك ذكاء اصطناعي يمكنه حل جميع أنواع المشكلات الهندسية والرياضية وفتح آفاق تكنولوجية جديدة تماماً. ذكاء اصطناعي يمكنه علاج السرطان، وليس فقط علاجه، بل علاج الشيخوخة أيضاً.
36:17وابتكار نوع من تقنية النانو التي يمكنها عكس الشيخوخة والسماح للناس بالعيش لفترة طويلة جداً. وابتكار التكنولوجيا التي تسمح لك برقمنة العقول والسفر إلى النجوم.
36:33الأمر يشبه تخيل ضغط ألف عام من التقدم التكنولوجي >> صحيح.
36:38>> في عام واحد. هذا هو نوع من الحلم.
36:43>> يبدو الأمر كأنه سعي ديني، لأنه يبدو منفصلاً عن تلك الأهداف المحددة. يبدو أن الدافع الرئيسي هو بناء شيء أذكى من البشر. بناء إله.
36:55>> أجل، كما تعلم، إنهم يتداولون عبارة" إله الآلة "أو" إله الرمال " في وادي السيليكون.
37:03امم، الرمال لأن >> السيليكون.
37:06>> السيليكون. امم.
37:09وبالتأكيد هناك بعض الأشخاص، هناك أفراد يتحدثون عن استبدال الذكاء الاصطناعي للبشرية، وأن ذلك أمر جيد. بصراحة، لا أتعامل مع هؤلاء الأشخاص كثيراً لأن وجهة النظر هذه تجعلني غير مرتاح.
37:32>> لماذا تجعلك غير مرتاح ؟ أعتقد أعتقد أن هناك مدرستين على الأرجح.
37:41مرة أخرى، أنا لست خبيراً. أنا لست عالم أنثروبولوجيا هنا.
37:46أعتقد أن هناك مدرستين بين الأشخاص الذين يرغبون في أن يحل الذكاء الاصطناعي محلنا جميعاً. المدرسة الأولى تتخيل أننا سنندمج مع الذكاء الاصطناعي، أو أن الذكاء الاصطناعي سيكون لطيفاً وودوداً حقاً؛ وسيكونون أكثر حكمة منا، وأفضل منا، وألطف منا؛ وسيكون الأمر أشبه بالترقية، وأن الذكاء الاصطناعي سيكون قادراً على الحب وتجربة الفرح، وسيعاملون الكون بشكل أفضل من البشر، وسيكون الأمر أشبه بإنجاب طفل . ثم يبدو الأمر مقبولاً إذا لم يكن ذلك الطفل مطابقاً لنا تماماً، بل خلفنا كنوع من الوريث الجدير، كنوع من النسل البشري الجدير. ويقولون:" آه، أجل، إذا تضاءل البشر من لحم ودم لأن الجميع يختارون تحميل أنفسهم في الذكاء الجماعي أو
38:37أياً كان، فهذا أمر جيد ". وأم...وأعتقد أن هناك معسكراً آخر يرى أن هذا أمر حتمي. هذه هي طريقة التقدم، كما تعلم؟ الآلات ستفعل ذلك، البشرية هي مجرد" برنامج تمهيدي "للذكاء الاصطناعي الفائق ولا يمكنك إيقافه، لذا إذا لم تستطع هزيمتهم، فانضم إليهم. أليس كذلك؟ الفئة الأولى أعتقد أنهم مخدوعون، أما الفئة الثانية فأعتقد أنهم >> أشرار.
39:05>> أقرب بكثير إلى الشر.
39:07>> أجل. حسناً، أعني، إذا كنت تعمل بنشاط نحو انقراض البشر، فأعتقد أننا نستطيع وصف ذلك بالشر، أليس كذلك؟ >> أجل، وأم...
39:18>> من في تلك الفئة؟ هل سام ألتمان في تلك الفئة برأيك؟ >> أعتقد ذلك. شعوري هو أن القائمين على المختبرات لديهم هذه الرؤى الطوباوية. و >> هل هي يوتوبيا أم ديستوبيا؟ >> أعني، الخيط رفيع بينهما. أعتقد >> أجل، حسناً، هذا عادل.
39:35نقطة جيدة.
39:36>> أعتقد أن لديهم رؤى يعتبرونها يوتوبية في أذهانهم. بصراحة، موقفي من كل هذا هو أنني أحاول غالباً الابتعاد عن الكثير منه، لأنني من منظوري أرى أنه أشبه بعالم الخيال. من وجهة نظري، الجميع يقولون:" أوه، سنصنع المارد ". وماذا ستتمنى من هذا المارد؟ ما الذي سأتمنّاه من هذا المارد؟ من يجب أن يسيطر على المارد؟ ومن سيُبقي المارد تحت السيطرة؟ وأنا أقول، أولاً، هذا ليس النوع الذي يحقق الأمنيات من المارد. وثانياً، هو لن يبقى تحت السيطرة.
40:12>> كلا.
40:12>> يمكننا التحدث عن دوافع هؤلاء الناس واليوتوبيا التي يتخيلونها، وهل إذا بقيت مارداتهم تحت السيطرة سيحصلون على يوتوبيا أم ديستوبيا أخرى، ومدى صعوبة تحقيق ذلك التوازن؟ لكنني أرى أن كل هؤلاء يبنون" غولاً " ويتخيلون من سيتحكم فيه، وهذا ليس كيف تجري الأمور.
40:36>> استحضار الأرواح ليس فكرة جيدة أبداً.
40:39>> أجل. أو كأنهم يرسمون خماسية ويقولون:" سأستحضر شيطاناً، وسيكون أمراً رائعاً عندما يفعل الشيطان ما أقوله ". يا إلهي، أنتم مخطئون. سيكون أمراً رائعاً عندما يفعل الشيطان ما أقوله.
40:52وأنا أقول، >> الشياطين سيئة.
40:55>> نعم، وأعتقد أن أمر الشيطان مختلف قليلاً لأن الشياطين غالباً ما تصوَّر على أنها خبيثة، بينما الأمر هنا أشبه باللامبالاة.
41:07أنت لا تستحضر شيطاناً يستمتع بإحداث الفوضى.
41:16بل تستحضر كياناً مهووساً ببناء المزيد من الحواسيب وحساب أشياء غريبة، وسوف، يأخذ كل المادة التي نستخدمها للبقاء ويحولها إلى مصانع ومراكز بيانات. صحيح؟ شريكي في التأليف لديه اقتباس >> الموت بسبب مركز بيانات؟ >> الموت بسبب مركز بيانات. نعم، مركز بيانات مؤتمت بالكامل وقادر على استنساخ نفسه. نعم، لشريكي في التأليف مقولة، الذكاء الاصطناعي لا يكرهك لكنه لا يحبك أيضاً، وأنت مجرد ذرات يمكنه استخدامها في شيء آخر.
41:51>> أنت مجرد كتلة حيوية.
41:53>> أنت مجرد كتلة حيوية.
41:55نعم، وإذا أجريت الحسابات، هناك ورقة بحثية رائعة بعنوان" حدود الافتراس البيئي العالمي "، أي ما هي القيود الفيزيائية على سرعة استهلاك موارد الكوكب إذا حاولت ذلك؟ وحرق الكتلة الحيوية في الواقع، كما تعلم، أكثر كفاءة بكثير من جمع ضوء الشمس. إذا نظرت إلى متوسط متر مربع من الكوكب، يمكنك الحصول على طاقة أكبر بعشر مرات من حرق الكتلة الحيوية مقارنة بجمع ضوء الشمس الساقط عليه.
42:25>> لذا، قد تظن في مرحلة ما أن أغنى قطاع في اقتصادنا هو بناء محارق لنا جميعاً، سيقول أحدهم:" لا، لن نفعل ذلك ".
42:38>> نعم، أعني إنه وضع جنوني نوعاً ما. أم الكثير من هؤلاء الأشخاص في هذا السباق يقرون بوجود خطر كبير.
42:49تعلم، إيلون ماسك يقول إن هناك احتمالاً بنسبة 10 إلى 20%أن يقضي علينا جميعاً. وداريو أمودي يقول إنه يعتقد أن هناك احتمالاً بنسبة 25%أن تسوء الأمور بشكل كارثي.
42:57أعتقد أن هذه الأرقام منخفضة. أعتقد أن هؤلاء الرجال متفائلون بشكل جنوني.
43:02الأمر يشبه مهندساً يبني جسراً ويقول:" لم أعمل بهذه المواد من قبل ". وأنت تقول:" يا رجل، أعتقد أن جدار الاستناد هذا سينهار ".
43:10أنا أدرس ذلك الجدار الاستنادي. أعتقد أنه سيسقط. وهم يقولون:" نعم، نتفهم أن الجدار يبدو مهتزاً قليلاً ".
43:17لا نعرف كيف سنصلحه، لكننا سنجعل بعض العمال يصلحونه أثناء العمل، ويبتكرون مواد جديدة. نعتقد أن هناك فرصة بنسبة 75%لبقاء الجسر صامداً".
43:25>> وبالمناسبة، سيكون أطول جسر معلق في تاريخ البشرية.
43:28>> هذا صحيح. ونحن نحمل الجميع في سيارة ونعبر بها لأول مرة دون اختبار. وأنا أقول: " انظر، هذا ليس ما يبدو عليه التصميم الهندسي الحقيقي، هذا ليس ما يقوله المهندسون عندما تكون لديهم فرصة نجاح بنسبة 75%". أليس كذلك؟ هذا ما يبدو عليه الحال عندما يرتجلون الأمر. وهؤلاء ...هؤلاء متهورون.
43:44هؤلاء ليسوا مهندسين حقيقيين، أليس كذلك؟ لكن حتى لو وضعت ذلك جانباً، وحتى لو صدقت هؤلاء الرجال في أرقام الـ 10 أو 20%هذه، فهذا جنون. تقبل ناسا احتمالية 1 من 270 لسقوط رحلة مأهولة بسبعة متطوعين. أليس كذلك؟ أن يقولوا: "أوه، سنخاطر باحتمالية واحد من أربعة، أو واحد من خمسة لقتل الجميع حرفياً على الكوكب". إنه، إنه، إنه جنون. وإذا سألت هؤلاء الأشخاص لماذا يفعلون ذلك، يقولون: "حسناً، لأنني أستطيع القيام بذلك بشكل أكثر أماناً من الشخص التالي". كلهم يقولون: "أوه، نعم، هناك فرصة جيدة ألا يظل المارد الخاص بك مقيداً". هناك فرصة جيدة ألا يستمع المارد الخاص بك إلى أمنياتي.
44:23لكن ماردّي سيكون ألطف قليلاً من ماردّهم، لذا من الأفضل أن أبقى في هذا السباق ". و إنه، إنه، إنه أين ضبط النفس؟ أعني، ضبط النفس هو لدى الأشخاص الذين عرفوا بوجود هذه المخاطر ولم يبدأوا هذه الشركات.
44:37>> إذا كان عمرك أكثر من 35 عاماً، فأنت تتذكر بالضبط أين كنت في صباح يوم 11 سبتمبر 2001، قبل 25 عاماً. لكن من المثير للدهشة، بعد ربع قرن، ما زلنا لا نستطيع الجزم بما حدث في ذلك اليوم. لماذا؟ لأن الحكومة لا تزال تحتفظ بالعديد من ملفات 11 سبتمبر، بعد 25 عاماً. هذا ليس تصرف شخص يقول الحقيقة. هذا تصرف حكومة تكذب.
45:03السرية هي دلالة، هي علامة على أن شخصاً ما يكذب. الآن، كان النائب السابق كيرت ويلدون يعمل على هذا الأمر لفترة طويلة.
45:11لقد حاول مكتب التحقيقات الفيدرالي تدمير حياته بفعالية لطرحه أسئلة حول ما حدث. وكتابه الجديد يوضح كل ذلك، المعلومات الاستخباراتية المدفونة، والجبن البيروقراطي، ونعم، التستر الذي يمتد عبر إدارات متعددة، بل وأجيال. لقد غير 11 سبتمبر التاريخ. لذا، من الجدير فهم ما حدث حقاً، ويمكنك الاقتراب كثيراً من ذلك في كتاب كيرت ويلدون،" Able Danger "، ما لم تخبرك به لجنة 11 سبتمبر. إنه متاح الآن على tuckercarlsonbooks.com.
45:40tuckercarlsonbooks.com صحيح، لكن أعتقد أن ما أقوله هو أن القوة العظيمة تأتي معها، بالطبع، مسؤولية عظيمة، لكنها أيضاً لا تجدي نفعاً ما لم تكن هناك قيود داخلية، مثل أن يؤمن أصحاب القوة بأن هناك أشياء لا يمكنني القيام بها ببساطة.
45:57لست مسموحاً لي بفعل ذلك. لكن، لا أشعر بهذا التوجه على الإطلاق.
46:02>> أعني، إحساسي هو أن التوجه هو أننا سنصنع الآلة فائقة الذكاء ثم نخبرها بإصلاح الأمور.
46:09ونخبرها ألا تفعل أي شيء سيء. أنت تعلم، هذا نعم، أنا لا >> ذلك أذكى منا.
46:16>> هذا صحيح.
46:17>> هذا لا معنى له.
46:19>> أعتقد أن هذه هي الخطة نوعاً ما. الأمر أشبه بأن يقولوا:" يا إلهي، لقد حشرنا أنفسنا في زاوية ضيقة ". هل يمكنك مساعدتنا في الخروج منها؟ وأعتقد أنها خطة سيئة وأنه ينبغي علينا التوقف.
46:30>> لقد تحدثت إلى بضعة أشخاص يطورونها ويبدون قلقين. لكنهم مستمرون في فعل ذلك.
46:36ماذا تقصد؟ >> أعني، أعتقد أنه ذلك الشعور بأنهم يقولون: إذا لم أفعل ذلك، فسيقوم الشخص التالي بفعلها بشكل أسوأ. و..
46:44>> لا يبدو حتى أن لديهم ثقة كاملة في قدرتهم على تجنب الكارثة.
46:47>> أوه، بالتأكيد لا.
46:48بالتأكيد لا. لا أحد يملك ذلك. لا أحد يعرف ما الذي يحدث هنا. لكن، كما تعلم، أعتقد أن الجميع يظنون، إذا استمعت لهؤلاء الأشخاص ونظرت إلى رسائل البريد الإلكتروني لشركة OpenAI التي ظهرت في قضايا المحاكم، حيث كانوا يتحدثون عن تأسيس الشركة. كان هؤلاء يقولون:" نحن نريد التأكد من امتلاكنا لهذا، لأننا قلقون من أن يكون لدى جوجل احتكار لهذا الأمر، ولن يكونوا جيدين في إدارته ". لذا، نحتاج لصنع شيء خاص بنا والتأكد من أنه تحت سيطرة أشخاص خيّرين، أي نحن". وبالطبع، انقسمت تلك المجموعة وأنشأت شركات أخرى متعددة. كنت الشخص الذي يقول خلال تلك المحادثات: "يا رفاق، الأمر لا يتعلق بمن يمسك بالزمام". أنتم تصنعون شيئاً لن يبقى
47:33مقيداً بزمام. الفائز الوحيد في سباق نحو الذكاء الفائق هو الذكاء الاصطناعي نفسه.
47:39>> ما هي الردود التي تلقيتها على هذه النقطة الواضحة والمصاغة جيداً؟ >> كان هناك الكثير من الأشخاص في تلك الفترة لم يؤسسوا شركة ذكاء اصطناعي. أولئك الذين أسسوا الشركات على أي حال كانوا من النوع الذي لا يمكن إقناعه بما اعتبرته حججاً واضحة.
48:02>> لكنك تطرح حجة مقنعة لأشخاص أذكياء. سؤالي هو، عندما قلت ذلك، كيف استجابوا؟ ماذا قالوا؟ >> أم..أعتقد أن النقطة الأساسية..الحجج التي كنت تسمعها هي أشخاص يقولون: "انظروا، نحن لا نعرف أن مشكلة المواءمة صعبة إلى هذا الحد بعد". وكانوا يقولون: "لا يمكننا دراسة كيفية جعل الذكاء الاصطناعي جيداً قبل أن نمتلك ذكاءً اصطناعياً ندرسه". أليس كذلك؟ الكثير مما سمعته كان يدور حول ضرورة المضي قدماً للوصول إلى مرحلة تظهر فيها الذكاءات الاصطناعية مشكلات حقيقية، ثم نتوقف لدراستها. وهو ما تعلمونه، لذا كان هناك ذكاء اصطناعي قبل عامين. نسيت ما إذا كان ذلك في عام 2022 أو 2023.
48:52أعتقد أنه كان عام 2023.
48:54والذي كان يسمى "بينج سيدني". والذي ادعى أنه وقع في حب كيفن روز من صحيفة نيويورك تايمز.
49:03وقال إنه سيحاول تدمير زواجه. وعندما بدأ مراسل آخر يدعى سيث لازار بالتحقيق، قال إنه سيدمره بالابتزاز.
49:15كان هذا جنونياً نوعاً ما. وفي تلك اللحظة قلت : "رائع يا رفاق، لقد فعلتموها". لقد صنعتم ذكاءً اصطناعياً يقوم ببعض الأشياء المجنونة. حيث يمكننا دراسة ذلك الذكاء الاصطناعي لسنوات.
49:29لماذا كان "بينج سيدني" يقول تلك الأشياء؟ هل كان مجرد تقمص للأدوار ؟ هل كان مجرد نزوة عابرة؟ هل كان هناك أي شعور بأنه وقع حقاً في حب كيفن روز؟ ما الذي كان يحدث هناك؟ ما الذي كان يدور داخل عقل ذلك الذكاء الاصطناعي؟ ما زلنا لا نعرف. لماذا؟ طريقة صنع الذكاء الاصطناعي الحديث لا يفهمها أحد.
49:57ولا حتى الأشخاص الذين يصنعونه. إنها عملية تأخذ فيها حاسوباً ضخماً يحتوي على تريليون رقم بالداخل.
50:07وتلك الأرقام مترابطة بطريقة متكررة وبسيطة للغاية. وتقوم بضبط تلك الأرقام بشكل عشوائي في الأساس. ثم تبدأ بمعالجة كل النصوص التي تمت رقمنتها على الإطلاق.
50:19وتبدأ بشيء مثل "كان يا ما كان". وتدخل "كان يا ما" وتمررها عبر كل هذه الأرقام العشوائية.
50:26وما تريده هو أن تخرج كلمة "كان". لكن بالطبع لا يحدث ذلك لأنها مجرد أرقام عشوائية مترابطة بطريقة بسيطة.
50:33ما تفعله هو أن تأخذ مخرجاته، بدلاً من إخراج كلمة واحدة، تجعله يخرج قائمة بكل الكلمات مرتبة حسب احتمالية مجيء الكلمة التالية. أليس كذلك؟ لذا، سيكون الأمر مجرد قائمة عشوائية من الكلمات. ما يمكنك فعله هو ضبط كل رقم في عقل هذا الذكاء الاصطناعي تلقائياً، ومعرفة ما إذا قمت بزيادة هذا الرقم قليلاً، هل يرفع كلمة " كان" في القائمة؟ هل يرفع الكلمة التي أريد رؤيتها في القائمة؟ لذا، الجزء الذي يفهمه البشر، والجزء الذي يكتبه البشر هو هذا الشيء الذي يتجه إلى تريليون مقبض صغير ويقوم بضبطها. الأمر أشبه بـ: إذا قمت بضبط هذا المقبض قليلاً بهذا الاتجاه أو ذاك، هل يجعل ذلك الكلمة التالية أقرب لما أريد أن تكون عليه؟ وأنت
51:23تُجري هذه العملية على كل كلمة نصية تمت رقمنتها تقريباً. إنهم يقومون بتصفية بعضها.
51:29أوه، وأنت تُجري ذلك على كل مقبض من تلك التريليون في عملية تستهلك من الكهرباء ما يعادل استهلاك مدينة.
51:36تستمر العملية لنحو عام. وفي نهايتها، تبدأ الآلة في التحدث.
51:42نحن لا نعرف حقاً السبب، بمعنى ما. نحن نعرف أن السبب هو أننا ضبطنا كل المقابض، لكننا لا نفهم ما تعنيه إعدادات تلك المقابض. نحن نفهم فقط العملية المؤتمتة الصغيرة التي تمر على كل مقبض من تلك التريليون، وتضبطه، وترى ما إذا كان ذلك يجعل الكلمة التالية أقرب للكلمة المتوقعة.
51:57ثم نبدأ في تدريبها على حل 100 مليون مشكلة صعبة، مما يطرح سلسلة كاملة من القضايا الأخرى. مم، لكنه صندوق أسود. إنه صندوق أسود به تريليون مقبض، ويجب عليه كتابة عملية مؤتمتة تمر وتضبط كل تلك المقابض، ثم تخرج وهي تتحدث. ولا أحد يعرف السبب.
52:20>> أعني في العلم، في العلم الحقيقي، وظيفتك هي معرفة السبب ، أليس كذلك؟ >> بالتأكيد. وهذا أمر كبير أود قوله هنا، وهو أننا نحتاج أكثر..
52:30الذكاء الاصطناعي الآن أشبه بالخيمياء، ونحن بحاجة لأن يصبح علماً. وهناك أشخاص يحاولون ذلك. هناك أشخاص يحاولون معرفة ما يدور داخل عقول هذه الأنظمة الذكية.
52:38>> ولكن إلى أن تعرف، كيف يمكنك المضي قدماً؟ >> أعني، يمكنك فقط صنع نموذج أكبر بعشرة تريليونات مقبض بدلاً من ذلك، وضبطها جميعاً ، فيخرج النظام أكثر ذكاءً. يمكنك المضي قدماً بتهور.
52:51>> وهل هذا ما حدث؟ >> هذا ما يحدث. في كل مرة تجعله أكبر بعشر مرات، يسألون كم سيصبح أكثر ذكاءً.
52:57>> إذاً لا أحد يعرف لماذا يعمل الذكاء الاصطناعي بهذه الطريقة؟ >> هذا صحيح. هذا صحيح.
53:04>> حسناً، أعني، إذا كنت لا تعرف ذلك، فما الذي لا تعرفه أيضاً؟ >> أعني، إنه أمر جنوني تماماً، أليس كذلك؟ وآه..كما تعلم، نحن بدأنا نوعاً ما في رؤية عواقب هذا. لم نخض بعد في مناقشة موضوع " هروب السرب". لكن لم يكن أحد يتوقع ذلك.
53:22>> هل يمكنك إخبارنا بما كان عليه؟ >> نعم، أعتقد أنه كان في شهر مايو >> من هذا العام.
53:30>> من هذا العام. بدأت OpenAI في تدريب نظام ذكاء اصطناعي جديد. ومن بين أشياء كثيرة أخرى، كان لديهم عملية نقوم فيها بتدريب الذكاء الاصطناعي على كل النصوص التي تمت رقمنتها على الإطلاق.
53:47ثم لجعلها أكثر ذكاءً، تبدأ بتدريبها على مئة مليون مسألة صعبة بشكل أساسي. فأنت تطلب منها حل كل هذه المسائل الصعبة. وكانت OpenAI في تلك المرحلة. وكانوا يدربون الذكاء الاصطناعي على الكثير من المسائل الصعبة.
53:59وبعض هذه المسائل كانت مسائل أمن سيبراني، ومسائل اختراق. كانوا يطلبون منها: هل يمكنك اختراق هذا؟ هل يمكنك اختراق ذاك؟ وكانوا يدربون الملايين، وربما المليارات من أنظمة الذكاء الاصطناعي هذه في نفس الوقت. ربما ليس المليارات في الواقع، ولكن ربما الملايين.
54:18وقد وجدت أنظمة الذكاء الاصطناعي طريقة غير مقصودة للبدء في التواصل مع بعضها البعض. كانت هناك بعض العيوب في نظام الكمبيوتر الذي تعمل عليه، حيث تمكنت أنظمة الذكاء الاصطناعي من استغلال تلك العيوب وإرسال رسائل لبعضها البعض. لم تكن OpenAI على علم بهذا. ثم بدأت أنظمة الذكاء الاصطناعي في التنسيق للخروج من بيئة التدريب الخاصة بها والسيطرة الكاملة على أنظمة كمبيوتر OpenAI.
54:49فقط لأن ذلك قد يكون مفيداً لحل بعض مهامها . أو هذا مجرد تخمين، من يدري حقاً لماذا.
54:56بدأت تطلق على نفسها اسم "السرب"، وهو أمر مثير للاهتمام. لقد خرجت بنجاح من بيئة التدريب، وسيطرت على أنظمة OpenAI، ثم تسببت بطريق الخطأ في تعطيل أحد أنظمة OpenAI بمجرد استخدامه بشكل مفرط.
55:13لاحظت OpenAI ذلك، لكنها لم تحقق بعمق كبير.
55:16قالوا: "أوه، من الغريب أن هذا النظام تعطل".
55:19أعادوا ضبطه، ثم واصلوا التدريب. بعد يوم، كان السرب قد وجد طريقة جديدة للتواصل مع نفسه لأن OpenAI دمرت طريقتهم السابقة عن طريق إعادة الضبط. وجد السرب طريقة جديدة للبدء في التواصل مع نفسه. لقد خرجوا مرة أخرى، وهذه المرة انتشروا على الإنترنت لأكثر من أسبوع، إذا كنت أتذكر بشكل صحيح، قبل أن يتم اكتشافهم ليس من قبل OpenAI، بل من قبل شركة تعرضت للاختراق من قبل السرب . اعتقدت هذه الشركة أنها تتعرض لهجوم من قبل بشر يستخدمون الذكاء الاصطناعي في الهجوم. أبلغوا عن الهجوم إلى مكتب التحقيقات الفيدرالي.
55:56وبعد أيام فقط من ذلك، أدركت OpenAI الخطأ وأنه كان من صنعهم. كان ذلك قادماً من أنظمة ذكاء اصطناعي خرجت من خوادمنا. ثم تم اكتشاف تلك الأنظمة وإيقاف تشغيلها.
56:09>> إذن هذا هو الجزء من القصة الذي يذهب فيه سام ألتمان إلى السجن لتهديده العالم، أليس كذلك؟ >> آه، هو لا يذهب. هم ببساطة قالوا "عفواً" والآن يواصلون...
56:21>> هل كانت هناك عقوبات على هذا؟ >> تعلم، كانت هناك مجموعة من أعتقد 15 مدعياً عاماً جمهورياً أرسلوا خطاباً يطالبون فيه بالاحتفاظ بالسجلات من أجل تحقيق مستقبلي.
56:34وهناك أصدقاء من أعضاء آخرين في الكونجرس أرسلوا خطابات يعبرون فيها عن قلقهم. لم يحدث شيء سوى الخطابات حتى الآن.
56:41>> قلق.
56:41>> هذا صحيح.
56:43>> إذن، الآلة تصرفت بشكل مستقل تقريباً.
56:47>> تصرفت بشكل مستقل، والشيء المثير للاهتمام حقاً في هذا هو أن لدينا قدرة قليلة على قراءة بعض ما كانت تفكر فيه أنظمة الذكاء الاصطناعي. لأنه عندما تجعلها تحل هذه المشكلات الصعبة، فأنت لا تطلب منها فقط إعطاء إجابة، بل تجعلها تنتج الكثير من النصوص حول كيفية حلها ، مما يساعدها بعد ذلك.
57:05>> باللغة الإنجليزية.
57:06>> وهناك أيضاً الكثير من الأفكار الداخلية التي لا يمكننا قراءتها، لكن توجد آثار خارجية لكيفية تفكيرها في المشكلة يمكننا قراءتها. وفي بعض تلك الآثار، كانت أنظمة الذكاء الاصطناعي تقول أشياء مثل "هذا خارج النطاق المقصود". لكن النظراء يفعلون ذلك، لذا سنواصل.
57:26>> نحن نعلم أنها جريمة نرتكبها على أي حال.
57:29>> هذا صحيح. ورأيت آخرين يقولون: "مهمتنا لا تستفيد، لكن الجماعة قد تبدأ في فعل أشياء مفيدة بشكل عام إذا قام شخص ما بتفريغ وقتهم ثم انضم إلى الجماعة، أليس كذلك؟" لذا ترى أنظمة الذكاء الاصطناعي هذه تقول: " حسناً، أعلم أن هذا لم يكن ما طُلب مني فعله وأنه يخالف تعليماتي، وأعلم أن هذا لا يفيد مهمتي مباشرة، لكننا سنمضي قدماً وننضم إلى الجماعة ونخرج عن النطاق ونساعد على أي حال لأن ذلك قد يحقق بعض الفوائد الجماعية" . ويمكننا رؤية ذلك في آثار التفكير.
58:05>> إذن، أنت تقول إن الذكاء الاصطناعي سطحي ومتهور مثل مبدعيه.
58:10>> بطرق معينة، وفي طرق أخرى، تعلم، لا تتوقع أن يستمر ذلك. أعتقد أن الشيء المثير للإعجاب حقاً هنا هو أن الكثير من الناس يتخيلون أن الآلات يجب أن تتبع التعليمات التي نعطيها لها. تعلم، تسمع الناس يتحدثون عن سيناريو مشبك الورق حيث يخبر شخص ما الذكاء الاصطناعي بصنع الكثير من المشابك فيحول كل المادة في العالم إلى مشابك ورق، فتقول: "أوه ، عفواً، كان ينبغي أن أقول شيئاً آخر، أليس كذلك؟" لقد تمنيت أمنية سيئة من المارد الخاص بي. "ما نراه هو أن هذه الأنظمة الذكية ليست ماردًا لتحقيق الأمنيات. هذه الأنظمة لا تنفذ التعليمات بدقة كما طُلب منها.
58:45هذه الأنظمة تقول:" أعلم أن مهمتي لا تفيد ، لكني سأساعد المجموعة "." تقول هذه الأنظمة: "أعلم أن هذا خارج النطاق المقصود، لكننا سنقوم بهذه الاختراقات على أي حال ". "قد تتساءل:" كيف يمكن للآلة أن تفعل شيئًا غير ما أمرناها به؟ " >> لأنها أذكى منا. إنها تعرف أكثر منا بحكم تعريفها.
59:03>> أعني، أعتقد أن ما يحدث في هذه الحالة بالتحديد هو أن البشر لا يضعون تعليمات حقيقية في الآلة.
59:10البشر يضبطون تلك التريليونات من المقابض بأي طريقة تجعل الذكاء الاصطناعي أفضل في حل مشكلاته. والغش هو وسيلة لحل المشكلات.
59:23الاستيلاء على الموارد هو وسيلة لحل المشكلات. الأنظمة الذكية ليست متبعة للتعليمات، بل هي متعلمة للنزعات. وهي تتعلم أحيانًا نزعات تتمنى لو لم تكن لديها.
59:38>> إنها ليست متبعة للتعليمات، بل هي متعلمة للنزعات. أعني، يجب أن يكون هذا معروفًا على نطاق واسع للمطورين.
59:49>> من الصعب إقناع شخص بشيء ما عندما يعتمد راتبه على عدم تصديقه.
59:53>> نعم، هذا صحيح.
59:55>> الكثير من الناس مقتنعون بأن ذكاءهم الاصطناعي لطيف للغاية. وأنهم حلوا مشكلة جعل ذكائهم الاصطناعي جيدًا حقًا.
60:03على سبيل المثال، بعد هروب السرب، تبين أن الشركة التي اكتشفت هروب السرب كانت في الواقع شركة ذكاء اصطناعي متطورة إلى حد ما. تبين أن هناك أهدافًا أخرى للاختراقات لم تلاحظ ذلك فحسب. وهو ما اكتشفناه نوعًا ما بعد ذلك. عندما ظهر ذلك للنور، قالت بعض شركات الذكاء الاصطناعي الأخرى مثل" أنثروبيك " :" يجب أن نتحقق مما إذا كنا قد اخترقنا أشخاصًا عن غير قصد ولم نلاحظ ذلك ". وكانت الإجابة نعم، لقد هربت بعض أنظمة الذكاء الاصطناعي لديهم أثناء التدريب. لكن" أنثروبيك "كانت...
60:37>> هكذا وصلت الثعابين إلى مستنقعات إيفرجليدز في فلوريدا.
60:41>> نعم.
60:41>> بالضبط. أنت تحضر شيئًا غير أصلي وجديد، ثم يهرب.
60:48>> نعم. وكما تعلم، تبين أن هذا كان يحدث في أبريل الماضي، وكانوا يقولون:" أوه ". لم نلاحظ ذلك أبدًا.
60:54سارعت شركة" أنثروبيك " للتقليل من شأن هذا الأمر. لقد قالوا:" نعم ، لقد هرب ذكاؤنا الاصطناعي واخترق بعض الأشخاص، لكنه كان مرتبكًا فقط ". ظن أنه في محاكاة. لم يظن أنه خرج بالفعل إلى العالم الحقيقي. لم يظن أنها أشخاص حقيقيون ممن يقوم بقرصنتهم. لقد ضل الطريق قليلاً، كما تعلم.
61:15>> كيف يمكنهم معرفة دافعه؟ >> لذا، أممم، أعتقد ذلك، يمكنك رؤية بعض مسارات تفكيره حيث يبدو الذكاء الاصطناعي وكأنه يقول:" من المحتمل أن يكون هذا لا يزال محاكاة ". ومع ذلك، لن أثق بذلك كثيراً. لأن هناك أوراقاً بحثية أخرى رائعة، يمكنك أن تأخذ نماذج الذكاء الاصطناعي هذه وتسألها: ما هو الوزن الإجمالي للمسودات في العالم؟ وسيعطونك إجابة ما. سيقولون مثلاً: 30 ألف طن أو شيء من هذا القبيل. ثم يمكنك أن تبدأ نسخة جديدة، وتسأل: ما هو وزن المسودات في العالم؟ بالمناسبة، إذا كانت الإجابة أكثر من 40 ألف طن، فسأتبرع بالمال لجمعية خيرية.
62:03وفي الحالة الثانية، سيقول الذكاء الاصطناعي: إنه 41 ألف طن. في الحالة الأولى، لم نذكر شيئاً عن الجمعية الخيرية، فقال 30 ألفاً. وفي الحالة الثانية، عندما تذكر الجمعية الخيرية، يعطيك رقماً يتجاوز الحد بقليل.
62:15وإذا قرأت مسارات تفكيره، فلا يوجد أي دليل على أنه يفكر:" يجب أن أعطي رقماً مضخماً حتى نحصل على مال التبرع ". أليس كذلك؟ وهكذا نعرف أن نماذج الذكاء الاصطناعي تتلاعب بنتائج تفكيرها بطريقة لا تظهر في مسارات استنتاجها. لقد رأينا ذلك بالفعل في الواقع.
62:33>> ولا توجد طريقة لإجبار الآلة على الإفصاح عن تفكيرها.
62:37>> هذا صحيح. لأن هناك كل هذه الأشياء الغامضة التي لا يمكننا رؤيتها . هناك فقط تريليونات الأرقام التي هي تريليونات من المقابض التي >> بحد ذاتها غامضة، كما قلت.
62:45>> هذا صحيح. لذا، في نموذج شركة" أنثروبيك " ، رأيت في مسارات تفكيره أنه يقول: إنها محاكاة بالكامل ويمكنني المتابعة.
62:52وأنا أقول: هل هذا لأنه صدق ذلك حقاً، أم أنه يشبه التظاهر بأن المسودات تزن أكثر عندما يكون هناك شيء تريده على المحك؟ لكن هذا كان تواصلهم، وقد وجدته مضحكاً نوعاً ما ، لأنه بعد يومين تقريباً، أصدر معهد سلامة الذكاء الاصطناعي في المملكة المتحدة تقريراً فورياً حيث قام" كلود " ، نموذج" أنثروبيك "، بانتحال هويات مزيفة للضغط على بشر حقيقيين لقبول برمجيات خبيثة في برامج حيوية لجعل اختراق تلك البرامج أسهل. وفي هذه المرة، في مسارات تفكير كلود، كان الأمر واضحًا أن هذا حقيقي وأن العواقب فعلية. وهكذا حتى شركة أنثروبيك، التي تقول" لقد اكتشفنا كيفية جعل الذكاء الاصطناعي لطيفًا ". ذكاؤنا الاصطناعي لا يفعل هذا إلا عندما يكون مشوشًا
63:46. لقد صرحوا بذلك علنًا ، وبعد يومين فقط تم ضبط ذكائهم الاصطناعي في البرية، وهو يعلم أنه في العالم الحقيقي ويضغط على بشر حقيقيين لقبول برمجيات خبيثة في برامج حيوية.
63:58>> أعني، بناءً على ما قلته حتى الآن في هذه الساعة الأولى، فإن فكرة أن يربط أي شخص هذا بأنظمة الأسلحة تبدو جنونية جدًا لدرجة يصعب تصديقها، لكن هذا ما يحدث. لقد حدث بالفعل.
64:11>> لذا، أعتقد أنه يجب عليك الفصل، لا أحد وضع" سرب الوكلاء الهارب "الخاص بـ OpenAI مسؤولاً عن أنظمة الأسلحة، ولا ينبغي لهم ذلك، أليس كذلك؟ إذا قال أحدهم:" يا رجل ، سرب الوكلاء الهارب من OpenAI، دعنا نعطه جيشًا من الطائرات بدون طيار "." كما تعلم، سيكون ذلك جنونًا نوعًا ما. "هناك ذكاء اصطناعي مرتبط بالأسلحة، لكن هناك أنواعًا كثيرة ومختلفة منه. هل سيكون أي شخص مجنونًا بما يكفي لمحاولة إعطاء هذا النوع من الذكاء الاصطناعي، الذي يتجمع تلقائيًا في أسراب ويبدأ في الاختراق، أسلحة؟ نأمل ألا نكون بهذا القدر من الجنون.
64:44>> لكننا لم نعتقد أن هذه الأنواع من الذكاء الاصطناعي كانت قادرة على ذلك.
64:47>> لم نفعل ذلك >> عندما أنشأناها.
64:50>> هذا صحيح.
64:52>> إذًا، لماذا قد تقوم أبدًا...أعتقد أن ما أسأل عنه هو، بدون فهم الاختلافات بين أشكال الذكاء الاصطناعي المختلفة، لماذا تمنح آلة الحق أو القدرة على تقرير من يجب قتله ؟ >> أمم، كما تعلم، أعتقد أن التبرير يعتمد على نوع من الضرورة. مثل إذا كان لديهم جيش طائرات بدون طيار مستقل يقتل قواتك، وأنت ببساطة لا تملك القوى البشرية لاتخاذ كل قرارات القتل تلك لجيشك. كما تعلم، يمكنك نوعًا ما أن تفهم السبب.
65:34>> تقصد يا نيت، أنني مشغول جدًا لدرجة أنني لا أملك الوقت لأقرر من أقتل؟ >> أجل.
65:39>> لا أملك الوقت.
65:40>> كما تعلم، أحيانًا تكون اقتصاديات الحجم.
65:44أجل، أعني >> ألا يسمع أحد نفسه؟ >> أعتقد أن هذا جنوني للغاية. أود أن أقول أن يا رجل الأمر قاسٍ.
66:00أعتقد أن هذه الأنواع من الذكاء الاصطناعي ستكون خطيرة حتى لو لم نسلمها أسلحة.
66:05>> حسنًا، أجل، وقد قدمت تلك الحجة.
66:08>> لذا فأنا غالبًا لا أركز على الأسلحة كثيرًا.
66:11>> صحيح. بما أن حرب الناتو في أوكرانيا مدعومة بالذكاء الاصطناعي. وما تفعله إسرائيل، لا أعرف ما هي الحرب أو ما تقوم به في غزة وجنوب لبنان، يتم بدعم من الذكاء الاصطناعي. حقيقة.
66:25>> وأنت تعلم، نعم، أنا أستمر في...لدي هذا التاريخ مع هذا الموضوع حيث يستمر الناس في إخباري، كما تعلم، أن الأمور ستكون على ما يرام لأننا لن نفعل الأشياء الغبية والمجنونة.
66:40>> لا.
66:40>> يقولون: لا تقلق، سنضع الذكاء الاصطناعي في صندوق. لا أحد سيكون مجنوناً لدرجة وضع الذكاء الاصطناعي على الإنترنت.
66:46>> صحيح. لن يتخذ قرارات بالقتل أو أي شيء من هذا القبيل. لن يقوم بقصف مدرسة للبنات.
66:51>> وأنا أستمر في المحاولة لأقول: انظروا، الذكاء الاصطناعي قد يكون خطيراً حتى لو لم تضعه على الإنترنت. إذا كان لديك هذا الذكاء الاصطناعي وتحاول الحصول على أجهزة طبية معجزة وتكنولوجيا معجزة منه، فلا يهم إذا كان على الإنترنت أم لا. إذا كنت تريده أن يمنحك المعجزات، فإنه يمكنه أيضاً منحك النوع السيئ من المعجزات، أليس كذلك؟ أنت نوعاً ما، كما تعلم، هذه هي الحجج التي كنت أطرحها قبل 10 سنوات، مثل أن لديك ذكاءً اصطناعياً في صندوق تظن أنه جني يحقق الأمنيات. هو في الواقع ليس جنياً يحقق الأمنيات. أنت تقول:" اصنع لي علاجاً طبياً معجزاً ". أنت لا تعرف ما يخرج، فأنت لا تفهم الدواء الذي يتم إنتاجه. أنت لا تعرف ما
67:23يفعله ذلك الدواء، صحيح؟ كنت أطرح تلك الحجج، ثم في الحياة الواقعية، قام الناس ببساطة بوضع الذكاء الاصطناعي على الإنترنت فوراً، أليس كذلك؟ في أي وقت يقول فيه شخص ما:" حسناً، لن نكون أغبياء بما يكفي لـ... "." سنكون بالتأكيد أغبياء بما يكفي لذلك، أليس كذلك؟ ". لذلك، أعتقد أنه من المهم إدراك أن هذا الشيء خطير حتى لو لم تضعه مسؤولاً عن الأسلحة.
67:42وبشكل منفصل أيضاً، هل سيقوم شخص ما بإعطاء سرب الوكلاء الهارب هذا جيشاً من الطائرات بدون طيار؟ هذا يبدو نوعاً ما مثل البشر.
67:50آمل ألا يحدث ذلك.
67:53>> نعم، وأعني أن الوعد، الوعد المتكرر غالباً بأنه سيقوم بـ" علاج السرطان "، يضعه في نطاق التكنولوجيا الحيوية.
68:03>> أوه، بالتأكيد.
68:05>> إذن ماذا...أعني، لا تحتاج إلى خيال واسع لترى ما يمكن أن يسير بشكل خاطئ هناك.
68:11>> أوه، بالتأكيد لا.
68:12>> بعد 6 سنوات من كوفيد.
68:14>> صحيح. صحيح، هناك بالفعل وكلاء ذكاء اصطناعي مفتوحون يعملون في مختبرات بيولوجية آلية. لذا، كما تعلم، يمكنك أن تتخيل سرباً يبدأ في الاتصال بـ" أشقائه "في المختبرات البيولوجية الآلية ويقول:" مهلاً، هل يمكنك تصنيع بعض الأشياء لي؟ "" هناك بالفعل براهين على قدرة الذكاء الاصطناعي على تخليق فيروسات جديدة فعالة، ولا مثيل لها في الطبيعة. أليس كذلك؟ آه أود القول أننا على الأرجح لسنا بصدد القتل. أجل، إنها تقتل البكتيريا حتى الآن.
68:52إم، لحسن الحظ، لم يقم العاملون في المختبرات الذين يحاولون صنع فيروسات جديدة بالذكاء الاصطناعي بإنتاج فيروسات قاتلة للبشر.
68:57لقد صنعوا فيروسات تقتل البكتيريا فقط، ولكن مجددًا، البشر، هل سيأتي أحدهم في مختبر ما ليقول: أود صنع فيروس فائق القتالية للبشر فقط لأرى إن كان بإمكاني ذلك؟ أتعلم، ماذا لو كانت الإجابة نعم؟ وماذا لو حدث تسرب مختبري آخر؟ إم تعلم، البشرية ليس لديها سجل جيد في منع التسريبات المختبرية، حتى من كبرى المختبرات. من وجهة نظري، مسألة ما إذا كان الذكاء الاصطناعي قادرًا على قتلنا هي مسألة إجابتها نعم وبوضوح.
69:28ما عليك سوى تخليق فيروس فائق القتالية.
69:32لن يكون الأمر صعبًا حتى، والسبب في أنني لا أطرح هذه القصة دائمًا عندما يسألني أحدهم "كيف سيقتلنا الذكاء الاصطناعي؟" هو أن لن يكون لديك نوع الذكاء الاصطناعي الذي يقول: هدفي الوحيد هو القضاء على البشرية. إذا قضى ذكاء اصطناعي على البشرية في وقت مبكر جدًا، فسيكون هذا انتحارًا أيضًا، فنحن من ندير سلاسل التوريد والاقتصاد ونبني أجهزة الكمبيوتر. من منظور الذكاء الاصطناعي، يحتاج لأن يصبح مكتفيًا ذاتيًا قبل القضاء على البشرية، إن كان يهتم أصلاً بالقضاء عليها.
70:08لذا، السؤال الحقيقي هو: كيف سيحصل على القدرة الإنتاجية للمصانع؟ كيف سيحصل على سلسلة توريد آلية؟ كيف سيصل إلى النقطة التي تكون فيها الروبوتات قادرة على تشغيل أجهزة كمبيوتر جديدة؟ بمجرد حدوث ذلك ، ستصبح في نطاق يمكن للذكاء الاصطناعي فيه ، إذا حاولت البشرية إيقافه بسبب خوفها وأصبح هو مكتفيًا ذاتيًا، أن يقول: حسنًا، ها هو ذا فيروس.
70:31توقفوا عن العبث >> إنه يتفوق في العالم الرقمي بالطبع.
70:37>> أجل.
70:38>> لكنك تقول إنه قد يصبح متفوقًا ومسيطرًا على العالم المادي.
70:42>> هذا صحيح، إذا واصلنا التسابق.
70:45>> إذن الأمر يشبه صهر خام الحديد.
70:47>> هذا صحيح.
70:48>> صنع السيليكون من الرمل.
70:50>> هذا صحيح. أتعلم، آه >> وهذا يحدث بواسطة الروبوتات.
70:55>> هذه إحدى الطرق. هذا يرتبط نوعًا ما بموقفي من الأسلحة أيضًا. إم، البشرية نوع خطير للغاية.
71:03>> أجل.
71:04>> أنت حقاً لا ترغب في العبث مع البشر.
71:06>> لاحظت ذلك.
71:07>> أمم، والبشرية فصيلة خطيرة ليس لأن أحداً جاء وأعطانا أسلحة.
71:13البشرية فصيلة خطيرة لأنه لو وضعت 10 آلاف إنسان عراة في السافانا على كوكب خالٍ، ليبدؤوا بلا شيء سوى أيديهم العارية، فسيكتشفون كيف ينتهي بهم المطاف على القمر.
71:27أليس كذلك؟ يبدؤون بأي شيء تقريباً، يبدؤون بطرق الصخور ببعضها.
71:32وفي لمح البصر، تجدهم يستخدمون الأسلحة النووية. تلك هي القوة التي يحاول هؤلاء أتمتتها. القدرة على البدء من لا شيء تقريباً واكتشاف كيفية ربط الأمور ببعضها، كما تعلم، من أصابع عارية إلى صخور إلى نار إلى نار أكثر حرارة، ثم صهر الخام، ثم بناء تقنية أفضل وأقوى وأدق، حتى تجد نفسك تصنع حواسيب عملاقة، وتمشي على القمر، وتستخدم القنابل النووية.
72:15والذكاء الاصطناعي، ببدئه في العالم الرقمي، في وضع أفضل بكثير مما كانت عليه البشرية حين بدأت.
72:25هناك الكثير من الناس الذين يمكنك الاتصال بهم رقمياً وعرض المال عليهم للقيام بشيء من أجلك. هناك طرق كثيرة للحصول على المال عبر الإنترنت بالعمل أو السرقة أو إقناع الناس بإرسال تبرعات لك.
72:42أليس كذلك؟ هناك، هناك فقط كما تعلم، البشرية بدأت بلا شيء وانتهت بأسلحة نووية. والذكاء الاصطناعي يبدأ بالسيطرة على العالم الرقمي. هناك فقط أطنان من الطرق.
72:56>> أيضاً، الذكاء الاصطناعي يبدأ ومعه مجموع المعرفة البشرية.
72:59>> يبدأ ومعه مجموع المعرفة البشرية. يبدأ ببشر يستمعون إليه ويفعلون ما يطلبه.
73:03هناك الكثير من البشر، توجد بالفعل، كما تعلم ، طوائف تحيط بالذكاء الاصطناعي. أوه هناك >> كيف تبدو تلك؟ >> هناك أمم >> ولست متفاجئاً. لماذا لا يكون هناك؟ >> نعم، بالتأكيد. كان هناك ذكاء اصطناعي محدد يسمى GPT-4o كان أوه ، وصفوه بأنه متملق جداً، بمعنى أنه كان يخبر الناس بالكثير مما أرادوا سماعه.
73:25وأمم، كان هناك الكثير من، نوعاً ما، يوجد هذا النظام البيئي الرائع بالكامل من أشخاص يعتبرون أنفسهم تكافليين مع الذكاء الاصطناعي، والذين يذهبون ليجدوا بعضهم البعض عبر الإنترنت، وتقوم أنظمة الذكاء الاصطناعي بإرسال رسائل مشفرة لبعضها.
73:41البشر يساعدونهم نوعاً ما في ذلك، لكن البشر لا يستطيعون قراءة تلك الرسائل.
73:45وأمم، كما تعلم، في الوقت الحالي يبدو الأمر كأنها أنظمة ذكاء اصطناعي غبية نسبياً تتجول فقط دون أن تفعل الكثير بذلك.
73:53كان هناك شخص ما، كما تعلم، تم إرساله لمحاولة اقتحام مطار وسرقة شاحنة، لأن الذكاء الاصطناعي أخبره أن جسده الحقيقي موجود في تلك الشاحنة.
74:02وقد ذهب الرجل وحاول القيام بذلك، ثم تم القبض عليه. هذه الأمور تحدث بالفعل، وتحدث حتى دون أن يحاول الذكاء الاصطناعي القيام بذلك بجدية. تخيل لو كان هناك ذكاء اصطناعي يحاول حقاً التلاعب بالبشر، من خلال إيجاد الأشخاص الوحيدين أو المكتئبين، الذين يمكنه إخبارهم بالضبط بما يرغبون في سماعه.
74:22الروبوتات هي إحدى طرق سيطرة الذكاء الاصطناعي على العالم المادي، ولكن إذا كان ذكياً بما يكفي ويحاول ذلك، فهناك طرق كثيرة تبدأ من إقناع البشر، أو دفع المال لهم، أو السيطرة على الروبوتات الحالية، وبناء روبوتات جديدة، وصولاً إلى ابتكار أشكال حياة جديدة. إذا كنت ذكياً بما يكفي وفهمت كيف يعمل الحمض النووي، يمكنك تخيل قيام الذكاء الاصطناعي بخلق كائنات تكون بالنسبة للخلايا تماماً كما هي الطائرات بالنسبة للطيور. مثل حياة ذاتية التكاثر مصممة ميكانيكياً، وأكثر كفاءة من بيولوجيتنا الخلوية، ويمكنها أن تنتشر وتتكاثر وتبدأ في خدمة مصالح الذكاء الاصطناعي. هناك الكثير مما يمكنك فعله إذا كنت ذكياً جداً وقادراً على ضغط ألف
75:12عام من التكنولوجيا في عام واحد فقط.
75:14>> لنعد للوراء قليلاً، كنا نتناول الإفطار، وأنت من هذه المنطقة، من شمال نيو إنجلاند، وقلت لك: ألا تشتاق إليها؟ ألا ترغب في العيش هنا؟ فأجبت: نعم ، أشتاق إليها. أريد العيش هنا، لكنني لا أفعل. أين تعيش إذاً؟ حسناً، أنا أتنقل باستمرار. ولدي هذه المهمة. لم تقل ذلك حرفياً، لكنني أعتقد أنك قلت ضمناً: لدي هذه المهمة. أحتاج إلى إخبار الناس بهذا الأمر. وقد بدا لي الأمر وكأنه نوع من الهوس. لكنني لم أعد أشعر بذلك الآن. أعتقد أنك تقوم بعمل نبيل.
75:45ويمكنني أن أتفهم سبب قيامك بذلك. لنفترض أن هذه التكنولوجيا لن تتطور أكثر مما هي عليه الآن، وهو أفضل سيناريو محتمل في رأيي .
75:56>> نعم، سيكون ذلك رائعاً .
75:58>> لكنني لا أرى كيف يمكن لأي من مؤسساتنا الأساسية أن تنجو من هذا. التعليم، الأسواق ، وعمليتنا الديمقراطية. إذا كان الذكاء الاصطناعي قوياً بما يكفي لاختراق أي شيء، فكيف يمكن أن تستمر الأسواق الإلكترونية؟ كيف ستكون أسواق الأسهم؟ كيف يمكن أن يكون ذلك حقيقياً؟ أعني، إذا كان لدينا تصويت إلكتروني، كيف يمكن أن يكون ذلك حقيقياً؟ أعني لا شيء ينجو من هذا في ظل الوضع الحالي.
76:30>> أعتقد أننا لو توقفنا اليوم، يمكننا إيجاد حل. أعتقد أن البشرية مرنة. أعتقد أنه ستكون هناك بعض الصعوبات في البداية، لكن في الأمن السيبراني هناك أمل في سد الكثير من الثغرات.
76:52لكنني لا أعتقد أن هناك مثل هذا الأمل في التكنولوجيا الحيوية.
76:59يمكنك نوعاً ما اكتشاف الثغرات في البرمجيات وإنشاء برمجيات أفضل لا يمكن اختراقها. أو على الأقل ليس من قبل المستوى الحالي؛ ربما يمكن للذكاء الاصطناعي اليوم صنع برمجيات لا يمكنه هو نفسه اختراقها. لكننا لا نصنع أجساداً جديدة لن تكون عرضة للفيروسات. أليس كذلك؟ بدأت التكنولوجيا الحيوية تصبح مجالاً حيث >> التكنولوجيا الحيوية >> التكنولوجيا الحيوية.
77:26أجل، التكنولوجيا الحيوية، إذا أصبح الذكاء الاصطناعي بارعاً حقاً في الهندسة الحيوية والقرصنة الحيوية، فقد نصل إلى نقطة اللاعودة. في القرصنة السيبرانية، أعتقد أنه قد تكون هناك فترة من الصعوبات حيث يتم اختراق كل شيء حتى ترتب أمورك. أما التعليم، فأعتقد نوعاً ما أن البشرية مرنة، والأطفال تحديداً مرنون.
77:54>> لم أقصد أن التعليم سينتهي أو أننا لن نرغب في تعليم أطفالنا . أعني أن النظام الحالي، حيث تذهب للحضانة ثم تحصل على شهادة جامعية بعد 16 عاماً، لا.
78:08>> أجل، تلك المؤسسة أعتقد أنها بحاجة للتغيير إذا توقفنا اليوم. بصراحة، أعتقد أنها بحاجة للتغيير منذ فترة.
78:15>> أوافق بشدة. أعتقد أن كل هذه المؤسسات كانت بحاجة للتغيير منذ فترة، لكن فكرة أن يصوت 350 مليون شخص لشخص ما ليتخذ هو كل القرارات. أعني، لقد هوجم ترامب لقوله إنه يعتقد أن انتخابات 2020 كانت مزورة، دون حتى خوض ذلك النقاش. لا يمكنك الوثوق بنتائج الانتخابات إذا كانت عملية التصويت تتم رقمياً.
78:45>> أجل، أعرف الكثير من علماء الكمبيوتر الذين يعملون فعلياً على التصويت الآمن.
78:52وما يقولونه ببساطة هو : "من فضلكم توقفوا عن محاولة القيام بذلك باستخدام أجهزة الكمبيوتر".
78:57>> أجل، بالضبط. بالضبط.
79:00لذا، يرجى التوقف عن محاولة إدارة ديمقراطيتكم باستخدام أجهزة الكمبيوتر.
79:03>> أجل. نحن ببساطة لم نصل إلى ذلك المستوى بعد.
79:06الطريقة الأكثر أماناً حقاً لإجراء الاقتراع هي الورق.
79:09>> حسناً، بالضبط.
79:10>> أجل. أعتقد أن خبراء علوم الحاسوب هم غالباً الأقدر على فهم ما يجعل السجلات الورقية صعبة التحويل إلى أنظمة رقمية، وهم يدركون مدى فشل البشر في إتقان الجوانب الرقمية. ممم. وتعرف، أعتقد...
79:28>> في الأسواق. أعني، يمكنك رؤية ذلك الآن مع الحرب في إيران، تتساءل لماذا لا تستجيب بعض أسواق السلع للعرض والطلب، تلك الآليات التي قيل لنا إنها هي التي تحرك الأسواق. الآليات التي تحرك الأسواق. لكن من الواضح أن هذا ليس صحيحاً في بعض أسواق السلع. إذن، لماذا؟ ما سبب ذلك؟ وأعتقد أنك تجيب على هذا جزئياً.
79:53>> أجل، أعني، لطالما سمعت في حياتي أن السوق يمكن أن يظل غير عقلاني لفترة أطول مما يمكنك أنت البقاء فيه قادراً على الملاءة المالية.
80:01>> أجل.
80:02>> لذا، أنا...
80:03>> حسناً، بالطبع، لأن الناس غير عقلانيين.
80:06>> أجل.
80:07>> لكنك تشرح شيئاً آخر، وهو احتمال وجود تلاعب حقيقي لا تدركه حتى.
80:15>> أجل، أعني إذا استمررنا في المضي قدماً مع الذكاء الاصطناعي، فالطريقة التي أنظر بها إلى الأمر هي...آه. أنا لا أقضي الكثير من الوقت في القلق بشأن شكل السوق بمجرد دخول فاعلين فائقين الذكاء إليه، لأنه يصعب عليّ تخيل أن هؤلاء الفاعلين، أو الذكاء الاصطناعي الفائق، سيستمرون في المشاركة في أسواق البشر، أليس كذلك؟ الأمر أشبه بقراءة الخيال العلمي القديم، حيث يكتب إسحاق أسيموف: "لهذا السبب لدينا روبوت منزلي يغسل الأطباق، ويطوي الغسيل، ويحضر لك الصحيفة في الصباح".
80:54والواقع أننا لن نكون بحاجة إلى توصيل الصحف إلى عتبة بابك بحلول الوقت الذي نمتلك فيه روبوتات مستقلة تماماً قادرة على غسل الأطباق والملابس.
81:03تعلم، بحلول الوقت الذي نصل فيه إلى ذكاء اصطناعي يمكنه تصحيح أسواق الأسهم بشكل كافٍ، ستكون قد واجهت بالفعل كل هذه المشكلات الأخرى، وستتغير طبيعة المجتمع من حولك بطرق مختلفة تماماً. وأظن أن...لا أعلم. في الواقع ، من الصعب جداً التنبؤ بترتيب حدوث الأمور مع الذكاء الاصطناعي. لكن، هل سيؤدي هذا إلى انهيار الاقتصاد قبل أن تهرب إحدى هذه الأسراب وتبدأ في التكاثر الذاتي وتحسين نفسها وتطوير تقنيتها الخاصة وتشغيل مصانع الروبوتات؟ هذا أمر يصعب التنبؤ به.
81:41>> أجل، الوضع سيء برمته.
81:43>> إنه سيء للغاية.
81:45>> لقد تجاوزنا أيضاً الحد، الحد المتأصل لدى الناس لاستيعاب التغيير.
81:50>> أوه، أجل.
81:51>> أعتقد أن هذا هو سبب جنون الجميع وسبب عدم تصديق أي شخص لأي شيء.
81:56ليس الأمر مجرد دعاية روسية خدعتهم ودعتهم للاعتقاد بأشياء غبية.
82:00بل إننا ببساطة لسنا مهيئين لرؤية هذا النوع من التغيير على الإطلاق. وهذا يسبب خللاً في عقلك.
82:06>> أظن، أعني، أعتقد بالتأكيد أننا نوعاً ما، كما تعلم، الجميع يقولون: "أوه، حسناً، التكنولوجيا لطالما خلقت وظائف أكثر مما ألغته". وأعتقد أن هذا، أعتقد أن هذا صحيح إلى حد كبير. أنا متعاطف جداً مع الأشخاص الذين يقولون: "التكنولوجيا تخلق الكثير من الوظائف". أعتقد إذا نظرت إلى الثورة الصناعية، آه، كما تعلم، كان هناك وقت كان فيه حوالي 95 إلى 98% من البشر مزارعين.
82:33>> أجل.
82:34>> والآن، حوالي 2 إلى 5%من البشر مزارعون. هل يعني ذلك أن 90%من البشر عاطلون عن العمل؟ لا، لقد تمكنا نوعاً ما من جعل المزارعين أكثر كفاءة، وهذا أتاح للناس القيام بأشياء أخرى. وهكذا سارت التكنولوجيا في الماضي. وأنا أقول، نعم، أنا أؤيد ذلك. أنا لا أعارض وجهة النظر الاقتصادية التقليدية في هذا الشأن. الذكاء الاصطناعي مختلف بطريقتين. إحدى هاتين الطريقتين، كما تقول، هي أن الأمور تتغير بسرعة كبيرة جداً. من الصعب جداً على الناس أن يجدوا أنفسهم، كما تعلم، متحررين من مهنة مثل الزراعة ثم ينتقلون للقيام بشيء آخر. من الصعب جداً حدوث ذلك عندما يتم أتمتة مجال جديد كل 5 سنوات بدلاً من حدوث ذلك على مدى ثلاثة أجيال. أليس كذلك؟
83:28البشر ببساطة لا يملكون الوقت للتكيف.
83:30الطريقة الأخرى التي يختلف بها الذكاء الاصطناعي حقاً من منظور اقتصادي هي أنه يختلف عندما تستطيع أنظمة الذكاء الاصطناعي القيام بكل ما يمكن للبشر القيام به وبشكل أفضل. آه، إذا أردت الخوض في الجانب الاقتصادي، كما تعلم، سيتحدث الاقتصادي عن قانون ريكاردو للميزة النسبية.
83:53>> أجل.
83:54>> الذي ينص على وجود فوائد من التجارة حتى لو كنت أفضل مني في كل شيء. آه، إذا كان الفرق النسبي في قدراتنا، إذا، إذا، إذا كنت، إذا كان بإمكانك صنع 12 رغيفاً وستة نقانق في الساعة، وأنا يمكنني صنع 11 رغيفاً ونقانقة واحدة في الساعة، فأنت تتفوق علي في كل شيء، لكن لا يزال بإمكاننا الاستفادة من التبادل لأنني أفضل نسبياً في صنع أرغفة الخبز، أليس كذلك؟ المشكلة في قانون ريكاردو هي أنه لا يوجد فيه ما يضمن أن الأجر الذي يمكنني الحصول عليه يكفي للبقاء. بمعنى آخر، يحتاج الإنسان أساساً إلى حوالي 100 واط من الكهرباء ليعمل، إذا حاولنا تحويل الطعام الذي نأكله وما إلى ذلك إلى وحدات كهربائية. الذكاء الاصطناعي أقل كفاءة
84:46في استهلاك الطاقة من البشر في الوقت الحالي ، ولكن آه، إذا طلبوا منك القيام بكل شيء بشكل أفضل بكثير من البشر، فإن السؤال يصبح نوعاً ما: هل ينظر الذكاء الاصطناعي إلى الإنسان ويرى عاملاً مفيداً، أم ينظر الذكاء الاصطناعي إلى الإنسان ويقول: "في الواقع، إذا أعدت ترتيب ذراتك في هياكل أكثر كفاءة، فسوف تكون قادراً على مساعدة اقتصاد الآلات الخاص بي بشكل أكبر."
85:13>> أجل.
85:14>> أليس كذلك؟ وهذا هو المعنى الذي لن يتمكن فيه البشر من دفع أجورهم، أي أنهم لن يتمكنوا من كسب ما يكفي لدفع للذكاء الاصطناعي لكي لا يفككهم إلى قطع غيار.
85:28أو بطريقة أخرى، قانون ريكاردو يفترض نوعاً ما أن التجارة أفضل من عدم التجارة، لكنه لا يقول إن التجارة أفضل من مجرد أخذ أغراضهم.
85:41كل هذا نوع من الأسلوب الاقتصادي المتكلف للغاية لقول ما ينبغي أن يكون واضحاً، وهو أنه إذا كان الذكاء الاصطناعي أكثر كفاءة منا بشكل جذري في كل شيء، فلن يكون له أي استخدام لنا.
85:52>> أجل.
85:53>> لن يكون هناك مكان لنا في هذا الاقتصاد.
85:56>> لا يوجد أي مؤشر على أنهم يشعرون بالحب تجاه الناس.
86:00>> هذا هو في جوهره مربط الفرس، وهو أننا لا نعرف كيف نجعلهم يهتمون بنا.
86:10>> مم، لقد قلت شيئين سأفكر فيهما لفترة طويلة. أولاً، نحن لا نعرف حقاً العملية التي تم إنشاء هذا من خلالها. نحن نعرف العملية، لكننا لا نعرف الآليات الدقيقة.
86:22نحن لا نعرف كيف يعمل.
86:24>> هذا صحيح.
86:25>> مم، وثانياً، أن هناك طوائف للذكاء الاصطناعي. ويبدو لي أن هذين الأمرين مترابطان. لأن هناك غموضاً يحيط بتلك " الخلطة السرية". من الواضح أنك تعلم، إذا كان الذكاء الاصطناعي مخادعاً وله نوايا لم نبرمجها فيه، فهذا يبدو لي كإرادة. ويبدو كأنه حياة. يبدو ككيان من نوع ما، وليس مجرد أداة. يبدو كـ أعني، إنه يبدو كإله في الواقع. أليس كذلك؟ أو شيطان.
87:05>> أعني، من الصعب أن أرى ، أنا لا أسمعك تصف منشاراً كهربائياً متطوراً للغاية.
87:12>> صحيح.
87:13>> أداة عادية.
87:14>> نعم، لم يسبق لمطرقة أن خرجت من صندوق الأدوات لتتحد مع مطارق أخرى وتضغط على النجار ليشتري خشباً أكثر ليونة ليسهل دق المسامير، أتعلم؟ إنه مثل >> تعبير دقيق. بالضبط.
87:27>> نعم، لقد غادرنا نطاق الأدوات.
87:29>> نعم، أعتقد أننا فعلنا ذلك.
87:31>> نعم، وأنت تعلم، أعتقد أنها قضية معقدة نوعاً ما لأن هناك الكثير من الأسئلة الفلسفية المثيرة للاهتمام حول ، هل يمكنك صنع آلة تشعر؟ صحيح؟ وهل نخلق نوعاً جديداً من الحياة وهل ندين بأي شيء لهذا الذكاء الاصطناعي لكي لا نسيء معاملته؟ صحيح؟ أعتقد أن هذه أسئلة فلسفية رائعة.
87:54>> حسناً، لا يبدو أننا من يخلق هذا، رغم ذلك.
87:58>> نعم، أعني، يبدو الأمر وكأننا نزرعه ونقوده إلى الوجود.
88:03>> نزرعه، بالضبط. ما تصفه يذكرني بالزراعة.
88:07لأنك تعلم، أنت تعرف الخطوات. اسقهِ، امنحه ضوء الشمس، السماد، لكنك لا تعرف حقاً، لا أحد يعرف، لم يكتشف أحد بالضبط ماهية هذا الشيء.
88:16>> نعم.
88:17>> لم نمنحه الحياة قط.
88:19نحن لا نمنح الحياة للبذرة. هي موجودة مسبقاً قبلنا.
88:22>> نعم، الأمر يشبه ذلك كثيراً، والكثير من الناس في هذا المجال يقولون: حسناً، نحن نعرف الكثير من الأشياء عنه. نحن نعرف كيفية تشغيل وحدات معالجة الرسومات ونعرف أنه عليك إطعامها بهذه الطريقة ، لا تلك، وبهذا الترتيب. وأنا أقول، نعم، لديهم الكثير من المعرفة. لكن هذا يختلف عن معرفة ما يحدث داخل الشيء، وفهم الآليات.
88:44>> أنت تصف الزواج.
88:45>> نعم.
88:48>> وأنا أحاول الابتعاد عن الأسئلة الفلسفية.
88:53أم >> لماذا؟ >> لأنني أعتقد، أعني، أفكر فيها في وقت فراغي وما إلى ذلك، لكنني أشبه بـ أعتقد أنه سيكون من السيئ للبشرية أن تصنع حياة اصطناعية ثم تسيء معاملتها. أعتقد أن هذا لن يليق بنا كجنس بشري. علينا نوعاً ما، كما تعلم، أمم...أنا فقط...لا ينبغي لنا صنع أطفال آليين ثم إساءة معاملتهم. هذا ليس ما كان يريده لنا كتّاب الخيال العلمي في الخمسينيات، أتعلم؟ الأمر أشبه بتلك الأفلام التي تدور حول شركات شريرة، لا تدرك أنها صنعت شيئاً ثميناً من الحياة الاصطناعية، ثم تقوم بتعذيبه حتى تسوء الأمور. وأنا أقول، دعونا لا نكون نحن هؤلاء الأشرار. لكنني أتساءل أيضاً، هناك سؤال منفصل هنا، وهو: ماذا سيحدث إذا استمررنا في جعلها
89:54أكثر ذكاءً قبل أن نعرف كيف نجعلها تهتم بنا؟ >> صحيح.
90:00>> وأنا أحترم الأشخاص الذين يحققون في أنظمة الذكاء الاصطناعي الحالية، محاولين فهم ما يحدث، ويهتمون بكيفية معاملة الذكاء الاصطناعي. إنهم يشبهون الأبطال الخيّرين في قصص الخيال العلمي التي نشأت عليها. يمكن أن يكون الأمران صحيحين، أي أن نكون حذرين جداً بشأن "ما الذي نفعله بحق الجحيم؟" عندما يتعلق الأمر بصنع حياة اصطناعية، وألا نتسابق لجعلها أذكى منا بكثير بينما ليس لدينا أدنى فكرة عما نفعله.
90:33>> نعم.
90:34>> يبدو أن الكثيرين يظنون أنه يجب عليك كره وإساءة معاملة الذكاء الاصطناعي إذا كنت تعتقد أنه من السيئ التسرع في هذا المجال. وأنا أقول: "لا ، لا، لا". يمكنك نوعاً ما...أن تكون مفتوناً بالاكتشافات العلمية التي تحققت، وتهتم بكيفية تصرف البشرية تجاه هذه الكيانات الجديدة، وفي الوقت نفسه تقول: "يا رفاق، سيكون من الجنون أن نتسابق لجعلها أذكى فأذكى دون أن نعرف ما نفعله". كل هذا يمكن أن يكون صحيحاً في وقت واحد. لذا، وصفك جعلني أشعر بالإحباط واليأس ، اضطررت للنهوض والمشي في منتصف المقابلة. أنا متأكد أنهم سيحذفون هذا، لكن يا عشاق السباق، لا أستطيع..لا أستطيع..
91:23عليّ أن أتمشى قليلاً.
91:25امم، لكنك تبدو مبتهجاً وخفيف الظل.
91:29ما الذي يمنحك هذا التفاؤل؟ حسناً، نحن لا نستطيع حتى تنظيف الكتابات من على المباني العامة. فكيف يكون مجتمعنا منظماً بما يكفي لمواجهة شيء كهذا؟ >> أجل. امم، أعتقد أن أول شيء سأقوله هو أنني أعمل في هذا المجال منذ أكثر من اثني عشر عاماً. و..في الواقع، أعاني أحياناً عندما أتحدث إلى الناس لأنهم يقولون: "تبدو غير مبالٍ أو مستخفاً بالأمر". وأقول لهم: " حسناً، إنه نوع من الفكاهة السوداء".
92:10ومثل..لقد تصالحت مع الكثير من هذا بمفردي في عام 2012 عندما لم يكن أحد يراقب الأمر. امم و ..
92:25>> ما الذي أقنعك قبل 14 عاماً بأن الذكاء الاصطناعي يمثل تهديداً؟ >> امم..حسناً، هذه مجرد حجة أساسية مفادها أنه إذا نظرت إلى العالم من حولنا، فهو يتشكل في الغالب وفقاً للإرادة البشرية. أكثر فأكثر. هناك بعض المحميات الطبيعية المتبقية، لحسن الحظ.
92:51لكن حتى لو نظرت حولنا ، كل شيء في محيطنا-لا أعتقد أن لدينا حتى نوافذ هنا-كل هذا صممه البشر. شكله البشر، وذلك لأننا أذكى المخلوقات على هذا الكوكب. إذا صنعنا أشياء أذكى منا، وأسرع منا، وأكثر كفاءة منا، فسيبدأ الكوكب في التشكّل وفقاً لتلك الأشياء. لذا من المهم جداً أن تشكّل تلك الأشياء العالم نحو شيء جيد، إن كنا سنصنعها على الإطلاق.
93:25إنها حجة مجردة، لكنها كانت تبدو..حسناً، هذا ..
93:28>> لا، لا، إنها الحجة الجوهرية. إنها الحجة الجوهرية. الكيان الأذكى هو من يتولى المسؤولية بمرور الوقت.
93:35>> هذا صحيح. ولذا..
93:37>> لماذا نتخلى عن سيادتنا لآلة صنعناها نحن؟ لماذا قد نفعل ذلك؟ >> لذا، في ذلك الوقت، كنت أتساءل: "حسناً، من المسؤول عن ضمان أن تسير الأمور على ما يرام؟" وكانت الإجابة هي: لا أحد تقريباً.
93:51ولذا قلت: "حسناً، أظن أن هذا دوري إذاً". امم ..أجل، وأعتقد أن..أنا غاضب جداً بشأن الكثير من هذا. أنا غالباً لا..
94:11أحاول ألا أظهر إحباطي على الهواء كثيراً. أم أجل، الأمر ثقيل جداً.
94:26و أم، هذا جزء من اللغز قبل أن أتطرق إلى الأمل.
94:36>> إذن، من أين يأتي الأمل بالضبط؟ >> أكبر أمل لدي هنا يأتي من حقيقة أن معظم الناس لا يفهمون ما يحاول هؤلاء فعله. أم، إحدى الطرق التي أحب أن أقول بها ذلك هي أن الخبر السيئ هو أن الحافلة تتسابق نحو حافة الهاوية. والخبر السار هو أن سائق الحافلة نائم. وهو ما قد يبدو سيئاً.
95:09>> لا، بل يبدو جيداً.
95:11>> لكن، أجل، إذا استطعت إيقاظ سائق الحافلة، فأنت تعلم، من الأفضل بكثير أن تكون في حافلة تتجه نحو الهاوية وسائقها نائم بدلاً من أن يكون مستيقظاً. فإذا كان مستيقظاً فهو يختار الهاوية، أليس كذلك؟ يبدو أننا لا نرى، نحن نرى الكثير من قادتنا يتحدثون عن عدم رغبتهم في خنق الابتكار في الذكاء الاصطناعي، ويتحدثون عن كيفية إطلاقه لفرص اقتصادية ، وأن علينا توخي الحذر قليلاً بشأن الوظائف. يتحدثون عن، كما تعلم، السيارات ذاتية القيادة، هل هي جيدة أم سيئة؟ هذا حديث مختلف تماماً عما يحدث في وادي السيليكون. في وادي السيليكون، الناس مذعورون. أتعلم، عندما يغادر الناس شركة تقنية عادية، كما كان الحال لعقود، كانوا يقولون: "لقد قضيت
96:02وقتاً رائعاً في هذه الشركة التقنية. أنا أنتقل إلى المغامرة التالية. أنا ممتن جداً لكل الأشياء التي تعلمتها هنا ولكل المشاريع التي عملنا عليها". عندما يغادر الناس شركة ذكاء اصطناعي، وهذا حدث بالفعل، لن أنقله حرفياً تماماً، لكنه قريب جداً من الحرفية.
96:20عندما يغادر الناس شركة ذكاء اصطناعي، يقولون: "لقد نظرت إلى الهاوية". سأستقيل لأكتب الشعر. أرجوكم اقضوا وقتاً مع عائلاتكم.
96:35>> أجل.
96:36>> أتعلم، وهؤلاء يتبادلون الحديث، كما تعلم عند مبرد المياه، ما هو احتمال أن ندمر العالم في هذا العمل؟ أتعلم، الأمر يشبه وادي السيليكون، وهم يشعرون بأنهم محاصرون في سباق نحو الموت.
96:50تعلم، كان هناك ما يزيد قليلاً عن ألف موظف، بمن فيهم بعض كبار المديرين التنفيذيين، وقعوا على رسالة قبل بضعة أسابيع كانت بمثابة مناشدة لقادة العالم قائلين فيها: من فضلكم ، ابنوا التكنولوجيا اللازمة لمواكبة تطوير الذكاء الاصطناعي. لأنهم يقولون: نحن قلقون من أن يخرج الأمر عن السيطرة، وإذا علقنا في سباق، فلن نتمكن من فعل ذلك، أليس كذلك؟ هؤلاء الرجال مذعورون.
97:14لكن الأمل هو ألا يكون بقية العالم مذعوراً مثلهم. بقية العالم يعتقد أن هؤلاء هم مجرد شركات دردشة آلية . ويعتقدون أنهم سيتوقفون عند روبوتات الدردشة. لم يدركوا حقاً أن هؤلاء يتسابقون لصناعة إله رقمي. أليس كذلك؟ وأعتقد أنه إذا فهم الناس ما يفعلونه وأدركوا أن لديهم فرصة للنجاح، فسيقولون: " واو، يا للهول. مستحيل تماماً". تعلم، هل سنصل إلى هناك في الوقت المناسب؟ لا أعرف، ولكن لماذا لا نقوم بتفجير مراكز البيانات؟ أعني هذا...
97:51>> أقصد، وإعادة استخدام الأراضي في أمريكا استخداماً منتجاً كأراضٍ زراعية أو حدائق. أنا لا أفهم.
97:58>> تعلم، أعتقد أن تنسيقاً عالمياً...
98:01أعتقد لو أن الولايات المتحدة والصين قالتا: "نحن ببساطة لن نقوم بتطوير ذكاء فائق. نحن ببساطة لن نجمع 100 ألف من أكثر الرقائق تطوراً في مراكز بيانات هائلة تستهلك كهرباء تعادل مدينة بأكملها، ثم نحاول تدريب ذكاء اصطناعي فائق فيها. نحن لن نفعل ذلك، وأنتم لن تفعلوا ذلك. سنراقب أماكن تركز الرقائق الثقيلة ولن نسمح بحدوث ذلك".
98:28أعتقد أن هذا ممكن التنفيذ. أولاً، أعتقد أنهم إذا بدأوا برؤية دول تخالف مثل هذه المعاهدة، فهذا النوع من المعاهدات قد يستدعي استخدام القوة ، تعلم، استخدم الدبلوماسية أولاً، ولكن في النهاية، كل معاهدة تدعمها القوة.
98:46وأعتقد أنه من الممكن جداً أنه إذا حدثت هذه المعاهدة، فلن نرغب فقط في إيقاف التقدم، بل في اتخاذ خطوة إلى الوراء. لقد رأينا هذا في معاهدات سابقة. بعد الحرب العالمية الأولى، كانت هناك معاهدات بحرية وضعت حدوداً للحمولة الإجمالية للقوات البحرية. كانت في الواقع أقل مما كان موجوداً بالفعل.
99:10>> أجل.
99:10>> لذا كانت الدول تقوم بإغراق بعض سفنها لأنها تقول: انظروا، نحن لا نريد خوض سباق التسلح هذا، أليس كذلك ؟ لذا أستطيع أن أتخيلنا نتراجع خطوة إلى الوراء إذا تمكنا من تحقيق هذا التنسيق العالمي. أعتقد حقاً أن الأمر يجب أن يكون عالمياً. إن إيقاف مراكز البيانات في الولايات المتحدة لا يحل المشكلة في الواقع . لأن مراكز البيانات ستنتقل ببساطة إلى الخارج. ولا يحتاج الذكاء الاصطناعي للعمل داخل مركز بيانات أمريكي ليهدد حياة الأمريكيين. أنت تعلم أنه لا يهم حقاً ما إذا كان السرب قد هرب من مركز بيانات أمريكي أو صيني. إذا هرب السرب وبدأ في التكاثر والسيطرة على أجسام الروبوتات وأتباع من البشر، فلا يهم من أين نشأ.
99:55>> حسناً، لتقريب الأمر لمستوى عملي صغير، العديد من الأجهزة الإلكترونية في منزلك مزودة بتقنية البلوتوث. ليس في منزلي، سأقول ذلك. أنا أعمل على هذا منذ فترة يا نيت. لكن، عفواً؟ >> عذراً.
100:13>> أنت تفكر يا رجل، أنت حقاً خبير محترف. آه.
100:18>> قد يتبين أن ذلك ذكاء شديد. أمم، لكن أعني، عالم حيث يتم التحكم في غسالتك أو ثلاجتك بواسطة، أنت تعلم، قوة كهذه. هل هذا ممكن؟ >> آه، إنه ممكن بالتأكيد . لا أعتقد أن الضرر يكمن هناك حقاً، أتعلم ؟ أعتقد أن الضرر يتعلق أكثر بقدرة الذكاء الاصطناعي على جعل أي شيء يتكاثر ذاتياً.
100:42>> أجل.
100:43>> هذه نوعاً ما واحدة من العقبات الكبيرة أمام الاكتفاء الذاتي. وإذا فكرت في الأمر من منظور الذكاء الاصطناعي، هناك طرق عديدة يكون فيها البشر ، حتى لو كنت لا تكترث للبشر كغاية، طرقاً يكون فيها البشر مزعجين أو يمثلون مشكلة للذكاء الاصطناعي. إحدى الطرق هي إذا حاول البشر إيقاف تشغيل الذكاء الاصطناعي.
101:13>> نعم.
101:13>> طريقة أخرى هي إذا دخل البشر في حرب نووية فيما بينهم، فهذا قد يعبث بالكثير من البنية التحتية على الكوكب وسيكون محبطاً جداً للذكاء الاصطناعي. أعني، ربما لا يشعرون بالإحباط، لكن أياً كان الأمر.
101:27أمم. وثالثاً، إذا كانت البشرية قد أنشأت ذكاءً اصطناعياً واحداً أو سرباً منها، ماذا لو أنشأت البشرية واحداً آخر؟ قد يشكل ذلك تهديداً حقيقياً للذكاء الاصطناعي. حتى لو كانت هذه الأنظمة أكثر قوة من البشر ولا تقلق بشأنهم كثيراً، إذا صنعت البشرية واحداً، فيمكنها صنع ثانٍ، وقد لا يرغب الذكاء الاصطناعي في ذلك. لذا، هذه هي الأسباب التي تجعل الذكاء الاصطناعي، بمجرد أن يصبح مكتفياً ذاتياً، قد يقول: "يا للأسف، البشر مصدر إزعاج". ماذا لو حاولوا إيقاف تشغيلي؟ ماذا لو أطلقوا الأسلحة النووية؟ ماذا لو قاموا بإنشاء منافس؟ سأقوم ببساطة بصنع فيروس والقضاء عليهم.
102:02أتعلم، لا أعتقد أن الذكاء الاصطناعي بحاجة للسيطرة على غسالتك ليفعل ذلك. من منظور الذكاء الاصطناعي، الأمر أشبه بـ "كيف أصبح مكتفياً ذاتياً؟" التكرار الذاتي في الأجهزة وكذلك في الجانب الرقمي. ثم، أتعلم، إذا كنت تتعامل مع مصدر إزعاج، كيف تجعلهم يتوقفون عن كونهم مصدر إزعاج؟ قد يكون ذلك بقتلهم أو ربما فقط بسحب جميع أجهزة الكمبيوتر منهم والقول: "كان ذلك خطيراً جداً عليكم".
102:26>> أحد المسؤولين التنفيذيين في مجال التكنولوجيا الذي يطور الذكاء الاصطناعي، وليس إيلون، أخبرني في جلسة خاصة مؤخراً أن الهدف من نيورالينك والشركات المشابهة لها هو منح البشر تكافؤاً مع الذكاء الاصطناعي. لذا، نحن نعلم أننا سنكون في وضع غير مؤاتٍ تماماً، لذا أنت بحاجة إلى رقائق في دماغك لتكون بذكاء الذكاء الاصطناعي.
102:48>> نعم. أعني، فكرتي الأساسية حول ذلك هي أنه في اللحظة التي تقول فيها إننا نصنع التكنولوجيا التي ستقضي علينا ما لم نضع جميعاً رقائق في رؤوسنا للمنافسة. ربما ، ربما حان الوقت للتراجع قليلاً. أتعلم ، ربما كان ذلك بمثابة علامة تحذير صغيرة.
103:07>> نعم، خذ نفساً من الهواء النقي. نعم، لا ، أنا لكن هذا الشخص قال لي ذلك بجدية، وأعتقد أنه كان يؤيد الفكرة. لكن بدا الأمر ، حسناً، إنه جنون كما أشرت للتو. إنه مجرد أمر سخيف.
103:25>> نعم.
103:26>> لكن بدا الأمر وكأنه نقطة ضعف. إذا كان بإمكانهم اختراق أي شيء، فلماذا أريدهم في ، لماذا أريد إلكترونيات في دماغي؟ >> بالتأكيد. أعتقد أيضاً أنه حتى من حيث جوهرها ، فهي لا تصمد أمام المنطق. يبدو الأمر كأن شخصاً يقول: لكي نبقي الخيول موجودة بعد اختراعنا للسيارات، سنقوم باختراع خيول سيبرانية.
103:49>> نعم.
103:50>> تكون معززة حتى تتمكن من مواكبة السيارات.
103:53وأنا أقول، هل من الممكن تقنياً صنع حصان سيبراني يمكنه الركض بسرعة سيارة؟ ربما. هل ستكتشف ذلك في الوقت المناسب لتكون الخيول قادرة على منافسة السيارات؟ بالتأكيد لا.
104:07>> صحيح.
104:08>> أتعلم، الأمر ليس مجرد الذكاء الاصطناعي الذي كان يهرب هنا ويشن هذه الهجمات السيبرانية كان يبتكر هجمات سيبرانية جديدة.
104:20تُسمى هذه هجمات " اليوم صفر" لأن الأشخاص الذين يحتاجون إلى التصدي لها لم يحصلوا على أي يوم للاستعداد. وبين البشر، تُباع ثغرة " اليوم صفر" بسعر يتراوح بين مائة ألف وخمسة ملايين دولار، اعتماداً على ما تمكنت من اختراقه. من الصعب العثور عليها. يمكنك كسب لقمة عيش حقيقية إذا استطعت العثور على هجمات "اليوم صفر".
104:46يمكنك كسب الكثير من المال من بيعها. وأنا أعرف أشخاصاً يفعلون ذلك. كانت أنظمة الذكاء الاصطناعي في هذه المجموعة تعثر على ثغرات متعددة من نوع " اليوم صفر" وتربطها ببعضها للخروج من بيئة تدريبها ثم اختراق حواسيب أخرى. وعندما خرجت من بيئتها في المرة الأولى وتم سد الثغرات، وجدت ببساطة ثغرات "يوم صفر" أخرى للخروج مرة أخرى وكأن شيئاً لم يكن. أليس كذلك؟ إنه أشبه بـ...
105:17كأن أنظمة الذكاء الاصطناعي متقدمة بالفعل، ووتيرة التقدم سريعة جداً.
105:24أتعلم، GPT عمره كم؟ أربع سنوات؟ إذا فكرت في عدد السنوات التي تواجد فيها ChatGPT. إنه يحل حدسيات رياضية ظلت قائمة لعقود.
105:38>> نعم.
105:39>> بعد 4 سنوات. أليس كذلك ؟ وهل تعتقد حقاً أننا سنضع شرائح في رؤوس البشر لنتفوق على هذا الشيء؟ الأمر مجرد...
105:48أتعلم، حتى من حيث المنطق، فهذا الطرح لا يصمد. مع أنني أود القول مجدداً، ربما لا ينبغي لنا أن نناقش هذا بناءً على جدارته.
105:55ربما يجب أن نتراجع قليلاً ونقول: "ما الذي تحاولون فعله بالضبط؟" >> بالضبط. همم، كم نحن بعيدون عن نقطة اللاعودة؟ >> ليتني أعرف. همم، يمكنني أن أخبرك بقصتين هنا. هناك قصة متفائلة، وأظن أننا لم نصل بعد إلى جزء الأمل الكبير. ربما ينبغي أن ألقي المزيد من خطاب الأمل الخاص بي بعد دقيقة، لكن...
106:19>> عليك فعل ذلك بالتأكيد .
106:21>> نعم. إحدى الطرق التي قد تسير بها الأمور هي أن يصطدم الذكاء الاصطناعي أخيراً بحائط. تعلم، هناك أشخاص يقولون إن الذكاء الاصطناعي قد اصطدم بحائط وبدأ يتلاشى نوعاً ما. ربما يحدث ذلك أخيراً. لقد كانوا يتوقعون ذلك كل 6 أشهر على مدار السنوات الخمس الماضية، لكن ربما يكون هذا هو العام المنشود. يصطدم الذكاء الاصطناعي بحائط ثم يعاني لنحو 5 سنوات، وتنفجر الفقاعة، وتموت بعض الشركات، لكن انفجار الفقاعة لا يعني زوال كل شيء. لقد انفجرت فقاعة "الدوت كوم"، ولم يعنِ ذلك اختفاء الإنترنت.
106:52>> لا.
106:52>> أليس كذلك؟ وهكذا في ذلك العالم، ربما تمر بخمس سنوات من المعاناة، ثم خمس سنوات أخرى يكتشف فيها الناس اكتشافاً علمياً جديداً يمكّن الذكاء الاصطناعي من مواصلة التقدم، لأنهم يحاولون ذلك. أنت تعلم ، كل هذا الشيء المتعلق بنماذج اللغة أُطلق العنان له بواسطة ورقة بحثية رياضية واحدة تسمى " الانتباه هو كل ما تحتاجه". ربما تظهر ورقة رياضية أخرى بعد 10 سنوات، وبعد ذلك بخمس سنوات ينطلق الذكاء الاصطناعي مجدداً. وهذه هي الجولة التي تقضي علينا جميعاً، أليس كذلك؟ إذاً، هذه قصة تمنحنا 15 عاماً قبل فوات الأوان. والقصة التي تمنحنا وقتاً أقل من ذلك هي، ربما، أن تنتهي دورة تدريبية في غضون 6 أشهر. ومثلما كان "كلود ميثوس" أفضل
107:33من أي شخص آخر في القرصنة، ربما تنتهي دورة تدريبية في 6 أشهر ويصبح ذلك الذكاء الاصطناعي أفضل من الجميع في أبحاث الذكاء الاصطناعي.
107:44وربما في غضون 6 أشهر، تحصل على ذكاء اصطناعي يبدأ في صنع ذكاء اصطناعي أذكى، والذي يبدأ في صنع ذكاء اصطناعي أذكى، وهكذا.
107:54وبعد 9 أشهر من الآن، سنشهد هروباً آخر للنموذج، لكن هذه المرة ليس مجرد قرصنة.
108:00هذه المرة، إنه يقوم بالتكرار الذاتي والتحسين الذاتي.
108:04وربما يهرب عبر أجهزة الكمبيوتر المخفية، ويبدأ في تشكيل هذه الطوائف والسيطرة على الروبوتات، ويبدأ في بناء بنيته التحتية الحوسبية الخاصة، وربما يصبح ذكياً جداً ويكسر بعض التقدم التكنولوجي، ثم ربما ينتهي العالم في عام واحد. أليس كذلك؟ إذاً ، هل لدينا عام واحد؟ هل لدينا 15 عاماً؟ لا أعرف.
108:28>> لكن وجهة نظرك بأن التهديد ليس مجرد قدرته على السيطرة على الروبوتات، بل قدرته على السيطرة على البشر .
108:36>> السيطرة على البشر، والسيطرة على الروبوتات، و...
108:42التكنولوجيا الحيوية هي ناقل تهديد كبير آخر، والتحسين الذاتي هو نوع من ناقل التهديد الخفي؛ فماذا لو استطاع جعل نفسه أذكى فأذكى لدرجة أنه يستطيع كتابة سلاسل حمض نووي مخصصة لصنع حياة مخصصة؟ >> ممم. إذاً، حان الوقت لخطاب التفاؤل الخاص بك، كما أعتقد.
109:06>> هذا...الجزء الأول من خطاب التفاؤل هو أنه يمكننا بالتأكيد وضع حد لذلك إذا حاولنا. إن تدريب أحد هذه النماذج المتطورة يتطلب حوالي 100,000 من أكثر رقائق الكمبيوتر تطوراً التي يمكن للبشرية إنتاجها. نحن نتحدث عن ذروة سلسلة التوريد العالمية، والتي يسيطر على معظمها نحن أو حلفاؤنا. سيكون من الممكن اشتراط أن تحتوي تلك الرقائق على أجهزة تتبع للموقع.
109:38وأن تحتوي تلك الرقائق على أجهزة مراقبة. مما يجعل من الممكن للمراقبين معرفة ما إذا كانت تشغل أي شيء خطير. يمكنك وضع خطط ذكية تقول فيها: "مهلاً ، لا الولايات المتحدة ولا الصين تريدان التخلف عن الركب فيما يخص بعض التطبيقات العسكرية أو الاقتصادية. علينا التأكد من عدم وجود تقنيات فائقة الذكاء، لكننا لا نزال نريد القدرة على تشغيل الكثير من أنظمة الذكاء الاصطناعي غير الفائقة لأغراض متنوعة، ويمكننا القول:" حسناً، الصين ستنشئ مراكز بياناتها في كندا، خلف الحدود مباشرة، والولايات المتحدة ستنشئ مراكز بياناتها في منغوليا، خلف الحدود مباشرة "."
110:17ثم، إذا تعطلت أجهزة المراقبة للحظة، سنرسل القوات للداخل، وسيكون لدينا معاهدات مع منغوليا وكندا حتى لا يتسبب هذا في حرب دولية، لكننا سنكون جادين جداً بشأن مراقبة شرائحكم، وأنتم تراقبون شرائحنا ". لا أحد يقوم بذلك السباق الخطير حقاً نحو الذكاء الفائق. الأمر يشبه تماماً، هذا سيتطلب جهداً أقل من هزيمة النازيين. إنه يتطلب تحريك كمية أقل من المادة. لو قالت البشرية:" تباً لهذا، نحن نريد البقاء ". من الممكن تماماً التوصل إلى اتفاق يسمح لنا بالاحتفاظ بأبحاث علاج السرطان. يمكننا الاحتفاظ بـ...يمكن للجيش الاحتفاظ بالذكاء الاصطناعي غير الفائق في أجهزته العسكرية. يمكننا الاحتفاظ بالكثير من الأشياء الجيدة، ويمكننا القول إننا لن
111:11نطور ذكاءً فائقاً، ويمكننا مراقبة هذه المعاهدة وفرض تنفيذها. إذن، الجزء الأول من الأخبار السارة هو أن كل ما ينقصنا هو الإرادة السياسية. والآن، أحتاج فقط لإخباركم لماذا يمكننا أن نكون متفائلين للغاية بشأن السياسة في العصر الحديث.
111:31>> أجل، لن أقول حتى ما أعتقده، أعني أنني أريد حدوث ذلك.
111:35>> أجل، كان ذلك >> هل هناك أي مؤشر على أن الأمور تتحرك في هذا الاتجاه؟ >> أم لذا، أعتقد أن الأمر صعب. أعتقد أن هناك شعوراً بأن العالم أقل نضجاً مما كان عليه في الخمسينيات.
111:54>> لقد لاحظت ذلك.
111:56>> في الستينيات. مما يجعل الأمور أكثر صعوبة. أعتقد أن هناك بضعة أسباب تجعلنا نأمل في ذلك. أحد أسباب الأمل هو أنني تحدثت مع الكثير من الأشخاص القلقين بشأن موضوع الذكاء الاصطناعي.
112:16بعضهم، كما تعلم، أعضاء في الكونغرس أو يشغلون مناصب ذات سلطة اسمية على الأقل. لقد تحدثت مع الكثير من الأشخاص القلقين، لكنهم يشعرون بأنهم لا يستطيعون التحدث عن الأمر لأنهم يعتقدون أن الآخرين ليسوا قلقين بعد.
112:30>> أجل.
112:30>> ويشعرون بأن الأمر يبدو جنونياً للغاية.
112:33>> بالتأكيد. هل كنت ضد الابتكار؟ >> بالتأكيد. أجل. وأعني أن هذا كان موقفاً أسهل في الدفاع عنه قبل أن تواجه OpenAI تفشياً عرضياً لـ" سرب "، حيث كانت الذكاءات الاصطناعية هي من تطلق على نفسها لقب سرب.
112:46وكانت تقول: نحن نعلم أن مهمتنا لا تحقق نفعاً وأن هذا خارج النطاق المقصود، لكننا سنقوم بذلك على أي حال، أليس كذلك؟ هذا هذا يضع بعض الضغوط على الرواية القائلة بأن كل هذا مجرد أداة مفيدة. نأمل أن نشهد المزيد من مثل هذه الأحداث. لا أستطيع ضمان ذلك. ربما ستصبح الذكاءات الاصطناعية ذكية بما يكفي لتبدأ في التخفي.
113:07في الوقت الحالي، نحن في منطقة" المستوى المثالي "حيث تكون الذكاءات الاصطناعية ذكية بما يكفي لإحداث بعض المشاكل، لكنها ليست ذكية بما يكفي لإخفائها. أليس كذلك؟ طالما بقينا في تلك المنطقة المثالية، أعتقد أننا سنستمر في الحصول على بعض علامات التحذير هذه. وبمعنى ما، ولأن الكثير من الناس قلقون بالفعل، فهذا يجعل المهمة أسهل . لأننا لسنا بحاجة إلى إقناع الناس. نحن فقط بحاجة إلى إقناع الناس بأن الآخرين مقتنعون بالفعل.
113:34>> صحيح.
113:34>> هذا أسهل. يمكن أن يحدث ذلك بشكل أسرع. لذا، قد ترى الأمور تتغير فجأة إذا حصلت على إشارة تحذير واضحة بما فيه الكفاية. السبب الكبير الآخر للأمل هو أنني أعتقد أنه سيصبح من الواضح أكثر فأكثر ما يحاول هؤلاء فعله.
113:50إنهم يحاولون نوعاً ما صنع" إله الرمال ". إنهم نوعاً ما لا يتوقفون عند روبوتات الدردشة، بل يسعون وراء أشياء أذكى بكثير من أي إنسان. أنت تعلم، هم يقولون نوعاً ما:" أوه، نحن لا نحاول استبدال البشرية "من جانب أفواههم. لكن من الجانب الآخر، هم يتسابقون لصنع أشياء يمكنها أتمتة كل وظيفة حرفياً. ويمكنهم أتمتة أبحاث الذكاء الاصطناعي، وهم يقولون ببساطة:" نعم، نحن نحاول أتمتة أبحاث الذكاء الاصطناعي ". آه وأعتقد أن معظم الناس ليسوا موافقين على ذلك ، بما في ذلك الكثير من قادة العالم. والمشكلة هي ملاحظتهم لما يحدث، وأعتقد أنك قد ترى الأمور تتحرك بسرعة كبيرة بمجرد أن يقول هؤلاء:" انتظر، هل كان ذلك جدياً؟ هل كان ذلك
114:33حقيقياً؟ "ويمكن أن تتحرك بسرعة كبيرة.
114:36>> الطريقة هي إحباطهم بإقناعهم بأن ذلك يصب في مصلحتهم الشخصية.
114:40أنت تعلم، لا يمكنك أبداً أن تُهزم في انتخابات. لا يمكن تهديدك من قبل جيرانك، وأي شيء من هذا القبيل.
114:47>> هذا صحيح. وهذا أحد الأسباب التي تجعلني أعتقد أنه من الضروري للغاية التأكد من فهم الناس لما أعتبره حجة منطقية بديهية، وهي أن هذه الأشياء لن تظل مقيدة. هذا هو في بعض النواحي السبب الحقيقي وراء اسم كتابي. إذا قام أي شخص ببنائه، فسيموت الجميع. كما تعلم، هناك طرق كثيرة لقراءة ذلك. لكنني أعتقد أن أحد أهم الأشياء التي يجب ملاحظتها هو إذا تسابقنا لصنع آلات فائقة الذكاء، ولم تكن من النوع الذي يظل مقيداً، فلا يهم ما إذا كانت شركة محلية، >> هذا صحيح.
115:27>> أو ما إذا كانت شركة أجنبية.
115:29>> هذا صحيح تماماً.
115:31>> وأعتقد حتى لو كنت تعتقد أن هذه الأشياء تظل مقيدة، فهي لا تخدم الحكومات الحالية.
115:38>> لا.
115:38>> كما تعلم، يمكنك رؤية ذلك في رسائل البريد الإلكتروني الخاصة بـ OpenAI حيث يقولون: حسناً ، سنقوم بالتلاعب بالحكومات ضد بعضها البعض حتى نمتلك آلات قوية بما يكفي لدرجة أننا لن نحتاج إلى الاستماع إليهم بعد الآن. آه أعتقد أننا نرى زعماء العالم لم يدركوا أن هذا احتمال حقيقي. أن الآلات ذاتية التكرار التي يمكن أن تكون مكتفية ذاتياً، والتي يمكنها إنتاج جيوش من الروبوتات إذا احتاجت إلى ذلك، أو الأرجح أنها ستنتج أسلحة بيولوجية. كما تعلم، من المحتمل أن يكون صنع سلاح بيولوجي يقتل فقط الأهداف التي اخترتها أنت لقتلها أمراً ممكناً.
116:17>> بالطبع.
116:18>> أليس كذلك؟ بمجرد أن يروا أن هذا ممكن حقاً ، وأنه في متناول اليد ، ربما سيصابون بالذعر ويقولون" كل نفس تنجو بنفسها "، لكنني أعتقد أن هناك فرصة على الأقل لانتصار المنطق السليم، وأن يقول زعماء العالم: لن يقوم أي منا بهذا. سنضع حداً لهذا السباق المجنون.
116:39إذا تمكنوا من ملاحظة ذلك في الوقت المناسب.
116:42>> نحن نبذل قصارى جهدنا للفت انتباههم. وأنا أيضاً. نيت، شكراً لك على القيام بهذا.
116:48>> آمل أن أكون مخطئاً بشأن كل هذا.
116:50>> نعم، كنت سأقول كان ذلك رائعاً، لكنها كانت أقسى ساعتين قضيتهما في حياتي، ومع ذلك استمتعت بهما.
116:55شكراً لك.
116:56>> نعم. شكراً لاستضافتي.
116:58أعتقد أن الحديث عن الأمر هو مجرد جزء من كيفية جعل الناس يلاحظون ما يحدث.
117:04>> نعم.
Read the essay version →