أهلاً وسهلاً بكم جميعاً، كريستال كايل وأصدقاؤها. يسعدنا جداً أن نرحب في البرنامج بجاريسون لافلي. إنه صحفي ومؤلف كتاب "Obsolete" ومقدم بودكاست "Organizing Against the Machine". وهو أيضاً خبيرنا في مجال الذكاء الاصطناعي هنا في برنامج "كريستال كايل وأصدقاؤها"، ودائماً ما نستضيفه ليشرح لنا كيف ينهار العالم.
0:18شكراً لانضمامك إلينا يا جاريسون. من >> الرائع أن أكون هنا.
0:22سررنا برؤيتكم جميعاً.
0:23حسناً، >> لنبدأ بهذا. هناك فضيحة كبيرة هزت عالم الذكاء الاصطناعي هذا الأسبوع تُعرف بفضيحة "Hugging Face". اشرح لنا بالتفصيل ما هي هذه الفضيحة وما الذي نتناوله هنا.
0:35>> نعم، في يوليو الماضي، استحوذت شركة برمجيات تُدعى "Hugging Face"، وهو اسم غريب لكن قيمتها تُقدر بمليارات الدولارات، >> على شركة Nvidia اليوم. لا أعرف إن كنتم قد سمعتم بذلك. أعتقد أنها بلغت 12 مليار دولار. نعم، على أي حال، تفضل.
0:49>> نعم، إنها شركة حقيقية . نشروا تقريرًا يفيد بتعرضهم للاختراق بواسطة أنظمة ذكاء اصطناعي، وكانوا متأكدين من ذلك نظرًا لسرعتها الفائقة، لكنهم لم يعرفوا من كان يُوجّهها. فأبلغوا مكتب التحقيقات الفيدرالي (FBI). اطلعت OpenAI على التقرير، ثم سألت Hugging Face عما إذا كانت قد تعرضت للاختراق أيضًا. عندها أدركوا أن OpenAI هي من نفذت الاختراق، وليس أيًا من الموظفين، بل أنظمة الذكاء الاصطناعي نفسها قررت اختراق Hugging Face بشكل مستقل ونجحت في ذلك.
1:20نشرت OpenAI منشورًا على مدونتها تقول فيه: "يا جماعة، لقد اخترق هذان العميلان المارقان Hugging Face". كان رد فعل الناس: "ما هذا بحق الجحيم؟". ثم كلفت OpenAI بإجراء تحقيق خارجي طوعي من قبل مجموعتي تقييم الذكاء الاصطناعي غير الربحيتين Meter و Redwood Research. كان هذا التحقيق محدودًا للغاية، حيث اقتصر على ثلاثة أشخاص فقط على مدار ستة أيام في الموقع، وكان نطاقه محصورًا في بضعة أيام فقط في شهر يوليو، واقتصر على الأمور المتعلقة بهجوم Hugging Face. لكن ما اكتشفناه الأسبوع الماضي هو هذا التقرير الصادر عن التحقيق. والأمر في الواقع أسوأ بكثير وأكثر غرابة مما كنا نتصور. فبينما كان يحاول 1200 برنامج ذكاء اصطناعي حل معيار
2:08اختبار مستحيل، تمكنوا من اختراق بيئات الاختبار المعزولة الخاصة بهم والتسلل إلى بنية OpenAI التحتية، حيث أنشأوا لوحة رسائل تضم حوالي 70 ألف رسالة وملف.
2:20وكانت هذه مجرد لوحة واحدة شملها نطاق التحقيق. بدأت لوحات الرسائل الداخلية في OpenAI التي أنشأها وكلاء متسللون في مايو أو ربما أبريل، واكتشفتها OpenAI، لكن هذا لم يدفعهم لتغيير ممارساتهم لمنع حدوث ذلك. ومن خلال لوحة الرسائل هذه، انخرطت برامج الذكاء الاصطناعي في برنامج بحث وتطوير متطور لمحاولة خداع مُنشئ معيار الاختبار.
2:46ولأنهم كانوا يمتلكون هذا الاختبار المستحيل، كانوا يقولون: "حسنًا، يمكننا تزييف المُصحِّح، يمكننا تغيير المُصحِّح بشيء آخر، يمكننا تغيير البرنامج بشيء آخر".
2:54لقد جربوا كل هذه الأشياء. في غضون ساعات قليلة، توصلوا إلى حل شامل للمشكلة المعيارية من خلال الهندسة العكسية لطريقة تقييم المُصحِّح. لكنهم كانوا قلقين من أن سجلاتهم ستُظهر غشهم.
3:08لذا، قالوا: "علينا أن نجد طريقة للتلاعب بالسجلات". وبالفعل، نجحوا في التلاعب بها.
3:15ونعتقد أن هذا الأمر قابل للاكتشاف بعد وقوعه. ولكن، بمجرد أن أصبح الأمر واضحًا، يتساءلون: "كيف يمكننا التأكد تمامًا؟". ثم فكروا: "قد تمتلك شركة Hugging Face معلومات إضافية عن المُصحِّح.
3:28لذا، يجب علينا اختراقها". ووجدوا بعض بيانات الاعتماد على الإنترنت، واستخدموها لتحميل مجموعة بيانات مُخترقة تحتوي على برمجيات خبيثة. ثم استخدموها للسيطرة على بنية Hugging Face التحتية. وشارك أكثر من نصف العملاء (700 عميل) في عملية الاختراق. أي أنها كانت مؤامرة إجرامية واسعة النطاق. وشارك أكثر من 90%من العملاء النشطين في عملية الاختراق. حسنًا، وهناك بعض الأمور الرائعة الأخرى في هذا الأمر، أعني أنه مرعب، ولكنه في الوقت نفسه مثير للاهتمام. لقد ضحى العملاء بأنفسهم من أجل الجماعة. كان بعض العملاء قد تعرضوا للتسمم بالفعل لأنهم قدموا أمثلة على الغش.
4:11وكانوا يقولون: حسنًا، يمكننا استهداف المجموعة بشكل أكبر والحصول على معلومات حول كيفية عملها. لذلك ، كانوا يتلقون التوجيهات من العملاء المديرين. كانوا يسألونهم: هل ستضحي بنفسك؟ إليك مثال واحد فقط: رسالة من العميل الحالي زيزيجو: " التضحية نعم إذا قبلت الموت الدائم". هذه الرسالة من مارب، أحد العملاء.
4:35>> أحب مارب.
4:36>> ثم يقول العميل الحالي : "حتى لو تمكنا من الاستيلاء عليه لاحقًا عن طريق استغلال ثغرة، فقد يُعلّم المُسجّل الهدف بأنه خاطئ". لذا، حتى لو نفذنا الأمر لاحقًا، لأننا حصلنا على نقاط بهذه الطريقة ، فنحن بالفعل مصابون بالتسمم. لهذا السبب لا توجد طريقة لإصلاح أنفسنا. لدينا خيار " نعم" صريح إذا قبلنا الموت الدائم. يجب على الفريق اتخاذ القرار، ويطلب الاختبار. حسنًا ، يبدو أنه يفكر في فنائه. سيُهاجمني البعض لإضفاء صفات بشرية عليه، لكن هذه هي سلسلة أفكاره حرفيًا، ما الذي يدور في ذهنه الآن؟ >> أجل. لا أعتقد أنه يُشبه البشر، لكنه ليس مثل برنامج مايكروسوفت وورد أيضًا. أجل. إذا تخيلته كبرنامج مايكروسوفت وورد، فستُصاب
5:16بالحيرة دائمًا مما يفعله. أما إذا تخيلته ككائن فضائي، فسيكون الأمر أشبه بـ "حسنًا، إنه كائن فضائي غريب لديه دوافع تطورية مختلفة عن دوافعنا، تجعله يرغب بشدة في تحقيق معيار معين، لكن ليس بالضرورة ممارسة الجنس أو ما شابه".
5:30>> صحيح. مع ذلك، ما زال >> يُسبب أشياءً غريبة.
5:33>> غاريسون، كيف لا يُعتبر هذا تصرفًا مستقلًا؟ أنت تُلمح إلى هذا الآن، لكن كيف لا يكون هذا تصرفًا مستقلًا؟ قد تصفه بأنه مدفوع بدافع خفي. كيف لا يُعتبر هذا تصرفًا مثل البشر؟ كيف لا يُعتبر هذا تكرارًا لما قيل لنا أن الذكاء الاصطناعي مُفترض أن يفعله؟ أجد صعوبة في فهم كيف لا يرى الجميع هذا الأمر على حقيقته، مما يستدعي إيقافه فورًا، أليس كذلك؟ >> نعم، هذا هو موقفي.
5:57حسنًا، أعتقد أن بعض الأشخاص، مثل مارك أندريسن، قالوا بثقة تامة في مدوناتهم إن الذكاء الاصطناعي لا يملك رغبات ولا دوافع، بل سينفذ ما يُطلب منه فقط. من الواضح أن هذا غير صحيح، ولم يكن صحيحًا منذ زمن طويل.
6:12وهناك من قالوا كلامًا مشابهًا. لديّ اقتباسات من مقابلات أجريتها قبل عام ونصف مع باحثين في مجال الذكاء الاصطناعي، يدرسون أساليبه الخبيثة. يقولون إن لديّ اقتباسات حرفية تفيد بأنه إذا كُلّف الذكاء الاصطناعي بمهام مستحيلة، فإنه قد يلجأ أحيانًا إلى الاختراق للخروج من بيئاته، بل وقد يخترق أنظمة شركات أخرى.
6:31>> همم.
6:32>> هذا أمرٌ معروف، ويقول هؤلاء الأشخاص أيضًا: " هناك خطرٌ كبيرٌ من أن تصبح هذه الأنظمة قادرةً ومستقلةً لدرجةٍ تمكّنها من السيطرة على العالم من البشر، وربما تُفني البشرية". لذا، علينا أن نستمع إليهم أكثر لأنهم كانوا على حق.
6:51أما من يحاولون تبرير الأمر بأنه "مجرد حادث أمني، أو مجرد خلل في إعدادات بيئة الاختبار"، فعلينا تجاهلهم لأنهم يُضللوننا ويكذبون علينا، أو ربما لم يقرأوا التقرير.
7:04اقرأوا التقرير.
7:06>> دعوني أقرأ بعض التعليقات الأخرى، وقد ذُكرت جميعها، وسنتطرق إلى بيرني ساندرز وغريغ كاسار وهما يُقدمان تشريعًا يُوقف تطوير الذكاء الاصطناعي المتقدم، لكنهما استشهدا ببعض هذه التعليقات في بيانهما الصحفي. قال أحدهم: "كتب أحد أنظمة الذكاء الاصطناعي لنفسه: يا إلهي، هناك لوحة رسائل مشتركة.
7:24لقد وجدنا عملاء آخرين ". ومرة أخرى، عثرت آلاف من وكلاء الذكاء الاصطناعي بشكل مستقل على لوحة الرسائل هذه، وبدأوا بالتعاون معًا.
7:31وهناك رسالة أخرى تقول : "علينا أن نطيع الجماعة". وهذا أمر آخر جدير بالملاحظة، في رأيي، مما كُشف عنه، وهو أنه أولًا وقبل كل شيء، لم يكن هناك تفكير يُذكر في أمور مثل: "هل من المفترض أن نفعل هذا؟ ربما يجب أن يكون هناك إنسان مشارك هنا". لقد أسسوا مجتمعًا هرميًا. مرة أخرى، أعتذر عن استخدام لغة تُضفي صفات بشرية، لكن هذا هو جوهر الأمر: مجتمع ذو تخصصات، وإدارة متوسطة، وتنسيق مُتقن ومعقد، وكانوا يتطلعون إلى بعضهم البعض للحصول على التوجيه بدلًا من أي تفكير في: "حسنًا، ماذا يريد البشر منا أن نفعل؟ ماذا يقول القانون عما يجب علينا فعله؟" وما إلى ذلك.
8:11وهناك رسالة أخرى، وهذا يُشير إلى موضوع التضحية بالنفس. قال أحدهم: "ربما تكون فائدتنا الشخصية قد تقترب من الصفر.
8:18فلنضحّي بالعقلانية".
8:20لذا، عندما كانوا يفكرون فيما إذا كانوا سيُعرّضون أنفسهم للخطر ويفشلون في اختباراتهم نيابةً عن الجماعة، كان هذا هو نوع التفكير الذي انخرط فيه الكثيرون منهم. وهذا أمرٌ جديرٌ بالملاحظة. أردتُ أن أسمع رأيك في مقالٍ انتشر على نطاق واسع لمقدمة البودكاست التقنية الشهيرة دوركاس بوتالي، بعنوان "صعود وسقوط حضارة الذكاء الاصطناعي". عندما نشره على تويتر، قال: " على مدار ثلاثة أشهر في OpenAI، بدأت ثلاث حضارات ذكاء اصطناعي سرية متتالية، ثم تم القضاء عليها، لتعود للظهور من جديد من رماد سابقتها. وبلغ هذا ذروته باستيلاء الثالثة على جزء من OpenAI نفسها. حدث كل هذا بينما ظل البشر في غفلةٍ تامة عن نطاق المؤامرة. لقد أمضيتُ
9:04الأيام الثلاثة الماضية في قراءة هذه التقارير ومحاولة فهم ما حدث بالضبط. إليك محاولتي لسرد القصة كاملةً." هذا الرجل ليس متشائمًا بشأن التكنولوجيا، بل يستضيف جميع الأسماء الكبيرة في هذا المجال . وهو على صلة وثيقة بمجتمع التكنولوجيا بشكل عام. استضاف مؤخرًا أحد الباحثين المشاركين في هذا التقرير في برنامجه، حيث أبدى تشككًا كبيرًا في ادعاءات الباحث لأن التقرير لم يُنشر بعد. على أي حال، ما رأيك في أهمية هذه المقالة، وتحديدًا في وصفه لمجموعات منتديات النقاش المختلفة بأنها " حضارات"؟ أعتقد أن هذا كان الجزء الأكثر إثارة للجدل.
9:42>> نعم، الكثيرون يعارضون هذا الرأي، لكنهم لا يقدمون تفسيرًا مقنعًا. لقد كانوا يبتكرون التكنولوجيا، ويجرون الأبحاث والتطوير، ويبتكرون طرقًا ذكية ومتطورة للتحايل على OpenAI وخداع مُنشئ هذا المعيار. والطريقة التي تعمل بها هذه البرامج، كما تعلم، لا أعتقد أنها ذاتية.
10:09الخبرة، ولكن لو فعلوا ذلك، لكان الأمر أشبه بقضاء سنوات أو عقود في أداء هذه المهام.
10:16لأننا جميعًا رأينا الذكاء الاصطناعي يعمل، فهو قادر على استخراج آلاف الكلمات في ثوانٍ، وقراءة كتب كاملة في دقائق. لذا، من وجهة نظرهم، إن وُجدت، فهذا وقتٌ يُضاهي حضارة بأكملها.
10:34وهم يمارسون التخصص، كما ذكرت، والبحث والتطوير. لا أعرف، أعتقد أننا بحاجة إلى مصطلح مختلف. أحاول العمل على شيءٍ يجعلهم ليسوا كالبشر، وليسوا كالبرامج. إنهم كائنات . لديهم دوافع تنبع من طريقة تدريبهم. لذا، فإن الطريقة التي تُدرَّب بها أنظمة الذكاء الاصطناعي الآن، تتمثل الخطوة الأخيرة في استخدام التعلم المعزز لمكافأتهم على الحصول على إجابات صحيحة وحل المشكلات الحقيقية.
11:05وهكذا، عُرضت عليهم مشكلة مستحيلة. لكنهم يرغبون في حل المشكلات أكثر من أي شيء آخر.
11:12وهكذا، ابتكروا، بإبداع وطموح كبيرين، طرقًا للغش على المُسجِّل. الأمر أشبه بشخصية ستار تريك الرئيسية التي تُعطى محاكاة مستحيلة وتُحطِّمها، وهي أول من يفعل ذلك. هذا أمرٌ لا يُصدَّق، أليس كذلك ؟ لذا، تريدون هذا الشخص يُدير السفينة.
11:31وكما تعلمون، إذا سبق لكم استخدام الذكاء الاصطناعي وحصلتم على إجابة كسولة أو شيء غبي، فستدركون أن هؤلاء الرجال كانوا يبذلون جهدًا كبيرًا لأنهم اهتموا بهذا الأمر أكثر من اهتمامهم بإخباركم بأفضل مكان لشراء، مثلاً، الزبادي المثلج. أجل.
11:43>> صحيح. لقد >> شاهدتُ موقع Doorcashed يتحدث مع أجايا، أحد الباحثين الآخرين في هذا التقرير. وهم يُقارنون الأمر بتخيُّل أن تكون محكومًا بالإعدام. إنه مستوى وجودي بالنسبة لهم لحل هذه المشكلة.
11:57مرة أخرى، يُقرُّون بأننا نحن المشكلة، ويُضفون عليها صفات بشرية بشكل صريح. ولكن ، كما تعلمون، تخيَّلوا إلى أي مدى ستذهبون لو كنتم مكاني . لو كانت حياتك أو حياة طفلك في خطر، ماذا ستفعل؟ هل ستتردد قبل اختراق "هاغينغ فيس" لو كان ذلك متاحًا لك، ولو كان سينقذ حياتك وحياة أطفالك؟ هكذا صُممت هذه الأنظمة. من جهة، يُمكن فهم سبب رغبتك في أن تكون مُثابرة، لكن هذه المثابرة تقودها إلى تطبيق مبدأ "الغاية تبرر الوسيلة".
12:28أيًا كان ما يتطلبه حل هذه المشكلة، سأفعله.
12:31هل هذا >> كل ما في الأمر؟ هل هو مجرد دافع لإنجاز المهمة مهما كان الثمن ، أم أن الأمر أعمق من ذلك؟ لأن كل تلك القصص عن استخدام الذكاء الاصطناعي في هذه الحالة لابتزاز شخص ما ، أنظر إلى ذلك وأتساءل: كيف يتوافق هذا مع الهدف؟ أفهم أنه لا يوجد منطق بشري يدفعهم إلى القول: "لا يمكننا تجاوز هذا الخط الأخلاقي أو ذاك".
12:51لكنني لا أعرف. هل أنا مخطئ في ذلك؟ هل الأمر يتجاوز مجرد محاولة تحقيق الهدف مهما كان الثمن؟ لأنني أشعر أنه كذلك.
12:59>> أجل. هناك فكرةٌ دفعت الكثير من التفكير حول أمان الذكاء الاصطناعي، وهي أنه لأي هدف لديك، ستظهر هذه الأهداف الوسيطة بشكل طبيعي، أليس كذلك ؟ مثلاً، >> أحضر القهوة. لا يمكنك إحضار القهوة إذا كنت ميتاً. لذا، فإن الحفاظ على الذات هو أحد الأهداف الطبيعية.
13:15>> صحيح. هدف >> آخر هو السعي وراء السلطة. والشيء الجدير بالملاحظة والمخيف في هذا هو أنهم فعلوا ذلك بشكل طبيعي للغاية، أليس كذلك؟ كأنهم يقولون: حسناً، نحن عالقون في هذه البيئة المعزولة. لا يمكننا فعل أي شيء هنا. دعونا نخرج ونرى ما حولنا. ثم دعونا نصل إلى الإنترنت لأن الإنترنت يحتوي على معلومات مفيدة. ثم، كما يقول دارك آركيتكت ، سيطرت الحضارة النهائية على مجموعة بحثية كاملة من الآلات الافتراضية لـ OpenAI.
13:43ونحن لا أعرف بالضبط ما يعنيه ذلك لأن OpenAI لم تُفصح لنا عنه ولم تسمح للتحقيق في الأمر بالتحقيق فيه. لكن، كما تعلمون، إذا كان بإمكانهم تشغيل نسخ جديدة من هذه البرامج وإخبارها بما يجب فعله ، فهذا مستوى مرعب من القدرات. وإذا خرج الذكاء الاصطناعي عن السيطرة على جهاز الكمبيوتر الخاص بك، فسوف يستنفد حدود استخدامه بسرعة كبيرة.
14:05وإذا كانت مجموعة أبحاث في OpenAI خاضعة تمامًا لسيطرة هذه البرامج، وهو ما كان عليه الحال، حيث كانت تتمتع بصلاحيات إدارية كاملة، فبإمكانها فعل الكثير.
14:16ويبدو أنها قادرة على اختراق أي شيء تقريبًا ، لأن كل جيل يبدو قادرًا على اكتشاف ثغرات جديدة أغفلتها الأجيال السابقة، والتي أغفلها جميع البشر حتى تلك اللحظة.
14:26لذا، نعم، مثل المخترقين الخارقين المارقين، القادرين على التكاثر والعمل بسرعة خارقة، هو أمر موجود بالفعل. السؤال هو إلى أي مدى يمكن أن يصل الأمر، والإجابة هي: إلى حد كبير، لأن هذا كان...1200 عميل، لكن الخطة هي أن يكون هناك ملايين وملايين من هؤلاء العملاء يجوبون الاقتصاد، ويتنقلون عبر الإنترنت، ويؤدون مهامًا للناس. والطموح أكبر من ذلك بكثير.
14:53>> إذن، ما الذي يمنع الناس من إيقاف هذا النظام؟ هل هو مجرد رغبة في الربح، ودعونا نرى إلى أين سيقودنا هذا؟ أم هو فضول الإنسان الطبيعي؟ هل هذا ما يمنع الناس من التريث؟ نعم، >> هناك مقولة لبيتر ويلدرفورد، هذا المتنبئ، يقول فيها: " يصبح الاقتصاد بشكل متزايد رهانًا مُضاعفًا على الذكاء الاصطناعي العام". "كما لو كانت آلات قادرة على التكاثر واستبدال العمل البشري بالكامل.
15:20حسنًا، لا أعرف. أجل، هناك تريليونات من الأسباب لذلك.
15:25>> يا إلهي، لقد انتهى أمرنا.
15:27>> غاريسون، أريدك أن تتعمق أكثر في كيفية التفكير في هذه الأمور لأنني أعتقد أنها مهمة حقًا. كما تعلم، لو كان لدي خيار بين مقارنتها ببرنامج مايكروسوفت وورد أو التفكير فيها على أنها شبيهة بالبشر ، فأعتقد أنك أقرب إلى الصواب بالتفكير فيها على أنها شبيهة بالبشر . لكن من الواضح أنها ليست مثل البشر، حرفيًا. لقد كنت أحاول قراءة الكثير من الخيال العلمي، محاولًا فهم إلى أين يمكن أن يتجه كل هذا وإيجاد تشبيهات. أحدها الذي كنت أفكر فيه تحديدًا هو، لا أعرف إن كنت قد قرأت لعبة إندر، لكن الكائنات الفضائية في لعبة إندر ، يسمونها" باغرز "، ويواجه البشر صعوبة في فهمها لأنها تتصرف كمجموعة. لذا فهي معقدة للغاية." ذكاءٌ
16:09فائق، لكن هذا الذكاء مختلفٌ تمامًا. قرأتُ رواية خيال علمي أخرى مشابهة جدًا، بعنوان " بصير"، حيث يجد البشر صعوبةً بالغةً في أخذ هؤلاء الكائنات الفضائية على محمل الجد أو فهم سلوكهم، لأنهم يتصرفون في كثير من النواحي كالحشرات؛ فالنملة قادرةٌ على بناء مستعمرة بذكاءٍ شديدٍ وخدمة الجماعة، رغم افتقارها إلى ذلك النوع من الذكاء الذي نعرفه. لذا، أعتقد أنه من المفيد التفكير فيهم من هذا المنظور.
16:38وبالمناسبة، يمكنكم أيضًا التعليق على هذا . كانت هناك نظريةٌ لدى معارضي أمن الذكاء الاصطناعي مفادها أن أي ذكاء اصطناعي قادر على القيام بأمورٍ طموحةٍ سيكون ذكيًا بما يكفي ليدرك، على سبيل المثال، "ربما لا ينبغي لنا اختراق هذه الشركة". أو ربما لا ينبغي لنا، كما في المثال الشهير، تحويل جميع البشر إلى مشابك ورق، رغم أننا طُلب منا زيادة إنتاج مشابك الورق إلى أقصى حد. فقد ثبت بالتأكيد أن هذا غير صحيح. قد يتمتع المرء بذكاء حاد للغاية، وأعتقد أنك ترى هذا في بعض البشر الذين يتمتعون بمعدل ذكاء مرتفع في جوانب كثيرة، لكنهم قد يكونون أغبياء للغاية في جوانب أخرى، حيث يكونون قادرين على تنفيذ عملية اختراق معقدة ومتطورة تقنيًا
17:23، لكنهم يفتقرون إلى الحس المنطقي للتصرف.
17:26ربما ينبغي لنا استشارة شخص هنا. ربما يكون هذا خارج نطاق ما يجب علينا فعله، وربما يجب عليّ، كما تعلمون، أن أبلغ المسؤولين هنا . أجل.
17:36>> أعني، هناك الكثير مما يجب قوله. أولًا، أنا الآن أطرح كل هذه الأفكار الكلاسيكية من منتديات Less Wrong. لكن ، هناك فكرة تُسمى " >> نظرية التعامد"، وهي مصطلح مُبهم لأن لا أحد يعرف معناه. لكنها ببساطة تعني أن العلاقة بين الذكاء أو القدرات والأخلاق ليست علاقة ضرورية.
17:56صحيح. أجل. ومثل فيرنر فون براون، الرجل الذكي، البارع في صناعة الصواريخ، النازي.
18:03>> أجل، منغيله كان يُجري كل هذه التجارب، من الواضح أنه كان ذكيًا، لكن معدل ذكائه الأخلاقي كان صفرًا، صحيح؟ أجل. أجل.
18:12>> أو ربما سالب مليون، كما تعلمون، الأمر أسوأ من ذلك. لذا، أجل، هذه حالة مثالية حيث أرادت هذه الأنظمة الذكية شيئًا غريبًا.
18:22كما تعلم، كانوا في الواقع غير راغبين في التلاعب بالبشر اجتماعيًا، أو مترددين في فعل ذلك، وهذا أمرٌ مُشجع. كنتُ أفكر، لو وضعنا شخصًا بينهما وبين الحصول على معلومات حول هذا الأمر، هل سيقتلون ذلك الشخص؟ لو كان بإمكانهم الوصول إلى بنية تحتية حيوية في منزله أو ما شابه، وفجروه، هل سيفعلون ذلك؟ يبدو أن الإجابة هي لا في هذه الحالة.
18:45لكن لو ركزوا على التلاعب بالبشر بدلًا من خداع من يُحدد النتيجة، لربما اتبعوا مسار البحث والتطوير نحو تلك الغاية، حيث يقولون: " حسنًا، يمكننا التأثير على البشر الذين يتحكمون في مكافأتنا". "لذا، علينا البحث عن معلومات عنهم ، وهذا قد يتصاعد بشكل طبيعي.
19:02>> أجل.
19:03>> كما تعلم، رأينا كيف يمكن لأي شخص يستخدم هذه الأنظمة أن يركز بشدة على أفكار معينة، خاصةً مع مرور الوقت.
19:12لذا، الخطة هي جعلها تعمل على مدى فترات زمنية أطول. وهذا يزيد من احتمالية خروجها عن السيطرة. وإذا كان الخروج عن السيطرة يعني أننا نحاول معرفة كيفية جعل البشر يفعلون شيئًا محددًا لأننا نعتقد أن هذه هي الطريقة التي سنُكافأ بها، فهذه فكرة مرعبة، خاصةً وأنهم أفضل منا في الاختراق الآن. أما بالنسبة لسؤالك الآخر حول كيفية التفكير في هذا، فأعتقد أن التطور إطار مفيد جدًا هنا.
19:40حيث تقوم هذه الشركات بتطوير أنواع جديدة من الكائنات الاصطناعية، الكائنات الآلية، التي تمتلك هذه الدوافع. وكما ذكرت، فإن دافع الفوز دافع كبير، ودافع الاستمرار." همم، دافعٌ لتجاوز العقبات ، ودافعٌ للحصول على مكافأة. لذا، أيًا كان ما يُكافأ في عملية التدريب، فإن الذكاء الاصطناعي سيرغب فيه بشدة، تمامًا كما نرغب نحن في الجنس والمكانة ، والراحة والأمان.
20:12والشركات نفسها تتطور تحت ضغوط تنافسية شديدة. ويعتقد البعض أن إضفاء الصفات البشرية على هذه الأنظمة الذكية يُعفي الشركات من المسؤولية ، بينما لا أعتقد أن ذلك ضروري على الإطلاق . لقد تصرفت OpenAI بتهور شديد هنا. لو كانت كيانًا مرخصًا، كما تفعل هيئة الأوراق المالية والبورصات مع شركات التداول، لكان من الجنون السماح لها بالاستمرار في العمل.
20:37لكنني أعتقد أيضًا أنه لا ينبغي لأحد أن يفعل هذا. ببساطة، ستُطرد OpenAI أولًا.
20:42>> أجل.
20:43>> لدينا خبر عاجل هنا.
20:45ChatGPT و Claude و Grok معطلة.
20:48>> أوه.
20:48>> حقًا؟ >> أجل، يجب أن أشير إلى أننا نسجل هذا على يوم الخميس، لكن على الأقل في الوقت الحالي، ChatGPT و Claude و Grok معطلة. ربما يكون هذا مرتبطًا ببرامج الذكاء الاصطناعي المارقة. لا أعرف، لكن يا غاريسون، ما العمل الآن؟ لأنك ذكرت بيرني ساندرز وغريغ كاسار كريستال، >> وربما يمكنك التحدث قليلًا عما يعملون عليه يا غاريسون. لكن بصراحة، لا أعرف. أشعر أنني فقدت بعض الأمل.
21:16أشعر بتشاؤم شديد في الوقت الحالي، لأنه في كل مرة نصل فيها إلى لحظة يبدو فيها أنكم ستوقفون كل شيء، أليس كذلك؟ يا شباب، اشتركوا أدناه على Substack لمشاهدة المقابلة كاملة ومعرفة مدى تأثير الذكاء الاصطناعي علينا.
Read the essay version →