- الرؤساء التنفيذيين Google DeepMind وتحدثت الأنثروبور عن الشعور بوزن المسؤوليات في مقابلة حديثة.
- دعا المسؤولون التنفيذيون لإنشاء الهيئات التنظيمية للإشراف على مشاريع الذكاء الاصطناعي.
- يتفق كل من قادة الذكاء الاصطناعى على أنه ينبغي على الناس فهم أفضل للمخاطر التي تشكلها AI المتقدمة والاستعداد للمخاطر التي يطرحها الذكاء الاصطناعي المتقدم.
عندما سئل عما إذا كان يشعر بالقلق من أي وقت مضى روبرت أوبنهايمرقال ديميس هاسابيس ، الرئيس التنفيذي لشركة Google Deepmind ، إنه يفقد النوم بسبب الفكرة.
“أنا قلق بشأن هذه الأنواع من السيناريوهات طوال الوقت. لهذا السبب لا أنام كثيرًا” قال في مقابلة إلى جانب الرئيس التنفيذي لشركة أنثروبور داريو أمودي مع محرر إيكونميست في زعيم زاني مينتون بيدز.
وأضاف “أقصد ، هناك قدر كبير من المسؤولية عن الناس – ربما أكثر من اللازم – على الأشخاص الذين يقودون هذه التكنولوجيا”.
وافق Hassabis و Amodei على أن الذكاء الاصطناعى المتقدمين يمكن أن يمثلوا إمكانات مدمرة كلما أصبح قابلاً للتطبيق.
وقال أمودي: “كل قرار تقريبًا أتخذه يبدو وكأنه نوع من التوازن على حافة السكين – مثل ، كما تعلمون ، إذا لم نبني بسرعة كافية ، فإن الدول الاستبدادية يمكن أن تفوز”. “إذا بنينا بسرعة كبيرة ، فإن أنواع المخاطر التي يتحدث عنها ديميس والتي كتبنا عنها الكثير ، كما تعلمون ، يمكن أن تسود”.
وأضاف المدير التنفيذي للأنثروبور: “في كلتا الحالتين ، سأشعر أنه كان خطأي ، كما تعلمون ، أننا لم نتخذ القرار الصحيح بالضبط”.
قال حسابيس إنه بينما يبدو منظمة العفو الدولية “محظورة” على المدى القصير، يقلق من أن العواقب الوخيمة من منتصف إلى طويلة لا تزال غير محددة. إنه يروج لمنظور متوازن – للاعتراف بـ “الفرص المذهلة” التي يوفرها الذكاء الاصطناعي ، وخاصة في عوالم العلوم والطب ، مع إدراكها بشكل أكبر للمخاطر المصاحبة.
“وقال حسابيس: “إن المخاطر الكبرى اللذين أتحدث عنهما هما الممثلان السيئان يعيدون تقنية الغرض العام لهذه الأطراف الضارة – كيف يمكننا تمكين الجهات الفاعلة الجيدة وتقييد الوصول إلى الجهات الفاعلة السيئة؟” أو أنظمة الوكيل نفسها ، والخروج عن السيطرة ، أو عدم وجود القيم الصحيحة أو الأهداف الصحيحة. وكلا هذين الأمرين أمر بالغ الأهمية ، وأعتقد أن العالم كله يحتاج إلى التركيز على ذلك. “
دعا كل من Amodei و Hassabis إلى مجلس إدارة لتنظيم مشاريع الذكاء الاصطناعى ، حيث يشير Hassabis إلى الوكالة الدولية للطاقة الذرية كنموذج محتمل.
وقال حسن: “من الناحية المثالية ، سيكون الأمر مثل الأمم المتحدة ، ولكن بالنظر إلى التعقيدات الجيوسياسية ، فإن هذا لا يبدو ممكنًا للغاية”. “لذلك ، كما تعلمون ، أنا قلق في كل وقت ، ونحن نحاول فقط القيام على الأقل ، من جانبنا ، كل ما في وسعنا في المنطقة المجاورة والتأثير الذي لدينا.”
HASSABIS ينظر إلى التعاون الدولي على أنه حيوي.
“أملي ، كما تعلمون ، لقد تحدثت كثيرًا في الماضي عن نوع من CERN لـ AGI Type Setup ، حيث تعاونًا دوليًا في الأساس في آخر خطوات قليلة نحتاج إلى اتخاذها نحو بناء الأول agis ، “هاسابيس قال.
حث كلا الزعيمين على فهم أفضل للقوة الهائلة للتغيير الذي يتوقعان أن يكونوا من الذكاء الاصطناعي – وللجمعيات لبدء التخطيط وفقًا لذلك.
وقال آمودي: “نحن على عشية شيء لديه تحديات كبيرة ، أليس كذلك؟ سيؤدي ذلك إلى زيادة توازن القوة”. “إذا أسقط شخص ما دولة جديدة في العالم – 10 ملايين شخص أذكى من أي إنسان حي اليوم – كما تعلمون ، ستطرح السؤال ،” ما هي نيتهم؟ ماذا سيفعلون بالفعل في العالم ، خاصة إذا إنهم قادرون على التصرف بشكل مستقل؟ “
لم تستجب أنثروبور و Google DeepMind على الفور لطلبات التعليق من Business Insider.
وقال آمودي: “أوافق أيضًا مع ديميس على أن هذه الفكرة ، كما تعلمون ، هياكل الحوكمة خارج أنفسنا – أعتقد أن هذه الأنواع من القرارات كبيرة جدًا بالنسبة لأي شخص واحد”.
