خوفًا على مصير البشرية... خبراء التكنولوجيا يطالبون بوقف تطور الذكاء الاصطناعي

ترجمات - السياق

طالب عديد من المديرين التنفيذيين في مجال التكنولوجيا، وكبار الباحثين في الذكاء الاصطناعي، وعلى رأسهم الرئيس التنفيذي لشركة تسلا، الملياردير الأمريكي إيلون ماسك، ورائد الذكاء الاصطناعي يوشوا بنغيو، بوقف التطوير السريع لأدوات الذكاء الاصطناعي الجديدة القوية.

وفي رسالة بعنوان (إيقاف تجارب الذكاء الاصطناعي العملاقة مؤقتًا... خطاب مفتوح)، حثَّ ماسك -مالك منصة تويتر- ومجموعة من رواد الذكاء الاصطناعي، المختبرات على "الوقف المؤقت" لعمليات تطوير أنظمة الذكاء الاصطناعي الجديدة ذات القوة، بسبب ما عدوها "الأخطار المحتملة على المجتمع".

مخاطر

قالت رسالة معهد فيوتشر أوف لايف، منظمة أمريكية غير ربحية يُعد ماسك أحد مستشاريها: "يجب تطوير أنظمة الذكاء الصناعي القوية فقط، عندما نكون واثقين بأن آثارها ستكون إيجابية وأن مخاطرها تحت السيطرة".

وحسب "وول ستريت جورنال" الأمريكية، قال مؤيدو التوقف المؤقت إن التعليق ستة أشهر أو أكثر، من شأنه منح الصناعة الوقت، لوضع معايير السلامة لتصميم الذكاء الاصطناعي، وتجنب الأضرار المحتملة لتقنيات الذكاء الاصطناعي الأكثر خطورة.

ونقلت عن بينغيو، مدير معهد مونتريال لخوارزميات التعلم في جامعة مونتريال، تحذيره: "لقد وصلنا إلى النقطة التي تكون فيها هذه الأنظمة ذكية بما يكفي، بحيث يمكن استخدامها بطرق تشكل خطورة على المجتمع".

توقيف مؤقت

وأشارت "وول ستريت جورنال" إلى أن رسالة معهد فيوتشر أوف لايف، التي وقعها أكثر من ألف شخص بينهم ماسك، طالبت بضرورة أن يتوقف مطورو الذكاء الاصطناعي عن أي عملية تدريب لأنظمة الذكاء الاصطناعي الأقوى من برنامج الدردشة (شات جي.بي.تي-4) ستة أشهر على الأقل.

ووقِّع الخطاب أيضًا من المؤسس المشارك لشركة آبل ستيف وزنياك، والرئيس التنفيذي لشركة ستابلتي للذكاء الاصطناعي عماد موستاك، وأيضًا تريستان هاريس وآزا راسكين، وهما من مؤسِّسى مركز التكنولوجيا الإنسانية، اللذين أبديا مرارًا مخاوفهما بشأن ظهور أشكال جديدة من الذكاء الاصطناعى، أظهرت القدرة على التطور بطرق غير متوقعة.

كانت شركة "أوبن إيه.آي" المدعومة من "مايكروسوفت" كشفت النقاب عن الإصدار الرابع من برنامج الذكاء الصناعي (شات جي.بي.تي) الذي حاز إعجاب المستخدمين، عبر إشراكهم في محادثة شبيهة بالمحادثات البشرية ومساعدتهم في تأليف الأغاني وتلخيص الوثائق الطويلة.

وبينت الصحيفة أن الخطاب لا يدعو إلى وقف جميع عمليات تطوير الذكاء الاصطناعي، لكنه يحث الشركات على التوقف مؤقتًا عن أنظمة التدريب الأكثر قوة من (جي.بي.تي-4)، وهي التكنولوجيا الجديدة التي أصدرتها شركة "أوبن إيه.آي" الناشئة المدعومة من شركة مايكروسوفت مؤخرًا، لافتة إلى أن هذه التكنولوجيا تتضمن الجيل التالي من تقنية (جي بي تي فايف).

لذلك، ورغم توقيع أكثر من ألف شخص على الرسالة، فإنه لم يكن بينهم سام ألتمان وساندر بيتشاي وساتيا ناديلا، الرؤساء التنفيذيون لشركات "أوبن إيه.آي" و"ألفابت" و"مايكروسوفت".

ونقلت الصحيفة عن سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه.آي"، قوله: الشركة منحت منذ فترة طويلة الأولوية للسلامة في التطوير، وقضت أكثر من ستة أشهر في إجراء اختبارات السلامة على (جي.بي.تي-4) قبل إطلاقها.

في المقابل، يرى الموقعون أن بروتوكولات السلامة تحتاج إلى تطوير من مشرفين مستقلين، لتوجيه مستقبل الذكاء الاصطناعي.

ووفقًا لمعهد فيوتشر أوف لايف، يُعد (جي.بي.تي-4) أحدث تطبيقات الذكاء الاصطناعي، إذ ينتهج أداءً على مستوى الإنسان في مختلف المجالات المهنية والأكاديمية.

أكاذيب الذكاء الاصطناعي

وحسب "وول ستريت جورنال" أكدت الرسالة وجوب تطوير الذكاء الاصطناعي "إذا كنا واثقين بأن آثار هذا التطوير ستكون إيجابية، وأنها ستكون خاضعة للسيطرة والتحكم في أخطارها"، وهو ما رأى المعهد أنه غير متوافر في الوقت الراهن، "فلا أحد يستطيع التنبؤ أو التحكم بشكل موثوق به في هذا الذكاء الاصطناعي".

واستشهد خبراء التكنولوجيا الموقعون على الرسالة، بالمقالات المليئة بالأكاذيب والدعاية، التي أنشئت بواسطة الذكاء الاصطناعي.

وتضمنت الرسالة أيضًا أن "مختبرات الذكاء الاصطناعي والخبراء المستقلين يجب أن يستغلوا هذا التوقف المؤقت لتطوير وتنفيذ مجموعة من بروتوكولات السلامة المشتركة، لتصميم وتطوير ذكاء اصطناعي متقدم يشرف عليه خبراء مستقلون".

وأضاف الموقعون على الرسالة: "بالتوازي مع ذلك، يجب على مطوري الذكاء الاصطناعي العمل مع صانعي السياسات، لتسريع تطوير أنظمة حوكمة قوية للذكاء الاصطناعي".

الصندوق الأسود

ومع ذلك، نقلت الصحيفة الأمريكية، عن الرئيس التنفيذي لشركة ستابلتي للذكاء الاصطناعي عماد موستاك، وعدد من الباحثين في "ديب مايند" المملوكة لشركة ألفابت، إضافة إلى خبراء كبار في المجال، مثل يوشوا بنغيو وستيوارت راسل، تأكيدهم أن تطوير الذكاء الاصطناعي يجب ألا يتوقف، "وإنما تدعو الرسالة إلى مجرد التراجع عن السباق الخطير في هذا الصندوق الأسود الذي لم يسبق له مثيل، والذي لا يمكن التنبؤ بقدراته الناشئة".

ودعت الرسالة إلى وقف مؤقت، مع رغبة واسعة بين شركات التكنولوجيا والشركات الناشئة لمضاعفة ما يسمى الذكاء الاصطناعي التوليدي، وهي تقنية قادرة على إنشاء محتوى أصلي للمطالبات البشرية.

والخريف الماضي، كشفت شركة "أوبن إيه.آي" النقاب عن روبوت محادثة يتمتع بقدرته على أداء وظائف، مثل تقديم إجابات مطولة وإنتاج كود حاسوبي يتسم بالتطور البشري، ما أثار جدلًا كبيرًا حينها عن المدى الذي من الممكن أن تصل إليه هذه التكنولوجيا في المستقبل.

مصير البشرية

ومع اشتداد المنافسة، تبنت "مايكروسوفت" التكنولوجيا لمحرك بحث بينغ وأدوات أخرى، بينما نشرت شركة غوغل التابعة لشركة ألفابت نظامًا منافسًا، كما قدمت شركات مثل أدوبي، و زوم لاتصالات الفيديو، و سيلز فورس دوت كوم، أدوات متقدمة للذكاء الاصطناعي.

وهو ما جعل الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، يقول: "الآن بدأ السباق التكنولوجي، سنتحرك بمنتهى السرعة".

ووفق الصحيفة الأمريكية، أثار هذا النهج مخاوف متجددة، من أن التطبيق السريع قد تكون له عواقب غير مقصودة إلى جانب فوائده.

ونقلت عن ماكس تيغمارك، أحد منظمي الرسالة، رئيس معهد مستقبل الحياة وأستاذ الفيزياء في معهد ماساتشوستس للتكنولوجيا، قوله: التطورات في الذكاء الاصطناعي تجاوزت ما اعتقد عديد من الخبراء أنه ممكن قبل بضع سنوات فقط.

وأضاف: "من المؤسف تأطير ذلك على أنه سباق تسلح"، واصفًا إياه بالسباق الانتحاري، مشيرًا إلى أنه لا يهم من يصل أولاً، ما يعني أن البشرية يمكن أن تفقد السيطرة على مصيرها.

وأشارت الصحيفة إلى أن معهد فيوتشر أوف لايف بدأ العمل على الخطاب، الأسبوع الماضي، وسمح في البداية لأي شخص بالتوقيع من دون التحقق من الهوية، لافتة إلى أنه في مرحلة لاحقة، تمت إضافة اسم ألتمان إلى الرسالة، قبل إزالته.

وأكد ألتمان، أنه لم يوقع الخطاب، مشيرًا إلى أن الشركة تنسق بشكل متكرر مع شركات الذكاء الاصطناعي الأخرى، بشأن معايير السلامة ومناقشة المخاوف الأوسع.

مخاوف ماسك

وبينت "وول ستريت جورنال" أن ماسك، الذي تستخدم شركته (تسلا) للسيارات الكهربائية، الذكاء الاصطناعي في نظام الطيار الآلي المختص بالقيادة الآلية، مخاوف بشأن التطور السريع للذكاء الاصطناعي.

وغرد ماسك، الأربعاء، بأن مطوري تقنية الذكاء الاصطناعي المتقدمة "لن يلتفتوا إلى هذا التحذير، لكن على الأقل علينا التحدث عن خطورة الأمر".

في المقابل، لم ترد شركة "أوبن إيه آي" -حتى الآن- على الرسالة المفتوحة التي طالبت بوقف تطوير أنظمة الذكاء الاصطناعي، لحين توصل خبراء مستقلين إلى بروتوكولات مشتركة للسلامة.

يشار إلى أن ماسك أعلن أن "الذكاء الاصطناعي يوتره بشدة" رغم أنه من مؤسسي شركة "أوبن إيه.آي" الرائدة، كما أن شركته تسلا للسيارات تستخدم الذكاء الصناعي في أنظمة القيادة الذاتية.

كانت شركة تسلا أعلنت -الشهر الماضي- أنها استدعت مئات السيارات المزودة بتقنية القيادة الذاتية لإعادة ضبطها.

بينما حذرت أكبر وكالة لسلامة السيارات في الولايات المتحدة من أن هذه التكنولوجيا -القيادة الآلية- قد تنتهك قوانين المرور، ما قد يزيد خطر حدوث تصادم إذا فشل السائق في التدخل.

ومع هذا التطور، قالت الرسالة: "هل يجب أن نسمح للآلات بإغراق قنواتنا الإعلامية بالدعاية والكذب؟... هل ينبغي أن نطور عقولاً غير بشرية قد تفوقنا عددًا وذكاءً في النهاية وتتفوق علينا وتحل محلنا؟"

وأضافت: "يجب عدم تفويض هذه القرارات لقادة للتكنولوجيا غير منتخبين".

وتابعت: "إذا لم يكن بالإمكان تفعيل هذا الوقف بسرعة، ينبغي على الحكومات التدخل وفرض التجميد على هذه الشركات".

وحسب الصحيفة الأمريكية، تأتي هذه المخاوف في وقت لفت فيه روبوت الدردشة (شات جي.بي.تي) انتباه المشرعين الأمريكيين الذين تساءلوا عن تأثيره في الأمن القومي والتعليم.

جرائم

كما حذرت وكالة الشرطة الأوروبية (يوروبول) من خطر استخدام التطبيق، في محاولات الخداع الإلكترونية ونشر المعلومات المضللة والجرائم الإلكترونية.

وكشفت الحكومة البريطانية النقاب عن مقترحات لوضع إطار تنظيمي "قابل للتكيف" عن الذكاء الاصطناعي.

ونقلت "وول ستريت جورنال" عن بينغيو، الذي شارك في جائزة تورينغ لعام 2018 لاختراعه الأنظمة التي بُني عليها الذكاء الاصطناعي الحديث، قوله: "لا أعتقد أنه يمكننا تحمل مجرد المضي قدمًا من دون إعادة دراسة الأمر بجدية"، مضيفًا: "نحن بحاجة إلى قضاء بعض الوقت للتفكير في هذا الأمر الخطر بشكل جماعي".