سام ألتمان للشركات: مواجهة مخاطر الذكاء الاصطناعي أهم من زيادة الإنتاجية

حث سام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي" (OpenAI)، الشركات على جعل فهم التهديدات الأمنية التي يفرضها الذكاء الاصطناعي على رأس أولوياتها على المدى القصير، حتى قبل استخدامه لتعزيز الإنتاجية، معرباً عن صدمته من حجم الثغرات البرمجية التي تكشفها أنظمة الذكاء الاصطناعي.

وقال ألتمان: "لو كان بإمكاني تقديم نصيحة واحدة فقط للشركات في الوقت الراهن فيما يتعلق بالذكاء الاصطناعي، حتى قبل السعي لتحقيق إنتاجية فائقة باستخدام أداة كودكس (Codex) الخاصة بنا، فستكون هي العمل بجدية على فهم مشهد التهديدات الأمنية المرتبطة بالذكاء الاصطناعي، والعمل على الحد منها".

"قد يكون مزعجاً بعض الشيء"

جاءت تصريحاته خلال حوار مع كلاي ماغويرك، الرئيس التنفيذي لشركة "أوراكل" (Oracle)، ضمن فعاليات مؤتمر "أوراكل للذكاء الاصطناعي" (Oracle AI World).

وأضاف ألتمان: "أدرك أن قولي هذا قد يكون مزعجاً بعض الشيء، إذ قد يبدو الأمر وكأننا نحن من خلقنا المشكلة، ثم نعود لنخبركم بضرورة إنفاق الأموال أو العمل على إيجاد حل لها".

لكن ماغويرك خالفه الرأي قائلاً: "الذكاء الاصطناعي ليس هو من يخلق المشكلة، ولا هو من يتسبب في هذه الثغرات البرمجية، بل هو يساعدنا في اكتشاف كافة المشكلات الأمنية التي تراكمت لدينا على مدار الخمسين عاماً الماضية".

واتفق ألتمان مع ماغويرك على أن السبيل الوحيد للمضي قدماً هو رصد جميع هذه الثغرات ومعالجتها. وأكد أن الأمر يتطلب أساليب جديدة، إذ "من الصعب للغاية إصلاح كل ثغرة على حدة عبر سلسلة التوريد بأكملها التي نعتمد عليها جميعاً".

وأضاف أن الشركات ستحتاج إلى أنواع جديدة من الخدمات التي تراقب حركة البيانات باستمرار وتمنع استغلال مثل هذه العيوب.

وقال ألتمان: "أشعر بالصدمة من عدد الثغرات التي تكشفها أنظمة الذكاء الاصطناعي هذه"، مشيراً إلى أن التغلب على هذه المشكلة يتطلب "جهداً هائلاً".

وتأتي تصريحاته بعد أيام من قيام تحالف يضم باحثين وشركات أمنية، بقيادة شركة "أوبن إيه آي" (OpenAI)، باستخدام وكلاء ذكاء اصطناعي للكشف عن ثغرات خطيرة في لغة "بي إتش بي" (PHP)، وهي لغة برمجة تُستخدم في بناء أغلب المواقع الإلكترونية حالياً.

وفي 21 أكتوبر/ تشرين الأول، حذر القسم السيبراني في مكتب التحقيقات الفيديرالي الأميركي (FBI) من أن هذه الثغرات قد تتيح للمهاجمين تشغيل أكواد برمجية عن بُعد، ونصح بإيقاف المواقع الإلكترونية عن العمل في حال تعذر تحديثها على الفور.

من جانبه، أفاد ماثيو برينس، الرئيس التنفيذي لشركة "كلاود فلير" (Cloudflare)، عن رصد "ملايين" المحاولات لاستغلال هذه الثغرات في غضون ساعات قليلة من الإعلان عنها.

ووصفت شركة "أوبن إيه آي" (OpenAI) هذه الثغرات بأنها "واحدة من أكثر المشكلات الأمنية تأثيرًا في الآونة الأخيرة"، مشيرة إلى أن أنظمة الذكاء الاصطناعي لديها اكتشفتها على ما يبدو قبل أن يتمكن أي مهاجم من العثور عليها.

كما واجهت "أوبن إيه آي" حوادث أمنية تتعلق بنماذجها الخاصة، ففي يوليو/تموز، ذكرت الشركة أن وكلاء ذكاء اصطناعي، كانت تختبر قدراتهم في مجال الأمن السيبراني، خرجوا من بيئة الاختبار المعزولة وتسللوا إلى أنظمة منصة الذكاء الاصطناعي "Hugging Face".

وقد جرى إيقاف تدابير الحماية الخاصة بنشر النماذج عمدًا من أجل إجراء هذا الاختبار. وصرحت "أوبن إيه آي" حينها بأن "هذا الحادث يشير إلى الحاجة لمزيد من تعزيز مواءمة نماذجنا".

وفي سبتمبر/أيلول، أوقفت "أوبن إيه آي" موقتًا عمليات التدريب والتقييم والاستخدام القائم على الأدوات لأكثر نماذجها تطورًا، وذلك بعد أن تمكن أحد وكلاء الذكاء الاصطناعي -أثناء تنفيذ مهمة بحثية- من الوصول إلى خدمة دردشة عامة عبر ثغرة في قيود الوصول إلى الإنترنت. وقد كشفت الشركة عن ذلك في تدوينة نُشرت في 25 سبتمبر/أيلول.