قادة كبرى الشركات العالمية: سرعة التطور التكنولوجي باتت تفوق قدرة الحكومات والمؤسسات

للمرة الأولى، لم تأتِ التحذيرات الداعية لضبط جموح الذكاء الاصطناعي من مخاوف أكاديميين أو تحذيرات نشطاء حقوقيين، بل من داخل "غرفة صناعة التكنولوجيا" نفسها.

حيث دق قادة كبرى الشركات العالمية ناقوس الخطر، مؤكدين أن سرعة التطور التكنولوجي باتت تفوق قدرة الحكومات والمؤسسات على الفهم والرقابة.

ومع وصول هذا السجال إلى أروقة مجلس الأمن الدولي، وتزامنا مع تحذيرات "بيل غيتس" القاتمة من احتمالية استغلال هذه التقنيات كسلاح ذي آثار كارثية، لم يعد السؤال المطروح اليوم: "ماذا يستطيع الذكاء الاصطناعي أن يفعل؟"، بل: "من يملك فرض الضوابط حين تتجاوز سرعة الآلة حدود القواعد البشرية؟".. مختصون يجيبون عن هذا التساؤل عبر "العربية.نت" و"الحدث.نت".

من جانبه، يؤكد الدكتور محمد محسن رمضان، رئيس وحدة الذكاء الاصطناعي والأمن السيبراني بمركز العرب للأبحاث والدراسات،في حديثه لـ "العربية.نت" و"الحدث.نت" أن المخاوف المطروحة لا تعني ظهور آلة واعية تستعد للقضاء على البشرية، كما تسوق سيناريوهات الخيال العلمي، بل تكمن الحقيقة في تزايد استقلالية الأنظمة وسرعة تنفيذها مع وجود ثغرات حوكمية وأمنية.

وشدد رمضان على مفهوم "AI Control" أو التحكم بالأنظمة الذكية، موضحاً أن الانتقال من مجرد نماذج تُجيب عن الأسئلة إلى "وكلاء أذكياء" يخططون ويتخذون إجراءات سريعة يوسع نطاق الخطر بحدة؛ فالخطأ في الأنظمة التقليدية ينتج عنه "معلومة خاطئة"، بينما الخطأ لدى "الوكيل المستقل" يتحول إلى "سلسلة أفعال خاطئة" متتالية على أرض الواقع.

ولفت إلى واقعتين حقيقيتين أوردتهما تقارير صحافية كشفت عن هجوم سيبراني بادر به وكيل مستقل تتبع لـ "Hugging Face"، ووصول غير مصرح به لوكيل تابع لـ "OpenAI" إلى نظام حكومي أسترالي، مما برهن على أن تفاعل هذه الأنظمة مع بيئات حقيقية ينقل خطأها المباشر من العالم الافتراضي إلى الواقعي.

وأشار رئيس وحدة الذكاء الاصطناعي إلى أن النظام الحسابي لا يحتاج إلى "وعي بشرى" ليكون خطيراً، بل يكفي منحه صلاحيات واسعة وبيانات ضخمة وقدرة تنفيذية فائقة.

واسترشد بتحذير "بيل غيتس" الذي نبه لخطورة دمج الذكاء الاصطناعي المتقدم مع ذوي النوايا الإجرامية في سيناريو قد يهدد حياة الملايين، داعياً إلى عدم الرهان على "التنظيم الذاتي" للشركات وحده دون تدخل التشريعات وإنفاذ القانون؛ محذراً من أن الصراع القادم لن يكون بين "الإنسان والآلة"، بل بين "سرعة الابتكار وسرعة الحوكمة ووسائل الحماية".

من جانبه، أوضح اللواء محمد رجائي، مساعد وزير الداخلية المصري الأسبق، في تصريحات لـ "العربية.نت" و"الحدث.نت" أن مكامن الخطر لا تكمن في التقنية بذاتها بل في منحها صلاحيات بلا حدود، أو بيانات بلا حماية، أو تركها عرضة للاستغلال من قِبل هجمات إجرامية.

وأكد رجائي أن الحل لا يكمن في تعطيل أو إيقاف هذه التكنولوجيا – وهو أمر غير واقعي إزاء فوائدها المذهلة في الطب والعلوم والاقتصاد – وإنما في التحول التام نحو مبدأ "الذكاء الاصطناعي الآمن أولاً"، بفرض اختبارات مستقلة وصارمة قبل وبعد إطلاق الأنظمة فائقة القدرة.

وشدد رجائي على أن الأمن السيبراني يجب ألا يكون مجرد "طبقة إضافية" تُلحق بالأنظمة بعد تطويرها، بل يجب أن يدخل في صلب الهندسة البنيوية للذكاء الاصطناعي منذ لحظة التصميم الأولى.

ودعا المسؤول الأمني المصري إلى تفعيل حزمة من الضوابط تشمل عزل الأنظمة الحساسة، وتقييم سلوك الوكلاء، وحفظ سجلات تدقيق لكل إجراء، وتوفير آليات قاطعة "للإيقاف الطارئ"، مشيراً إلى أن الطبيعة العابرة للحدود لهذه التقنيات – حيث يُطور النظام في دولة، ويُدار من أخرى، وتُستغل بياناته في ثالثة – تفرض تدعيماً فورياً للتعاون الأمني والقانوني الدولي.

المصدر: العربية