تسبب ChatGPT والذكاء الاصطناعي الجديد في خراب في مجال الأمان على الإنترنت بطرق مثيرة ومخيفة

الذكاء الاصطناعي التوليدي يقوم بتحويل أمن المعلومات، سواء كان في مساعدة الهجمات أو في الدفاع. القراصنة الإلكترونيين يستخدمون الذكاء الاصطناعي لتنفيذ هجمات معقدة وجديدة بشكل كبير. وبالمقابل، يستخدم المدافعون نفس التكنولوجيا لحماية البنية التحتية الحاسوبية الحيوية والمنظمات الحكومية والشبكات الشركة، كما قال كريستوفر أهلبيرغ، الرئيس التنفيذي لمنصة تفاعلية للاستخبارات التهديدات - Recorded Future.

تساعد الذكاء الاصطناعي الإبداعية العوامل السلبية على الابتكار وتطوير استراتيجيات هجومية جديدة ، مما يتيح لهم البقاء خطوة واحدة أمام الدفاعات الأمنية السيبرانية. يساعد الذكاء الاصطناعي الجناة السيبرانيين على تطبيق الهجمات تلقائيًا ، وفحص الأسطح الهجومية ، وإنتاج محتوى يلقى استجابة إيجابية في مختلف المناطق الجغرافية والفئات الديموغرافية ، مما يسمح لهم باستهداف مجموعة أوسع من الضحايا المحتملين في بلدان مختلفة. اعتمد القراصنة السيبرانيين على هذه التقنية لإنشاء رسائل الصيد الاحتيالية المقنعة. يساعد النص المولد بواسطة الذكاء الاصطناعي المهاجمين على إنتاج رسائل بريد إلكتروني ورسائل نصية شخصية بشكل كبير تزيد احتمالية خداع الأهداف.

قال آهلبرغ: "أعتقد أنه ليس عليك أن تفكر بشكل إبداعي جدا لتدرك، يا رجل، أن ذلك يمكن أن يساعد القراصنة الإلكترونيين في أن يصبحوا مؤلفين، وهذا مشكلة".

يستخدم المدافعون الذكاء الاصطناعي لصد الهجمات. تستخدم المؤسسات هذه التقنية لمنع التسريبات واكتشاف ثغرات الشبكة بشكل استباقي. كما يقوم بتلقائيًا بتنفيذ المهام مثل إعداد التنبيهات للكلمات الرئيسية المحددة واكتشاف المعلومات الحساسة عبر الإنترنت. يستخدم ملاحق التهديدات الذكاء الاصطناعي لتحديد الأنماط غير المعتادة وتلخيص كميات كبيرة من البيانات، متصلة النقاط بين مصادر المعلومات المتعددة والأنماط المخفية.

العمل مازال يتطلب خبراء بشريين، ولكن يقول آهلبيرغ أن تكنولوجيا الذكاء الاصطناعي الإنتاجية التي نراها في مشاريع مثل ChatGPT يمكن أن تساعد.

"نريد تسريع دورة التحليل [لكي] تساعدنا في تحليل بسرعة الفكر"، قال. "هذا أمر صعب جدًا وأعتقد أننا نشهد اختراقًا هنا، وهذا أمر مثير للغاية".

تحدث أيضًا أهلبيرج عن التهديدات المحتملة التي قد يحملها الآلات ذات الذكاء العالي. مع تزايد تقنية المعلومات والاتصالات وتواصل العالم بشكل متزايد، يمكن استغلال القدرة على تحريف الواقع وتشكيل الانطباعات من قبل العناصر الخبيثة. هذه التهديدات ليست مقتصرة على الدول الأمة، مما يجعل المشهد أكثر تعقيدًا وغير تماثلي.

للذكاء الاصطناعي إمكانية للمساعدة في حماية ضد تلك التهديدات الناشئة، لكنه أيضًا يطرح مجموعة مخاطر خاصة به. على سبيل المثال، يمكن للآلات ذات القدرات المعالجة العالية اختراق الأنظمة بصورة أسرع وأكثر فعالية من البشر. لمواجهة هذه التهديدات، نحتاج إلى ضمان استخدام الذكاء الاصطناعي بطريقة دفاعية ومع فهم واضح لمن يتحكم فيه.

ومع تزايد اندماج الذكاء الاصطناعي في المجتمع، من المهم أن يتفهم صناع القرار، والقضاة، وصناع السياسة التكنولوجيا وتداعياتها. سيكون بناء تحالفات قوية بين الخبراء التقنيين وصناع السياسة أمرا حاسما في التنقل عبر مستقبل التهديد وراء استخدام الذكاء الاصطناعي في صيد الأشخاص المهددين وما بعدهم.

فرص الذكاء الاصطناعي، التحديات، والأعتبارات الأخلاقية في الأمان السيبراني هي معقدة ومتطورة. ضمان نماذج الذكاء الاصطناعي غير المتحيزة والحفاظ على إشراك الإنسان في عملية صنع القرار سيساعد على إدارة التحديات الأخلاقية. اليقظة والتعاون وفهم واضح للتكنولوجيا ستكون ضرورية في مواجهة التهديدات المحتملة على المدى الطويل من الآلات ذكاء عالي.

رفع ألبرج أيضًا مخاوفه بشأن الصين وروسيا والخصوم الاقتصاديين الذين ينشرون الآلات المستقلة. من المرجح أن هذه البلدان لن تبطئ تطوير الذكاء الصناعي أو تشارك في الاعتبارات الأخلاقية. على الرغم من أن القدرة على "قطع التيار" عن هذه الآلات هي إجراء وقائي ذكي، فإنه يشير إلى أن تكامل التكنولوجيا في المجتمع والاقتصاد العالمي من المرجح أن يجعل الفصل صعبًا. يؤكد ألبرج ضرورة تصميم المنتجات والآلات بوضوح حول من يتحكم فيها.

"الشيء الكبير الذي قامت به الإنترنت في كل هذا هو أنها تحولت إلى المكان الذي انتقلت فيه معلومات العالم بأسره"، قال أهلبرج. "تقوم هذه النماذج اللغوية الكبيرة بأشياء سحرية لزيادة سرعة هذه الدورة التفكيرية".

أضاف قائلاً، "في السنوات الـ25 المقبلة، يصبح العالم انعكاساً للإنترنت."