chatgpt-and-more-what-ai-chatbots-mean-for-the-future-of-cybersecurity

من المهام البسيطة نسبيا، مثل كتابة رسائل البريد الإلكتروني، إلى المهام الأكثر تعقيدًا، بما في ذلك كتابة المقالات أو تجميع الشفرات، فإن ChatGPT - الأداة التي تعتمد على الذكاء الاصطناعي وتعالج النصوص الطبيعية من OpenAI - قد استحوذت على اهتمام كبير منذ إطلاقها.

بالطبع ليس مثاليًا على الإطلاق - فهو معروف بارتكاب الأخطاء والأخطاء حيث يسيء تفسير المعلومات التي يتعلمها ، ولكن الكثيرون يرىون فيه ، وفي أدوات الذكاء الاصطناعي الأخرى ، مستقبل كيفية استخدامنا للإنترنت.

شروط خدمة OpenAI لـ ChatGPT تحظر بشكل خاص إنشاء برامج ضارة بما في ذلك برامج الفدية وبرامج تسجيل الضغط والفيروسات، أو "غيرها من البرامج المقصودة لفرض بعض المستويات من الأذى". كما تحظر محاولات إنشاء رسائل غير مرغوب فيها (السبام)، فضلاً عن الاستخدامات التي تهدف إلى الجرائم السيبرانية.

ولكن كما هو الحال مع أي تكنولوجيا مبتكرة على الإنترنت، هناك بالفعل أشخاص يقومون بتجربة كيف يمكنهم استغلال ChatGPT لأغراض غير شفافة.

بعد الإطلاق ، لم يمر وقت طويل حتى بدأ القراصنة الإلكترونيين في نشر مواضيع على المنتديات السفلية حول كيفية استخدام ChatGPT للمساعدة في تيسير الأنشطة الإلكترونية الضارة ، مثل كتابة رسائل التصيد الاحتيالية أو المساعدة في تجميع البرمجيات الخبيثة.

وربما يثير القلق أيضًا أن النصابين سيحاولون استخدام شات جي بي تي وأدوات الذكاء الاصطناعي الأخرى مثل غوغل بارد كجزء من جهودهم. فبالرغم من أن هذه الأدوات لن تحدث ثورة في الهجمات السيبرانية، فإنها لا تزال قد تساعد المجرمين الإلكترونيين، حتى بطريقة غير مقصودة، على تنفيذ حملات خبيثة بكفاءة أكبر.

"لا أعتقد ، على الأقل في المدى القصير ، أن ChatGPT سيؤدي إلى إنشاء أنواع جديدة تمامًا من الهجمات. سيكون التركيز على جعل عملياتهم اليومية أكثر كفاءة من حيث التكلفة" ، كما يقول سيرجي شيكيفيتش ، مدير مجموعة استخبارات التهديد في شركة Check Point ، شركة أمن المعلومات.

أيضًا: ما هو ChatGPT ولماذا يهم؟ إليك كل ما تحتاج إلى معرفته

الهجمات الاحتيالية هي أحدث عنصر من عناصر اختراق البيانات الخبيثة وحملات الاحتيال. سواءً كان المهاجمون يرسلون رسائل بريد إلكتروني لنشر برامج البرمجيات الخبيثة، أو روابط الاحتيال ، أو استخدامها لإقناع الضحايا بتحويل الأموال ، فإن البريد الإلكتروني هو الأداة الرئيسية في عملية التلاعب الأولية.

تعتمد هذه العصابات على البريد الإلكتروني بشكل كبير مما يعني أنها بحاجة إلى تدفق مستمر من المحتوى الواضح والقابل للاستخدام. في كثير من الحالات - خاصةً مع عمليات الاحتيال - هدف الهجاجم هو إقناع الإنسان بالقيام بشيء ما، مثل تحويل الأموال. لحسن الحظ، العديد من محاولات الاحتيال الإلكتروني هذه سهلة التعرف عليها كرسائل غير مرغوب فيها الآن. ولكن وجود نسخ نصيةآت تلقائية فعالة يمكن أن يجعل هذه الرسائل أكثر جاذبية.

الجريمة السيبرانية هي صناعة عالمية، حيث يرسل المجرمون في جميع البلدان رسائل الصيد الاحتيالية إلى الأهداف المحتملة في جميع أنحاء العالم. وهذا يعني أن اللغة يمكن أن تكون عائقًا، خاصة بالنسبة لحملات الصيد الحصانة المتقدمة التي تعتمد على أن يعتقد الضحايا أنهم يتحدثون إلى جهة اتصال موثوقة -- ومن الواضح أن الشخص لن يعتقد أنه يتحدث إلى زميل إذا كانت الرسائل مليئة بأخطاء الإملاء والقواعد الغريبة أو التنقيط الغريب.

ولكن إذا تم استغلال الذكاء الاصطناعي بشكل صحيح ، فيمكن استخدام شاتبوت لكتابة نصوص للرسائل البريدية بأي لغة يرغب المهاجم فيها.

"العقبة الكبيرة أمام المجرمين السيبرانيين الروس هي اللغة - الإنجليزية"، كما يقول شيكيفيتش. "في الوقت الحالي يقومون بتوظيف خريجي دراسات الإنجليزية في الكليات الروسية لكتابة رسائل الصيد الاحتيالية والعمل في مراكز الاتصال - ويتعين عليهم دفع أموال لذلك".

يستمر قائلاً: "شيء مثل ChatGPT يمكن أن يوفر لهم الكثير من المال في إنشاء مجموعة متنوعة من رسائل الاحتيال المختلفة. يمكنه فقط تحسين حياتهم. أعتقد أن هذا هو المسار الذي سيراجعونه."

في النظرية ، هناك حمايات موجودة بهدف منع الاستغلال. على سبيل المثال ، يتطلب ChatGPT من المستخدمين تسجيل عنوان بريد إلكتروني ويتطلب أيضًا رقم هاتف للتحقق من التسجيل.

وعلى الرغم من أن ChatGPT سيتأكد من عدم كتابة رسائل الصيد الاحتيالي، إلا أنه من الممكن طلب منه إعداد قوالب بريد إلكتروني لرسائل أخرى، التي غالبًا ما يتم استغلالها من قبل المهاجمين السيبرانيين. يمكن أن يتضمن هذا الجهد رسائل مثل زعم توفر مكافأة سنوية، أو ضرورة تنزيل وتثبيت تحديث برنامج مهم، أو النظر في مستند مرفق كمسألة طارئة.

يقول آدم مايرز، كبير نواب رئيس الاستخبارات في كراودسترايك، مزود الأمن السيبراني واستخبارات التهديدات: "صياغة إيميل لإقناع شخص ما بالنقر على رابط للحصول على شيء مثل دعوة للمشاركة في مؤتمر - إنه رائع جدا، وإذا كنت غير ناطق بالإنجليزية فهذا يبدو جيدًا للغاية."

"يمكنك أن تتيح له إنشاء دعوة مصيغة بشكل جيد وصحيح قواعديًا، والتي قد لا تكون قادرًا على القيام بها إذا لم تكن ناطقًا بالإنجليزية الأصلية."

ولكن إساءة استخدام هذه الأدوات ليست حصرا على البريد الإلكتروني فقط؛ يمكن أن يستخدمها المجرمون للمساعدة في كتابة سيناريو لأي منصة عبر الإنترنت تعتمد على النص. بالنسبة للمهاجمين الذين يديرون عمليات احتيال، أو حتى المجموعات المتطورة للتهديدات السيبرانية التي تحاول تنفيذ حملات جاسوسية، يمكن أن تكون هذه أداة مفيدة - خاصة لإنشاء شخصيات اجتماعية مزيفة لجذب الناس.

"إذا كنت ترغب في إنتاج كلام تجاري معقول لـ LinkedIn لجعله يبدو وكأنك رجل أعمال حقيقي يحاول بناء صلات، فإن ChatGPT رائع لذلك"، يقول كيلي شورتريدج، خبيرة أمن المعلومات والمهندسة الأولى للمنتجات في شركة توفير خدمات الحوسبة السحابية Fastly.

تحاول مجموعات القرصنة المختلفة استغلال لينكد إن ومنصات وسائل التواصل الاجتماعي الأخرى كأدوات لتنفيذ حملات التجسس الإلكتروني. ولكن إنشاء ملفات تعريف أونلاين مزيفة وتبدو شرعية تستغرق الكثير من الوقت.

يعتقد شورتريدج أن المهاجمين يمكنهم استخدام أدوات الذكاء الاصطناعي مثل ChatGPT لكتابة محتوى مقنع مع الاستفادة من كونها أقل تعبًا مقارنة بالقيام بالعمل يدويًا.

"كثير من تلك الحملات الهندسية الاجتماعية تتطلب الكثير من الجهد لأنه يجب إعداد تلك الصفحات الشخصية"، تقول، قائلة إن أدوات الذكاء الاصطناعي يمكن أن تخفض الحاجز بشكل كبير.

"أنا متأكدة أن شاتGPT يمكن أن يكتب مقالات قيادة فكرية تبدو مقنعة جدًا،" تقول.

طبيعة الابتكار التكنولوجي تعني أنه كلما ظهر شيء جديد، ستكون هناك دائمًا أولئك الذين يحاولون استغلاله لأغراض شريرة. وحتى مع أحدث وسائل محاولة منع الاعتداءات، فإن طبيعة المجرمين السيبرانيين والاحتياليين الماكرة تعني أنهم على الأرجح سيجدون وسائل للتحايل على الحماية.

"لا يوجد طريقة للقضاء على الاستغلال بشكل كامل. لم يحدث ذلك في أي نظام على الإطلاق"، يقول شيكيفيتش، الذي يأمل في أن تعني التركيز على مسائل الأمان السيبراني المحتملة أن هناك مزيدًا من المناقشة حول كيفية منع استغلال الروبوتات الذكية المحادثات الذكية لأغراض خاطئة.

"إنها تكنولوجيا رائعة - ولكن، كما هو الحال دائمًا مع التكنولوجيا الجديدة، هناك مخاطر ومن المهم مناقشتها لكي نكون على علم بها. وأعتقد أن كلما زادت مناقشتنا، زاد احتمال أن تستثمر شركات مثل OpenAI المزيد في تقليل سوء الاستخدام"، يقترح.

هناك أيضًا فائدة للأمان السيبراني في الروبوتات الذكية القادرة على التفاعل، مثل ChatGPT. فهي جيدة جدًا في التعامل مع وفهم الشيفرات، لذا هناك إمكانية لاستخدامها لمساعدة المدافعين على فهم برامج الضارة. بالإضافة إلى ذلك، يمكن لهذه الأدوات أيضًا كتابة الشيفرات، لذلك فمن الممكن، من خلال مساعدة المطورين في مشاريعهم، أن تساعد في إنشاء شيفرات أفضل وأكثر أمانًا بشكل أسرع، وهذا أمر جيد للجميع.

حسبما كتب جيف بولارد، كبير المحللين في فوريستر مؤخرًا، يمكن أن يوفر ChatGPT تقليلًا ضخمًا في مدة إنتاج تقارير حوادث الأمان.

"تحويل هذه العمليات بشكل أسرع يعني المزيد من الوقت للقيام بأعمال أخرى - اختبار وتقييم والتحقيق والاستجابة، كل ذلك يساعد فرق الأمان على التوسع"، يشير إلى أن الروبوت يمكنه أن يقترح الإجراءات التالية الموصى بها بناءً على البيانات المتاحة.

"إذا تم إعداد تنظيم الأمان والتلقائية والاستجابة بشكل صحيح لتسريع استرداد القطع الأثرية، فقد يسرع ذلك من عملية الكشف والاستجابة ويساعد المحللين في مركز عمليات الأمان على اتخاذ قرارات أفضل"، يقول.

إذاً، قد يصعب الأمر على بعض الأشخاص في مجال الأمان السيبراني بوجود الروبوتات الدردشة، ولكن قد تكون هناك بعض الجوانب الإيجابية أيضًا.

اتصلت ZDNET بشركة OpenAI للحصول على تعقيب، ولكن لم تحصل على رد. ومع ذلك، سألت ZDNET ChatGPT عن القواعد المفروضة لمنع سوء استخدامها في الهجمات الخبيثة واستلمنا النص التالي.

"من الهام أن نلاحظ أنه على الرغم من أن نماذج اللغة الذكية مثل ChatGPT يمكن أن تنتج نصًا يشبه الرسائل الاحتيالية، إلا أنها لا يمكنها القيام بأعمال خبيثة بمفردها بل تحتاج إلى نية وإجراءات من قبل المستخدم لتسبب الضرر. لذا، من المهم على المستخدمين أن يمارسوا الحذر والحكم السليم عند استخدام تكنولوجيا الذكاء الاصطناعي، وأن يظلوا يقظين في الحماية ضد الاحتيال والأنشطة الخبيثة الأخرى."