الذكاء الاصطناعي يثير المخاوف من عمليات نهب بملايين الدولارات

 أدت موجة متزايدة من عمليات الاحتيال العميق إلى نهب ملايين الدولارات من الشركات في جميع أنحاء العالم، ويحذر خبراء الأمن السيبراني من أن الأمر قد يزداد سوءاً حيث يستغل المجرمون الذكاء الاصطناعي التوليدي للاحتيال والتزييف.

التزييف العميق هو مقطع فيديو أو صوت أو صورة لشخص حقيقي تم تعديله والتلاعب به رقمياً، غالباً من خلال الذكاء الاصطناعي، لتشويهه بشكل مقنع.

في واحدة من أكبر عمليات هذه الظاهرة هذا العام، تمّ خداع موظف مالي في هونغ كونغ لتحويل أكثر من 25 مليون دولار إلى محتالين يستخدمون تقنية التزييف العميق والذين تنكروا في هيئة زملاء في مكالمة فيديو، حسبما قالت السلطات لوسائل الإعلام المحلية في فبراير/ شباط.

الجريمة وقعت

وأفادت وسائل إعلام صينية بأن محتالين تمكنوا من خداع محاسب مالي في إحدى الشركات وسرقة مبلغ 25 مليون دولار باستخدام تقنية التزييف العميق.

اقرأ أيضاً: الذكاء الاصطناعي سيقود سوق الأوراق المالية خلال العقد المقبل

وذكرت وسائل الإعلام أن المحتلين استخدموا الذكاء الاصطناعي التوليدي مع موظف مالي في مدينة هونغ كونغ، الواقعة على ساحل الصين الجنوبي، حيث تنكروا بهيئة زملاء الموظف، عبر مكالمة فيديو.

وأكدت شركة "أروب" استخدام "أصوات وصور مزيفة" في الحادث، مضيفةً أن "عدد وتعقيد هذه الهجمات ارتفع بشكل حاد في الأشهر الأخيرة".

وأكدت شركة الهندسة البريطانية Arup لشبكة CNBC الإخبارية أنها الشركة المسؤولة عن القضية، لكنها لم تُدلِ بتفاصيل، بسبب استمرار التحقيق في القضية.

تزايد التهديدات

وقال كبير مسؤولي المعلومات والأمن في شركة Netskope للأمن السيبراني، ديفيد فيرمان، إن مثل هذه التهديدات تزايدت نتيجة تعميم ChatGPT من OpenAI، الذي تم إطلاقه في عام 2022.

وأضاف: "إن إمكانية الوصول العام إلى هذه الخدمات خفضت حاجز الدخول أمام مجرمي الإنترنت، ولم يعودوا بحاجة إلى مهارات تكنولوجية خاصة"، مبيناً أن حجم وتعقيد عمليات الاحتيال اتسع مع استمرار تطور تكنولوجيا الذكاء الاصطناعي.

اقرأ أيضاً: "هل يمكنك الثقة بما تراه أو تسمعه؟".. خطر التزييف العميق يفاقم إشكاليات الأمان الرقمي

وأشار فيرمان إلى أنه بسبب مخاطر الاحتيال الرقمي، بدأ بعض المديرين التنفيذيين في محو وجودهم على الإنترنت، أو الحد منه؛ خوفاً من أن يستخدمه مجرمو الإنترنت كمادة خام للتزييف العميق.

ويمكن استخدام العديد من خدمات الذكاء الاصطناعي التوليدية لإنشاء محتوى نصي وصوري وفيديو يشبه الإنسان، إذ يمكن أن تكون بمثابة أدوات قوية للجهات الفاعلة غير المشروعة التي تحاول التلاعب رقمياً.

وتحدثت وسائل الإعلام الحكومية الصينية عن حالة مماثلة في مقاطعة شانشي وقعت خلال العام الحالي، تتعلق بموظفة مالية، تم خداعها لتحويل 1.86 مليون يوان، ما يُعادل 262 ألف دولار، إلى حساب محتال بعد مكالمة فيديو مع رئيسها في العمل.

ما هو التزييف العميق

والتزييف العميق هو مقطع فيديو أو صوت أو صورة لشخص حقيقي تم تعديله والتلاعب به رقمياً، غالباً من خلال الذكاء الاصطناعي، للاحتيال بشكل مقنع.

يوفّر الذكاء الاصطناعي أدوات جديدة بالغة القوة لعصابات القرصنة السيبرانية، تمكّنها من العمل على المستوى الدولي أكثر من أي وقت مضى، وفقاً لتقرير علمي نشرته مجلة MIT Technology Review في 21 أيار/ مايو الحالي.

يتيح الـ AI أتمتة المهام وإنتاجها بسرعة مثل إنشاء رسائل بريد إلكتروني للتصيّد الاحتيالي، وإنشاء صور مزيّفة عميقة، واستخراج البيانات الشخصية التي قد تتطلب عملاً مضنياً.

 لكن تطوّر أنظمة الـ AI مثل نماذج اللغة الكبيرة تشات جي بي تي وغيره، مكّن المجرمين من إنشاء محتوى مُقنع ويبدو حقيقياً لا يمكن كشفه بسهولة.

يستخدم القراصنة التزييف العميق بطريقة أخرى أيضاً عبر تجاوز أنظمة التحقّق “اعرف عميلك”. وتستخدم البنوك وبورصات العملات المشفّرة هذه الأنظمة للتحقّق من أنّ عملاءها هم أشخاص حقيقيون.

انتحال صفة

وتقدّم مجموعات قرصنة خدمة تزييف بطاقة هوية عبر وضع صورة الشخص المُراد انتحال صفته فوق وجه الشخص الحقيقي على البطاقة، لخداع نظام التحقّق عبر كاميرا الهواتف الذكية العاملة بنظام التشغيل أندرويد، من أجل دخول حسابه على موقع Binance للعملات المشفّرة. ووجد تقرير المجلة أن بعض الجهات الإجرامية تقدم تلك الخدمة مقابل مبلغ زهيد يصل إلى 70 دولاراً أميركياً.

إلى ذلك، يحذر خبراء الأمن من أنّ زيادة التنسيق بين الجماعات الإجرامية في جميع أنحاء العالم يمثل خطراً كبيراً مع تحسن نماذج الـ AI مثل تشات جي بي تي. 

ويحثّون الشركات على الاستثمار في حماية البيانات والأفراد على توخّي الحذر بشأن المعلومات الشخصية التي يشاركونها عبر الإنترنت والتي يمكن استغلالها بواسطة أنظمة الذكاء الاصطناعي.