لقد أدى التطور السريع للذكاء الاصطناعي إلى تطور تقنية (التزييف العميق) Deepfake، بنحو كبير جدًا، ويواجه العالم حاليًا الآثار المعقدة الناتجة عنها، فهي تؤثر سلبًا في الكثير من القطاعات، وأهمها: قطاع الأعمال وقطاع السياسة.
فقد شهد عام 2023 وحده ارتفاعًا كبيرًا في محاولات الاحتيال التي تعتمد على تقنية التزييف العميق، إذ زادت بنسبة بلغت 3000% مقارنة بالعام السابق، ومن المتوقع أن نشهد بنهاية العام الجاري زيادة هذه النسبة بنحو أكبر. ويرجع هذا الارتفاع الصاروخي إلى سهولة الوصول إلى أدوات التزييف العميق، التي أصبحت متاحة بأسعار زهيدة أو مجانًا عبر الإنترنت. فبفضل تطور تقنيات الذكاء الاصطناعي، أصبح من الممكن لأي شخص تقريبًا حتى الذين لايملكون أي خبرة تقنية إنشاء مقاطع فيديو مزيفة واقعية بدرجة كبيرة.
وفي هذا السياق، طورت شركة (تاليس) Thales، نموذجًا جديدًا قادر على اكتشاف الصور المزيفة التي أُنشئت باستخدام تقنيات الذكاء الاصطناعي بدقة عالية، إذ يعتمد هذا النموذج على مجموعة من التقنيات المتقدمة في مجال التعلم الآلي، مما يجعله قادرًا على تحليل الصور وتحديد التلاعب بها بدقة متناهية.
ولكن ما المزايا التي يقدمها هذا النموذج الجديد، وكيف يساهم في تعزيز الأمن السيبراني، وما التحديات المستقبلية التي تواجهها تاليس لتطوير هذا النموذج؟
أولًا؛ ما مزايا نموذج تاليس الجديد لمكافحة التزييف العميق؟
كان الذكاء الاصطناعي هو الموضوع الرئيسي في الأسبوع السيبراني الأوروبي، الذي عُقد خلال الأسبوع الماضي في مدينة رين الفرنسية، وقد برزت شركة تاليس قدرتها الابتكارية في مجال مكافحة التزييف العميق. ففي تحدٍ أطلقته وكالة ابتكار الدفاع الفرنسية (AID) تزامنًا مع الحدث، نجحت الفرق في cortAIx، مسرع الذكاء الاصطناعي في تاليس، في تطوير نموذج جديد يتميز بدقته العالية في الكشف عن الصور المزيفة المولدة بالذكاء الاصطناعي.
التقنيات المستخدمة في نموذج تاليس الجديد:
يعتمد النموذج على مجموعة من التقنيات المتقدمة في مجال التعلم الآلي، التي تعمل على تحليل مختلف جوانب الصور بدقة عالية وكشف أدنى علامات التزييف، والتي تشمل:
- تقنية CLIP: تعمل هذه التقنية على ربط العالم المرئي بالعالم اللغوي، بحيث تفهم العلاقة بين الصور والكلمات. فمن خلال تحليل الصورة ومقارنتها بالوصف النصي لها، تستطيع هذه التقنية اكتشاف أي تناقضات أو مشاكل بصرية تدل على وجود تلاعب بالصورة.
- تقنية DNF: تعتمد هذه التقنية على فكرة أن الصور المزيفة التي أُنشئت باستخدام نماذج الذكاء الاصطناعي تحتوي على نوع معين من (الضوضاء) أو (الشوائب)، التي لا توجد في الصور الحقيقية. وبما أن نماذج الذكاء الاصطناعي التي تُستخدم لإنشاء هذه الصور تعتمد على إضافة ضوضاء تدريجية للصورة الأصلية حتى تصل إلى الصورة النهائية، فإن تقنية (DNF) تحاول تقدير كمية هذه الضوضاء الموجودة في الصورة، وإذا كانت كمية الضوضاء مرتفعة جدًا، فهذا يعني أن الصورة على الأرجح مزيفة.
- تقنية DCT: تعتمد تقنية DCT على تحويل الصورة من المجال المكاني (حيث نرى الصورة كشبكة من البكسلات) إلى المجال الترددي. وفي المجال الترددي، يمكن تحليل الصورة بناءً على التغيرات في شدة اللون من بكسل إلى آخر، ومن ثم يمكن اكتشاف التغيرات غير الطبيعية في بنية الصورة، التي تحدث عند استخدام التزييف العميق، والتي غالبًا ما تكون غير مرئية للعين المجردة.
ثانيًا؛ كيف يساهم في تعزيز الأمن السيبراني؟
يمثل نموذج تاليس الجديد قفزة نوعية في مجال مكافحة التزييف العميق، وذلك للأسباب التالية:
- الحماية من الاحتيال: يساعد النموذج في الكشف عن الصور المزيفة التي تستخدم في عمليات الاحتيال وانتحال الشخصية، مما يحمي الهوية الرقمية للأفراد والمؤسسات.
- مكافحة الأخبار المزيفة: يساهم النموذج في الكشف عن الصور المزيفة التي تستخدم في نشر الأخبار المزيفة، مما يساعد في تعزيز مصداقية المعلومات والحفاظ على سلامة الرأي العام.
- تعزيز الثقة في التعاملات الرقمية: يوفر النموذج مستوى عالي من الثقة في التعاملات الرقمية، إذ يقلل من المخاطر المرتبطة بالصور المزيفة.
ويؤكد كريستوف ماير، الخبير الأول في الذكاء الاصطناعي والمسؤول التقني لنظام cortAIx، مسرع الذكاء الاصطناعي لشركة تاليس، أن النموذج الجديد يمثل إنجازًا كبيرًا في مجال مكافحة التزييف العميق. مشيرًا إلى أن هذا النموذج المتطور يجمع بين تقنيات متعددة لتحليل الصور وتحديد التلاعب بها، مثل استخدام الشبكات العصبية واكتشاف الضوضاء وتحليل التردد المكاني، مما يمثل خطوة حاسمة في حماية أنظمة التعرف البيومتري التي أصبحت جزءًا لا يتجزأ من حياتنا اليومية. ويرى ماير أن هذا الإنجاز هو شهادة على خبرة فريق البحث والتطوير في تاليس، ويساهم في تعزيز الثقة بتطبيقات الذكاء الاصطناعي.
ثالثًا؛ (BattleBox) ترسانة تاليس لمواجهة تهديدات الذكاء الاصطناعي:
يقف وراء تطوير نموذج تاليس الجديد لكشف التزييف العميق في الصور، فريق وحدة (القرصنة الأخلاقية)، الذي يُعدّ جزءًا من نظام (cortAIx) مسرع الذكاء الاصطناعي التابع لمجموعة تاليس، والذي يضم أكثر من 600 باحث ومهندس في مجال الذكاء الاصطناعي، ومن بينهم 150 يعملون في مجموعة أبحاث وتكنولوجيا في بلدية ساكلاي في جنوب باريس، ويعملون على أنظمة بالغة الأهمية.
وقد نجح فريق (القرصنة الأخلاقية) في تطوير مجموعة أدوات تُسمى (BattleBox) للمساعدة في تقييم قوة الأنظمة التي تعمل بالذكاء الاصطناعي ضد الهجمات المصممة لاستغلال نقاط الضعف الجوهرية في نماذج الذكاء الاصطناعي المختلفة.
وتتمثل مهمة (BattleBox) في اختبار قوة أنظمة الذكاء الاصطناعي وتحديد نقاط ضعفها، ويشبه الأمر اختبار نظام أمني لاكتشاف الثغرات قبل أن يستغلها المخترقون، ويركز الفريق في الهجمات التي تستهدف نماذج الذكاء الاصطناعي المختلفة – بما يشمل النماذج اللغوية الكبيرة – مثل الهجمات المعادية التي تحاول تضليل النموذج، أو محاولات استخراج المعلومات الحساسة المخزنة فيه. ولمواجهة هذه الهجمات، يطور الفريق تدابير مضادة متقدمة مثل إلغاء التعلم، والتعلم الموحد، ووضع علامات مائية على النماذج، وتقوية النماذج.
وعلاوة على ذلك، أثبت فريق تاليس كفاءته في (تحدي CAID) الذي نظمته وكالة المشتريات الدفاعية الفرنسية (DGA) في عام 2023، والذي تضمن العثور على بيانات تدريب الذكاء الاصطناعي حتى بعد حذفها من النظام لحماية السرية، مما يؤكد قدرة الفريق على مواجهة التحديات المعقدة في مجال أمن الذكاء الاصطناعي.
رابعًا؛ التحديات المستقبلية:
يمثل النموذج الذي طورته شركة تاليس خطوة مهمة في مكافحة التزييف العميق. ومع ذلك، هناك العديد من التحديات التي تواجه مجال مكافحة التزييف العميق، والتي تشمل:
- تطور تقنيات التزييف العميق: تتطور تقنيات التزييف العميق بسرعة كبيرة، مما يتطلب تطوير مستمر للأنظمة المستخدمة في الكشف عنها.
- نقص البيانات التدريبية: تحتاج أنظمة الكشف عن التزييف العميق إلى كميات كبيرة من البيانات التدريبية العالية الجودة، وهو ما يمثل تحديًا كبيرًا في المجال.
- التشريعات والقوانين: أظهر التطور السريع للذكاء الاصطناعي الذي نشهده حاليًا، أهمية الحاجة إلى المزيد من الجهود البحثية والتطويرية، وكذلك تطوير تشريعات وقوانين واضحة لتنظيم استخدامه ومكافحة التلاعب بالمعلومات.
الخلاصة:
يُعدّ نموذج تاليس الجديد خطوة جيدة في مجال مكافحة التزييف العميق، ومع ذلك لا يزال هناك الكثير من العمل الذي يجب القيام به، إذ من المتوقع أن يشهد هذا المجال تطورات كبيرة في السنوات القادمة، مما يؤكد الحاجة إلى زيادة جهود البحث والتطوير لحماية المجتمع الرقمي من التهديدات المتزايدة.
نسخ الرابط تم نسخ الرابط
