تعد انتشار الفيديوهات العميقة deepfakes الواقعية بشكل مخيف واحدة من العواقب الأكثر ضارية لارتفاع الذكاء الاصطناعي، ويكلف الشركات بالفعل ملايين الدولارات بسبب التعرض للغش عليها، بالإضافة إلى الآثار التي يمكن أن تكون لها هذه الفيديوهات على الأمان القومي. اليوم، تعلن شركة ناشئة قامت ببناء مجموعة أدوات تستهدف الحكومات والشركات لمساعدتها في اكتشاف ووقف deepfakes والتقليدات في الصوت والفيديو والصور الثابتة بعض التمويلات مع بعض العملاء والمستثمرين المعتبرين.
أسست GetReal - من قبل الدكتور هاني فريد، أحد رواد اكتشاف وسائط الفيديو المزيفة - 17.5 مليون دولار في حصة، وهو التمويل الذي سيستخدمه للبحث والتطوير والتوظيف وتطوير الأعمال.
إلى جانب التمويل، تقوم الشركة بإطلاق منصتها التقنية كخدمة، والتي تتضمن واجهة ويب وواجهة برمجة تطبيقات وتكاملات لتشغيل تحليل الوسائط بصورة خدمة. تشمل الميزات لوحة عرض التعرض للتهديدات، أداة "Inspect" موجهة خصيصًا لحماية كبار المسؤولين التنفيذيين من التزييف، أداة "Protect" لفحص الوسائط، و "Respond" - خدمة تنطوي على فرق بشرية في GetReal تقوم بتنفيذ تحليل أعمق.
Forgepoint Capital، المتخصصة في الأمان السيبراني والذكاء الاصطناعي، تقود هذه السلسلة A مع Ballistic Ventures، Evolution Equity، و K2 Access Fund المشاركة.
Ballistic هي شركة مهمة في تلك القائمة. تم تحضير GetReal في رأس المال الاستثماري منذ عام 2022 حتى ظهرت من الخفاء في يونيو 2024. كما قادت Ballistic جولة GetReal بقيمة 7 ملايين دولار - جولة شملت بحسب PitchBook أيضًا Venrock ، Artisanal ، Qudit و Silver Buckshot.
Ballistic مهم أيضًا لسبب آخر: رئيس مجلس الإدارة للشركة تيد شلاين هو الرئيس التنفيذي والمؤسس الآخر لشركة GetReal. قبل Ballistic، رأس شلاين Kleiner Perkins.
هاني كخدمة
تقع GetReal في عالم الأمان السيبراني الأوسع، على وجه التحديد في مجال الفحص الرقمي المتطور بسرعة. الفجوة في السوق التي تعالجها الشركة الناشئة المقرة في سان ماتيو هي نقص المواهب والمعرفة في تلك المساحة.
"إذا كنت تعتقد أن الأمان السيبراني يعاني من نقص في الأشخاص، فاستعد للفحص الرقمي،" قال مات موينهان، الرئيس التنفيذي لشركة GetReal.
موينهان ليس مؤسس الشركة بنفسه، جاء إلى GetReal بينما كانت لا تزال في الخفاء على أعقاب مسيرة مهنية استمرت ثلاثة عقود قاد خلالها سلسلة من الشركات الكبرى في مجال الأمان السيبراني مثل Symantec ، Arbor Networks ، Veracode و Forcepoint.
"من الصادق أن أقول إنني لا أعتقد أنني رأيت تهديدًا مثل هذا بشكل شائع،" قال عن القدرة على إنشاء ثم تطبيق deepfakes خبيثة. "قال: "ما شهدناه خلال العقود الثماني الأخيرة هو انتقال التهديد للمستخدم النهائي". موينهان ""التطبيقات" التي تسمح للناس بإنشاء deepfakes جزء من المشكلة، ولكن كذلك البيئة التي نعمل فيها اليوم. "الناس قد تحولوا من الطوب والملاط إلى الشركات التي أصبحت الآن تقريبًا كلها رقمية وفي السحابة".
وأوضح أن الاحتيال يثبت أن الأشخاص الأذكياء يمكن أن يتم خداعهم بسهولة، ويضاف لهذا كله عرز كبير وعلامة سيئة جدًا على المكان الذي يمكن أن تتجه إليه الأمور.
GetReal هو فلورة فريدة من نوعها لفريد، أكاديمي معروف منذ فترة طويلة (حاليًا في جامعة كاليفورنيا بيركلي) والذي يُعتبر رائدًا في تقنيات التعرف عند التلاعب بالصور الرقمية. يُعتبر فريد تفهم المخاطر التي تشكلها الفيديوهات العميقة deepfakes قبل حتى أن ينشأ المصطلح.
كما شرحه Farid لـ TechCrunch، بينما كان يعمل أساسًا كأكاديمي وباحث، فقد كان يطبق تعلماته بمعرفة أكثر أو أقل غير رسمية منذ سنوات كخدمة للمؤسسات الإعلامية والفرق القانونية (بعد أن أصبحت الصور الرقمية قابلة للقبول في المحكمة) وغيرها. في عام 2022، التقى مع شلاين للنظر في كيفية ترجمة ذلك إلى عمل تجاري فعلي، تحويل تلك العملية التحقيقية إلى كود.
"لا أحد يتطلع إلى هذا الأمر بالطريقة التي يفعل بها هاني"، قال موينهان. "ولكن لا يمكن لهاني النمو بشكل كبير. لذا قمنا في الأساس بأخذ هاني وحاولنا إنشاء خدمة 'هاني' في السحابة".
ومن المثير للاهتمام أن Farid يلاحظ أن التكنولوجيا التي يقومون بتطويرها تعتمد على كيفية عمل التطبيقات الجديدة - هناك الكثير من عمليات الهندسة العكسية التي تحدث في GetReal - مع مزيج من عقود من المعرفة لم تتغير كثيرًا.
"التقنيات التي وضعناها قبل 20 عامًا لا تزال تعمل اليوم،" قال. رفض شرح ما هي. "لا يجب أن تخبر الناس بكل شيء نفعله، لكن من الصعب جدًا الحصول على الصواب".
تأثير الإشارة: النص القادم
تتضمن السلسلة A التي تم الإعلان عنها اليوم بعض المستثمرين الاستراتيجيين الرئيسيين مثل استثمارات سيسكو و Capital One Ventures و In-Q-Tel، شركة استثمارية مرتبطة ارتباطا وثيقًا بوكالة الاستخبارات المركزية.
تعكس قائمة الاستراتيجيين أنواع الشركات التي تهتم بمنتج GetReal أو بدأت بالفعل في اعتماده، وقال ألبرتو ييبيز، المؤسس المشارك لشركة Forgepoint الذي قاد الاستثمار.
"ما وجدته خلال الدراسة هو أن الصناعات المنظمة بشدة - مثل المؤسسات المالية - كانت تطلب بالفعل منتجًا مثل هذا وكان مديرو الأمان السيبراني يتواصلون بناءً على تعليمات مجالس مديريهم", قال.
"رفعوا مسألة [التصريحات بسبب الاحتيال التقليدي] بعد أن تم وضع رؤساء تنفيذييهم في مقابلات صوتية"," شرح: "تم تمثيلهم أنفسهم وتم خداعهم بالتمثيل. وتشمل العملاء المسمين John Deere و Visa".
أما بالنسبة لعمل الحكومة، فقال Yépez: "لديهم أيضًا بعض الأولويات في هذا المجال".
تشمل هذه الأولويات الوكالات الاستخبارية والمسئولين الحكوميين الذين تم خداعهم إلى التصرف، أو عدم التصرف، استنادًا إلى معلومات مزورة من أطراف خارجية خبيثة.
لكنها لم تمتد حتى الآن إلى التمثيل النصي القائم على الأحداث العميقة.
هذا شيء ظهر فقط هذا الأسبوع عندما قام محرر The Atlantic - الذي تم إضافته بطريق الخطأ إلى مجموعة Signal تخطط لهجوم عسكري في اليمن - بالاعتقاد في البداية أنه يتعلق بمقلب تمثيل. لكن يبدو أن هذا الدردشة كانت حقيقية وفلكية للغاية في انتهاك إجراءات الأمان القومي.
قال فريد إن النص ليس ضمن نطاق GetReal حاليًا. "إنه وحش مختلف"، قال. ولكن في الأجل الطويل، ستكون الخطة هي توسيع نطاق الوقت بمرور الوقت لتشمل جميع أنواع التهديدات العميقة والتمثيلية.
