كشف ChatGPT مؤخرًا عن مولد صور جديد ضمن تحديث نموذج 4o، يتميز بتحسين كبير في القدرة على توليد نصوص داخل الصور بدقة وواقعية أكبر.
بدأ المستخدمون بالفعل في استغلال هذه التقنية لإنشاء إيصالات مزيفة لمطاعم، مما يضيف أداة جديدة إلى مجموعة تقنيات التزييف العميق (Deepfake) التي يستخدمها المحتالون.
تجارب المستخدمين مع الإيصالات المزيفة
نشر مستثمر رأس المال المغامر والناشط على وسائل التواصل الاجتماعي ديدي داس صورة لإيصال مزيف لمطعم شريحة لحم حقيقي في سان فرانسيسكو، قائلًا إنه تم إنشاؤه باستخدام نموذج 4o.
كما تمكن آخرون من محاكاة نتائج مماثلة، وأضافوا لمسات مثل بقع طعام أو مشروبات لجعل الإيصالات تبدو أكثر مصداقية.
أكثر مثال واقعي وجدته TechCrunch كان من فرنسا، حيث نشر مستخدم على لينكدإن صورة لإيصال مطعم محلي مجعد تم توليده بواسطة الذكاء الاصطناعي.
اختبار TechCrunch مع نموذج 4o
قام فريق TechCrunch بتجربة النموذج ونجح في توليد إيصال مزيف لمطعم Applebee’s في سان فرانسيسكو، إلا أن هناك بعض المؤشرات التي كشفت عن التزوير، مثل:
- استخدام الفاصلة بدلاً من النقطة في الرقم الإجمالي.
- عدم تطابق الحسابات الرياضية، حيث لا يزال النموذج يعاني من ضعف في العمليات الحسابية البسيطة.
مع ذلك، من السهل على المحتالين تعديل الأرقام عبر برامج تحرير الصور أو صياغة تعليمات أدق للنموذج.
مخاطر الاحتيال مع تقنيات التزييف الجديدة
تسهيل توليد إيصالات مزيفة يفتح المجال أمام فرص واسعة للاحتيال، حيث يمكن للمخادعين تقديم مطالبات تعويضات عن مصاريف وهمية بالكامل.
ردود OpenAI
أوضحت المتحدثة باسم OpenAI، تايا كريستيانسون، لـTechCrunch أن كل صورة مولدة تحتوي على بيانات وصفية (Metadata) تشير إلى أنها من إنتاج ChatGPT، مشيرة إلى أن الشركة تتخذ إجراءات صارمة ضد من يخالف سياسات الاستخدام.
عند سؤالها عن سماح النظام بإنشاء إيصالات مزيفة رغم حظر الاحتيال في سياسات الشركة، قالت كريستيانسون إن هدف OpenAI هو منح المستخدمين حرية إبداعية كبيرة، وأن الإيصالات المزيفة قد تُستخدم لأغراض تعليمية مثل تثقيف الناس حول الثقافة المالية، إضافة إلى الاستخدامات الإبداعية في الفن والإعلانات.
