'دققوا جيداً'.. الذكاء الاصطناعي يفاقم ظاهرة الاحتيال في الفواتير
نيسان ـ نشر في 2025-10-27 الساعة 12:44
نيسان ـ تتعرض الشركات بشكل متزايد للخداع من قِبل بعض الموظفين الذين يستخدمون الذكاء الاصطناعي في عملية احتيال قديمة: تزوير إيصالات النفقات.
فقد أدى إطلاق نماذج جديدة لتوليد الصور من قِبل كبرى شركات الذكاء الاصطناعي، مثل «أوبن ايه آي» و«جوجل»، خلال الأشهر الأخيرة، إلى تدفق الفواتير والإيصالات المولّدة بواسطة الذكاء الاصطناعي والمقدّمة داخلياً بالشركات، وفقاً للمنصات الرائدة لبرمجيات النفقات.
وصرحت شركة «آب زين»، مُزوّدة البرمجيات، بأن إيصالات الذكاء الاصطناعي المزيفة شكلت حوالي 14% من المستندات الاحتيالية المُقدّمة في سبتمبر، مُقارنةً بـ«صفر إيصالات» في العام الماضي.
وقالت مجموعة «رامب»، وهي شركة تكنولوجيا مالية، إن برنامجها الجديد كشف عن فواتير احتيالية تجاوزت قيمتها مليون دولار أمريكي في غضون 90 يوماً.
وأفاد حوالي 30% من الخبراء الماليين في الولايات المتحدة والمملكة المتحدة الذين شملهم استطلاع أجرته منصة إدارة النفقات «ميديوس»، بأنهم لاحظوا ارتفاعاً في الإيصالات المزورة بعد إطلاق «أوبن ايه آي» لبرنامج GPT-4o العام الماضي.
وقال كريس جونو، نائب الرئيس الأول رئيس تسويق المنتجات في «إس ايه بي كونكور»، إحدى منصات النفقات الرائدة عالمياً، والتي تعالج أكثر من 80 مليون فحص امتثال شهرياً باستخدام الذكاء الاصطناعي: «لقد أصبحت هذه الإيصالات المزورة جيدة جداً، لدرجة أننا نقول لعملائنا: لا تثقوا بأعينكم».
وعزت العديد من المنصات القفزة الكبيرة في عدد الإيصالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي إلى إطلاق «أوبن إيه آي» نموذج GPT-4o المحسن لتوليد الصور في مارس.
وأبلغت شركة «أوبن إيه آي» صحيفة «فاينانشيال تايمز» أنها تتخذ إجراءات عند انتهاك سياساتها واحتواء صورها على بيانات تشير إلى أنها تم إنشاؤها بواسطة «شات جي بي تي».
وكان إنشاء مستندات احتيالية يتطلب في السابق مهارات في تحرير الصور أو الدفع مقابل هذه الخدمات من خلال البائعين عبر الإنترنت.
لكن ظهور برامج توليد الصور المجانية سهل على الموظفين تزوير الإيصالات بسرعة وفي ثوانٍ قليلة عن طريق كتابة تعليمات نصية بسيطة إلى روبوتات الدردشة.
وأظهرت العديد من الإيصالات التي عرضتها منصات إدارة النفقات الطبيعة الواقعية للصور، والتي تضمنت تجاعيد في الورق وتفاصيل دقيقة تطابق القوائم الواقعية والتوقيعات.
وقال سيباستيان مارشون، الرئيس التنفيذي لشركة «ريدو»، وهي منصة لإدارة النفقات: «هذا ليس تهديداً مستقبلياً، بل أمر يحدث بالفعل.
وفي حين أن نسبة صغيرة فقط من الإيصالات غير الحقيقية تُولّد حالياً بواسطة الذكاء الاصطناعي، إلا أن هذا سيزداد بالتأكيد».
ودفع ازدياد هذه النسخ الشركات إلى اللجوء إلى الذكاء الاصطناعي نفسه للمساعدة على الكشف عن الإيصالات المزيفة، وخاصة أن معظمها بات مقنعاً للغاية بحيث يصعب على المراجعين البشريين اكتشافه.
ويتم ذلك عن طريق مسح الإيصالات للتحقق من البيانات الوصفية للصورة لمعرفة ما إذا كانت منصة ذكاء اصطناعي قد أنشأتها أم لا.
ومع ذلك، يمكن للمستخدمين إزالة هذه البيانات بسهولة عن طريق التقاط صورة أو لقطة شاشة للصورة.
ولمواجهة ذلك، يأخذ البرنامج أيضاً في الاعتبار معلومات سياقية أخرى من خلال فحص تفاصيل مثل التكرار في أسماء الخوادم والأوقات ومعلومات أوسع حول رحلة الموظف.
وقال كالفن لي، المدير الأول لإدارة المنتجات في شركة «رامب»: تستطيع التقنية النظر إلى كل شيء بتركيز واهتمام كبيرين لدرجة أن البشر، بعد فترة من الوقت، يقعون في الأخطاء.. فهم بشر.
وأظهر بحث أجرته شركة غس ايه بي في يوليو أن ما يقرب من 70% من المديرين الماليين يعتقدون بأن بعض موظفيهم يستخدمون الذكاء الاصطناعي لمحاولة تزوير نفقات السفر أو الإيصالات، بينما أكد حوالي 10% منهم أنهم متأكدون من حدوث ذلك في شركاتهم.
وصرح ماسون وايلدر، مدير الأبحاث في جمعية محققي الاحتيال المعتمدين، بأن الإيصالات الاحتيالية المُولّدة بواسطة الذكاء الاصطناعي تُمثل مشكلةً بالغة الخطورة للمؤسسات.
وأضاف: لا توجد أي عوائق أمام الناس للقيام بذلك. لا يتطلب الأمر أي نوع من المهارات أو الكفاءات التكنولوجية كما كانت الحال قبل خمس سنوات باستخدام برنامج فوتوشوب.
فقد أدى إطلاق نماذج جديدة لتوليد الصور من قِبل كبرى شركات الذكاء الاصطناعي، مثل «أوبن ايه آي» و«جوجل»، خلال الأشهر الأخيرة، إلى تدفق الفواتير والإيصالات المولّدة بواسطة الذكاء الاصطناعي والمقدّمة داخلياً بالشركات، وفقاً للمنصات الرائدة لبرمجيات النفقات.
وصرحت شركة «آب زين»، مُزوّدة البرمجيات، بأن إيصالات الذكاء الاصطناعي المزيفة شكلت حوالي 14% من المستندات الاحتيالية المُقدّمة في سبتمبر، مُقارنةً بـ«صفر إيصالات» في العام الماضي.
وقالت مجموعة «رامب»، وهي شركة تكنولوجيا مالية، إن برنامجها الجديد كشف عن فواتير احتيالية تجاوزت قيمتها مليون دولار أمريكي في غضون 90 يوماً.
وأفاد حوالي 30% من الخبراء الماليين في الولايات المتحدة والمملكة المتحدة الذين شملهم استطلاع أجرته منصة إدارة النفقات «ميديوس»، بأنهم لاحظوا ارتفاعاً في الإيصالات المزورة بعد إطلاق «أوبن ايه آي» لبرنامج GPT-4o العام الماضي.
وقال كريس جونو، نائب الرئيس الأول رئيس تسويق المنتجات في «إس ايه بي كونكور»، إحدى منصات النفقات الرائدة عالمياً، والتي تعالج أكثر من 80 مليون فحص امتثال شهرياً باستخدام الذكاء الاصطناعي: «لقد أصبحت هذه الإيصالات المزورة جيدة جداً، لدرجة أننا نقول لعملائنا: لا تثقوا بأعينكم».
وعزت العديد من المنصات القفزة الكبيرة في عدد الإيصالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي إلى إطلاق «أوبن إيه آي» نموذج GPT-4o المحسن لتوليد الصور في مارس.
وأبلغت شركة «أوبن إيه آي» صحيفة «فاينانشيال تايمز» أنها تتخذ إجراءات عند انتهاك سياساتها واحتواء صورها على بيانات تشير إلى أنها تم إنشاؤها بواسطة «شات جي بي تي».
وكان إنشاء مستندات احتيالية يتطلب في السابق مهارات في تحرير الصور أو الدفع مقابل هذه الخدمات من خلال البائعين عبر الإنترنت.
لكن ظهور برامج توليد الصور المجانية سهل على الموظفين تزوير الإيصالات بسرعة وفي ثوانٍ قليلة عن طريق كتابة تعليمات نصية بسيطة إلى روبوتات الدردشة.
وأظهرت العديد من الإيصالات التي عرضتها منصات إدارة النفقات الطبيعة الواقعية للصور، والتي تضمنت تجاعيد في الورق وتفاصيل دقيقة تطابق القوائم الواقعية والتوقيعات.
وقال سيباستيان مارشون، الرئيس التنفيذي لشركة «ريدو»، وهي منصة لإدارة النفقات: «هذا ليس تهديداً مستقبلياً، بل أمر يحدث بالفعل.
وفي حين أن نسبة صغيرة فقط من الإيصالات غير الحقيقية تُولّد حالياً بواسطة الذكاء الاصطناعي، إلا أن هذا سيزداد بالتأكيد».
ودفع ازدياد هذه النسخ الشركات إلى اللجوء إلى الذكاء الاصطناعي نفسه للمساعدة على الكشف عن الإيصالات المزيفة، وخاصة أن معظمها بات مقنعاً للغاية بحيث يصعب على المراجعين البشريين اكتشافه.
ويتم ذلك عن طريق مسح الإيصالات للتحقق من البيانات الوصفية للصورة لمعرفة ما إذا كانت منصة ذكاء اصطناعي قد أنشأتها أم لا.
ومع ذلك، يمكن للمستخدمين إزالة هذه البيانات بسهولة عن طريق التقاط صورة أو لقطة شاشة للصورة.
ولمواجهة ذلك، يأخذ البرنامج أيضاً في الاعتبار معلومات سياقية أخرى من خلال فحص تفاصيل مثل التكرار في أسماء الخوادم والأوقات ومعلومات أوسع حول رحلة الموظف.
وقال كالفن لي، المدير الأول لإدارة المنتجات في شركة «رامب»: تستطيع التقنية النظر إلى كل شيء بتركيز واهتمام كبيرين لدرجة أن البشر، بعد فترة من الوقت، يقعون في الأخطاء.. فهم بشر.
وأظهر بحث أجرته شركة غس ايه بي في يوليو أن ما يقرب من 70% من المديرين الماليين يعتقدون بأن بعض موظفيهم يستخدمون الذكاء الاصطناعي لمحاولة تزوير نفقات السفر أو الإيصالات، بينما أكد حوالي 10% منهم أنهم متأكدون من حدوث ذلك في شركاتهم.
وصرح ماسون وايلدر، مدير الأبحاث في جمعية محققي الاحتيال المعتمدين، بأن الإيصالات الاحتيالية المُولّدة بواسطة الذكاء الاصطناعي تُمثل مشكلةً بالغة الخطورة للمؤسسات.
وأضاف: لا توجد أي عوائق أمام الناس للقيام بذلك. لا يتطلب الأمر أي نوع من المهارات أو الكفاءات التكنولوجية كما كانت الحال قبل خمس سنوات باستخدام برنامج فوتوشوب.
