غوغل تتيح أداة لتمييز النصوص المنشأة بالذكاء الاصطناعي

أعلنت شركة غوغل عبر منصة إكس أن أداتها "SynthID Text" الخاصة بوضع علامات مائية على النصوص، لتسهيل تمييز المحتوى المُولد بواسطة الذكاء الاصطناعي عن المنشورات المكتوبة بشرياً، أصبحت الآن متاحة كنسخة مفتوحة المصدر.
وقال نائب رئيس قسم الأبحاث في "ديب مايند" بوشميت كوهلي، لمجلة MIT Technology Review: "الآن سيتمكن مطورو الذكاء الاصطناعي التوليدي الآخرون من استخدام هذه التقنية لمساعدتهم في اكتشاف ما إذا كانت النصوص ناتجة عن نماذج لغوية كبيرة خاصة بهم، مما يسهل عليهم بناء الذكاء الاصطناعي بشكل مسؤول".
ويمكن تحميل أداة SynthID Text"، التي تم الإعلان عنها رسمياً في أغسطس (آب) الماضي، من منصة " Hugging Face"، فهي جزء من مجموعة أكبر لأدوات "العلامات المائية" لمخرجات الذكاء الاصطناعي التوليدية، الخاصة بغوغل.
وتقول غوغل إن النسخة الخاصة بالنصوص من SynthID تُخرج النص بطريقة يمكن احتمال اكتشافها قليلاً بواسطة البرامج فقط، لكن ليس بواسطة البشر.
وتعمل أداة SynthID عن طريق إضافة علامة مائية غير مرئية مباشرة إلى النص، عندما يتم إنشاؤه بواسطة نموذج الذكاء الاصطناعي.
ووجد فريق Google DeepMind أن استخدام علامة SynthID المائية لا يضر بجودة أو دقة أو إبداع أو سرعة النص الذي تم إنشاؤه.
وتم استخلاص هذا الاستنتاج من تجربة ضخمة لأداء SynthID بعد نشر العلامة المائية في مخرجات Gemini واستخدامها من قِبَل ملايين الأشخاص.
وأصبحت العلامات المائية أدوات بالغة الأهمية مع تزايد استخدام النماذج اللغوية الكبيرة، لنشر معلومات سياسية مضللة، أو إنشاء محتوى جنسي دون موافقة، أو لأغراض خبيثة أخرى.
وتبحث ولاية كاليفورنيا بالفعل في جعل وضع العلامات المائية إلزماياً للذكاء الاصطناعي، بينما بدأت الحكومة الصينية بفرض ذلك العام الماضي. ومع ذلك، فإن هذه الأدوات لا تزال قيد التطوير.
ومع تزايد نسبة المحتوى الإلكتروني الناتج عن الذكاء الاصطناعي، تبرز أهمية هذه التقنية لمواجهة تحديات المعلومات المضللة والاحتيال.