في أحدث تقاريرها الأمنية، كشفت شركة OpenAI عن تعطيل عدة حسابات مرتبطة بالصين، كانت تستغل تقنياتها اللغوية الكبيرة مثل ChatGPT في عمليات مراقبة وتنقيب عن المحتوى على وسائل التواصل الاجتماعي. وأوضحت الشركة أن أحد الحسابات المعطلة ساعد في صياغة محتوى ترويجي وخطط تشغيل لأداة "استماع رقمي" مُصمَّمة لجمع بيانات من منصات مثل X، فيسبوك، إنستجرام، ريديت، تيك توك، ويوتيوب.
الحسابات المستهدفة كانت تُستخدم للبحث عن محتوى سياسي أو عرقي أو ديني محدد، ويُعتقد أن هذه العمليات تمت لصالح جهات حكومية في الصين، رغم أن OpenAI لم تتمكن من التحقق بشكل مستقل من هوية هذه الجهات.
الاستخدامات الضارة الأخرى التي عُرِضت للتدخل
تتبع أفراد من الأقلية الأويغورية: تم ضبط حسابات تهدف إلى تطوير أداة تحذير تتعقب تحركات أفراد يُنتسب إليهم أقلية الأويغور، وهي مجموعة سبق أن اتُهمت الحكومة الصينية بمعاملة قاسية تجاهها.
تطوير برمجيات خبيثة: اكتشفت OpenAI حسابات يديرها مستخدمون يتحدثون الروسية، والكورية، والصينية، كانوا يستخدمون ChatGPT لتوليد أكواد أو مكونات برمجية خبيثة (Malware).
شبكات احتيال منظمة: تم تعطيل مجموعات في دول مثل كمبوديا وميانمار ونيجيريا، حيث كانت تستخدم الذكاء الاصطناعي لإنشاء رسائل احتيالية، وحملات ترويجية مصممة لخداع المستخدمين.
جهود مستمرة لمكافحة التأثير الإلكتروني
تُعد هذه الخطوة جزءًا من سلسلة تقارير التهديدات التي تنشرها OpenAI منذ فبراير 2024، حيث أظهرت الشركة أنها تعطّل بانتظام حملات التأثير الإلكتروني المدعومة بالذكاء الاصطناعي. خلال الصيف، أوقفت عمليات في عدة دول استخدمت المحتوى المُولَّد بالذكاء الاصطناعي لكتابة منشورات وتعليقات تهدف إلى إشعال الانقسامات وتحفيز التفاعل على وسائل التواصل، سواء داخل الدول أو عبر الحدود.
رغم هذه الاستخدامات الضارة، تشير OpenAI إلى أن معدل استخدام ChatGPT في الكشف عن عمليات الاحتيال يفوق ثلاث مرات معدل استخدامه في تنفيذها.
OpenAI تعطل حسابات صينية تستخدم ChatGPT لمراقبة السوشيال ميديا
