كاشفات المحتوى بالذكاء الاصطناعي. هم يستحق كل هذا العناء؟ | الذكاء الاصطناعي في الأعمال رقم 38

هل تتذكر عندما كنا متحمسين قبل بضع سنوات بشأن المقالات الأولى التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي بالكاد تشبه النثر البشري؟ اليوم، عندما يتمكن الذكاء الاصطناعي من كتابة مقالات شعرية تقريبًا، يتساءل الكثير من الناس عن كيفية التمييز بين عمل الآلة وعمل الإنسان. وقد قامت شركة OpenAI، الشركة التي تقف وراء نجاح ChatGPT، بإغلاق الوصول إلى كاشف الذكاء الاصطناعي الخاص بها إلى الأبد بسبب عدم فعاليته.

واليوم، يقدمها مطورو أجهزة الكشف عن محتوى الذكاء الاصطناعي كأدوات لحماية الأصالة. والسؤال هو هل يستحقون الثقة والاستثمار؟ في هذه المقالة، سنلقي نظرة على كيفية عمل أجهزة الكشف عن محتوى الذكاء الاصطناعي، ولماذا قد تنقرض، وما هي التحديات التي تجلبها، والمعضلات الأخلاقية التي تطرحها.

كاشفات محتوى الذكاء الاصطناعي

تعتمد أجهزة كشف محتوى الذكاء الاصطناعي على نماذج لغوية مشابهة لتلك المستخدمة لإنشاء محتوى الذكاء الاصطناعي. يمكن تقسيمهم إلى أولئك الذين تتمثل مهمتهم في التحقق من أصل الصور والنصوص والموسيقى التي يتم إنشاؤها بدعم من الذكاء الاصطناعي. يعمل كل نوع من "كاشفات الذكاء الاصطناعي" بشكل مختلف قليلاً، ولكن لا يمكن لأي منها التمييز بيقين مطلق بين المحتوى الذي أنشأه الإنسان والمحتوى الذي أنشأه الذكاء الاصطناعي.

تلعب أجهزة كشف الصور المولدة بواسطة الذكاء الاصطناعي دورًا متزايد الأهمية نظرًا لقدرة وسائل الإعلام على توليد أخبار مزيفة. يقومون بتحليل الحالات الشاذة والأنماط والأنماط المميزة، ويبحثون عن العلامات التي خلفتها نماذج مثل DALL-E.

ومن أبرز أجهزة الكشف المستخدمة للتعرف على الصور أداة "AI or Not" من شركة Optic، والتي تستخدم قواعد بيانات الصور التي تم إنشاؤها بواسطة Midjourney وDALL-E وStable Diffusion. وفي حين أن النتائج غير مؤكدة، إلا أنها خطوة نحو تطوير طرق تحديد أكثر دقة في المستقبل.

المصدر: الذكاء الاصطناعي أم لا (https://www.aiornot.com/)

خلف تشغيل أجهزة كشف الذكاء الاصطناعي التي تتعرف على النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي، توجد خوارزميات متقدمة تعمل على تحليل بنية النص واختيار الكلمات، ثم تتعرف على الأنماط الخاصة بالذكاء الاصطناعي. يستخدمون:

• المصنفات – خوارزمية تقوم بتصنيف النص والتحقق من الأسلوب والنبرة والقواعد. على سبيل المثال، قد يتم تصنيف وصف المنتج الذي يمكن أن يناسب أي منتج من نوعه على أنه من صنع الذكاء الاصطناعي،
• التضمينات (التضمينات) - التمثيلات الرقمية للكلمات تسمح للآلات بفهم سياق استخدامها. وبفضلهم "يفهم" البرنامج أن النص الذي يحتوي على مجموعة رتيبة من الكلمات يمكن أن يكون من عمل الذكاء الاصطناعي،
• الحيرة - وهو مقياس لعدم القدرة على التنبؤ بالنص. تميل النصوص التي يكتبها البشر إلى درجة أعلى من الحيرة، على الرغم من أن النصوص التي تكون بسيطة بطبيعتها، أو نفعية في شكل نموذجي، أو مكتوبة من قبل أجانب يمكن تصنيفها عن طريق الخطأ على أنها نصوص تم إنشاؤها بواسطة الذكاء الاصطناعي،
• التنوع (الانفجار) – يصف هذا العامل التباين في طول الجملة وبنيتها. يميل البشر إلى كتابة نصوص أكثر تنوعًا من الذكاء الاصطناعي.

يتم استخدام العناصر المذكورة أعلاه معًا بواسطة أجهزة كشف محتوى الذكاء الاصطناعي لتقييم ما إذا كنا نتعامل مع نص من صنع الإنسان أو من صنع الآلة.

لماذا نستخدم أجهزة كشف المحتوى بالذكاء الاصطناعي؟

تعمل أجهزة الكشف عن محتوى الذكاء الاصطناعي في مجموعة متنوعة من المجالات – بدءًا من التعليم وحتى التسويق والتوظيف. فيما يلي أهم الأسباب لاستخدامها كأداة للمساعدة في التقييم، ولكن ليس كدليل قاطع على ما إذا كان قد تم إنشاء المحتوى أم لا:

• التعرف على الصور المعدلة بواسطة الذكاء الاصطناعي والتي تصور أشخاصاً معروفين – لاكتشاف ما إذا كانت الصورة تصور موقفاً حقيقياً أم لا،
• منع المعلومات المضللة – في سياق مكافحة المعلومات المضللة، تساعد أجهزة كشف محتوى الذكاء الاصطناعي الفعالة مشرفي وسائل التواصل الاجتماعي على اكتشاف نشر المعلومات الكاذبة لتحديد المحتوى المتكرر الناتج عن الروبوتات والقضاء عليه.
• الحد من نشر النصوص ذات القيمة المنخفضة – يمكن أن تساعد أجهزة الكشف عن محتوى الذكاء الاصطناعي الناشرين على رفض النصوص التي تحتوي على معلومات عامة تم إنشاؤها بواسطة ChatGPT أو Bing أو Bard بعد كتابة استعلام بسيط.

ومع ذلك، فمن الجدير بالذكر أن أصل النص ليس هو الأساس الذي قام به Google لخفض تصنيف الموقع. تنص مدونة مركز بحث Google على أنه من المهم بالنسبة لشركة Google "مكافأة المحتوى عالي الجودة بغض النظر عن كيفية إنشائه [...]. لقد تم استخدام الأتمتة منذ فترة طويلة لإنشاء محتوى مفيد، مثل النتائج الرياضية والتنبؤات الجوية والنصوص. يمكن للذكاء الاصطناعي أن يفتح مستويات جديدة من التعبير والإبداع وأن يكون أداة رئيسية لدعم إنشاء محتوى ويب رائع.

عدم موثوقية أجهزة الكشف عن محتوى الذكاء الاصطناعي. حقيقة أم أسطورة؟

على الرغم من انتشار أجهزة الكشف عن محتوى الذكاء الاصطناعي في كل مكان، إلا أن فعاليتها يمكن أن تكون موضع شك. المشاكل الرئيسية هي:

• كفاءة منخفضة في اكتشاف محتوى الذكاء الاصطناعي،
• مشاكل مع ايجابيات كاذبة، وكذلك
• الصعوبات في تكييف أجهزة الكشف لتنويع نماذج الذكاء الاصطناعي الجديدة وتحسينها بسرعة.

أظهرت الاختبارات التي أجرتها شركة OpenAI أن أداة التصنيف الخاصة بها تعرفت على النص الذي تم إنشاؤه بواسطة GPT بنسبة 26% فقط من الحالات. يمكن رؤية مثال مثير للاهتمام على عدم موثوقية المولدات في تجربة أجرتها TechCrunch، والتي أظهرت أن أداة GPTZero حددت بشكل صحيح خمسة من أصل سبعة نصوص تم إنشاؤها بواسطة الذكاء الاصطناعي. بينما حدد مصنف OpenAI واحدًا فقط.

المصدر: جي بي تي زيرو (https://gptzero.me/)

بالإضافة إلى ذلك، هناك خطر الحصول على نتيجة إيجابية كاذبة، أي تحديد النص الذي كتبه الإنسان على أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. على سبيل المثال، تم تحديد بداية الفصل الثاني من رواية دون كيشوت لميغيل دي سرفانتس بواسطة كاشف OpenAI على أنها مكتوبة على الأرجح بواسطة الذكاء الاصطناعي.

وبينما يمكن التعامل مع الأخطاء في تحليل النصوص الأدبية التاريخية على أنها فضول مسلي، فإن الوضع يصبح أكثر تعقيدا عندما نريد استخدام أجهزة الكشف كأدوات لتقييم النصوص. تم تمييز دستور الولايات المتحدة بواسطة ZeroGPT بنسبة 92.15٪ تمت كتابته بواسطة الذكاء الاصطناعي. ووفقًا لدراسة نشرها باحثون في جامعة ستانفورد، تم تصنيف 61% من مقالات اختبار TOEFL التي كتبها طلاب غير ناطقين باللغة الإنجليزية على أنها مقالات تم إنشاؤها بواسطة الذكاء الاصطناعي. لسوء الحظ، لا توجد بيانات حول مدى ارتفاع نسبة النصوص المصنفة خطأً على أنها إيجابية في اللغات الأخرى.

هناك مشكلة أخرى وهي تغيير التصنيف عند التشغيل اللاحق للكاشف. وذلك لأنه غالبًا ما يحدث أن يقوم كاشف مثل ZeroGPT أو Scribbr بتغيير تصنيف أجزاء النص، والتي تحددها على أنها تم إنشاؤها بواسطة الذكاء الاصطناعي مرة واحدة وعلى أنها مكتوبة بواسطة الإنسان مرة أخرى.

المصدر: Scribbr (https://www.scribbr.com/ai-detector/)

تُستخدم أجهزة كشف الصور والفيديو التي تعمل بتقنية الذكاء الاصطناعي في المقام الأول لتحديد المحتوى المزيف العميق والمحتويات الأخرى التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي يمكن استخدامها لنشر المعلومات المضللة.

أدوات الكشف الحالية مثل Deepware، Illuminarty، وFakeCatcher لا تقدم نتائج اختبار لموثوقيتها. في السياق القانوني لاكتشاف المواد المرئية التي ينشئها الذكاء الاصطناعي، هناك مبادرات لإضافة علامات مائية إلى صور الذكاء الاصطناعي. ومع ذلك، فهذه طريقة غير موثوقة للغاية – حيث يمكنك بسهولة تنزيل صورة بدون علامة مائية. تتخذ Midjourney أسلوبًا مختلفًا في وضع العلامات المائية، مما يترك الأمر للمستخدمين ليقرروا ما إذا كانوا يريدون وضع علامة مائية على الصورة بهذه الطريقة.

تجنب اكتشاف الذكاء الاصطناعي. هل من الممكن وكيف؟

يجب أن يدرك رواد الأعمال أن أجهزة الكشف عن محتوى الذكاء الاصطناعي ليست بديلاً لتقييم الجودة البشرية ولا يمكن الاعتماد عليها دائمًا. قد تشكل مشكلات الصيانة العملية صعوبات كبيرة، تمامًا مثل محاولة تجنب تصنيف المحتوى الخاص بك على أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. خاصة عندما يكون الذكاء الاصطناعي مجرد أداة في أيدي متخصص - أي أنه ليس "محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي"، بل "محتوى تم إنشاؤه بالتعاون مع الذكاء الاصطناعي".

من السهل نسبيًا إضافة شخص ما إلى المواد التي تم إنشاؤها، لذلك يصعب اكتشاف الطريقة التي تم إنشاؤها بها. إذا كان الشخص الذي يستخدم الذكاء الاصطناعي التوليدي يعرف التأثير المطلوب تحقيقه، فيمكنه ببساطة تعديل النتائج يدويًا.

يكمن السؤال الأساسي في السبب وراء رغبتنا في تجنب اكتشاف ما إذا كان المحتوى قد تم إنشاؤه بواسطة الذكاء الاصطناعي.

• إذا كانت هذه مسألة أخلاقية وتتعلق، على سبيل المثال، بتأليف بحث علمي منشور، فيُترك المرء للاعتماد على الأخلاقيات المهنية للعالم والاستخدام المسؤول للأدوات القائمة على الذكاء الاصطناعي.
• إذا كان صاحب العمل يرغب في أن يختار الموظفون عدم استخدام الذكاء الاصطناعي، فسيظل هناك ترتيب تعاقدي لاستخدام الذكاء الاصطناعي التوليدي.

كما أنه يثير سؤالًا حول ما إذا كنا نريد تعزيز الاستخدام المسؤول للذكاء الاصطناعي من خلال الحظر والمنتقدين (ZeroGPT وGPTZero!)، أو من خلال تقدير الشفافية وبناء الثقة والاستخدام الصادق للتكنولوجيات المتقدمة.

المصدر: ZeroGPT (https://www.zerogpt.com/)

ملخص

الإجابة على سؤال ما إذا كانت أجهزة الكشف عن محتوى الذكاء الاصطناعي تستحق الاستخدام بعيدة كل البعد عن الوضوح. لا تزال أجهزة الكشف عن محتوى الذكاء الاصطناعي قيد التطوير، ومن الصعب التنبؤ بمستقبلها. هناك شيء واحد مؤكد، وهو أنها سوف تتطور جنبًا إلى جنب مع تطور تكنولوجيا الذكاء الاصطناعي. إن التقدم في الذكاء الاصطناعي، بما في ذلك القدرة المتزايدة لنماذج اللغة على محاكاة أسلوب الكتابة البشرية، يعني أن اكتشاف محتوى الذكاء الاصطناعي قد يصبح أكثر تعقيدًا. وبالنسبة للشركات، فهذه إشارة لمتابعة هذه التطورات وعدم الاعتماد على الأدوات فقط، بل على تقييمها للمحتوى ومدى ملاءمته للغرض الذي تم إنشاؤه من أجله. واستخدام الذكاء الاصطناعي سريع التطور بحكمة.

إذا أعجبك المحتوى الخاص بنا، انضم إلى مجتمع النحل المزدحم لدينا على Facebook وTwitter وLinkedIn وInstagram وYouTube وPinterest وTikTok.

المؤلف: روبرت ويتني

خبير جافا سكريبت ومدرب يقوم بتدريب أقسام تكنولوجيا المعلومات. هدفه الرئيسي هو رفع مستوى إنتاجية الفريق من خلال تعليم الآخرين كيفية التعاون بفعالية أثناء البرمجة.

عرض جميع المشاركات

الذكاء الاصطناعي في الأعمال:

1. تهديدات وفرص الذكاء الاصطناعي في الأعمال (الجزء الأول)
2. تهديدات وفرص الذكاء الاصطناعي في الأعمال (الجزء الثاني)
3. تطبيقات الذكاء الاصطناعي في الأعمال – نظرة عامة
4. روبوتات الدردشة النصية المدعومة بالذكاء الاصطناعي
5. البرمجة اللغوية العصبية للأعمال اليوم وغدًا
6. دور الذكاء الاصطناعي في اتخاذ القرارات التجارية
7. جدولة منشورات وسائل التواصل الاجتماعي. كيف يمكن للذكاء الاصطناعي المساعدة؟
8. المشاركات التلقائية على وسائل التواصل الاجتماعي
9. خدمات ومنتجات جديدة تعمل بالذكاء الاصطناعي
10. ما هي نقاط الضعف في فكرة عملي؟ جلسة عصف ذهني مع ChatGPT
11. استخدام ChatGPT في الأعمال التجارية
12. الجهات الفاعلة الاصطناعية. أفضل 3 مولدات فيديو تعمل بالذكاء الاصطناعي
13. 3 أدوات مفيدة للتصميم الرسومي بالذكاء الاصطناعي. الذكاء الاصطناعي التوليدي في الأعمال التجارية
14. 3 كتاب رائعين في مجال الذكاء الاصطناعي يجب عليك تجربتهم اليوم
15. استكشاف قوة الذكاء الاصطناعي في إنشاء الموسيقى
16. استكشاف فرص عمل جديدة باستخدام ChatGPT-4
17. أدوات الذكاء الاصطناعي للمدير
18. 6 ملحقات ChatGTP رائعة ستجعل حياتك أسهل
19. 3 رسومات ذكاء اصطناعي. إنشاء ذكاء الأعمال
20. ما هو مستقبل الذكاء الاصطناعي بحسب معهد ماكينزي العالمي؟
21. الذكاء الاصطناعي في الأعمال – مقدمة
22. ما هي البرمجة اللغوية العصبية (NLP) أو معالجة اللغة الطبيعية في الأعمال التجارية
23. المعالجة التلقائية للمستندات
24. ترجمة جوجل مقابل DeepL. 5 تطبيقات للترجمة الآلية للأعمال
25. تشغيل وتطبيقات الأعمال الخاصة بالروبوتات الصوتية
26. تقنية المساعد الافتراضي أم كيفية التحدث إلى الذكاء الاصطناعي؟
27. ما هو ذكاء الأعمال؟
28. هل سيحل الذكاء الاصطناعي محل محللي الأعمال؟
29. كيف يمكن للذكاء الاصطناعي المساعدة في BPM؟
30. الذكاء الاصطناعي ووسائل التواصل الاجتماعي – ماذا يقولون عنا؟
31. الذكاء الاصطناعي في إدارة المحتوى
32. الذكاء الاصطناعي الإبداعي اليوم وغدًا
33. الذكاء الاصطناعي متعدد الوسائط وتطبيقاته في الأعمال
34. تفاعلات جديدة. كيف يغير الذكاء الاصطناعي الطريقة التي ندير بها الأجهزة؟
35. RPA وواجهات برمجة التطبيقات في شركة رقمية
36. سوق العمل المستقبلي والمهن القادمة
37. الذكاء الاصطناعي في تكنولوجيا التعليم. 3 أمثلة للشركات التي استخدمت إمكانات الذكاء الاصطناعي
38. الذكاء الاصطناعي والبيئة. 3 حلول للذكاء الاصطناعي لمساعدتك في بناء أعمال مستدامة
39. كاشفات المحتوى بالذكاء الاصطناعي. هم يستحق كل هذا العناء؟