أبل تُحكم قبضتها على تطبيقات الذكاء الاصطناعي المولّدة للصور الجنسية

Apple App Store AI nudify apps — أعلنت شركة أبل تحديث سياسة مراجعة متجر التطبيقات App Store، في خطوة تستهدف الحدّ من انتشار تطبيقات الذكاء الاصطناعي التي تُنتج صوراً جنسية صريحة من صور عادية، وهو ما يُعرف إعلامياً بتطبيقات AI nudify. التعديل الجديد لا يقتصر على حظر هذه التطبيقات، بل يفرض على المطورين الذين تستضيف تطبيقاتهم محتوى من المستخدمين مجموعة من الضمانات الوقائية.

خلفية الحظر القائم

لم تكن مسألة المحتوى الجنسي الصريح غائبة عن قواعد أبل سابقاً. فقد كانت الشركة تمنع المواد الإباحية وتطبيقات توليد الصور الجنسية الصريحة في متجرها. لكن التطور الجديد يتجاوز مجرد الحظر إلى إلزام المطورين بمراقبة المحتوى الذي ينشئه المستخدمون داخل تطبيقاتهم، بما في ذلك ما يُنتج بواسطة الذكاء الاصطناعي.

التزامات جديدة على المطورين

بموجب السياسة المحدثة، يتعيّن على المطورين الذين تتيح تطبيقاتهم محتوى من المستخدمين تصفية الصور الحميمة غير التوافقية، وهي الصور التي تُنشأ أو تُشارك دون موافقة الشخص المعني. ويشمل ذلك الصور المولّدة بالذكاء الاصطناعي، ما يعني أن التطبيقات التي تسمح بإنشاء صور جنسية صريحة من صور عادية ستكون عرضة للمساءلة.

ولم تقتصر الالتزامات على التصفية، إذ يجب على المطورين توفير وسيلة للمستخدمين للإبلاغ عن المحتوى المسيء، وأخرى لحظر الحسابات المسيئة. كما يُلزمون بمنع تحميل مثل هذه الصور من الأساس، وإزالة أي صور تنجح في تجاوز الفلاتر.

عقوبات تصل إلى الإزالة

تتضمن السياسة الجديدة آلية إنفاذ واضحة. فإذا لم يلتزم المطور بتنفيذ هذه الضمانات، فإن تطبيقه يواجه خطر الإزالة من App Store. وينطبق الأمر نفسه على أي مخالفة لا يتم تصحيحها بعد إشعار المطور بها.

وفيما يتعلق بالتطبيقات التي تستخدم أساليب خداع، أوضحت أبل القواعد المتعلقة بها. فالتطبيقات التي تُخفي قدراتها الحقيقية أثناء عملية المراجعة وتُظهر لاحقاً وظائف توليد صور جنسية صريحة ستُزال من المتجر. ولا يتوقف الأمر عند التطبيق نفسه، بل يمتد إلى المطور المسؤول، الذي سيُستبعد من برنامج مطوري أبل Apple Developer Program.

ما يعنيه ذلك للمستخدمين

بالنسبة للمستخدمين، تعني هذه التعديلات أن التطبيقات التي تعتمد على محتوى المستخدمين ستكون مطالبة بتقديم أدوات إبلاغ وحظر فعّالة. كما أن الصور الحميمة غير التوافقية، سواء كانت حقيقية أو مولّدة بالذكاء الاصطناعي، تصبح ضمن نطاق المخالفات التي يجب على المطورين التصدي لها بشكل استباقي.

ولم تكشف أبل عن تاريخ سريان التحديث، ولا عن الأساليب التقنية المحددة المطلوبة للتصفية، ولا عدد التطبيقات المتأثرة. كما لم توضح ما إذا كانت ستعتمد على الكشف الآلي. لكن ما هو مؤكد أن مسؤولية الحماية لم تعد ملقاة على عاتق المتجر وحده، بل أصبحت جزءاً من شروط البقاء فيه.