من «جيميني» في «جوجل دوكس» إلى النظرة العامة التي يقدمها الذكاء الاصطناعي في محركات البحث التابعة لها، وصولاً إلى «نانو بانانا 2» في «جوجل إيرث»، تسعى «جوجل» منذ سنوات إلى دمج الذكاء الاصطناعي التوليدي في خط منتجاتها. ومع ذلك، اتضح أن دمج الذكاء الاصطناعي التوليدي مع أماكن حقيقية كان فشلاً ذريعاً، حيث أنتج المستخدمون بعض الصور المسيئة. ونتيجة لذلك، اضطرت «جوجل» إلى إزالة الأداة بعد أقل من يوم واحد من طرحها.
وقال متحدث باسم Google لمجلة Fortune: «نحن نعلم أن الناس يعتمدون بشكل كبير على Google Earth للحصول على رؤية موثوقة للعالم.» «من المهم ملاحظة أن الصور التي تم إنشاؤها كانت تحمل علامة مائية تشير إلى أنها تم إنشاؤها بواسطة الذكاء الاصطناعي، ولم تظهر في التجربة الرئيسية لـ Google Earth للمستخدمين الآخرين.»
تأتي تصريحات المتحدث الرسمي في أعقاب الكشف السريع عن أن المستخدمين بدأوا في إساءة استخدام النظام لإنتاج صور مزيفة بهدف نشر المعلومات المضللة. وأظهرت بعض هذه الصور لاجئين بالقرب من الحدود بين الولايات المتحدة والمكسيك أو موقعًا نوويًّا في إيران.
ويمكن، باستخدام هذه الوظيفة، تركيب المشاهد التي تم إنشاؤها بواسطة الذكاء الاصطناعي على صور الأقمار الصناعية والصور الجوية والصور ثلاثية الأبعاد الفعلية. وعلى الرغم من أن جوجل كانت تتصور استخدامات محترمة، مثل تصور مفاهيم التخطيط أو إعادة بناء الأحداث التاريخية، إلا أن المستخدمين سرعان ما بدأوا في إنشاء مواقع عسكرية وهمية، ومواقف قتالية مرتبطة بمواقع حقيقية، وكوارث.
الآثار السلبية النموذجية لاستخدام الذكاء الاصطناعي
تتيح تقنية «نانو بانانا» (Nano Banana) من «جوجل»، المدمجة في روبوت الدردشة «جيميني» (Gemini)، للمستخدمين إنشاء رسومات مدعومة بالذكاء الاصطناعي من خلال استعلامات بسيطة. وقد تم تطوير «نانو بانانا» لتمكين المستخدمين من تخصيص صورهم، على عكس مولدات الصور السابقة التي تعتمد على الذكاء الاصطناعي. حيث يقوم الذكاء الاصطناعي بإضافة عناصر إلى الصورة أو حذفها أو تعديلها مع الحفاظ على ملامحها الواقعية، تمامًا مثل برنامج «فوتوشوب».
مع اتخاذ العديد من الاحتياطات الأمنية، بدأت جوجل في دمج برنامج «نانو بانانا» مع تطبيق «جوجل إيرث». ووفقًا لممثل جوجل الذي تحدث إلى مجلة «فورتشن»، تم فصل الصور التي أنتجها النظام عن صور «جوجل إيرث» الحقيقية ووضع علامة مائية عليها لإظهار أنها تم إنشاؤها باستخدام الذكاء الاصطناعي. بالإضافة إلى ذلك، تستخدم الشركة نظام «Synth ID»، وهو نظام علامات مائية مشفرة يهدف إلى التعرف على المحتوى الذي ينتجه الذكاء الاصطناعي. ومع ذلك، يزعم المحللون أن سياسات الشركة المحدودة غير كافية. قالت إيميلي بلاك، أستاذة علوم الحاسوب والهندسة في جامعة نيويورك، لمجلة «فورتشن»: «يجب الاعتراف بأن جوجل تمتلك نظامًا قادرًا على كشف الصور المزيفة». «ومع ذلك، حتى لو كان هذا النظام موجودًا، فقد أظهرت الأبحاث الحديثة أنه ليس حلاً كاملاً».
تم إلزام «جوجل» ومزودي الخدمات الآخرين بجعل المحتوى الاصطناعي قابلاً للتتبع بموجب قانون الذكاء الاصطناعي الصادر عن الاتحاد الأوروبي، الذي يحدد متطلبات الشفافية للمحتوى الذي يُنتج بواسطة الذكاء الاصطناعي. وقد أدرجت «جوجل» معرّفات «Synth ID» في الصور التي أنشأتها من أجل الامتثال لهذا الشرط.
بالإضافة إلى ذلك، يشير «بلاك» إلى أن معرّف «Synth ID» «غير مرئي للعين المجردة» ويُستخدم كوسيلة تسمح لأجهزة الكمبيوتر بتحديد ما إذا كانت الصورة قد تم إنشاؤها باستخدام الذكاء الاصطناعي. يجب أن تحمل الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي علامة مائية حتى يتمكن المستخدمون من التعرف عليها. ونظرًا لأن كل من «جوجل إيرث» و«نانو بانانا» استخدما علامات مائية رقمية فحسب، لم يكن من الواضح على الفور أن الصور تم إنشاؤها بواسطة الذكاء الاصطناعي. ويشير هذا أيضًا إلى أن البيانات الوصفية الخاصة بالإبداع الأصلي لـ«نانو بانانا» لن تكون موجودة في الصور التي تم التقاطها كلقطات شاشة أو نسخها خارج منصة جوجل.
وقالت لمجلة «فورتشن»: «نحتاج إلى أن يفكر صانعو السياسات في هذا الأمر ويعملوا مع الخبراء لإيجاد حلول أفضل». كما أشارت الأستاذة إلى التغيرات التي طرأت على سياسة الذكاء الاصطناعي في الولايات المتحدة.
تقوم بلاك حالياً بإجراء أبحاث حول الآثار المحتملة لمخرجات الذكاء الاصطناعي على ثقة المستهلكين وعملية اتخاذ القرار لديهم. وقد ينجم عن ذلك تداعيات سلبية في العالم الواقعي، مثل اتخاذ خيارات استثمارية خاطئة استناداً إلى بيانات مالية مغلوطة تنتجها نماذج لغوية ضخمة. وتؤكد الأستاذة أنه على الرغم من أن أبحاثها تركز على «هلوسات» الذكاء الاصطناعي وأنظمة الذكاء الاصطناعي النصية، فإنها تُظهر أن البشر قد يظلون قادرين على قبول المعلومات حتى لو تبين أنها من إنتاج الذكاء الاصطناعي.
وقالت بلاك: «اكتشفنا أن التحذيرات القياسية غالبًا ما تكون غير فعالة في ثني المستخدمين عن اتباع النصائح الضارة، وذلك في إطار عملنا الجاري حول ثقة المستخدمين في حالات الخداع التي يرتكبها الذكاء الاصطناعي». حتى مع وجود تحذيرات مثل «قد ترتكب روبوتات الدردشة التي تعمل بالذكاء الاصطناعي أخطاءً. تحقق من الحقائق المهمة». ووفقًا للمستخدمين، فإن وجود نصائح غير دقيقة تم إنشاؤها بواسطة الذكاء الاصطناعي يزيد بشكل كبير من احتمالية قيامهم بأفعال سلبية في المستقبل.
أقرت «جوجل» بأن الصور التي تم إنتاجها والتي كان المستخدمون يقومون بتعديلها تبدو مخالفة لقواعد الشركة، وأبلغت مجلة «فورتشن» أنها ستوقف الأداة «ريثما يتم تنفيذ إجراءات أمنية أكثر صرامة».
الذكاء الاصطناعي يولد ثقة زائفة.
في روبوتات الدردشة وبرامج التصميم ومولدات الصور — حيث يدرك المستخدمون في كثير من الأحيان أنهم ينتجون محتوى خياليًا أو فنيًّا — أصبح الذكاء الاصطناعي التوليدي منتشرًا في كل مكان. أما في الماضي، فقد كان لـ«جوجل إيرث» دور مختلف. فقد كان بمثابة سجل بصري للعالم المادي على مدار ما يقرب من عشرين عامًا، ويعتقد الجميع أنه مصدر دقيق للمعرفة عن الكرة الأرضية. وتتأثر تفسيرات المستخدمين لما يرونه بهذه السمعة. ونظرًا لثقة المستخدمين في جوجل، فإنهم غالبًا ما يتعاملون مع العناصر المرئية للمنصة معتقدين أن ما يرونه دقيق.
حتى صور «جوجل إيرث» أصبحت الآن تخضع لفحص دقيق بسبب دمج الذكاء الاصطناعي في ما كان يُعتبر في السابق مصدرًا موثوقًا للمعلومات عن كوكب الأرض.
قال هينك فان إيس، الخبير الدولي في منهجيات البحث عبر الإنترنت المطبقة على الذكاء الاصطناعي، في مذكرة بعد أن كشفت جوجل النقاب عن نظام «جوجل إيرث»: «يمكن لمسؤول الآن أن ينظر إلى صورة حقيقية لفظاعة حقيقية ويقول: ”الذكاء الاصطناعي“». ولهذا الغرض، لا يحتاجون إلى الأداة. يجب أن يكون الجميع على دراية بوجود هذه الأداة.
وعندما سُئلت جوجل عما إذا كانت وظيفة «جوجل إيرث» ستُتاح مرة أخرى بعد تطوير المزيد من الإجراءات الأمنية، لم ترد جوجل على الفور.
المصدر الأصلي لهذا الخبر هو موقع Fortune.com.