آخر تحديث: السبت | التاريخ: 2020/08/15

البوت نت: كيانات إصطناعية تتلاعب بالمناقشات البشرية الفعلية وتؤثر في السياسة

البوت نت: كيانات إصطناعية تتلاعب بالمناقشات البشرية الفعلية وتؤثر في السياسة

بدأ موسم الحملات الرئاسية بصفة رسمية، مما يعني أن الوقت قد حان لنأخذ على عاتقنا مواجهة الطرق الغريبة والخبيثة التي تفسد بها التكنولوجيا السياسة، إذ تعتبر الكيانات الاصطناعية أحد أكبر التهديدات في الأفق، فهي على وشك الأخذ بزمام الجدال السياسي، حيث ينشأ الخطر عن تقاطع محورين منفصلين يتمثلان في إنشاء نص قائم على الذكاء الاصطناعي وبوتات الدردشة على مواقع التواصل الاجتماعي، كما من المنتظر أن تطغى هذه الكيانات الرقمية على المناقشات البشرية الفعلية على شبكة الإنترنت.

يعتبر برنامج إنشاء النصوص حتى الآن جيدًا بما يكفي لخداع معظم الأشخاص في أغلب الأحيان، حيث يمكنه كتابة القصص الإخبارية خاصة في مجال الرياضة والمال، والتحدث مع العملاء على مواقع التجارة الإلكترونية، ويمكنه كذلك كتابة مقالات افتتاحية مقنعة حول المواضيع الإخبارية (على الرغم من وجود بعض القيود). كما تُستخدم هذه البرامج لتضخيم قضايا على غرار ما حصل في قضية معجون اللحم الوردي، حيث تهدف من خلالها المواقع الإلكترونية إلى البروز باعتبارها منافذ إخبارية محلية مشروعة ولكنها في الحقيقة ليست أكثر من أبواق دعائية.

يوجد سجل للمحتوى الخوارزمي يتم تقديمه على أنه صادر أيضًا من الأشخاص، ففي سنة 2017، كان لدى لجنة الاتصالات الفيدرالية فترة تعليق عام على الإنترنت بسبب خططها لإلغاء الحياد الإلكتروني، وقد تلقت حوالي 22 مليون تعليق صادم، كان الكثير منها – ربما النصف على الأقل- زائفًا وقائمًا على هويات مسروقة، فقد بدت هذه التعليقات غير متقنة، حيث نُشر حوالي 1.3 مليون تعليق يتبع نفس النمط اللغوي، مع تغيير بعض الكلمات لجعلها تبدو فريدة من نوعها، لكن ذلك كان واضحًا لدرجة أنها لم تتمكن من الصمود أمام التدقيق السطحي.

عملت بوتات الدردشة لسنوات على تحريف النقاش في الوسائط الاجتماعية

في تجربة حديثة، استخدم أحد كبار طلاب جامعة هارفارد، ماكس ويس، برنامجًا لتوليد النصوص لإنشاء ألف تعليق استجابةً لطلب حكومي حول مشكلة برنامج الإعانات الصحية “ميديكا إيد”، إذ بدت جميع هذه التعليقات فريدة من نوعها وكأنها كُتبت من قبل أناس حقيقيين يدافعون عن موقف سياسي محدد، الأمر الذي تسبب في خداع مدراء “ميديكا إيد” الذين تعاملوا معها على أنها تعكس مخاوف فعليّة لبشر حقيقيين، وبما أنها كانت في إطار بحثي، حدد ويس هذه التعليقات وطلب إزالتها حتى لا يكون هناك أي نقاش سياسي حقيقي متحيز وغير عادل، مع ذلك، لم تكن محاولة المجموعة التالية في هذا الصدد نبيلة.

عملت بوتات الدردشة لسنوات على تحريف النقاش في الوسائط الاجتماعية، فوفقًا لبعض التقديرات، كانت حوالي خُمس التغريدات ذات الصلة بالانتخابات الرئاسية لعام 2016 وحوالي ثلث التغريدات المتعلقة بنوايا التصويت على خروج بريطانيا من الاتحاد الأوروبي في تلك السنة، نُشرت من قبل بوتات. كما أثبت تقرير صادر عن معهد أكسفورد للإنترنت من السنة الماضية أن البوتات استخدمت لنشر الدعاية في خمسين دولة.

عادةً ما يتعلق الأمر ببرامج بسيطة تكرّر نفس الشعارات دون عناء، مثل ربع مليون تغريدة مؤيدة للسعودية تكرر شعار “كلنا نثق في محمد بن سلمان” بعد مقتل جمال خاشقجي سنة 2018، علمًا أن الكشف عن عدد كبير من البوتات التي لديها القليل من المتابعين أصعب من الكشف عن عدد قليل من البوتات التي لديها الكثير من المتابعين، ناهيك عن أنه يصعب قياس مدى فعالية هذه البوتات.

تشير أفضل التحليلات إلى أن هذه البوتات لم تؤثر كثيرًا على الانتخابات الرئاسية الأمريكية لسنة 2016، لكنها على الأرجح شوهت مشاعر الرأي العام وإيمانهم بالنقاش السياسي المنطقي، مما يعني أننا جميعا في خضم تجربة اجتماعية جديدة، فقد تطورت خوارزميات البوتات على مر السنين حتى يكون لديها ما يشبه الشخصية، فأصبح لديها أسماء وهمية وسير ذاتية وصور مزيفة تنشأ أحيانًا عبر الذكاء الاصطناعي، وبدلاً من نشر الدعاية بصفة مكثفة، أصبحت هذه البوتات تنشر تغريدات في بعض المناسبات فقط.

يستطيع الباحثون أن يكشفوا برامج البوتات وليست أشخاصًا حقيقيين استنادًا إلى أنماط النشر التي تعتمدها، لكن تقنيتها تتحسن بشكل مستمر بما يتجاوز قدرات التتبع. وعلى هذا النحو، قد لا نكون قادرين على كشف أمر مجموعات البوتات بنفس السهولة في المستقبل، لأن هذه البوتات سوف تتمكن من اختراق المجموعات الاجتماعية البشرية بشكل أفضل، وستكون الدعاية الخاصة بها متقنة، وتتشابك مع تغريدات حول مواضيع ذات صلة بهذه الفئات الاجتماعية، وعندما تجمع بين هذين الاتجاهين، سيكون لديك تقنية للمحادثة غير إنسانية يمكنها أن تطغى على الخطاب السياسي الفعلي.

قريبًا، ستتمكن الكيانات الرقمية التي تتمتع بالذكاء الاصطناعي من كتابة رسائل شخصية إلى الصحف والمسؤولين المنتخبين، وتقديم تعليقات فردية حول عمليات صنع القرار، ومناقشة القضايا السياسية على مواقع التواصل الاجتماعي بذكاء، إضافة إلى قدرتها على التعليق على منشورات مواقع التواصل الاجتماعي ومواقع الأخبار وفضاءات أخرى، مما سيؤدي إلى إنشاء كيانات رقمية تبدو حقيقية حتى لمن يقوم بتدقيقها.

ستكون هذه الكيانات الرقمية قادرة على الظهور كأفراد على مواقع التواصل الاجتماعي وإرسال نصوص شخصية، والمشاركة في القضايا على مدار الساعة، وإرسال مليارات الرسائل، الطويلة منها والقصيرة، وعند جمع هذا كله، سيكون بإمكانها التغطية على أي نقاش فعلي على الإنترنت، كما لن تقتصر هذه التعليقات على مواقع التواصل الاجتماعي فحسب، بل ستكون منتشرة في كل مكان.

من المرجح، أن تصبح هذه البوتات خاضعة لسيطرة الجهات الأجنبية، وربما ستشكل مجموعات سياسية محلية، وربما سيكونون هم المرشحون أنفسهم. ونظرًا لذلك، فإن الدرس المستفاد من انتخابات سنة 2016 بشأن المعلومات الخاطئة ليس انتشار المعلومات المضللة وإنما مدى سهولة تضليل الناس وبث معلومات خاطئة. كما سيصبح مستقبلنا متألفًا من نقاش سياسي صاخب، فسوف تتجادل البوتات مع بوتات أخرى.

من الصعب تخيل الحلول، ولكن بإمكاننا تنظيم استخدام برامج البوتات، حيث يقضي القانون المقترح من قبل كاليفورنيا بإجبار البوتات على تحديد هويتها، لكن هذا لا يكون فعالًا إلا في حملات التأثير المشروعة مثل الإعلانات، ولذلك سيكون من الصعب اكتشاف عمليات التأثير الخفية.

وفي حال تحققت الشبكات الاجتماعية من وجود شخص فعلي وراء كل حساب، يمكنها حينئذ التخلص بشكل أفضل من الحسابات المزيفة، ولكن الحسابات المزيفة التي يتم إنشاءها بانتظام هي في الأصل تنتحل هويات أشخاص حقيقيين دون علمهم أو موافقتهم، ناهيك عن أن الخطاب المجهول ضروري للنقاش السياسي القوي، لا سيما عندما يكون المتحدثون من مجتمعات محرومة أو مهمشة. إننا لا نملك نظام توثيق يحمي الخصوصية والمعايير على حد سواء لمليارات المستخدمين.

نأمل أن تكون قدرتنا على تحديد الكيانات الرقمية الاصطناعية على نفس مستوى قدرتنا على التمويه، وإذا كان سباق التسلح سيكون بين الحسابات المزيفة العميقة وأجهزة الكشف عنها، فسيكون ذلك صعبًا، إذ تبدو تقنيات التعتيم دائمًا متقدمة على تقنيات الكشف، وستصمم الكيانات الرقمية الاصطناعية لتعمل تمامًا مثل الأشخاص الحقيقيين.

في النهاية، يجب أن تكون الحلول غير تقنية، وعلينا أن ندرك قيود المحادثة السياسية عبر الإنترنت، ونعيد تحديد أولويات التفاعلات المباشرة، لأن الأشخاص الذين نتحدث معهم هم أشخاص حقيقيون، ولكن اليوم يبدو هذا الحل غير واقعي على الإطلاق.

أصبحت جهود التضليل شائعةً في الوقت الحالي بجميع أنحاء العالم، حيث اجتاحت أكثر من سبعين دولة، كما باتت الطريقة المعتادة لدفع الدعاية في البلدان الاستبدادية، وإدارة الحملات السياسية، سواء لصالح مرشح معين أو قضية ما، وبالتالي سوف تمثل الكيانات الرقمية الاصطناعية مستقبل الدعاية، وعلى الرغم من أنها قد لا تكون فعالة في إمالة النقاش إلى جانب أو آخر، إلا أنها ببساطة تطغى على النقاش بالكامل. نحن لا نعرف تأثير هذه الضجة على الديمقراطية، ولكن كل ما نعرف أنها ستكون ضارةً، وهذا أمر لا مفر منه.

المصدر: ذي أتلانتيك   |  ترجمة: نون بوست

مقالات ذات صله