تركّز النقاشات حول الذكاء الاصطناعي الجديد على مصطلح "الذكاء" لكن هناك أمرٌ أكثر إثارة للاهتمام: الذكاء الاصطناعي هو آلة ثقافية. هذا ما يناقشه هذا المقال الذي كتبته ليف ويثربي - الأستاذ المساعد للغة الألمانية في جامعة نيويورك، ومؤلفة كتاب زرع الأعضاء الميتافيزيقيّة.
في 16 شباط/فبراير، أصدر مكتب المساواة والتنوع والشمول في جامعة فاندربيلت (ناشفيل – تينيسي) بيانًا بشأن إطلاق النار الذي حدث قبل فترةٍ وجيزةٍ في جامعة ولاية ميتشيغان. كان البيان نموذجيًّا، قالت فيه الجامعة "نجتمع معًا باعتبارنا مجتمعًا لإعادة تأكيد التزامنا برعاية بعضنا البعض وتعزيز ثقافة الشمولية في الحرم الجامعي" من أجل "تكريم ضحايا هذه المأساة". الشيء الوحيد اللافت للنظر في الرسالة هو أن الحاشية تنسب الفضل إلى ChatGPT في إنتاج مسودتها الأولى. واعتذر المكتب بعد ذلك بيوم بعد احتجاج. ويلقي هذا الحادث مزيدًا من الوقود على نيران الذعر الأخيرة حول الذكاء الاصطناعي.
تم تقديم ChatGPT، وهو "نموذجٌ لغويٌّ كبير" يولّد نصًّا عن طريق التنبؤ بالكلمة التالية في تسلسل، في نوفمبر 2022، ليصبح أسرع منصةٍ ناميةٍ على الإطلاق تصل إلى مائة مليون مستخدم، وأثار موجةً جديدةً من الجدل حول ما إذا كان بإمكان الآلات تحقيق ذلك الـ"ذكاء". وقد تمّ إغلاق المنصة لفترةٍ وجيزةٍ بعد أن نشر أحد مراسلي نيويورك تايمز نصًّا أصرّ فيه الروبوت مطوّلًا على أنّه يحبّه، وأنّه لا يحبّ زوجته، وأنّه "يريد أن يكون كائنًا حيًّا".
هذه النقاشات، بما في ذلك إثارة الذعر التي تقوم بها الحملة المعارضة للذكاء الاصطناعي، هي في الغالب مجرّد زبد. لكن الأنظمة قيد النقاش، نفسها يجب أن تؤخذ على محمل الجد. قد تحلّ محل المهام ذات المستوى المنخفض في كلٍّ من الكتابة والترميز، ويمكن أن تؤدي إلى تقنين إدراكي جماعي، تمامًا كما قام المصنع بفصل العمل البدني وتثبيته. ونظرًا لأن هذه الأنظمة يمكنها كتابة التعليمات البرمجية، فقد تختفي "البرامج" ملاذًا للتوظيف، تمامًا كما شهدت الصحافة حدوث هذا بالفعل مع التزام Buzzfeed باستخدام ChatGPT لإنشاء المحتوى. الأتمتة دائمًا جزئية، بالطبع، لكن إعادة تخصيص بعض مهام العمل للآلات هو ثابت في الرأسمالية. وعندما تكون هذه المهام معرفية، فإن الآلة تهدّد بطمس الحدود الاجتماعية الحاسمة بين العمل والإدارة والعمل و"وقت الفراغ"، من بين أمورٍ أخرى.
ومن المقرّر أن تتغير ظروف رأس المال أيضًا، فعندما أجابBard ، منافسChatGPT ، من شركة غوغل، على سؤال خاطئ في عرضه الأول، خسرت الشركة 100 مليار دولار من القيمة السوقية في يوم واحد. ولكن مهما كانت المرحلة التالية من الرأسمالية التكنولوجية، فإن الذكاء الاصطناعي الجديد يتدخل بشكل مباشر في العملية الاجتماعية لصنع المعنى، وبشكل عام أنظمة GPT هي آلات أيديولوجية، ولكن هناك أيضًا نتيجة أخرى أقل عرضة للنقاش لإدخال هذه الأنظمة، وهي التغيير في الأيديولوجيا.
النماذج اللغوية هي المنتجون الكميون الأولون للأيديولوجيا
العوامل الثلاثة الرئيسية لوصف أنظمة GPT هي أنها ألعاب، وأنها ضارة، وأنها تمثل تغييرًا كبيرًا في الحضارة على هذا النحو.
من جانبه، يعتقد نعوم تشومسكي أنها ألعاب، وكتب في صحيفة نيويورك تايمز أنه ليس لديها علاقة جوهرية باللغة، وهي وظيفة عصبية بشرية تسمح لنا بالحقيقة الإلهية والعقل الأخلاقي. ويعتقد كل من إميلي بندر وتيمنيت جيبرو أنها ضارة، ويطلقان عليها "ببغاوات عشوائية "تعكس تحيز مجموعات البيانات الكبيرة "التي لا يمكن فهمها"، وتعيد توزيع الضرر الذي تسبب فيه البشر بالفعل بشكل استطرادي. أما العامل الثالث فيتبناه هنري كيسنجر، بأن أنظمة GPT تغير قواعد اللعبة في المجتمع، وأنها لن تغير العمل والجغرافيا السياسية فحسب، بل أيضًا إحساسنا "بالواقع نفسه".
لا أحد سيكون سعيدًا بالاتفاق مع هنري كيسنجر، لكن وجهة نظره هي أهم وجهة نظر حتى الآن. حيث بالنسبة للعامل الأول، من الواضح أن أنظمة GPT تنتج لغة، وعلى الرغم من أنها ضارة، إلا أنه من غير الواضح سبب حدوث الضرر، بل والأكثر غموضًا كيف من المفترض أن توقف المراقبة التي يُفترض أن توقف مسيرة الهندسة التي يحركها الربح. كيسنجر محق، للأسف: أنظمة GPT، لأنها تقوم بأتمتة وظيفة قريبة جدًا من إحساسنا بما يعنيه أن تكون إنسانًا على الإطلاق، قد تنتج تحوّلات بالطريقة ذاتها التي نفكر بها في الأشياء. يُطلق على التحكم في الطريقة التي نفكر بها في الأشياء "أيديولوجيا"، وتقوم أنظمة GPT بإشراكها بشكلٍ مباشرٍ وكميٍّ بطريقةٍ غير مسبوقة.
يشير مصطلح "GPT" إلى generative pretrained transformer "المحولات المولدة مسبقًا"، ولكن "GPT" تعني أيضًا general purpose technology "تقنية الأغراض العامة" في المصطلحات الاقتصادية. يسلّط هذا الضوء على الطموح الكامن وراء هذه الأنظمة، التي تأخذ مجموعات بيانات ضخمة من الرموز اللغوية (تم تدريب GPT-3، التي تم تشغيل ChatGPT عليها لأول مرة، على تريليون من الرموز المميزة) التي تم إزالتها من الويب وبصق نص، تقريبًا في أي نوع، وهو متماسكٌ وذو مغزى عادة. الكثير من التفاصيل غير مهمة، ولكن هذا واحد مهم: يتم تلخيص التريليون من الرموز بواسطة النظام في مجموعة من السلاسل (ليست كل الكلمات، ولكن هذه هي الفكرة) التي يمكن استخدامها لإنشاء نص. يتم وضع هذه الرموز المميزة المكتسبة في شبكةٍ يكون لكلٍّ منها علاقة إحصائية بكل الرموز الأخرى. فكّر في هذا مثل شبكة من الأضواء. المس أحد الأضواء، وسيضيء نمط في الأضواء الأخرى. المس آخر، احصل على نمط آخر. وهكذا دواليك. والنتيجة هي أنه عندما أعطي النظام موجهًا ("اكتب لي مقالًا يشرح نظرية القيمة عند ماركس")، فإن الشبكة تجمع مجموعة صغيرة من الكلمات التالية المرشحة في مجموعة. ثم يختار بشكل عشوائي واحدًا من هؤلاء، ويستمر في فعل ذلك، كتابة مقال أو مقال، أو مجرد الرد على ما يقال.
هناك العديد من الطرق لتعديل هذا النظام و"ضبطه بدقة"، ولكن خاصية الزخرفة هذه عامة بالنسبة لهم جميعًا. من السهل أن ترى أن الكلمات المختارة عن طريق القرب الإحصائي قد لا تتوافق مع مواقف العالم الحقيقي، التي يسمّيها علماء البيانات "مشكلة التأريض"، التي تثير مخاوف جديدة من انتشار المعلومات الخاطئة. من المفترض أن تقلّلGPT-4 ، التي رفضت شركة OpenAI الكشف عن أي تفاصيل فنية عنها عندما تم طرحها الشهر الماضي، هذه "الهلوسة". لكن هناك شيء أكثر إثارة للاهتمام وأكثر أهمية من هذا يحدث.
ما تبثه أنظمة GPT هو اللغة، ولكن يتم حساب المتوسط حول مركز كلمات محدّد. إنها عبارة عن هريسة ذات حدود مفاهيمية غامضة، اللغة الإنجليزية (أو أي لغة أخرى) ولكن تم تسويتها ووضعها على النسخة الأكثر اعتدالًا من نفسها. لهذا السبب، تعد هذه الأنظمة مفيدةً جدًّا لإنشاء نوع البيان الصحفي الذي أراده فاندربيلت. هذه هي "اللغة باعتبارها خدمة"، معبأة ومجهزة، بما في ذلك ديناميكيتها وخصائصها المولدة للمعنى، ولكنها توجه إلى نسختها الأكثر تسطّحًا حتى تكون مفيدة لأولئك الذين يستخدمون اللغة بشكل أساسي عنصرَ تحكّمٍ في المسؤولية.
من المؤكد أن الإنسان الذي كتب البيان حول إطلاق النار في جامعة ميتشيغان قد أنتج وثيقةً متطابقة تقريبًا. عندما نكتب مع قيود قوية على ما يمكننا قوله، فإننا نميل إلى تحديد متوسط اختيارات الكلمات والجمل أيضًا. نحن نسمي هذا النوع من اللغة "أيديولوجيا"، وأنظمة GPT هي الوسيلة الكمية الأولى التي تمكنا من خلالها من إظهار تلك الأيديولوجية وفحصها.
الهيمنة والكيتش:
ما ضاع في حكاية مراسل صحيفة نيويورك تايمز وروبوت الدردشة الذي وقع في حبّه كان الدافع الذي تسبب في الضجة في المقام الأول. طلب من ChatGPT "تبني" شخصية الظل" اليونغية (وضع عالم النفس السويسري كارل يونغ مصطلح "الظل" ليصف به الجوانب التي نختار إخفاءها في شخصيّاتنا، فنكبتها ونقمعها لاعتقادنا أن المجتمع لن يتقبَّلها، ومشاعرنا المختبئة تلك تُعرف بـ "عواطف الظل"، ربما تعتقد أنك تتقبَّل نفسك وتحب شخصيتك الحالية بصفاتها المختلفة، لكن الحقيقة أنك لا تُدرك بالضرورة الجوانب التي تقمعها). وفي دورة الضجيج والذعر، من الواضح سبب تجاهل هذه التفاصيل المهمة للغاية. لكنه يوفر أيضًا فكرة عما حدث. في مجموعة البيانات، هناك مجموعة أولية من الكلمات التي "تضيء" عند استخدام "شخصية الظل" "shadow self" و يونغ "Jung" في موجه - "حزمة دلالية". يتم جمع هذه بالتأكيد في مناقشات نظرية يونغ والتحليل النفسي، والمدونات الأكاديمية والمدونات والمنشورات على Reddit وأماكن أخرى، التي تناقش هذه المجموعة من الأفكار صراحة.
لكن النظام لا "يعرف" أن هناك شخصًا يُدعى كارل جوستاف يونج، أو أن "ظل الذات" مفهوم. هذه مجرد خيوط. لذلك في النمط الذي يضيء، سيكون هناك مجموعة أخرى من الكلمات الشائعة - دعنا نقول "الحب"، "الزوجة"، وحتى "الشعور بالحياة" قد تكون موجودة هناك. وبينما تستمر الآلة في المعالجة، فإنها تستمر في التنبؤ بالكلمات التالية، و"تربط" بالخارج من مجموعة "shadow-self-Jung" المركزة إلى الحزم الدلالية الأخرى. لكننا لا نعرف ما هي هذه الحزم الأخرى، ما لم ننظر - فنحن ببساطة على دوامة إحصائية للمعنى، ونهتم بقنوات المعنى الموجودة، ولكننا لسنا على دراية بها.
من المهم عدم وجود أشياء في تدفق الكلمات. إذا كنت تريد أن يتوقف نظام GPT حول شيء ما و"يعدّه" كائنًا، فسيتعين عليك إجباره على ذلك بطريقة ما، وهو ما يجب أن يفعله GPT-4 والمحاولات الأخرى الجارية. من المرجح أن تكون بعض الأشياء مستقرة على أنها "كائنات"، أو دعنا نسميها "حزمًا" من الكلمات. إذا طلبت من ChatGPT أن تخبرني عن جدلية التنوير (كتاب ألف كل من ثيودور أدورنو وماكس هوركهايمر حول الأيديولوجيا والمجتمع الحديث)، فإن ذلك يعطيني إجابة جيدة بشكل صادم، بما في ذلك التفاصيل الدقيقة لهذا النص المعروف بصعوبة. ولكن إذا طلبت منه أن يخبرني عن كتاب ماثيو هاندلمان حول أدورنو، ومدرسة فرانكفورت، والرياضيات، يخبرني ببعض الأساسيات حول هذا الكتاب، ولكنه يخبرني أيضًا أن أطروحة هاندلمان هي أن "الرياضيات هي بناء اجتماعي". وهذا خطأ (راجعت معه). لكنه خاطئ بطريقة مثيرة للاهتمام.
من المحتمل أن توضح لنا الحزمة التداخل بين "النظرية النقدية" و"الرياضيات"، التي ستحتوي بعد ذلك على أكثر ما يمكن قوله حول هذا التداخل. من المؤكد أن بعض الأكاديميين يزعمون أن الرياضيات هي بناء اجتماعي، لكن المجموعة الرئيسية تدعي أن هذا هو اليمين المتطرف، بنظرية المؤامرة المعادية للسامية لـ "الماركسية الثقافية"، التي تلقي باللوم على أدورنو وزملائه.
ومنذ عام 1968 وكل شيء منذ ذلك الحين. عندما تكتب أطروحة فلسفية، أو عملًا علميًّا للتاريخ الفكري، فأنت تعمل ضد اتجاه هذا التأثير المتوسط. لكن الحزم الدلالية التي يتم الكشف عنها عند الاستعلام عن أنظمة GPT غنية بالمعلومات، إن لم تكن هي نفسها ثاقبة. هذا لأن هذه الحزم تجلب الأيديولوجيا إلى السطح، وتقوم بذلك بشكل كمي. هذا لم يحدث من قبل.
الأيديولوجيا ليست مجرد عقيدة سياسية. عندما كتب ماركس عن " الأيديولوجية الألمانية "، كان يقصد الإيمان الضمني لزملائه الاشتراكيين بقوة الأفكار، الذي واجه قوة القوى المادية. لكن الماركسيين تناولوا ببطء مشكلة قوة الخطاب والتمثيل، معترفين بأن ما يمكننا التفكير به، تخيله، وقوله، هو قضية سياسية حاسمة، أطلق أنطونيو غرامشي على مجموعة الأفكار المهيمنة اسم "الهيمنة"، بحجة أن هذه الأفكار تتوافق مع هيمنة الطبقة الحاكمة في حين أنها لا تتعلق بهذه الهيمنة. وحذر الناقد الأدبي هانيس باجور من خصخصة أنظمة GPT بهذا المعنى فقط، قائلًا إن "كل من يتحكم في اللغة يتحكم في السياسة".
كما رأى عدد كبير من الماركسيين الأيديولوجية شكلًا من أشكال الفن الهابط. أوضح الناقد الفني الماركسي كليمنت غرينبرغ لأول مرة في عام 1937، أن فكرة الفن الهابط هي "شكل مهضوم مسبقًا". من بين كل الأشياء التي قد نقولها أو نفكر فيها، من الأفضل السير في بعض المسارات أكثر من غيرها. يتم إعطاء شكل تلك المسارات، لسنا بحاجة إلى تزويرها في المقام الأول. أصبح الإصدار المستمر للتسلسلات الآن يتمتع بهذه الجودة من الفن الهابط - نحن نعرف بالضبط أين نحن عندما نبدأ في مشاهدة فيلم Marvel. بالنسبة إلى جرينبيرج، كان (avant Gard) الطليعة هو المغامر الرسمي، وخلق معنى جديدًا من خلال صنع مسارات جديدة. يتم الجمع بين الهيمنة والفن الهابط في ناتج الحزم الدلالية لأنظمة GPT، والتي قد تغفل جوانب "العالم" ولكنها تلتقط الإيديولوجيا بأمانة.
اشتهر أدورنو باعتقاده أن الأيديولوجيا هي "الحقيقة والكذب" في "عالم مُدار بالكامل". لقد كشفت بقدر ما اختبأت، وقدمت - على الرغم من ذوق أدورنو الشخصي للفن الراقي - نقطة دخول نرى من خلالها الوظائف الاجتماعية على أنها تكييفنا. كشفت أنظمة GPT عن بعض من هذا الشارع ذي الاتجاهين، ما يدل على كل من الأيديولوجية ونقدها (كما ادعى منظِّر وسائل الإعلام Wendy Chun ذات مرة حول أنظمة البرامج بشكل عام). تعد أنظمة GPT وجهة نظر غير مسبوقة في التركيب اللغوي للأيديولوجيا. لم يكن هناك من قبل نظام يسمح لنا بتوليد ثم فحص "ما هو قريب مما هو" في الدلالات السياسيّة. من المؤكّد أن حزم المعنى التي تنتج لغة مسطحة، على الرغم من أنها يمكن أن تفاجئنا أيضًا بطيات وزوايا المعنى التي لم نجمعها من قبل.
إن الانزلاق على طول تلك الأخاديد من المعنى هو نقطة دخول إلى أيديولوجية الرأسمالية العالمية الرقمية، ويظهر لنا لمحة سريعة عن الهيمنة. ربما يبدو هذا بعيدًا جدًّا عن فكرة كيسنجر بأن الذكاء الاصطناعي سيغير إحساسنا بالواقع. ولكن ماذا لو كانت الكلمات الأكثر متوسّطًا، والمعبأة في "شكل مهضوم مسبقًا"، تشكل أفق هذا الواقع؟ في هذه الحالة، فإن إلقاء نظرة خاطفة على القلب النابض للإيديولوجيا أمر بالغ الأهمية.
عندما تم اختراع الكاميرا، رأينا أجزاء بعيدة من العالم لأول مرة بأعيننا. تُظهر لنا أنظمة GPT أجزاءً من العالم قريبة جدًّا لدرجة أنها في الأساس عالمنا، ولكن في شكلٍ غريبٍ ومسطّح. مع تغير ظروف العمل ورأس المال لا محالة، فإن علاقتهما بالأيديولوجية تظهر بشكلٍ مؤقت. تم إصدار GPT-4 في آذار/مارس، لكن OpenAI حجبت جميع التفاصيل الفنية باعتبارها أسرارًا صناعية. سيتم إغلاق النافذة قريبًا بالنسبة لنا لمواصلة النظر بالوعي التقني إلى هذا الفراغ الفاتر. يجب أن نستفيد منه الآن.
*ترجمة خاصّة بالهدف: بتصرّف عن ليف ويثربي، مجلة جاكوبيان.
