UM6P, 20 February 2023, 1h07mn
Roundtable with Luc Steels
Moderator: Reda Benkirane
Introductory texts (English, French and Arabic) by Hind Aboulazm
Drawing by Sophie Lenormand
David Chavalarias, Research Director at the CNRS and author of the book Toxic Data, explores the impact of data on our lives, addressing both its advantages and drawbacks. His focus lies in unraveling the intricate societal implications through a comprehensive observatory analysis. Drawing a parallel to the self-organizing cosmos, Chavalarias observes that social systems exhibit a continuous emergence of leaders, adapting to changing environmental interactions and noise.
For instance, the analogy of George Pólya’s mathematical model demonstrates the possibility of stability amidst fluctuations. It highlights that perceived stability might be the result of chance-generated temporary attractors, influenced by diverse factors over time. Two misconceptions must be avoided: the assumption of complete control over complex systems and the belief that a single action cannot impact them.
The sociologist Matthew Salganik and his colleagues investigated the emergence of musical hits by observing how people’s interactions with songs influenced their downloads. Success depended on both downloads and social influence, with more influence leading to more accurate predictions. The role of digital infrastructures is vital, as they enhance correlation and reinforce social influence, making dynamics more predictable yet less spontaneous.
Surveillance capitalism thrives by harnessing data to amplify social influence for economic and political agendas, sometimes creating an illusion of mass adherence. Government and geopolitical entities manipulate this environment, orchestrating events to achieve specific goals. Russia’s skilled use of public data-powered AI exemplifies the potential real-world impacts.
While these technologies offer positive outcomes, the challenge lies in AI learning from data, which can result in propaganda and cyberattacks. This underscores the need to understand these dynamics, given the potential for both positive and negative consequences.
These technologies are currently being employed to sway crowds and propagate hate speech online. The emerging form of capitalism, referred to as influence capitalism or attention capitalism, is growing unstable, rendering our digital social environments more susceptible to manipulation, particularly by external actors. The connection between Europe and the Kremlin exists in a pseudo-state, and digital battlefields are evolving into hybrid forms. This situation can be exploited by persistent totalitarian regimes, utilizing digital networks as potent weapons. Combating these challenges requires collective and individual actions at the institutional level.
David Chavalarias, inspired by American cognitivist Marvin Minsky, has dedicated years to studying artificial intelligence and robotics, applying complexity science principles to analyze social phenomena. While suggestions like fostering offline interactions exist, the need for protected media systems to prevent undesirable characteristics in social interactions is paramount. Interestingly, complexity sciences, intended to minimize control and manipulation, can be turned into instruments for increased control.
Transforming voting systems, such as adopting the less manipulable majority judgment, could counter negative effects. Overcoming the limitations of current suboptimal social and institutional systems necessitates political and collective determination. Initiatives like the Mastodonte project and local alternatives present potential pathways for change. The Metaverse represents the Internet’s future, where platforms can access users’ experiences and physiological data, possibly leading to more human-like behavior in artificial intelligence and reshaping the balance between real and virtual existence.
Hind Aboulazm
David Chavalarias is a former student of the École Normale Supérieure de Cachan, holding a French agrégation in mathematics. He later joined the Center for Applied Epistemology Research (CREA) at the École Polytechnique. His research focuses on studying social and cognitive dynamics, particularly using large-scale web data. In 2022, he published Toxic Data, an essay that analyzes, among other things, the influence of Twitter and Facebook on political opinions.
_________________________________
David Chavalarias, Directeur de Recherche au CNRS et auteur du Données toxiques, explore l’impact des données sur nos vies, abordant à la fois ses avantages et ses inconvénients. Son attention se porte sur le démêlement des implications sociétales complexes grâce à une analyse observatoire exhaustive. Dressant un parallèle avec le cosmos auto-organisateur, Chavalarias observe que les systèmes sociaux présentent une émergence continue de leaders, s’adaptant aux interactions environnementales changeantes et au bruit.
Par exemple, l’analogie du modèle mathématique de George Pólya démontre la possibilité d’une stabilité au milieu des fluctuations. Elle met en évidence que la stabilité perçue pourrait être le résultat d’attracteurs temporaires générés par le hasard, influencés par divers facteurs au fil du temps. Deux erreurs conceptuelles doivent être évitées : l’hypothèse d’un contrôle complet sur les systèmes complexes et la croyance qu’une seule action ne peut les influencer.
Le sociologue Matthew Salganik et ses collègues ont étudié l’émergence des succès musicaux en observant comment les interactions des gens avec les chansons influençaient les téléchargements. Le succès dépendait à la fois des téléchargements et de l’influence sociale, avec une influence accrue conduisant à des prédictions plus précises. Le rôle des infrastructures numériques est essentiel, car elles renforcent la corrélation et renforcent l’influence sociale, rendant les dynamiques plus prévisibles mais moins spontanées.
Le capitalisme de surveillance prospère en exploitant les données pour amplifier l’influence sociale à des fins économiques et politiques, créant parfois une illusion d’adhésion massive. Les gouvernements et les entités géopolitiques manipulent cet environnement, orchestrant des événements pour atteindre des objectifs spécifiques. L’utilisation habile de l’IA et des données publiques par la Russie illustre les impacts potentiels réels.
Bien que ces technologies offrent des résultats positifs, le défi réside dans l’apprentissage de l’IA à partir des données, ce qui peut entraîner la propagande et les cyberattaques. Cela souligne la nécessité de comprendre ces dynamiques, compte tenu du potentiel de conséquences positives et négatives.
Ces technologies sont actuellement utilisées pour influencer les foules et propager des discours haineux en ligne. La forme émergente de capitalisme, appelée capitalisme de l’influence ou capitalisme de l’attention, devient instable, rendant nos environnements sociaux numériques plus vulnérables à la manipulation, en particulier par des acteurs externes. La connexion entre l’Europe et le Kremlin existe dans un pseudo-état, et les champs de bataille numériques évoluent en formes hybrides. Cette situation peut être exploitée par des régimes totalitaires persistants, utilisant les réseaux numériques comme armes puissantes. Combattre ces défis nécessite des actions collectives et individuelles au niveau institutionnel.
David Chavalarias, inspiré par le cognitiviste américain Marvin Minsky, a consacré des années à l’étude de l’intelligence artificielle et de la robotique, appliquant les principes des sciences de la complexité pour analyser les phénomènes sociaux. Bien que des suggestions comme la promotion des interactions hors ligne existent, la nécessité d’avoir des systèmes médiatiques protégés, pour prévenir les caractéristiques indésirables dans les interactions sociales, est primordiale. Il est à noter que les sciences de la complexité, conçues pour minimiser le contrôle et la manipulation, peuvent être transformées en instruments de contrôle accru.
Des initiatives telles que le projet Mastodon et des alternatives locales présentent des voies potentielles de changement. Le Métaverse représente l’avenir d’Internet, où les plateformes peuvent accéder aux expériences des utilisateurs et aux données physiologiques, entraînant potentiellement un comportement plus humain dans l’intelligence artificielle et remodelant l’équilibre entre existence réelle et virtuelle.
HA
David Chavalarias, ancien élève de l’Ecole Normale Supérieure de Cachan, agrégé de mathématiques, rejoint le Centre de recherche en épistémologie appliquée (CREA) à l’École Polytechnique. Ses travaux portent sur l’étude les dynamiques sociales et cognitives, notamment à partir de données Web à grande échelle. En 2022, il publie Toxic Data, un essai analysant notamment l’influence de Twitter et Facebook sur les opinions politiques.
_________________________________
ديفيد شافالارياس، مدير البحوث في CNRS ومؤلف الكتاب بيانات سامة، سيستكشف تأثير البيانات على حياتنا، معالجًا كل من مزاياها وعيوبها. تكمن تركيزه في فك شفرة الآثار المعقدة على النظام الاجتماعي من خلال تحليل شامل بنمط المرصد. وعلى غرار الكون الذي ينظم ذاته، تظهر الأنظمة الاجتماعية تطورًا مستمرًا للقادة، متكيفة مع تفاعلات البيئة المتغيرة والضوضاء.
على سبيل المثال، توضح تشبيه نموذج بوليا استقرارًا في وسط التقلبات. إنه يسلط الضوء على أن الاستقرار المُشاهَد قد يكون نتيجة لجاذبيات مؤقتة تولد عرضيًا، تأثرت بعوامل متنوعة مع مرور الوقت. يجب تجنب اثنين من الاعتقادات الخاطئة: افتراض السيطرة الكاملة على الأنظمة المعقدة، والاعتقاد بأن إجراءً واحدًا لا يمكن أن يؤثر عليها.
قام سالجانيك وزملاؤه بدراسة ظهور الأغاني الناجحة من خلال ملاحظة كيف أثرت تفاعلات الأشخاص مع الأغاني على التنزيلات. اعتمد النجاح على التنزيلات والتأثير الاجتماعي، حيث يؤدي المزيد من التأثير إلى توقعات أكثر دقة. دور البنى التحتية الرقمية حيوي، حيث تعزز الترابط وتعزز التأثير الاجتماعي، مما يجعل الديناميات أكثر قابلية للتنبؤ ولكن أقل اندفاعًا.
تزدهر الرأسمالية الرصدية عن طريق استغلال البيانات لتضخيم التأثير الاجتماعي لأجندات اقتصادية وسياسية، مما يخلق أحيانًا وهمًا بالانضمام الجماعي. تستغل الحكومات والكيانات الجيوسياسية هذا البيئة، منظمين الأحداث لتحقيق أهداف محددة. استخدام روسيا الماهر للذكاء الاصطناعي المدعوم بالبيانات العامة يمثل مثالًا على الآثار الواقعية المحتملة.
بينما تقدم هذه التقنيات نتائج إيجابية، يكمن التحدي في تعلم الذكاء الاصطناعي من البيانات، مما قد يؤدي إلى الدعاية والهجمات السيبرانية. وهذا يؤكد على ضرورة فهم هذه الديناميات، نظرًا لإمكانية حدوث عواقب إيجابية وسلبية.
تُستخدم هذه التقنيات حاليًا للتأثير على الجماهير ونشر خطابات الكراهية عبر الإنترنت. الشكل الناشئ للرأسمالية ، المعروفة باسم الرأسمالية التأثيرية أو الرأسمالية التركيزية، تصبح غير مستقرة، مما يجعل بيئاتنا الاجتماعية الرقمية أكثر عرضة للتلاعب، خصوصًا من قِبل الجهات الخارجية. توجد علاقة بين أوروبا والكرملين في حالة زائفة، والميادين الرقمية تتطور إلى أشكال مختلطة. يمكن استغلال هذا الوضع من قبل نظم استبدادية دائمة، باستخدام الشبكات الرقمية كأسلحة قوية. مواجهة هذه التحديات تتطلب تحركات جماعية وفردية على المستوى المؤسسي.
ديفيد شافالارياس، قد كرّس سنوات لدراسة الذكاء الاصطناعي والروبوتات، مُطبقًا مبادئ علم التعقيد على تحليل الظواهر الاجتماعية. بينما توجد اقتراحات مثل تعزيز التفاعلات غير المتصلة بالإنترنت، يظل الحاجة إلى أنظمة وسائط محمية لمنع الخصائص غير المرغوب فيها في التفاعلات الاجتماعية أمرًا أساسيًا. على نحو مثير للاهتمام، يمكن تحويل علوم التعقيد، التي تهدف إلى تقليل التحكم والتلاعب، إلى أدوات لزيادة التحكم.
التغلب على قيود الأنظمة الاجتماعية والمؤسسية الحالية غير المثلى يستدعي عزيمة سياسية وجماعية. مبادرات مثل مشروع ماستودونت والبدائل المحلية تقدم مسارات محتملة للتغيير. الميتافيرس يمثل مستقبل الإنترنت، حيث يمكن للمنصات الوصول إلى تجارب المستخدمين والبيانات الفسيولوجية، مما قد يؤدي إلى سلوك أشبه بالإنسان في الذكاء الاصطناعي وإعادة تشكيل التوازن بين الوجود الحقيقي والافتراضي.
هند ابوالعزم
ديفيد شافالارياس هو خريج سابق لمدرسة الشمال العليا للتعليم العالي في كاشان، حاصل على درجة في الرياضيات. في وقت لاحق، انضم إلى مركز البحوث في علم المعرفة التطبيقي (CREA) في المدرسة البوليتكنيكية. تتمحور أبحاثه حول دراسة الديناميات الاجتماعية والإدراكية، ولا سيما باستخدام بيانات الويب على نطاق واسع. في عام 2022، نشر كتابًا بعنوان بيانات سامة، وهو مقال يحلل، من بين أمور أخرى، تأثير تويتر وفيسبوك على الآراء السياسية.