Algocracy: Will Algorithms Take Over? UM6P, 22 February 2023, 46mn
Introductory texts (English, French and Arabic) by Samia Erraji
Drawing by Sophie Lenormand
In his presentation, Hugues Bersini delves deep into the significant impact of computer science, algorithmics, and artificial intelligence on our society, which is currently grappling with multiple crises. He emphasizes the crucial need to restructure our political frameworks to fully harness these solutions. He identifies two categories of algorithms influencing our lives: those that advise us and those that constrain us. This distinction between advisory and coercive aspects of algorithms reveals the complexity of the challenge we face.
Bersini highlights the urgency of rethinking algorithmic governance, a concept he terms “algocracy”. To avoid potential misuses of this new technological reality, he proposes an innovative project called “Citicode,” aimed at actively involving citizens in the process of writing and designing algorithms. This approach aims to increase the legitimacy of these technologies in our society. It’s a call for algorithmic democracy, where every citizen would have a role in defining the underlying rules of these systems, thereby ensuring more equitable and transparent use.
In his talk, he mentioned the example of FARI, an Artificial Intelligence institute for the common good and a joint initiative of both ULB and VUB. It aims to help citizens, politicians, and non-profit organizations to address local, everyday and long-term challenges in the Brussels capital region, as well as in wider Belgium and Europe.
He discusses areas that are already deeply influenced by algorithmics, citing GPS navigation systems, Netflix recommendations, banking evaluations, and even vaccination management during the COVID-19 pandemic. Bersini emphasizes the need to develop transparent and inclusive algorithms to preserve both individual liberties and the collective interest.
Bersini also raises significant ethical and social concerns related to this new reality. He questions how these algorithms impact our lives and coexistence, and how they could potentially transform our behaviors and decision-making.
In conclusion, this presentation offers a comprehensive perspective on the impact of algorithms in managing our societal challenges. It underscores the necessity of collectively reflecting on how we want these technologies to shape our future while highlighting the crucial importance of citizen involvement in the design, governance, and use of these tools to build a fair and empowered society.
Samia Erraji
Hugues Bersini, born in 1961, is a researcher, professor, and expert in computer science and artificial intelligence. He is affiliated with the Université libre de Bruxelles (ULB) in Belgium, where he has made significant contributions to computer science research. His areas of expertise include algorithmics, machine learning, modeling complex systems, and human-computer interaction.
In addition to his academic work, Hugues Bersini has been involved in concrete projects aimed at integrating citizen participation in the design and management of algorithms, notably through the FARI (Fund for Research in Computer Science and Artificial Intelligence) initiative. His contributions in this field have been recognized both academically and in terms of social innovation. He is the author of several works including Networks and Sciences (Ellipses, 2005), What is Emergence? (Ellipses, 2007), and Algocracy (De Boeck, 2023).
_________________________________
Dans sa présentation, Hugues Bersini aborde de manière approfondie le rôle majeur de l’informatique, de l’algorithmique et de l’intelligence artificielle dans notre société actuellement en crise. Il soulève la nécessité cruciale de restructurer nos cadres politiques pour tirer pleinement profit de ces solutions. Il identifie deux catégories d’algorithmes qui influencent nos vies : ceux qui nous conseillent et ceux qui nous contraignent. Cette distinction entre l’aspect conseil et l’aspect coercitif des algorithmes révèle la complexité du défi auquel nous sommes confrontés.
Bersini met en lumière l’urgence de repenser la gouvernance algorithmique, une notion qu’il qualifie d’algocratie. Pour éviter les dérives potentielles de cette nouvelle réalité technologique, il propose un projet novateur, baptisé “Citicode,” qui vise à impliquer activement les citoyens dans le processus d’écriture et de conception des algorithmes. Cette approche vise à accroître la légitimité de ces technologies dans notre société. Il s’agit d’un appel à une démocratie algorithmique, où chaque citoyen jouerait un rôle dans la définition des règles sous-jacentes à ces systèmes, garantissant ainsi une utilisation plus équitable et transparente.
Bersini mentionne l’exemple de FARI, un institut engagé pour le bien commun et une initiative commune de l’ULB et de la VUB. Son but est d’aider les citoyens, les politiques et les organisations commerciales et à but non lucratif à relever les défis locaux, ceux de tous les jours et à long terme dans la région de Bruxelles, ainsi que dans le reste de la Belgique et de l’Europe.
Il évoque des domaines qui sont déjà profondément influencés par l’algorithmique, citant notamment les systèmes de navigation GPS, les recommandations de Netflix, les évaluations bancaires, et même la gestion de la vaccination pendant la pandémie de COVID-19. Bersini insiste sur la nécessité de développer des algorithmes transparents et inclusifs, afin de préserver à la fois nos libertés individuelles et l’intérêt collectif.
Bersini soulève également des préoccupations éthiques et sociales importantes liées à cette nouvelle réalité. Il questionne la manière dont ces algorithmes impactent nos vies et comment ils pourraient potentiellement transformer nos comportements et nos prises de décision.
En somme, cette présentation offre une perspective complète sur l’impact des algorithmes dans la gestion de nos défis sociétaux. Elle met en évidence la nécessité de réfléchir collectivement à la manière dont nous voulons que ces technologies façonnent notre avenir, tout en soulignant l’importance capitale de l’implication citoyenne dans la conception, la gouvernance, et l’usage de ces outils pour bâtir une société équitable et responsabilisée.
SE
Hugues Bersini, né en 1961, est un chercheur, professeur et expert en informatique et intelligence artificielle. Il est affilié à l’Université libre de Bruxelles (ULB) en Belgique, où il a contribué de manière significative à la recherche en informatique. Ses domaines d’expertise incluent l’algorithmique, l’apprentissage automatique, la modélisation des systèmes complexes et l’interaction homme-machine.
Outre ses travaux académiques, Hugues Bersini s’est engagé dans des projets concrets visant à intégrer la participation citoyenne dans la conception et la gestion des algorithmes, notamment à travers l’initiative FARI (Fonds pour la recherche en informatique et en intelligence artificielle). Ses contributions dans ce domaine ont été reconnues tant sur le plan académique que sur le plan de l’innovation sociale. Il est l’auteur de nombreux ouvrages dont Des réseaux et des sciences (Ellipses, 2005), Qu’est-ce que l’émergence? (Ellipses, 2007), et Algocratie (De Boeck, 2023).
_________________________________
تناول هيوج برسيني، خلال عرضه، الدور الرئيسي لعلم الحاسوب، علم الخوارزميات والذكاء الاصطناعي في مجتمعنا الذي يشهد حاليًا مجموعة من الأزمات. يؤكد على الحاجة الماسة لإعادة هيكلة الأطر السياسية للاستفادة الكاملة من هذه الحلول. إذ يحدد فئتين من الخوارزميات تؤثران في حياتنا: تلك التي تنصحنا وتلك التي تقيدنا.
يسلط المتحدث الضوء على ضرورة ملحة لإعادة التفكير في الحكم الخوارزمي، مفهوم يطلق عليه “algocracy”. لتجنب التحديات المحتملة لهذا الواقع التكنولوجي الجديد، يقترح مشروعًا مبتكرًا يسمى “سيتيكود”، بهدف إدماج المواطنين في عملية كتابة وتصميم الخوارزميات. تهدف هذه الخطة إلى زيادة شرعية هذه التقنيات في مجتمعنا. إنها دعوة للديمقراطية الخوارزمية، حيث يكون لكل مواطن دور في تحديد القواعد الأساسية لهذه الأنظمة، مما يضمن استخدامًا أكثر عدالة وشفافية.
يذكر المتحدث مثال معهد فاري، كيان مقره في بروكسل، متخصص في تطوير الذكاء الاصطناعي ويعمل على تجاوز التحديات التي يعرفها المجتمع.
يناقش برسيني المجالات التي تأثرت بعمق بالخوارزميات، مشيرًا إلى أنظمة الملاحة بواسطة نظام تحديد المواقع، وتقييمات المصارف، وحتى إدارة التطعيم خلال جائحة كوفيد-19. يؤكد برسيني على ضرورة تطوير خوارزميات شفافة وشاملة للحفاظ على الحريات الفردية والمصلحة الجماعية.
يطرح المتحدث أيضًا قضايا أخلاقية واجتماعية مهمة متعلقة بهذا الواقع الجديد، كما يستفسر عن مدى تأثير هذه الخوارزميات على حياتنا، ومدى سيطرتها على سلوكنا وقراراتنا.
في الختام، يقدم هذا العرض وجهة نظر شاملة حول تأثير الخوارزميات في التعامل مع تحدياتنا المجتمعية. يؤكد على ضرورة التفكير في حلول ناجعة، مع التشديد على أهمية إشراك المواطنين في تصميم واستخدام هذه الأدوات لبناء مجتمع عادل ومسؤول.
سامية الراجي
هيوغ بيرسيني هو باحث وأستاذ وخبير في مجال علوم الحاسوب والذكاء الصناعي. يعمل في جامعة بروكسل الحرة (ULB) في بلجيكا، حيث ساهم بشكل كبير في البحث في مجال علوم الحاسوب. مجالات خبرته تشمل علم الخوارزميات، وتعلم الآلة، ونمذجة الأنظمة المعقدة، وتفاعل الإنسان والآلة.
بالإضافة إلى أعماله الأكاديمية، ارتبط هيوغ بيرسيني بمشاريع عملية تهدف إلى دمج المشاركة المدنية في تصميم وإدارة الخوارزميات، وذلك من خلال مبادرة FARI . ألف عدة أعمال منها “شبكات وعلوم” (إيليبس، 2005)، “ما هو التفاعل؟” (إيليبس، 2007)، و “algocracy” (دي بويك، 2023).