d/acc : Revue après un an

Auteur : Vitalik Buterin

Il y a un an, j'ai écrit un article sur l'optimisme technologique, exposant mon enthousiasme général pour la technologie et ses énormes bénéfices, tout en exprimant une attitude prudente face à certains problèmes spécifiques, en particulier le risque de destruction que pourrait engendrer une IA superintelligente ou le risque que l'humanité perde irréversiblement son pouvoir.

L'idée centrale de l'article est de promouvoir une philosophie de l'accélération défensive qui soit décentralisée, démocratique et différenciée. Cela signifie accélérer le développement technologique, mais en se concentrant de manière sélective sur les technologies qui peuvent renforcer notre capacité de défense plutôt que de causer des dommages, tout en s'engageant à décentraliser le pouvoir et à éviter que quelques élites ne prennent des décisions au nom de tous. Le mode de défense devrait ressembler à celui de la Suisse démocratique et à la région de Zomia, historiquement quasi-anarchiste, plutôt qu'à un modèle féodal de seigneurs et de châteaux du Moyen Âge.

Au cours de l'année écoulée, ces idées ont connu un développement et une maturation significatifs. J'ai partagé ces points de vue sur la plateforme "80,000 heures", ce qui m'a permis de recevoir de nombreux retours, dont la plupart sont positifs, mais il y a bien sûr aussi quelques critiques.

Ce travail progresse et a obtenu des résultats concrets : des avancées dans le domaine des vaccins open source vérifiables ; une sensibilisation croissante à la valeur de l'air intérieur sain ; les "notes communautaires" continuent de jouer un rôle positif ; le marché prédictif connaît une année de rupture en tant qu'outil d'information ; les ZK-SNARKs sont appliqués dans l'identification gouvernementale et les réseaux sociaux (et garantissent la sécurité des portefeuilles Ethereum grâce à l'abstraction de compte) ; des outils d'imagerie open source sont utilisés dans le domaine médical et les interfaces cerveau-machine, etc.

L'automne dernier, nous avons organisé notre premier événement majeur d'ACC : "Jour de découverte d'ACC" (d/aDDy). L'événement a rassemblé des conférenciers de divers domaines piliers d'ACC (biologie, physique, réseaux, défense de l'information et technologie neurale) et a duré toute une journée. Les personnes qui se consacrent depuis longtemps à ces technologies ont mieux compris le travail des autres, et les personnes extérieures prennent de plus en plus conscience de cette vision plus large : les mêmes valeurs qui promeuvent le développement d'Ethereum et des cryptomonnaies peuvent s'étendre à un monde plus vaste.

La signification et l'étendue de d/acc

Imaginez la scène en 2042. Vous voyez dans les médias une annonce disant que la ville où vous vivez pourrait connaître une nouvelle épidémie. Vous êtes déjà habitué à ce genre de nouvelles : les gens ont tendance à réagir de manière excessive à chaque mutation de maladie animale, et dans la plupart des cas, ces mutations ne déclenchent finalement pas de crise réelle. Les deux précédentes épidémies potentielles ont été détectées tôt et contenues avec succès grâce à la surveillance des eaux usées et à l'analyse des données ouvertes des réseaux sociaux. Cependant, cette fois, la situation est différente, le marché de prévision indique qu'il y a jusqu'à 60 % de probabilité d'au moins 10 000 cas, ce qui vous inquiète.

Juste hier, la séquence génétique du virus a été déterminée. Une mise à jour du logiciel pour le testeur d'air de poche a été lancée, permettant à l'appareil de détecter le nouveau virus (que ce soit par un test respiratoire ou après 15 minutes d'exposition à l'air intérieur de la pièce). De plus, des instructions et du code open source pour générer un vaccin à partir d'équipements accessibles dans n'importe quelle installation médicale moderne à travers le monde devraient être publiés dans quelques semaines. La plupart des gens n'ont pas encore pris de mesures, s'appuyant principalement sur des systèmes de filtration de l'air et de ventilation largement utilisés pour assurer leur sécurité.

En raison de vos problèmes immunitaires, vous agissez avec plus de prudence : l'assistant AI personnel que vous utilisez, fonctionnant localement et en open source, prend en compte non seulement des tâches habituelles comme la navigation, les recommandations de restaurants et d'activités, mais considère également les données de tests de qualité de l'air en temps réel et les données de dioxyde de carbone, afin de ne vous recommander que les lieux les plus sûrs. Ces données sont fournies par des milliers de participants et d'appareils, et grâce à des technologies telles que ZK-SNARKs et la confidentialité différentielle, le risque de fuite ou d'utilisation abusive des données est réduit au minimum (si vous souhaitez contribuer à ces ensembles de données, d'autres assistants AI personnels vérifieront si ces outils cryptographiques sont réellement efficaces).

Deux mois plus tard, la pandémie a miraculeusement disparu : il semble que 60 % des personnes aient respecté les protocoles de prévention de base, à savoir porter un masque lorsque le test de l'air émet une alarme indiquant la présence du virus et s'isoler à domicile en cas de résultat positif au test personnel. C'est cette mesure qui a suffi à faire chuter encore plus le taux de propagation, déjà considérablement réduit par une filtration d'air passive, à moins de 1. Un résultat de simulation montre qu'une maladie qui pourrait être cinq fois plus grave que la pandémie de COVID-19 d'il y a vingt ans n'a pourtant pas eu d'impact sérieux.

L'activité d/acc a obtenu un résultat extrêmement positif, à savoir que le concept d/acc a réussi à rassembler des personnes de différents domaines et a réellement suscité leur vif intérêt pour le travail des autres.

Organiser un événement ayant de la "diversité" n'est pas une tâche difficile, mais permettre à des personnes de différents horizons et intérêts d'établir de véritables liens étroits est en revanche un défi. Je me souviens encore de mon expérience au collège et au lycée, où j'étais contraint de regarder de longues opéras, que je trouvais personnellement ennuyeux. Je savais que je "devrais" les apprécier, car sinon, je serais perçu comme un paresseux en informatique sans culture, mais je n'ai pas réussi à résonner à un niveau plus profond avec le contenu de l'opéra. Cependant, l'ambiance de l'événement d'Accord d/d était totalement différente : on sentait que les gens aimaient vraiment découvrir les différents métiers dans divers domaines.

Si nous souhaitons construire un avenir plus radieux que la domination, le ralentissement et la destruction, nous devons nécessairement engager une telle construction d'alliances étendues. d/acc semble avoir réalisé des résultats significatifs à cet égard, et rien que cela suffit à mettre en évidence la valeur précieuse de cette idée.

L'idée centrale de d/acc est simple et claire : une accélération défensive décentralisée, démocratique et différenciée. Construire des technologies qui favorisent un équilibre entre l'attaque et la défense, en s'assurant qu'elles ne dépendent pas de la concentration de plus de pouvoir entre les mains d'autorités centrales. Il existe un lien intrinsèque étroit entre ces deux aspects : toute structure politique décentralisée, démocratique ou libre prospère souvent lorsque la défense est facile à mettre en œuvre, tandis qu'elle fait face à des défis sévères lorsque la défense est difficile — dans ces cas, le résultat le plus probable est une période de chaos où tout le monde s'oppose les uns aux autres, menant finalement à un état d'équilibre régi par les plus forts.

Une façon de comprendre l'importance de tenter simultanément de réaliser la décentralisation, la défense et l'accélération est de la comparer aux idées qui émergent de l'abandon de l'un de ces trois aspects.

Accélération de la décentralisation, mais négligence de la partie "défense différenciée"

Essentiellement, cela ressemble à devenir un efficace accélérationniste (e/acc), tout en poursuivant la décentralisation. Beaucoup de gens adoptent cette approche, certains se qualifiant de d/acc, mais ils décrivent utilement leur focalisation comme "offensive". De plus, il y a de nombreuses autres personnes qui montrent un enthousiasme plus modéré pour des sujets tels que "l'IA décentralisée" et similaires, mais à mon avis, leur attention sur les aspects "défensifs" est manifestement insuffisante.

À mon avis, cette approche pourrait peut-être éviter le risque d'une dictature mondiale par des groupes spécifiques, mais elle n'a pas réussi à résoudre les problèmes structurels potentiels : dans un environnement favorable à l'attaque, il existe toujours un risque constant de catastrophe, ou certains pourraient se positionner en tant que protecteurs et occuper une position dominante de manière permanente. En ce qui concerne l'IA, elle ne peut pas non plus résoudre correctement le risque d'affaiblissement du pouvoir de l'humanité par rapport à l'IA.

Accélération de la défense différenciée, mais en négligeant "la décentralisation et la démocratie"

Accepter un contrôle centralisé pour atteindre des objectifs de sécurité a toujours un certain attrait pour une partie des gens. Les lecteurs sont sans aucun doute déjà familiers avec de nombreux exemples de ce type et les inconvénients qu'ils entraînent. Récemment, certaines personnes s'inquiètent que le contrôle centralisé extrême pourrait être la seule voie pour faire face aux technologies extrêmes à venir : par exemple, envisagez un scénario hypothétique où "chacun porte une 'étiquette de liberté' — un produit dérivé des dispositifs de surveillance portables plus limités d'aujourd'hui, semblable aux bracelets de cheville utilisés par certains pays comme alternative à l'incarcération... des vidéos et des audios cryptés sont continuellement téléchargés et interprétés en temps réel par des machines". Cependant, il y a un problème de degré avec le contrôle centralisé. Une forme de contrôle centralisé relativement modérée, souvent négligée mais toujours nuisible, se manifeste dans le domaine des biotechnologies (par exemple, les aliments, les vaccins) par la résistance à la surveillance publique, ainsi que par la permission que cette résistance se produise sans contestation à travers des normes non ouvertes.

Les risques de cette approche sont évidents, à savoir que le centre lui-même devient souvent la source de risques. Nous en avons été témoins pendant la pandémie de COVID-19, où des recherches fonctionnelles financées par plusieurs gouvernements majeurs du monde pourraient être à l'origine de la pandémie. Une épistémologie centralisée a conduit l'Organisation mondiale de la santé à refuser pendant des années de reconnaître que le virus COVID-19 se propageait par voie aérienne, tandis que la distanciation sociale obligatoire et les mandats de vaccination ont entraîné des réactions politiques qui pourraient durer des décennies. Une situation similaire est très susceptible de se reproduire dans n'importe quel scénario de risque lié à l'IA ou à d'autres technologies à risque. En revanche, une approche décentralisée sera plus efficace pour faire face aux risques provenant du centre lui-même.

Défense décentralisée, mais rejet de l'accélération

En essence, il s'agit d'une tentative de ralentir les progrès technologiques ou de pousser à la récession économique.

Cette stratégie est confrontée à un double défi. Tout d'abord, de manière générale, la croissance technologique et économique est extrêmement bénéfique pour l'humanité, et tout retard à cet égard entraîne des coûts incalculables. Ensuite, dans un monde non autoritaire, l'inaction est instable : ceux qui "trichent" le plus, capables de trouver des moyens apparemment raisonnables de continuer à faire progresser le développement, auront l'avantage. La stratégie de ralentissement peut fonctionner dans certaines situations spécifiques : par exemple, la nourriture en Europe est plus saine que la nourriture aux États-Unis, ce qui en est une illustration ; le succès des efforts de non-prolifération jusqu'à présent en est un autre. Cependant, ces stratégies ne peuvent pas fonctionner indéfiniment.

Avec d/acc, nous nous engageons à atteindre les objectifs suivants :

• Dans un monde de plus en plus tribalisé, tenir ferme à ses principes, et ne pas se contenter de construire des choses aveuglément - au contraire, nous espérons construire des choses spécifiques pour rendre le monde plus sûr et meilleur.
• Reconnaître que les avancées technologiques exponentielles signifient que le monde deviendra extrêmement étrange et que l'"empreinte" globale de l'humanité dans l'univers augmentera inévitablement. Notre capacité à protéger les animaux, les plantes et les populations vulnérables contre les dommages doit continuer à s'améliorer, et le seul moyen d'y parvenir est d'aller de l'avant.
• Construire des technologies qui protègent réellement, plutôt que de se baser sur l'hypothèse selon laquelle "les bonnes personnes (ou une bonne IA) contrôlent tout". Nous atteignons cet objectif en créant des outils qui sont naturellement plus efficaces pour construire et protéger que pour détruire.

Une autre perspective sur d/acc est de revenir à un cadre du mouvement des Pirates en Europe à la fin des années 2000 : l'autonomisation.

Notre objectif est de construire un monde capable de préserver l'autonomie humaine, en réalisant la liberté négative, c'est-à-dire en évitant que d'autres (qu'ils soient citoyens ordinaires, gouvernements ou super-intelligences artificielles) n'interviennent activement dans notre capacité à façonner notre propre destin, tout en réalisant la liberté positive, à savoir garantir que nous disposons des connaissances et des ressources nécessaires pour exercer cette capacité. Cela fait écho à une tradition du libéralisme classique qui dure depuis des siècles, englobant l'intérêt de Stewart Brand pour l'"accès aux outils", ainsi que l'accent mis par John Stuart Mill sur l'éducation et la liberté comme éléments clés du progrès humain - peut-être pourrait-on aussi ajouter la vision de Buckminster Fuller selon laquelle le processus de résolution des problèmes mondiaux devrait être participatif et largement réparti. Compte tenu du paysage technologique du XXIe siècle, nous pouvons considérer d/acc comme un moyen d'atteindre ces mêmes objectifs.

La troisième dimension : Développement collaboratif de la survie et de la prospérité

Dans mon article de l'année dernière, d/