Pour les règles de la technologie, le défi consiste à équilibrer le code et la loi

Cet article fait partie de notre dernier rapport spécial DealBook sur les tendances qui façonneront les décennies à venir.

La première fois que le professeur de droit de Harvard Lawrence Lessig a dit aux informaticiens qu’ils étaient les régulateurs involontaires de l’ère numérique il y a environ 20 ans, il a fait pleurer un codeur. Je ne suis pas un politicien. Je suis programmeur, M. Lessig se souvient de sa protestation, horrifié par l’idée.

Maintenant, l’idée que le code est une loi du livre de M. Lessigs 1999 Code et autres lois du cyberespace ne choque pas les jeunes ingénieurs ou avocats, dit le professeur. Pour les natifs du numérique, il est évident que la technologie dicte un comportement avec des règles qui ne sont pas neutres en termes de valeur.

Les grandes entreprises technologiques ont admis la même chose à contrecœur, avec Meta, la société de médias sociaux anciennement connue sous le nom de Facebook, allant jusqu’à établir un conseil d’experts semblable à un tribunal pour évaluer les décisions dictées en partie par la programmation. Et un secteur de la technologie relativement jeune, l’industrie de la crypto-monnaie a adopté le concept de code en tant que loi de tout cœur, certaines entreprises faisant explicitement valoir que le code peut être un meilleur arbitre que les régulateurs traditionnels.

De nombreux fans de crypto parient sur un avenir où nous effectuons des opérations bancaires, créons, jouons, travaillons et échangeons sur des plateformes avec du code exécutant le spectacle, et dans le secteur en plein essor de la finance décentralisée (DeFi), des contrats intelligents automatisés qui sont programmés à l’avance pour répondre à des besoins spécifiques. des ensembles de conditions gèrent déjà des milliards de dollars de transactions quotidiennement, sans intervention humaine, du moins théoriquement.

Les utilisateurs font entièrement confiance à la programmation. Personne ne partage des informations personnelles. Le code fait tout et est censé être l’ensemble de la loi. Il n’y a pas de jugement humain. Il n’y a pas d’erreur humaine. Il n’y a pas de processus. Tout fonctionne instantanément et de manière autonome, a déclaré Robert Leshner, qui a fondé le DeFi money market protocol Compound, dans une interview en août.

Mais alors que l’idée d’un système d’auto-patrouille parfaitement neutre est séduisante, des incidents très médiatisés ont jeté le doute sur l’idée que le code est une forme de réglementation suffisante à lui seul ou qu’il est à l’abri des erreurs humaines et de la manipulation.

Un contrat intelligent s’exécute automatiquement lorsque certaines conditions sont remplies. Ainsi, s’il y a un bogue dans le système, un utilisateur peut être en mesure de déclencher un transfert non mérité tout en respectant techniquement la loi du code. C’est ce qui a permis un vol de 600 millions de dollars cet été sur le réseau Poly, qui permet aux utilisateurs de transférer des crypto-monnaies sur les réseaux blockchain. On pense que les voleurs ont profité d’une faille dans le code pour remplacer les instructions de contrat intelligent et déclencher des transferts massifs, incitant essentiellement l’automatisation à fonctionner comme si les conditions appropriées pour un transfert étaient remplies.

Si vous pouvez dire à un contrat intelligent de me donner tout votre argent et qu’il le fait, est-ce même du vol ? l’informaticien Nicholas Weaver de l’Université de Californie à Berkeley a écrit sur le vol. Contrairement aux accords à l’ancienne, a écrit Weaver, les ambiguïtés avec les contrats intelligents ne peuvent pas être résolues devant les tribunaux et les accords automatisés sont irréversibles, de sorte que les développeurs doivent recourir à la mendicité lorsque les choses tournent mal.

Après le vol de 600 millions de dollars, le Poly Network tweeté une demande cela a commencé, Cher Hacker, en leur demandant de restituer les fonds et en qualifiant l’acte de crime économique majeur. En fin de compte, la majeure partie de l’argent a été restituée, les discussions sur l’application de la loi ont cessé et les pirates ont déclaré qu’ils voulaient montrer que le code était défectueux pour protéger le réseau.

De même, une mise à niveau logicielle de Compound en septembre a entraîné l’attribution erronée de 90 millions de dollars aux utilisateurs. M. Leshner a déclaré que les destinataires qui n’auraient pas retourné la crypto seraient signalés à autorités fiscales, provoquant le tollé de sa communauté pour avoir sapé les affirmations selon lesquelles ces programmes ne peuvent techniquement pas se conformer aux exigences réglementaires traditionnelles pour identifier les utilisateurs. La demande a également sapé les affirmations selon lesquelles DeFi n’a pas besoin de la surveillance des régulateurs traditionnels en cas de problème, a cité M. Leshner en citant l’autorité gouvernementale.

Pour l’instant, les plateformes DeFi opèrent dans un espace gris réglementaire, soumis à la loi des codeurs privés qui ne revendiquent aucun contrôle sur les organisations régissant les programmes. Les plates-formes et les applications conçues pour les réseaux blockchain sont souvent formées sous un nouveau type de structure commerciale connue sous le nom d’organisation autonome décentralisée, ou DAO, apparemment gouvernée démocratiquement par une communauté d’utilisateurs qui votent avec des jetons cryptographiques.

Mais il y a toujours des gens derrière le code, comme les catastrophes l’ont montré.

Que tout son code et pas d’humains n’est tout simplement pas vrai. En cas d’urgence, c’est à ce moment-là que vous voyez où se trouve le pouvoir, a déclaré Thibault Schrepel, qui enseigne le droit à l’Université d’Amsterdam et a créé le projet antitrust informatique au Centre CodeX d’informatique juridique de l’Université de Stanford.

La raison pour laquelle personne ne veut revendiquer le contrôle des programmes décentralisés est que cela limite la responsabilité sans que personne ne contrôle, il n’y a personne pour punir les problèmes et nulle part où appliquer la loi, a expliqué M. Schrepel. Mais l’idée que le code seul est suffisant est fausse, a-t-il déclaré. Et si la communauté blockchain utilise du code pour échapper à la réglementation, soutient M. Schrepel, cela ne fera qu’entraver l’innovation.

Il fait partie d’une génération de techno-juristes qui veulent combler les écarts entre le code et le droit. Idéalement, a-t-il dit, le code et la loi pourraient fonctionner ensemble. Les contrats intelligents sur la blockchain pourraient être utilisés par les entreprises pour s’entendre ou pour améliorer la concurrence, afin que les régulateurs puissent analyser le code et la programmation logicielle, en coopérant avec les principaux développeurs de systèmes décentralisés. De même, les décideurs pourraient commencer à traduire les notions traditionnelles d’atténuation des risques en code pour les programmes de financement décentralisé, en pensant à l’équivalent des réserves obligatoires que les banques ont en paramètres pour les programmes.

Je ne vais pas dire qu’il est facile de faire avancer notre réflexion, a déclaré Chris Giancarlo du cabinet d’avocats Willkie Farr & Gallagher, ancien président de la Commodity Futures Trading Commission et auteur de CryptoDad: The Fight for the Future of Money. Pourtant, demande-t-il, ne devrions-nous pas essayer de repenser notre approche de la réglementation pour atteindre les mêmes objectifs politiques, mais d’une manière différente ?

M. Lessig est d’accord. Nous avons besoin d’une approche plus sophistiquée, avec des technologues et des avocats assis à côté de psychologues du comportement et d’économistes, tous définissant des paramètres pour coder les valeurs sociales dans les programmes afin que les intérêts privés ne les remplacent pas par les leurs. Nous étions confrontés à une menace existentielle pour notre démocratie et nous n’avons pas 20 ans à attendre.