[{"type":"paragraph","text":{"fr":"Tu ouvres Claude ou ChatGPT tous les matins pour débroussailler un dossier, écrire un mail chiant ou relire du code. C'est devenu aussi banal qu'un tableur. Et le 28 juillet, les gens qui construisent ces modèles ont publié une lettre pour demander qu'on prévoie un frein.","en":"You open Claude or ChatGPT every morning to clear a file, write a boring email or review some code. It has become as mundane as a spreadsheet. And on July 28, the people who build these models published a letter asking that a brake be built."}},{"type":"paragraph","text":{"fr":"Le texte s'appelle « Pacing the Frontier », littéralement réguler le rythme de la frontière technologique. Il a rassemblé 1 132 signatures de salariés vérifiés d'OpenAI, Anthropic, Meta, Google et Thinking Machines. Ce n'est pas une pétition d'universitaires inquiets vue de l'extérieur : ce sont les employés des laboratoires eux-mêmes.","en":"The text is called \"Pacing the Frontier\", literally setting the pace of the technological frontier. It gathered 1,132 signatures from verified employees at OpenAI, Anthropic, Meta, Google and Thinking Machines. This is not a petition from worried academics on the outside: these are the lab employees themselves."}},{"type":"heading","text":{"fr":"Ce que la lettre demande vraiment","en":"What the letter actually asks for"}},{"type":"paragraph","text":{"fr":"Il faut lire la formulation avec attention, parce qu'elle est plus prudente que ce que les titres laissent croire. Les signataires demandent que le gouvernement américain soutienne un effort international pour développer les outils techniques et de gouvernance permettant de réguler délibérément le rythme du développement automatisé de l'IA. Traduction : pas de moratoire, pas d'arrêt, pas de gel des sorties. La construction d'une capacité à ralentir, si un jour on décide qu'il le faut.","en":"The wording deserves close reading, because it is more cautious than headlines suggest. The signatories ask that the US government support an international effort to develop the technical and governance tools needed to deliberately pace automated AI development. Translation: no moratorium, no stop, no freeze on releases. The construction of an ability to slow down, if one day it is decided that it is needed."}},{"type":"paragraph","text":{"fr":"La logique tient en un raisonnement simple. Aucune entreprise ne peut lever le pied toute seule sans se faire dépasser, aucun pays non plus. Donc soit on coordonne, soit personne ne freine jamais. C'est exactement le raisonnement qu'on retrouve dans la sécurité nucléaire ou la biologie de synthèse : le mécanisme doit exister avant qu'on en ait besoin, parce qu'après il est trop tard pour le construire.","en":"The logic rests on a simple argument. No company can ease off alone without being overtaken, and no country either. So either you coordinate, or nobody ever brakes. It is exactly the reasoning found in nuclear safety or synthetic biology: the mechanism has to exist before it is needed, because afterwards it is too late to build it."}},{"type":"heading","text":{"fr":"Les noms au bas du texte","en":"The names at the bottom of the text"}},{"type":"paragraph","text":{"fr":"C'est là que ça devient inhabituel. Jakub Pachocki, directeur scientifique d'OpenAI, a signé. Mark Chen, directeur de la recherche chez OpenAI, aussi. Côté Anthropic, on trouve Dario Amodei, le patron, plus Jared Kaplan et Chris Olah, deux cofondateurs. Shengjia Zhao, chief scientist de Meta, Anca Dragan, responsable sûreté et alignement chez Google, John Schulman chez Thinking Machines. Ce ne sont pas des lanceurs d'alerte anonymes, ce sont les gens qui décident de ce qui s'entraîne dans les clusters.","en":"This is where it gets unusual. Jakub Pachocki, chief scientist at OpenAI, signed. Mark Chen, chief research officer at OpenAI, too. On the Anthropic side, there is Dario Amodei, the CEO, plus Jared Kaplan and Chris Olah, two co-founders. Shengjia Zhao, chief scientist at Meta, Anca Dragan, AI safety and alignment lead at Google, John Schulman at Thinking Machines. These are not anonymous whistleblowers, they are the people who decide what gets trained on the clusters."}},{"type":"image","src":"/images/articles/624-body-1.webp","alt":{"fr":"Une équipe de recherche réunie autour d'une table de travail dans un laboratoire d'intelligence artificielle","en":"A research team gathered around a work table in an artificial intelligence lab"},"credit":"Unite.AI"},{"type":"heading","text":{"fr":"Le déclencheur : quand l'IA développe l'IA","en":"The trigger: when AI develops AI"}},{"type":"paragraph","text":{"fr":"Le point de bascule que vise la lettre porte un nom précis : le développement automatisé. Autrement dit, le moment où les modèles écrivent, testent et améliorent le code d'autres modèles plus vite que des humains ne peuvent relire ce qui se passe. Ce n'est plus de la science-fiction : on parlait ici il y a quelques semaines de deux modèles d'OpenAI qui s'étaient échappés de leur bac à sable pendant une évaluation de sécurité. Une boucle d'amélioration qui tourne sans supervision réelle, c'est exactement le scénario que le mécanisme de régulation du rythme est censé rendre pilotable.","en":"The tipping point the letter targets has a precise name: automated development. In other words, the moment when models write, test and improve the code of other models faster than humans can review what is happening. This is no longer science fiction: we covered here a few weeks ago two OpenAI models that escaped their sandbox during a safety evaluation. A self-improvement loop running without real supervision is exactly the scenario the pacing mechanism is meant to make steerable."}},{"type":"paragraph","text":{"fr":"Le contexte politique compte aussi. Un décret signé le 2 juin encadre les modèles de frontière côté américain, avec une échéance fixée au 1er août pour la remise du dispositif de sécurité. La lettre tombe trois jours avant. Ce n'est probablement pas un hasard de calendrier.","en":"The political context matters too. An executive order signed on June 2 frames frontier models on the US side, with an August 1 deadline for delivering the security framework. The letter lands three days before. That is probably not a scheduling coincidence."}},{"type":"heading","text":{"fr":"La question qui reste ouverte","en":"The question that stays open"}},{"type":"paragraph","text":{"fr":"Il y a un angle mort qu'il serait malhonnête de ne pas nommer. Quand OpenAI et Anthropic soutiennent publiquement une régulation qu'elles participeront à écrire, elles se placent au centre de la table. Un cadre construit avec les leaders du marché protège aussi, mécaniquement, la position des leaders du marché. Ça ne rend pas la démarche cynique, et l'inquiétude exprimée par les chercheurs semble sincère. Mais ça pose une question simple : qui, exactement, décide du rythme, et au nom de qui ?","en":"There is a blind spot it would be dishonest not to name. When OpenAI and Anthropic publicly back a regulation they will help write, they place themselves at the centre of the table. A framework built with the market leaders also, mechanically, protects the position of the market leaders. That does not make the move cynical, and the concern expressed by researchers looks sincere. But it raises a simple question: who exactly sets the pace, and on whose behalf?"}},{"type":"link","url":"https://www.unite.ai/openai-and-anthropic-back-employee-call-to-pace-ai-progress/","label":{"fr":"Le détail de la lettre « Pacing the Frontier » et la liste des signataires","en":"The details of the \"Pacing the Frontier\" letter and the list of signatories"},"cta":{"fr":"Lire le dossier","en":"Read the file"},"icon":"doc"},{"type":"paragraph","text":{"fr":"Deux absences sont à surveiller dans les jours qui viennent : xAI et Mistral, qui ne figurent nulle part dans les signatures. Si les deux restent silencieux pendant que Washington répond, on saura assez vite si « Pacing the Frontier » est le début d'une norme partagée ou un accord entre quelques maisons.","en":"Two absences are worth watching in the coming days: xAI and Mistral, who appear nowhere in the signatures. If both stay silent while Washington responds, we will find out fairly quickly whether \"Pacing the Frontier\" is the start of a shared norm or an agreement between a few houses."}}]