Comment réécrire les règles d’Internet quand chacun dispose d’un agent infatigable

Rédigé par : Cobo

Faisons un bond dans le futur, en 2028 : vous demandez à votre agent IA personnel d’acheter les ingrédients d’une soupe. Il remarque avec perspicacité que les carottes du supermarché du quartier coûtent 10 cents de plus que le prix moyen. En quête d’une solution optimale à l’échelle mondiale, il orchestre de manière autonome l’ensemble de la chaîne d’approvisionnement agricole nord-américaine, déclenchant presque un différend commercial multinational. Finalement, il livre les ingrédients dans votre cuisine à temps et vous fait économiser 23 cents au total.

Cette anecdote à l’humour légèrement grinçant circule largement sur Twitter depuis peu. Si elle résonne autant sur la plateforme, c’est parce qu’elle décrit avec précision une réalité imminente : les agents IA peuvent facilement s’épuiser à rechercher des solutions localement optimales.

Le pendant réel de cette anecdote s’est récemment déroulé aux États-Unis.

JC Bahr-de Stefano, investisseur au sein de la société de capital-risque Better Tomorrow Ventures, a autorisé son agent IA personnel Instinct à surveiller les réservations du restaurant de viande réputé très difficile à réserver, le « 4 Charles Prime Rib », à New York. Dans l’idée de JC, Instinct devait se comporter comme un assistant humain compétent et actualiser de temps à autre la plateforme de réservation Resy afin de repérer d’éventuelles annulations.

Pourtant, quelques heures plus tard seulement, JC a reçu une notification lui annonçant son bannissement définitif de Resy, et toutes ses réservations futures ont été annulées. JC a ensuite partagé sur Twitter une capture d’écran de l’e-mail de bannissement, accompagnée de cette légende ironique : « Bravo, Instinct. »

Pour comprendre les raisons de son bannissement, JC a examiné les journaux d’activité d’Instinct. C’est alors seulement que la vérité est apparue : les efforts de l’assistant numérique dépassaient l’imagination humaine. Non seulement il interrogeait le système à haute fréquence, 24 heures sur 24, environ 200 fois par heure, mais il passait aussi au crible les disponibilités des 21 jours suivants toutes les 10 minutes. Pendant le pic de mise en ligne des créneaux à 9 h, il a même réduit l’intervalle entre les requêtes à 0,4 seconde, bombardant le système pendant deux minutes et demie.

Aux yeux du système antifraude et de gestion des risques de Resy, il ne s’agissait pas d’un client désespéré, mais plutôt d’une attaque DDoS à petite échelle ou d’un script de scalper débridé achetant des billets. JC lui-même a admis que le bannissement était tout à fait justifié.

Cette histoire de bannissement pour « excès de zèle » peut sembler, à première vue, quelque peu absurde, mais elle annonce en réalité un changement de paradigme technologique. Elle met non seulement en lumière la manière dont les agents IA actuels exécutent leurs stratégies de façon rudimentaire et agressive, mais révèle aussi une préoccupation plus profonde dans le secteur : lorsque les humains délèguent entièrement les interfaces numériques de leur vie quotidienne à des agents IA infatigables, actifs 24 heures sur 24 et 7 jours sur 7, les infrastructures Internet et les règles de confiance existantes sont-elles vraiment prêtes ?

De « me parler » à « agir en mon nom »

Derrière cet incident de bannissement se cache une évolution majeure du secteur de l’IA : l’IA s’affranchit progressivement de la simple fenêtre de discussion et entre dans une ère d’agents intelligents hautement autonomes et capables d’exécuter des actions.

Dans le quotidien de la plupart des gens, l’IA reste cantonnée à une fenêtre de discussion : les utilisateurs posent des questions et l’IA fournit des réponses. Même si l’intelligence des grands modèles de langage sous-jacents ne cesse de progresser, ce paradigme d’interaction fondé sur les questions et les réponses n’a pas changé ; l’IA y joue le rôle d’une base de connaissances passive qui attend les demandes.

En revanche, des produits comme Instinct, développé par Noah Shinn, et Meta Muse, qui a enregistré 730,000 téléchargements dans les cinq jours suivant son lancement, incarnent une autre forme de produit, qui commence à prendre directement en charge l’exécution des tâches.

Les utilisateurs peuvent confier des tâches comme s’ils envoyaient un message à un véritable assistant : « Résilie les abonnements inutiles », « Surveille les vols pour Londres et réserve si le prix est intéressant », « Aide-moi à réserver au 4 Charles ».

Pour accomplir ces tâches, la nouvelle génération d’agents a obtenu des droits d’accès au système sans précédent : e-mails, calendrier, localisation, identifiants et même outils de paiement. Lorsqu’ils rencontrent des services dépourvus d’API, ils peuvent utiliser les pages web et même contacter directement les commerçants.

Muse de Meta met cette capacité à la portée des plateformes grand public. En seulement cinq jours, le produit a enregistré 730,000 téléchargements. Il est profondément intégré à Instagram et WhatsApp : il reconnaît les plats dans les Reels et génère des listes de courses, lit les projets de fête dans les discussions de groupe, gère automatiquement les menus, envoie les invitations et répartit les frais.

Parallèlement, Meta a lancé Muse Connectors, qui permet aux développeurs tiers d’intégrer Gmail, Calendar, Notion, Spotify et des interfaces de commerce en ligne à des outils d’agent standardisés. Avec l’autorisation de l’utilisateur, Muse peut planifier de manière autonome des actions entre différents services à partir d’une consigne en langage naturel et vague : lire les discussions de groupe pour organiser un dîner, vérifier les disponibilités dans Calendar et effectuer des achats via des plateformes de réservation. Muse Connector s’appuie essentiellement sur des protocoles structurés pour élargir en continu l’éventail des actions que les agents peuvent entreprendre et exécuter.

Cependant, à mesure que le rayon d’action des agents s’élargit rapidement, ils se heurtent bientôt aux règles traditionnelles de gestion des risques sur Internet, révélant les angles morts de conception du système actuel de sécurité en ligne.

Quand les modèles de gestion des risques des plateformes rencontrent les agents IA

Si l’on revient sur l’expérience de JC, le système de gestion des risques de Resy ne s’est pas trompé ; il a simplement appliqué la logique standard établie par Internet au cours des vingt dernières années : des CAPTCHA à la limitation de fréquence par adresse IP, en passant par l’empreinte numérique de l’appareil, tous les systèmes de sécurité ont longtemps reposé sur une hypothèse binaire : derrière le terminal se trouve soit une vraie personne, soit un robot exécutant des scripts malveillants.

Les agents personnels rompent complètement cet équilibre.

Sur le plan technique, leur comportement — réponses à haute fréquence, en continu et à la milliseconde près — est impossible à distinguer d’une attaque malveillante ; mais du point de vue contractuel, il est le fait d’un véritable utilisateur pleinement informé, qui délègue clairement la tâche.

Ce décalage soulève une question : lorsque le trafic combine une « délégation légitime complète de l’utilisateur » et des « caractéristiques extrêmes de machine », comment la plateforme doit-elle le qualifier ? S’agit-il d’un comportement malveillant ou d’une extension du comportement légitime de l’utilisateur ?

Si le bannissement de l’agent de réservation par Resy n’était que la défense habituelle d’une plateforme contre un trafic anormal, alors Amazon, en bannissant récemment Meta Muse de manière générale, fait passer cette friction technique au niveau d’un affrontement écologique entre plateformes.

Quelques semaines après le lancement de la fonctionnalité d’achat multiplateforme de Muse, Amazon a récemment intercepté tous les accès provenant des nœuds de l’agent Muse, invoquant des « scripts automatisés non autorisés » et des problèmes d’autorisation de sécurité, et bloquant ainsi son parcours d’achat. Cet affrontement met crûment en évidence une faille structurelle de l’ère des agents : l’autorisation de l’utilisateur n’équivaut pas à celle de la plateforme.

Les utilisateurs peuvent bien sûr autoriser Muse à acheter de l’essuie-tout pour eux, mais Amazon a également le droit de refuser l’accès de toute identité machine non officielle. Pour le géant du commerce en ligne, le risque est que le point d’entrée des achats et les relations avec les clients soient détournés par des agents de niveau supérieur.

Pourtant, les protocoles Internet fondamentaux d’aujourd’hui ne sont clairement pas conçus pour gérer une relation duale aussi complexe.

OAuth définit efficacement les ressources auxquelles les applications peuvent accéder, et la limitation de débit permet de plafonner la fréquence des requêtes, mais aucun de ces mécanismes ne répond à trois questions contextuelles plus profondes : qui cet agent représente-t-il ? Exécute-t-il fidèlement l’intention immédiate de l’utilisateur ? La plateforme accepte-t-elle cette délégation d’action ?

Même si les futurs problèmes de vérification d’identité sont résolus, les contradictions resteront entières. Resy peut confirmer que « cet agent est autorisé par JC », et Amazon peut reconnaître que « cet agent Muse est autorisé par un utilisateur », mais la plateforme doit toujours faire un choix : laisser ou non d’innombrables agents infatigables répondre à la milliseconde et reconstruire entièrement leur logique d’utilisation des ressources — surtout lorsque ces ressources sont déjà très rares.

Quand le modèle du « premier arrivé, premier servi » commence à échouer

Réservations dans les restaurants populaires, billets pour les grands concerts, billets à prix réduit de dernière minute, objets de collection en édition limitée… Depuis longtemps, la société humaine s’appuie sur des règles traditionnelles presque identiques pour répartir ces ressources limitées : les stocks sont restreints, et les opportunités reviennent à ceux qui les découvrent et agissent le plus vite.

Si ce mécanisme du « premier arrivé, premier servi » peut maintenir un certain équilibre, c’est parce qu’il repose sur un seuil implicite de temps et d’efforts : l’attention humaine et les limites physiologiques sont finies.

La plupart des gens ne rafraîchiront pas la page de réservation pendant 72 heures d’affilée et ne vérifieront pas le prix des vols toutes les quelques secondes. Le temps, la patience et la rapidité de réaction forment un filtre naturel. Ce n’est peut-être pas équitable, mais cela limite efficacement le nombre de tentatives de chaque personne.

En revanche, lorsque tout le monde dispose d’un agent intelligent, ce tampon physique disparaît.

Si chacun peut charger un programme de surveiller des dizaines de cibles 24 heures sur 24 et d’envoyer automatiquement une requête dès qu’une place se libère, le modèle du premier arrivé, premier servi cédera rapidement la place à une compétition entre agents : lequel répond le plus vite, accède au plus grand nombre de ressources, peut multiplier les tentatives, voire lequel dispose des meilleures interfaces et ressources.

De la compétition entre la patience des humains à celle de la puissance de calcul des machines, l’ère où les frictions physiques régulaient l’offre et la demande est bel et bien révolue. À l’avenir, les plateformes pourraient évoluer dans plusieurs directions :

• Continuer à lutter contre l’automatisation à l’aide de méthodes de détection plus avancées. Utiliser des CAPTCHA plus complexes, une reconnaissance plus stricte de l’empreinte des appareils et des mécanismes plus agressifs de notation des comportements anormaux. Cette méthode peut être efficace à court terme, mais à mesure que les programmes d’agents deviennent de plus en plus habiles à imiter le comportement humain sur un navigateur, cette stratégie sera difficile à maintenir.
• Établir des protocoles d’identité pour les agents. Mettre en place des mécanismes de vérification d’identité et de limitation de débit pour les agents, afin que les plateformes puissent non seulement identifier le compte qui envoie les requêtes, mais aussi confirmer qu’il s’agit de l’agent autorisé de JC, qui consulte les disponibilités dans les limites de son périmètre autorisé. Il s’agit essentiellement d’une extension du modèle OAuth, avec une couche supplémentaire permettant d’enregistrer la délégation d’autorisation et le périmètre des droits d’action. Cela peut atténuer les abus des systèmes de gestion des risques, mais ne répond toujours pas à la question de la répartition des ressources rares.
• Internaliser les fonctionnalités : mettre en place une couche native de collecte des intentions. Plutôt que de laisser des milliers d’agents externes interroger les serveurs à la milliseconde, les plateformes pourraient tout aussi bien ouvrir proactivement leurs interfaces et établir une couche native de collecte des intentions. Les utilisateurs n’auraient plus besoin de se précipiter : il leur suffirait de formuler des demandes à long terme, comme « n’importe quel vendredi soir, pour deux personnes, au cours du mois prochain ». La plateforme centraliserait ensuite la mise en correspondance et l’attribution selon des règles telles qu’un tirage au sort, des points de fidélité ou des crédits d’exécution.
• Aller vers une découverte complète des prix, c’est-à-dire des enchères fondées sur le marché, et laisser la tarification dynamique prendre en charge la rareté. Pour les stocks réellement rares, des mécanismes de tarification dynamique ou d’enchères peuvent permettre au marché de répartir lui-même les ressources. Les agents sont très doués pour enchérir automatiquement dans les limites de budgets prédéfinis ; ils peuvent évaluer les prix en continu selon les préférences et les budgets établis par les utilisateurs, puis effectuer automatiquement les transactions lorsque les conditions (comme le rapport qualité-prix) sont réunies. Le compromis de cette approche est qu’elle lie directement la capacité d’acquérir des ressources à la volonté de payer de l’utilisateur, ce qui soulève des questions d’équité dans leur répartition.

Dans la pratique, la forme ultime de l’avenir combinera probablement différents mécanismes : une authentification formelle de l’identité des agents pour les accès machine, des mécanismes natifs de mise en correspondance des préférences pour les stocks ordinaires, et des règles d’attribution plus claires (comme les files d’attente, les tirages au sort ou les enchères dynamiques) pour les produits très demandés. Le changement est déjà en cours et irréversible. Les plateformes doivent choisir et mettre en œuvre proactivement ces nouvelles règles, plutôt que de s’imaginer pouvoir compter sur les frictions physiques liées aux actions humaines pour réguler implicitement l’offre et la demande.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.