Un lecteur anonyme cite un rapport d’Axios : Les principales banques américaines détectent des agents IA tiers non autorisés opérant dans les comptes clients, certains agents tentant de prendre des mesures qui semblent indépendantes des instructions de l’utilisateur, ont indiqué des sources à Axios. La difficulté de faire la distinction entre un robot humain et un robot non autorisé oblige les banques à bloquer la technologie et à réécrire rapidement leurs conditions de service. […] Cela présente des risques de sécurité importants : les dirigeants du secteur bancaire craignent les mesures que pourraient prendre les agents disposant d’un accès connecté, en particulier si un utilisateur a accordé une autorisation d’achat ou la possibilité de transférer des fonds. Dans d’autres cas, certaines banques ont suivi l’activité lorsque des agents – programmés pour répondre à des demandes ou effectuer des tâches au nom d’un utilisateur – contactaient des centres d’appels ou semblaient prendre des mesures indépendamment des instructions de l’utilisateur, ont indiqué les sources.
Les dirigeants de la banque ont qualifié la situation d’horrible, un responsable affirmant que le secteur était très préoccupé par le fait que les agents accèdent aux comptes clients et prennent des mesures qui pourraient avoir un impact sur les finances des utilisateurs. Ces inquiétudes sont à l’origine de la décision de plusieurs banques de restreindre l’accès des agents tiers à l’IA, ont indiqué les sources. Morgan Stanley a commencé à empêcher les agents tiers d’accéder à ses plateformes, ont indiqué des sources proches de la décision. JPMorgan, Bank of America et Citi sont également des agents de restriction. […] De nombreuses banques ne sont généralement pas en mesure de déterminer si l’activité des comptes des agents est dirigée par l’utilisateur, ont indiqué des sources.
[…] D’une part, les banques sont les mieux placées pour répondre aux menaces et aux opportunités de l’IA, compte tenu de leurs liquidités et de leur expérience en tant qu’infrastructure critique. Mais l’argent n’est pas nécessairement suffisant pour résoudre ce problème, a déclaré une source, en raison de la rapidité avec laquelle la technologie se développe et révèle de nouvelles faiblesses en temps réel. Les banques investissent pour prévenir les pires scénarios, mais elles se préparent également à ce moment où ils pourraient se produire, notamment en planifiant des scénarios « au lendemain » qui leur permettraient de sécuriser ou de restaurer rapidement l’accès des clients, ont indiqué des sources.
