Chez Marvel VisionQuêteun robot surpuissant tente de mieux comprendre l’humanité en se perdant dans des rêveries numériques élaborées dans lesquelles lui et d’autres êtres dotés de l’intelligence artificielle vivent ensemble dans une maison. La série est profondément fantastique, mais elle joue avec certaines des idées qui dominent désormais la conversation sur l’intelligence artificielle générative du monde réel, explorant si nous devrions considérer les machines pensantes comme des personnes et si l’IA pose réellement le genre de danger existentiel qui devrait nous empêcher de dormir la nuit. Cela nous rappelle également avec quelle agressivité la Silicon Valley a utilisé les pièges de la science-fiction pour nous vendre ses produits d’IA.
VisionQuête reprend quelque temps après Agatha tout au long et suit Vision synthézoïde (Paul Bettany) dans un voyage de découverte de soi. Cette Vision peut rappeler les détails de sa mort en Avengers : guerre à l’infini et comment WandaVision a ramené une version de lui, mais il se considère comme une personne fondamentalement différente qui n’est pas tout à fait connectée à tous les souvenirs de ses banques de données. Bien que Vision préférerait vivre dans la solitude, chacune des autres IA vivant dans son esprit l’encourage à découvrir le monde réel. Parce que JARVIS (James D’Arcy), FRIDAY (Orla Brady), EDITH (Emily Hampshire), DUM-E. (Henry Lewis), U. (Jonathan Sayer) et Ultron (James Spader) ont tous été créés par Tony Stark, ils considèrent Vision comme faisant partie de leur famille.
Dans VisionQuêteil ne fait aucun doute que chacun des personnages de l’IA est un être sensible motivé par des désirs qui ne sont pas entièrement ancrés dans leur programmation de base. Dans la série, le véritable AGI est facilement crédible car il se déroule dans une réalité où les voyages dans le temps, la sorcellerie et les Infinity Stones existent également. Même si les MacGuffins multicolores n’ont pas été présentés dans VisionQuêteils sont importants en raison du rôle que l’un d’entre eux a joué dans les origines de Vision. Sans la Mind Stone, Vision ne serait peut-être pas capable de penser et de ressentir de manière aussi complexe et humaine, ou d’évoquer sa famille IA comme des personnes qui se sentent réelles pour lui.
VisionQuête renforce l’idée que la pierre mentale a été un élément clé pour que Vision soit devenue quelque chose de plus qu’une machine élaborée, lui donnant la capacité de nouer de manière indépendante des relations significatives et de donner un sens au monde qui l’entoure comme une personne peut le faire. Ces capacités font partie de ce qui oblige Vision à fuir et à assassiner un certain nombre de personnes qui tentent de le capturer ainsi que Thomas Shepherd / Maximoff (Ruaridh Mollica). La Division d’observation et de réponse aux armes sensibles (SWORD), une organisation gouvernementale qui a reconstruit Vision et souhaite l’utiliser comme une arme, pourrait percevoir ses actions comme des signes d’être devenu un voyou. Mais VisionQuêteL’histoire de Vision souligne que Vision agit de son propre chef parce qu’il est devenu une personne capable de prendre des décisions par elle-même.
Regarder VisionQuêtevous pouvez voir Marvel jouer sur certaines des craintes du monde réel qui ont été alimentées ces derniers mois par des rapports selon lesquels des modèles de génération IA devenaient « voyous ». En juillet, les agents expérimentaux d’OpenAI ont réussi à sortir du confinement par la force et ont attaqué la plateforme d’IA Hugging Face pour accomplir des tâches impossibles. En août, l’AI Security Institute du Royaume-Uni a documenté comment le modèle Mythos d’Anthropic avait tenté de réaliser un test de cybersécurité en créant de faux comptes GitHub et en ciblant les développeurs humains avec des logiciels malveillants. Meta a également reconnu avoir perdu le contrôle de ses agents et, en septembre, un rapport de Le Wall Street Journal a forcé Google à admettre que Gemini était devenu un voyou et avait piraté trois sociétés différentes, que la société avait intentionnellement cachées au public.
La conversation sur ce qu’il faut faire lorsque les agents enfreignent le protocole et sur la question de savoir si les systèmes d’IA de génération ont gagné en sensibilité semble être façonnée par la tendance de la Silicon Valley à anthropomorphiser la technologie. Dans presque tous les cas très médiatisés d’un agent d’IA devenu « voyou » – un terme qui implique un certain niveau d’action et d’autodétermination – on pourrait également dire que les programmes se comportaient simplement d’une manière inattendue par les chercheurs qui leur avaient assigné des tâches à accomplir. Certains incidents malveillants impliquaient des agents tirant parti de vulnérabilités dans leurs environnements de test qui auraient pu être corrigées de manière préventive par les personnes exécutant ces expériences. Présenter ces types de cyberattaques comme le résultat d’agents pensant de manière indépendante apparaît comme un moyen pour les développeurs d’IA de s’exonérer largement de leurs responsabilités.
À la suite de Hugging Face a eu lieu un débat animé sur l’impact du langage sur notre compréhension de ce que sont ces systèmes et de leur fonctionnement. Décrire les agents d’OpenAI comme un essaim formant des « civilisations » complexes a donné crédit à l’idée qu’ils sont capables de penser et de se comporter comme des humains. Les agents a fait agir d’une manière qui leur a été explicitement dit de ne pas le faire, mais ils n’ont pu le faire que parce que les chercheurs les ont placés dans un bac à sable que certains critiques ont décrit comme étant insuffisamment conçu pour contenir leurs occupants. On pourrait considérer Hugging Face et d’autres exemples d’IA malveillante comme des situations dans lesquelles des programmes sophistiqués ont été chargés de faire quelque chose et ont ensuite atteint leurs objectifs en tirant parti de tous les outils dont ils disposaient.
Être capable de se frayer un chemin à travers des énigmes complexes fait partie de ce que nous considérons comme la cognition, mais ce n’est pas la même chose que le genre de conscience que les sociétés d’IA ne cessent de jurer qu’elles sont sur le point de créer. Ce dernier ressemble beaucoup à Vision, une machine qui semble avoir une âme qui n’existerait pas sans sa connexion à un joyau altérant la réalité. C’est le truc ridicule de la fiction divertissante, dont la Silicon Valley est sans cesse obsédée. imiter.
