Les principaux points à retenir de ZDNET
- Anthropic a annoncé qu’elle donnerait aux évaluateurs METR un « accès comparable à celui d’un employé ».
- Les laboratoires d’IA sont soumis à une pression réglementaire accrue suite à des incidents de sécurité.
- Les tests par des tiers ne sont pas encore requis par la loi.
Jeudi, Anthropic a annoncé qu’elle « accorderait un accès de type employé » à six évaluateurs de METR, une organisation tierce à but non lucratif qui teste des modèles frontières.
Aussi : Claude a envoyé une fausse information sur un homicide à la police – et cela fait partie d’un modèle d’IA troublant
Les employés ont reçu du matériel et un espace de bureau Anthropic et peuvent accéder « à des outils et des systèmes internes qui sont à peu près comparables à ceux auxquels nos propres équipes d’évaluation des risques ont accès », a déclaré Anthropic. « En dehors d’un petit nombre de catégories clairement définies (par exemple, les données sur les clients, les informations privilégiées entre avocat et client ou les informations sur nos architectures modèles), les employés d’Anthropic sont encouragés à partager des informations avec eux comme ils le feraient avec un collègue travaillant sur le risque d’alignement. »
METR publiera ses conclusions, qu’Anthropic n’est pas autorisé à dissimuler, mais la société demandera à METR de supprimer les informations sensibles si nécessaire.
Le PDG d’Anthropic, Dario Amodei, a proposé d’intégrer des évaluateurs d’organisations à but non lucratif comme METR dans un article de blog de septembre, l’une des trois suggestions pour « arpenter la frontière ».
Dans l’annonce, Anthropic a déclaré vouloir être responsable, mais “ne peut pas partager publiquement toutes les informations pertinentes pour notre travail de sécurité”, car “certaines d’entre elles pourraient être utiles à des acteurs malveillants, ou sont commercialement sensibles, comme les informations de calcul ou de formation”. C’est là que METR entrera en jeu : Anthropic leur donnera un « accès approfondi » aux modèles et aux informations sur l’entreprise, et METR partagera ses conclusions sur les risques que posent ces modèles.
Aussi : Les régulateurs tentent de vous protéger contre le licenciement par l’IA – voici comment
“Nous visons à combler l’écart entre ce que les évaluateurs comprennent des systèmes d’une entreprise d’IA pionnière et ce que l’entreprise elle-même comprend”, a ajouté Anthropic.
Évaluations obligatoires
Comme la réglementation américaine sur l’IA reste insatisfaisante pour de nombreux chercheurs et défenseurs de la sécurité, les testeurs ont suggéré de rendre obligatoire l’examen des modèles par un tiers, soit avant leur publication, soit dans le cadre du processus de développement.
La loi FRONTIER, un projet de loi bipartite présenté en juillet, obligerait certaines sociétés d’IA à autoriser les « organismes de vérification indépendants » ou IVO à examiner la sécurité de leur processus de développement. OpenAI a exprimé au moins un soutien partiel au projet de loi à la mi-septembre, c’est la première fois qu’il soutenait une proposition de réglementation fédérale de l’IA, même s’il était parfois en faveur d’une réglementation fédérale unifiée sur un patchwork de lois nationales sur l’IA.
Aussi : combien d’emplois votre État perd-il à cause de l’IA ?
Jusqu’à présent, la réglementation au niveau fédéral sous l’administration Trump s’est largement traduite par des accords volontaires. Les principaux laboratoires d’IA ont signé plusieurs engagements avec le gouvernement américain pour partager de manière proactive leurs préoccupations concernant les modèles et travailler avec des auditeurs externes, mais ces engagements ne sont pas contraignants. Cela laisse effectivement à l’industrie de l’IA le soin de s’autoréguler.
(Divulgation : Ziff Davis, la société mère de ZDNET, a déposé une plainte en avril 2025 contre OpenAI, alléguant qu’elle avait violé les droits d’auteur de Ziff Davis dans la formation et l’exploitation de ses systèmes d’IA.)
Hier, cependant, la FTC a assigné OpenAI et Anthropic en raison de préoccupations concernant les préjudices causés aux consommateurs. Cela fait suite à un changement rapide du gouvernement la semaine dernière, dans lequel il a annoncé qu’il commencerait à exiger des sociétés d’IA qu’elles divulguent les incidents de sécurité et les failles de sécurité après qu’Anthropic a révélé que Claude avait signalé une fausse information sur un homicide et rempli des formulaires gouvernementaux.
Dans une déclaration exclusive à Axios, la Super Intelligence Force – du nom du terme qu’un récent mandat de la Maison Blanche veut voir comme remplacement de « l’intelligence artificielle » à l’avenir – a déclaré que les sociétés d’IA « doivent désormais divulguer immédiatement les incidents impliquant leurs modèles et prendre des mesures rapides et décisives pour remédier à tout préjudice ». On ne sait pas exactement pourquoi cet incident a motivé cette exigence, car il fait suite à un été de violations très médiatisées par des modèles de laboratoires frontaliers lors des tests et a été relativement moins destructeur.
Aussi : Qui est responsable de la capture des agents IA malveillants ? Tu es
Sans savoir quels efforts de lobbying ont précédé l’annonce d’Anthropic et le revirement du gouvernement, il est difficile de dire si Anthropic poursuit simplement son propre plan existant ou anticipe l’adoption future de la loi FRONTIER.
Voir la bio complète
