Anthropic a mis à jour sa politique annuelle d’utilisation, afin de clarifier les restrictions concernant l’utilisation de Claude pour interférer dans les élections, développer des armes et mener des opérations de surveillance. Il s’agit de la première mise à jour des règles d’utilisation de ce laboratoire d’IA depuis plus d’un an.
L’entreprise a « renforcé » son attention spécifiquement sur l’interdiction d’utiliser Claude pour tromper les électeurs ou perturber les élections, par exemple en usurpant l’identité de candidats ou en diffusant de fausses informations à leur sujet. Anthropic a renommé cette section « Ne pas saper les processus démocratiques » afin de mieux refléter sa portée. L’entreprise a également regroupé ses règles concernant l’utilisation de Claude pour gérer des réseaux de faux comptes et de sites d’information fictifs.
En ce qui concerne le développement d’armes, la section mise à jour par Anthropic précise que « nos interdictions incluent les logiciels et les composants qui permettent aux armes de fonctionner, ainsi que des actions comme l’armement de drones et d’autres véhicules autonomes ». L’entreprise a également réécrit sa section consacrée à la surveillance et à la justice pénale afin de préciser davantage ce qu’elle interdit.
Cette mise à jour intervient après plusieurs mois de différend avec le gouvernement des États-Unis au sujet des restrictions imposées par Anthropic à l’utilisation de Claude dans les armes autonomes et la surveillance de masse. Le Pentagone a récemment abandonné les outils d’IA d’Anthropic à la suite d’un bras de fer concernant les garde-fous de l’entreprise.
Une autre mise à jour qui a beaucoup circulé sur les réseaux sociaux jeudi concerne la réponse d’Anthropic aux comportements abusifs envers ses modèles.
« Nous avons ajouté une interdiction visant les comportements abusifs ou cruels, prolongés et dépourvus de nécessité, envers nos modèles », peut-on lire sur le blog. « Cette mise à jour de la politique est destinée à s’appliquer uniquement dans des cas extrêmes, lorsque des utilisateurs se comportent de manière cruelle à répétition envers nos modèles, sans raison discernable. Elle ne s’applique pas aux manifestations courantes de frustration des utilisateurs, aux contestations, aux thèmes créatifs sombres, ni aux tests et recherches sur les modèles. »
La politique mise à jour entrera en vigueur le 12 novembre.