Anthropic ha actualizado su política anual de uso, con el objetivo de aclarar las restricciones sobre el uso de Claude para interferir en elecciones, desarrollar armas y llevar a cabo vigilancia. Es la primera actualización de las normas de uso del laboratorio de IA en más de un año.
La empresa ha "afinado" específicamente su enfoque para prohibir el uso de Claude con el fin de engañar a los votantes o perturbar las elecciones, por ejemplo, haciéndose pasar por candidatos o difundiendo información falsa sobre ellos. Anthropic cambió el nombre de esta norma a "No socavar los procesos democráticos" para reflejar ese alcance. También consolidó sus reglas sobre el uso de Claude para operar redes de cuentas falsas y sitios de noticias ficticios.
En cuanto al desarrollo de armas, la sección actualizada de Anthropic deja claro "que nuestras prohibiciones incluyen el software y los componentes que hacen funcionar las armas, así como acciones como armar drones y otros vehículos autónomos". La empresa también reescribió su sección sobre vigilancia y justicia penal para precisar mejor qué prohíbe.
La actualización llega después de meses de disputa con el Gobierno de EE. UU. por las restricciones de Anthropic al uso de Claude en armas autónomas y vigilancia masiva. El Pentágono retiró recientemente las herramientas de IA de Anthropic tras un enfrentamiento por las salvaguardas de la empresa.
Otra actualización que ha estado circulando en redes sociales este jueves es la relativa a cómo Anthropic aborda el comportamiento abusivo hacia sus modelos.
"Hemos añadido una prohibición del comportamiento abusivo o cruel, persistente e innecesario hacia nuestros modelos", dice la entrada del blog. "La actualización de la política pretende aplicarse únicamente en casos extremos, en los que los usuarios actúen repetidamente de forma cruel hacia nuestros modelos sin un propósito discernible. No se aplica a las formas habituales de frustración de los usuarios, a las objeciones, a los temas creativos oscuros ni a las pruebas e investigaciones sobre los modelos."
La política actualizada entra en vigor el 12 de nov.