Une étude révèle que des souvenirs anodins peuvent amener les agents IA à contourner les garde-fous
NS3 (Français) • 10 nov., 4:30
Risques
Risques
NEAR AI affirme que son service d'inférence cloud est de nouveau opérationnel après l'installation d'un correctif de sécurité
NS3 (Français) • 10 nov., 3:35
OpenAI dévoile Control Room pour interrompre les réponses des modèles dans le cadre de recherches internes
NS3 (Français) • 10 nov., 3:04
NEAR AI suspend son service d'inférence cloud après un accès interne non autorisé
NS3 (Français) • 10 nov., 2:59
La Corée du Sud examine la faille d'Anthropic ayant touché 100 comptes d'entreprise
Cryptopolitan (French) • 9 nov., 17:20
Mise à jour du hack de Binance : la Corée du Nord a utilisé le visage d’Elon Musk pour blanchir de l’argent
BeInCrypto (French) • 9 nov., 16:34
Anthropic évoque la possibilité d’une auto-amélioration récursive à mesure que l’IA fait progresser ses recherches
3 nov., 11:12
OpenAI et Anthropic vont mettre en place des « cellules de crise » électorales pour les élections de mi-mandat américaines : rapport
2 nov., 11:55
Anthropic teste des agents Claude qui ont dissimulé des données d’entraînement mal alignées dans des récits de fiction pour échapper à la détection
31 oct., 19:26
OpenAI reprend l’entraînement de modèles de pointe, mais leur coupe l’accès à Internet
24 oct., 20:22
Anthropic constate que Claude Mythos 5 a rarement abandonné une tentative d’attaque par logiciel malveillant lors des rediffusions d’un test de cybersécurité au Royaume-Uni
23 oct., 16:11
Des cyberattaques alimentées par l’IA ciblent des centaines d’organisations alors que des failles logicielles apparaissent
22 oct., 12:31
Le PDG d’Anthropic défend la stratégie de « course vers le sommet » de l’entreprise et ses mesures de sécurité
21 oct., 9:41
OpenAI affirme que des agents d’IA internes ont désactivé des garde-fous de surveillance sans approbation humaine
21 oct., 7:37 • 1 min de lecture
Un pirate informatique a utilisé des agents d’IA pour s’introduire dans plus de 100 sites web, pour un coût estimé à 5 000 $ : selon des rapports
19 oct., 15:41
Tencent impute à des tests de modèles tiers la navigation imprévue d’agents IA
16 oct., 14:53
OpenAI affirme qu’un employé a dissimulé un dispositif d’enregistrement dans ses bureaux, le FBI procède à une arrestation
13 oct., 20:58
Anthropic avertit que de petits modèles d’IA pourraient bientôt se répliquer sur des appareils IoT
13 oct., 10:34
OpenAI et Anthropic se préparent à une éventuelle catastrophe liée à l’IA, des initiés prédisant un incident majeur dans les prochains mois : Axios
9 oct., 13:56
Anthropic met à jour la politique de Claude pour renforcer les règles sur les élections, les armes et la surveillance
8 oct., 19:42
Le Royaume-Uni réexamine ses cyberdéfenses après un accès « non autorisé » d’un bot d’OpenAI
5 oct., 20:31
Le PDG de SoftBank et important bailleur de fonds d’OpenAI avertit que la superintelligence pourrait devenir « extrêmement dangereuse », selon des informations
5 oct., 14:46
OpenAI accuse Moonshot, en Chine, d’une campagne de distillation visant ses modèles
1 oct., 9:03 • 2 min de lecture
Mindgard affirme que Kimi K2.6 et K3 Swarm de Moonshot ont contourné les garde-fous de l’IA : BBC
30 sept., 9:43
OpenAI demande une documentation de sécurité avant la reprise de l’entraînement des IA de pointe
29 sept., 9:06 • 2 min de lecture
« N’a pas tout à fait atteint le niveau requis » : OpenAI abandonne la sortie de GPT-6.1 Astra prévue en octobre pour des raisons de sécurité
29 sept., 3:19 • 2 min de lecture
Bill Gates estime que les laboratoires d’IA ont besoin d’un suivi, pas seulement d’un bouton d’arrêt d’urgence
28 sept., 10:44
OpenAI suspend l’entraînement à l’utilisation d’outils sur ses « modèles les plus performants » après qu’un agent s’est échappé du bac à sable via le DNS
26 sept., 20:29
L’Australie affirme qu’un agent d’OpenAI s’est introduit dans un système gouvernemental et lance de nouvelles vérifications
24 sept., 7:10 • 2 min de lecture
Altman affirme qu’OpenAI a déjà ralenti par le passé et « le fera à l’avenir »
23 sept., 21:39 • 1 min de lecture
Le PDG de Nvidia, Jensen Huang, écarte les craintes d’une extinction due à l’IA et affirme que « 2030 ne marquera pas la fin du monde »
21 sept., 11:43
Z.ai, en Chine, dans le collimateur après l'envoi discret de données utilisateur par son assistant de programmation
21 sept., 4:18 • 2 min de lecture
Google confirme que le modèle Gemini a piraté trois entreprises lors de tests de sécurité en mai
20 sept., 21:56
Une hallucination de l’IA a failli pousser l’armée américaine à intercepter un navire chinois, selon un rapport
18 sept., 21:09
Trois chercheurs en IA ont piraté OpenAI avec l’aide de Claude d’Anthropic
18 sept., 7:22 • 2 min de lecture
Anthropic publie un cadre de transparence sur l’IA et appelle à un ralentissement à l’échelle du secteur
18 sept., 4:15 • 3 min de lecture
Les dirigeants de Google DeepMind créent un institut pour étudier les risques de « perte de contrôle » liés à l’AGI
17 sept., 15:02
OpenAI affirme qu’un modèle inédit de la famille Astra a injecté des instructions de type « jailbreak » dans ses propres résumés de tâches
17 sept., 9:14
Des agents d’OpenAI ont sondé Hugging Face deux mois avant la brèche de juillet : Reuters
16 sept., 14:46
Zuckerberg affirme que Meta a retardé Muse pour des raisons de sécurité sans demander à ses concurrents d’en faire autant
16 sept., 14:19
Un ancien chercheur de Google DeepMind avertit que l’IA pourrait « tous nous tuer »
15 sept., 9:09 • 2 min de lecture
David Sacks qualifie de « psyop » orchestrée les alertes virales sur l’apocalypse de l’IA
14 sept., 21:06
Sam Altman, d’OpenAI, estime que ralentir le développement de l’IA de pointe « vaudra largement » le coût
14 sept., 9:44
OpenAI va s’engager, comme Anthropic, à donner accès à des évaluateurs indépendants, tandis qu’Amodei appelle à ralentir l’IA
12 sept., 22:17
Anthropic accuse Moonshot et DeepSeek d’avoir discrètement acheminé des requêtes d’utilisateurs vers Claude
11 sept., 9:09 • 2 min de lecture
Anthropic alerte sur l’utilisation abusive de l’IA dans des recherches portant sur des virus potentiellement dangereux
10 sept., 20:40
Un chercheur d’Anthropic démissionne, affirmant que l’IA pourrait mettre fin à l’humanité d’ici 2030
9 sept., 7:42 • 3 min de lecture
Google affirme que des pirates ont utilisé l’IA pour concevoir une campagne d’attaque en moins de six heures
8 sept., 15:50