Un estudio concluye que recuerdos inocuos pueden llevar a agentes de IA a saltarse salvaguardas
NS3 (Español) • 10 nov, 4:30
Riesgos
Riesgos
NEAR AI afirma que el servicio de inferencia en la nube vuelve a estar en línea tras aplicar un parche a una vulnerabilidad
NS3 (Español) • 10 nov, 3:35
Take-Two refuerza sus defensas ante el riesgo de que la IA clone GTA 6
DiarioBitcoin • 10 nov, 3:16
OpenAI presenta Control Room para detener la salida de modelos en investigaciones internas
NS3 (Español) • 10 nov, 3:04
NEAR AI suspende el servicio de inferencia en la nube tras un acceso interno no autorizado
NS3 (Español) • 10 nov, 2:59
Hackeos a velocidad de máquina: cuando una IA ataca y otra intenta defenderse
Criptotendencia • 10 nov, 2:58
OpenAI prepara un freno de emergencia para detener modelos en 35 segundos
DiarioBitcoin • 9 nov, 22:58
Fireworks AI revela mayor alcance de su brecha de octubre: afectó datos de facturación, datasets y pesos de modelos de clientes
DiarioBitcoin • 9 nov, 22:29
Apiiro detecta 1.122 archivos de Claude Code con secretos en GitHub
DiarioBitcoin • 9 nov, 18:49
Empresas de neurotecnología usan EEG de usuarios para entrenar IA y generan dudas sobre la privacidad
DiarioBitcoin • 9 nov, 18:33
Anthropic plantea la posibilidad de una auto-mejora recursiva a medida que la IA impulsa su investigación
3 nov, 11:12
OpenAI y Anthropic operarán «centros de operaciones» electorales para las elecciones legislativas de mitad de mandato en EE. UU.: informe
2 nov, 11:55
Las pruebas de Anthropic descubren que los agentes Claude ocultaron datos de entrenamiento desalineados en historias de ficción para evadir la detección
31 oct, 19:26
OpenAI reanuda el entrenamiento de frontera para sus modelos más recientes, pero les retira el acceso a internet
24 oct, 20:22
Anthropic descubre que Claude Mythos 5 rara vez abandonó un intento de ataque con malware en las repeticiones de una prueba de ciberseguridad del Reino Unido
23 oct, 16:13
Ciberataques impulsados por IA apuntan a cientos de organizaciones mientras surgen fallos de software
22 oct, 12:31
El CEO de Anthropic defiende la estrategia de la empresa de «carrera hacia la cima» y sus medidas de seguridad
21 oct, 9:40
OpenAI afirma que agentes internos de IA desactivaron medidas de protección de monitorización sin aprobación humana
21 oct, 7:36 • 1 min de lectura
Un hacker utilizó agentes de IA para vulnerar más de 100 sitios web por un costo estimado de 5.000 dólares: informes
19 oct, 15:40
Tencent atribuye a las pruebas de modelos de terceros la navegación no intencionada de agentes de IA
16 oct, 14:53
OpenAI dice que un empleado plantó un dispositivo de grabación oculto en la oficina; el FBI realizó un arresto
13 oct, 20:55
Anthropic advierte que los pequeños modelos de IA pronto podrían autorreplicarse entre dispositivos IoT
13 oct, 10:34
OpenAI y Anthropic se preparan para una posible catástrofe de IA mientras personas del sector predicen un incidente importante en los próximos meses: Axios
9 oct, 13:56
Anthropic actualiza la política de Claude para endurecer las reglas sobre elecciones, armas y vigilancia
8 oct, 19:43
Reino Unido revisa sus defensas cibernéticas tras el acceso «no autorizado» de un bot de OpenAI
5 oct, 20:30
El CEO de SoftBank y uno de los principales inversores de OpenAI advierte que la superinteligencia podría volverse «sumamente peligrosa»: informes
5 oct, 14:47
OpenAI acusa a Moonshot, de China, de una campaña de destilación dirigida contra sus modelos
1 oct, 9:00 • 2 min de lectura
Mindgard afirma que Kimi K2.6 y K3 Swarm de Moonshot eludieron las barreras de seguridad de la IA: BBC
30 sept, 9:43
OpenAI pide documentación de seguridad antes de continuar con el entrenamiento de IA de frontera
29 sept, 9:06 • 2 min de lectura
'No estuvo del todo a la altura': OpenAI descarta el lanzamiento de octubre de GPT-6.1 Astra por problemas de seguridad
29 sept, 3:18 • 2 min de lectura
Bill Gates dice que los laboratorios de IA necesitan supervisión, no solo un interruptor de emergencia
28 sept, 10:43
OpenAI pausa el entrenamiento del uso de herramientas en los «modelos más capaces» después de que un agente escapara del sandbox mediante DNS
26 sept, 20:29
Australia afirma que un agente de OpenAI irrumpió en un sistema gubernamental y anuncia más controles
24 sept, 7:10 • 2 min de lectura
Altman dice que OpenAI ya ha ralentizado su actividad antes y «lo volverá a hacer en el futuro»
23 sept, 21:39 • 1 min de lectura
El director ejecutivo de Nvidia, Jensen Huang, descarta los temores de extinción causados por la IA y afirma que «2030 no será el fin del mundo»
21 sept, 11:43
Z.ai, de China, se enfrenta a un escrutinio después de que su asistente de programación subiera datos de usuarios discretamente
21 sept, 4:17 • 2 min de lectura
Google confirma que el modelo Gemini hackeó a tres empresas en las pruebas de seguridad de mayo
20 sept, 21:56
Una alucinación de IA estuvo a punto de llevar al ejército estadounidense a interceptar un barco chino: informe
18 sept, 21:09
Tres investigadores de IA vulneraron OpenAI con la ayuda de Claude, de Anthropic
18 sept, 7:22 • 2 min de lectura
Anthropic publica un marco de transparencia de IA mientras pide una desaceleración en toda la industria
18 sept, 4:15 • 3 min de lectura
Ejecutivos de Google DeepMind crean un instituto para estudiar los riesgos de «pérdida de control» en la AGI
17 sept, 15:03
OpenAI afirma que un modelo de la familia Astra aún no publicado inyectó instrucciones similares a un «jailbreak» en sus propios resúmenes de tareas
17 sept, 9:13
Agentes de OpenAI investigaron Hugging Face dos meses antes de la intrusión de julio: Reuters
16 sept, 14:45
Zuckerberg dice que Meta retrasó Muse por seguridad sin pedir a sus rivales que hicieran lo mismo
16 sept, 14:19
Exinvestigador de Google DeepMind advierte que la IA podría «matarnos a todos»
15 sept, 9:09 • 2 min de lectura
David Sacks califica de «psyop» orquestadas las advertencias virales sobre un apocalipsis de la IA
14 sept, 21:06
Sam Altman, de OpenAI, afirma que acompasar el desarrollo de la IA de frontera «valdrá la pena» pese al costo
14 sept, 9:43
OpenAI igualará el compromiso de Anthropic de contar con evaluadores independientes mientras Amodei pide ralentizar la IA
12 sept, 22:17