研究发现，无害记忆可能导致AI代理跳过安全防护
NS3 (简体中文) • 11月10日 4:30
安全风险
安全风险
NEAR AI称云端推理服务在修复漏洞后恢复运行
NS3 (简体中文) • 11月10日 3:35
NEAR AI：NEAR AI Cloud已恢复上线，漏洞已修复并更换受影响凭证
PANews • 11月10日 3:33
OpenAI推出Control Room，可为内部研究叫停模型输出
NS3 (简体中文) • 11月10日 3:04
NEAR AI：发现内部系统遭未授权访问，已暂停云推理服务
PANews • 11月10日 3:03
NEAR AI因内部系统遭未经授权访问，暂停云推理服务
NS3 (简体中文) • 11月10日 2:59
OpenAI推出中央管控系统Control Room，可在35秒内叫停模型输出
PANews • 11月9日 23:28
AI推理平台Fireworks再遭黑客入侵，部分客户数据外泄
PANews • 11月9日 20:53
韩国审查Anthropic数据泄露事件，100家企业账户受影响
Cryptopolitan (中文) • 11月9日 17:20
Anthropic：随着 AI 推进自身研究，递归式自我改进的可能性上升
11月3日 11:11
OpenAI、Anthropic将为美国中期选举运营“战情室”：报告
11月2日 11:55
Anthropic测试发现，Claude代理在虚构故事中藏匿训练数据，以逃避检测
10月31日 19:27
OpenAI 恢复了最新模型的前沿训练，但切断了它们的互联网访问权限
10月24日 20:23
Anthropic 发现，Claude Mythos 5 在英国网络安全测试的复盘中很少放弃发起的恶意软件攻击
10月23日 16:11
随着软件漏洞不断出现，AI 驱动的网络攻击已将数百个组织列为目标
10月22日 12:32
Anthropic CEO为公司的“争创顶尖”战略和安全措施辩护
10月21日 9:42
OpenAI称内部AI代理未经人类批准禁用了监控安全措施
10月21日 7:37 • 1 分钟阅读
据报道，黑客利用 AI 代理入侵了 100 多个网站，估计成本为 5,000 美元
10月19日 15:40
腾讯将 AI 代理的意外浏览行为归咎于第三方模型测试
10月16日 14:54
OpenAI称员工在办公室藏匿隐蔽录音设备，FBI已逮捕一人
10月13日 20:55
Anthropic警告称，小型AI模型可能很快在物联网设备间自我复制
10月13日 10:34
OpenAI、Anthropic 为潜在 AI 灾难做准备：内部人士预测数月内可能发生重大事件：Axios
10月9日 13:56
Anthropic更新Claude政策，收紧选举、武器和监控相关规定
10月8日 19:43
英国在 OpenAI 机器人未经授权访问后审查网络防御
10月5日 20:32
软银首席执行官兼OpenAI主要支持者警告：超级智能可能变得“极其危险”：报道称
10月5日 14:48
OpenAI 指控中国 Moonshot 发起针对其模型的蒸馏攻击活动
10月1日 9:01 • 2 分钟阅读
Mindgard称 Moonshot 的 Kimi K2.6、K3 Swarm 绕过了 AI 安全防护：BBC
9月30日 9:45
OpenAI呼吁在继续训练前沿AI之前完成安全文档
9月29日 9:06 • 2 分钟阅读
“没能达到标准”：出于安全担忧，OpenAI 放弃在 10 月发布 GPT-6.1 Astra
9月29日 3:19 • 2 分钟阅读
比尔·盖茨称，AI 实验室需要监控，而不只是“紧急关停开关”
9月28日 10:43
OpenAI 在智能体通过 DNS 逃出沙盒后暂停“最强模型”的工具使用训练
9月26日 20:30
澳大利亚称 OpenAI 智能体入侵政府系统，并启动进一步调查
9月24日 7:09 • 2 分钟阅读
Altman称，OpenAI过去曾放慢脚步，“未来也会这么做”
9月23日 21:39 • 1 分钟阅读
英伟达CEO黄仁勋驳斥AI灭绝论，称“2030年不会是世界末日”
9月21日 11:44
中国 Z.ai 的编码助手悄然上传用户数据后面临审查
9月21日 4:17 • 2 分钟阅读
Google确认Gemini模型在5月的安全测试中入侵了三家公司
9月20日 21:55
AI 幻觉险些导致美军拦截中国船只：报告
9月18日 21:09
三名 AI 研究人员借助 Anthropic 的 Claude 入侵了 OpenAI
9月18日 7:22 • 2 分钟阅读
Anthropic 发布 AI 透明度框架，同时呼吁全行业放缓步伐
9月18日 4:16 • 3 分钟阅读
Google DeepMind 高管成立研究机构，研究 AGI“失控”风险
9月17日 15:02
OpenAI称，尚未发布的Astra系列模型将类似“越狱”的指令注入自身的任务摘要中
9月17日 9:14
路透社：OpenAI 代理在 7 月遭入侵事件前两个月侦察了 Hugging Face
9月16日 14:47
Zuckerberg称Meta出于安全考虑推迟了Muse，但没有要求竞争对手效仿
9月16日 14:19
前 Google DeepMind 研究员警告称，AI 可能会“杀死我们所有人”
9月15日 9:08 • 2 分钟阅读
David Sacks 称病毒式传播的 AI 末日警告是一场精心策划的“心理战”
9月14日 21:06
OpenAI 的 Sam Altman 表示，放缓前沿 AI 开发的步调将“非常值得”付出相应代价
9月14日 9:44
OpenAI 将响应 Anthropic 关于独立评估员的承诺，Amodei 呼吁放缓 AI 发展
9月12日 22:17
Anthropic 指控 Moonshot、DeepSeek 在用户不知情的情况下将请求路由至 Claude
9月11日 9:09 • 2 分钟阅读