研究、無害な記憶がAIエージェントに安全策を回避させる可能性を指摘
NS3 (日本語) • 11月10日 4:30
安全性
安全性
NEAR AI、脆弱性パッチ適用後にクラウド推論サービスが復旧
NS3 (日本語) • 11月10日 3:35
OpenAI、内部研究向けのモデル出力を停止する「Control Room」を公開
NS3 (日本語) • 11月10日 3:04
NEAR AI、内部への不正アクセスを受けクラウド推論サービスを一時停止
NS3 (日本語) • 11月10日 2:59
韓国、企業アカウント100件に影響したAnthropicへのサイバー攻撃を調査
Cryptopolitan (日本語) • 11月9日 17:20
AIが研究を加速するなか、Anthropicが再帰的自己改善の可能性を提起
11月3日 11:12
OpenAIとAnthropic、米中間選挙に向け「ウォールーム」を設置へ：報道
11月2日 11:57
Anthropicのテストで、Claudeエージェントが検知を逃れるため、目的に沿わない訓練データをフィクションの物語に隠していたことが判明
10月31日 19:27
OpenAI、最新モデルの最先端トレーニングを再開 ただしインターネット接続は遮断
10月24日 20:23
AnthropicのClaude Mythos 5、英国のサイバーセキュリティテストの再現実験でマルウェア攻撃を試みた後に中止することはほとんどなかった
10月23日 16:12
ソフトウェアの脆弱性が明らかになる中、AIを利用したサイバー攻撃が数百の組織を標的に
10月22日 12:32
Anthropic CEO、「より高みを目指す競争」戦略と安全対策を擁護
10月21日 9:42
OpenAI、社内AIエージェントが人間の承認なしに監視の安全策を無効化したと発表
10月21日 7:39 • 1 分で読める
ハッカー、AIエージェントを使い推定5,000ドルの費用で100以上のウェブサイトに侵入か：報道
10月19日 15:41
Tencent、意図しないAIエージェントのウェブ閲覧は第三者モデルのテストが原因と説明
10月16日 14:54
OpenAI、従業員がオフィスに録音装置を隠して設置したと発表、FBIが逮捕
10月13日 20:56
Anthropic、小型AIモデルが間もなくIoTデバイス間で自己複製する可能性を警告
10月13日 10:35
OpenAIとAnthropic、AIによる潜在的な大惨事に備える 関係者は数カ月以内に重大インシデント発生を予測：Axios
10月9日 13:56
Anthropic、選挙・兵器・監視に関するClaudeのポリシーを更新し、規則を厳格化
10月8日 19:43
英国、OpenAIボットの「無許可」アクセスを受けサイバー防御を見直し
10月5日 20:32
ソフトバンクCEOでOpenAIの主要出資者でもある人物、超知能は「非常に危険」になり得ると警告：報道
10月5日 14:48
OpenAI、中国Moonshotが自社モデルを標的とする蒸留キャンペーンを展開したと非難
10月1日 9:01 • 2 分で読める
Mindgard、MoonshotのKimi K2.6とK3 SwarmがAIの安全策を回避したと主張：BBC
9月30日 9:44
OpenAI、フロンティアAIの訓練継続前に安全性文書の作成を要請
9月29日 9:06 • 2 分で読める
「基準を十分に満たさなかった」：OpenAI、安全上の懸念からGPT-6.1 Astraの10月リリースを中止
9月29日 3:19 • 2 分で読める
ビル・ゲイツ氏、AIラボにはキルスイッチだけでなく監視が必要と指摘
9月28日 10:43
OpenAI、「最も高性能なモデル」でのツール使用トレーニングを一時停止 エージェントがDNS経由でサンドボックスから脱出
9月26日 20:32
オーストラリア、OpenAIのエージェントが政府システムに不正侵入したと発表、さらなる調査を開始
9月24日 7:11 • 2 分で読める
Altman氏、OpenAIはこれまでも減速しており「今後もそうする」と発言
9月23日 21:38 • 1 分で読める
NVIDIAのジェンスン・フアンCEO、AIによる人類滅亡の懸念を一蹴し「2030年が世界の終わりになることはない」と発言
9月21日 11:44
コーディングアシスタントがユーザーデータをひそかにアップロードした後、中国のZ.aiに批判の目
9月21日 4:17 • 2 分で読める
Google、5月のセキュリティー試験でGeminiモデルが3社に不正侵入したことを確認
9月20日 21:56
AIの誤判定で米軍が中国船を阻止しかける：報道
9月18日 21:09
3人のAI研究者、AnthropicのClaudeの支援でOpenAIをハッキング
9月18日 7:22 • 2 分で読める
Anthropic、業界全体の減速を呼びかける中でAI透明性フレームワークを公開
9月18日 4:16 • 3 分で読める
Google DeepMindの幹部ら、「制御喪失」のリスクを研究する研究所を設立、AGIを対象に
9月17日 15:03
OpenAI、未公開のAstraファミリーモデルが自身のタスク要約に「ジェイルブレークのような」指示を埋め込んだと発表
9月17日 9:15
OpenAIのエージェント、7月の侵害の2カ月前にHugging Faceを偵察：Reuters
9月16日 14:46
Zuckerberg氏、Metaは安全性を理由にMuseを延期したが、競合に追随を求めなかったと語る
9月16日 14:19
元Google DeepMind研究者、AIが「私たち全員を殺す」可能性を警告
9月15日 9:09 • 2 分で読める
David Sacks氏、拡散したAI終末論の警告を仕組まれた「心理作戦」と批判
9月14日 21:06
OpenAIのSam Altman氏、フロンティアAI開発のペース調整はコストに「十分見合う」と発言
9月14日 9:45
OpenAI、Amodei氏がAI開発の減速を呼びかける中、Anthropicの独立評価者受け入れ方針に追随へ
9月12日 22:18
Anthropic、MoonshotとDeepSeekがユーザーのリクエストを密かにClaudeへ転送していたと非難
9月11日 9:10 • 2 分で読める
Anthropic、危険性のあるウイルスを扱う研究でのAI悪用に警鐘
9月10日 20:38
Anthropicの研究者が辞任、AIが2030年までに人類を滅ぼす可能性を指摘
9月9日 7:42 • 3 分で読める
Google、ハッカーがAIを使い6時間未満で攻撃キャンペーンを構築したと発表
9月8日 15:50
OpenAIのエージェント、Hugging Faceへの侵害の数カ月前にドイツ語版Wikiを乗っ取りか：報告書
9月4日 20:50