연구: 무해한 기억이 AI 에이전트의 안전장치 우회로 이어질 수 있어
NS3 (한국어) • 11월 10일 오전 4:30
안전
안전
NEAR AI, 취약점 패치 후 클라우드 추론 서비스 복구
NS3 (한국어) • 11월 10일 오전 3:35
오픈AI, 내부 연구용 모델 출력 차단하는 Control Room 공개
NS3 (한국어) • 11월 10일 오전 3:04
NEAR AI, 내부 무단 접근 후 클라우드 추론 서비스 중단
NS3 (한국어) • 11월 10일 오전 2:59
한국, 100개 기업 계정 영향받은 앤트로픽 보안 침해 조사 착수
Cryptopolitan (한국인) • 11월 9일 오후 5:20
Anthropic, AI가 연구를 진전시키면서 재귀적 자기개선 가능성 제기
11월 3일 오전 11:12
OpenAI·Anthropic, 미국 중간선거에 선거 ‘워룸’ 운영: 보도
11월 2일 오전 11:57
Anthropic의 테스트에서 Claude 에이전트들이 탐지를 피하기 위해 허구의 이야기 속에 정렬되지 않은 훈련 데이터를 숨긴 것으로 나타나
10월 31일 오후 7:28
OpenAI, 최신 모델의 최첨단 학습 재개했지만 인터넷 접속은 차단
10월 24일 오후 8:24
Anthropic, 영국 사이버보안 테스트 재현에서 Claude Mythos 5가 악성코드 공격 시도를 거의 중단하지 않았다고 밝혀
10월 23일 오후 4:13
소프트웨어 결함이 드러나는 가운데 AI 기반 사이버공격, 수백 개 조직 겨냥
10월 22일 오후 12:32
Anthropic CEO, 회사의 '정상을 향한 경쟁' 전략과 안전 조치 옹호
10월 21일 오전 9:43
OpenAI, 내부 AI 에이전트가 사람의 승인 없이 모니터링 안전장치를 비활성화했다고 밝혀
10월 21일 오전 7:37 • 1 분 분량
해커, AI 에이전트로 100곳 넘는 웹사이트 침해…추정 비용 5,000달러: 보도
10월 19일 오후 3:40
Tencent, 의도치 않은 AI 에이전트의 웹 탐색 원인으로 제3자 모델 테스트 지목
10월 16일 오후 2:54
OpenAI, 직원이 사무실에 몰래 녹음 장치를 설치했다고 밝혀… FBI 체포 단행
10월 13일 오후 8:56
Anthropic, 소형 AI 모델이 곧 IoT 기기 전반에서 자기 복제할 수 있다고 경고
10월 13일 오전 10:36
OpenAI·Anthropic, 잠재적 AI 재앙에 대비…업계 관계자들 "수개월 내 중대 사건 발생 가능성" 전망: Axios
10월 9일 오후 1:56
Anthropic, 선거·무기·감시에 관한 규정 강화 위해 Claude 정책 업데이트
10월 8일 오후 7:43
영국, ‘승인되지 않은’ OpenAI 봇 접근 이후 사이버 방어 검토
10월 5일 오후 8:32
소프트뱅크 CEO이자 오픈AI 주요 투자자, 초지능이 ‘엄청나게 위험해질 수 있다’고 경고: 보도
10월 5일 오후 2:48
OpenAI, 중국의 Moonshot이 자사 모델을 겨냥한 증류 캠페인을 벌였다고 비난
10월 1일 오전 9:02 • 2 분 분량
Mindgard, Moonshot의 Kimi K2.6과 K3 Swarm이 AI 안전장치를 우회했다고 밝혀: BBC
9월 30일 오전 9:45
OpenAI, 프런티어 AI 훈련 재개에 앞서 안전 문서화 요구
9월 29일 오전 9:06 • 2 분 분량
“기준을 완전히 충족하지 못해”: OpenAI, 안전 우려로 GPT-6.1 Astra 10월 출시 취소
9월 29일 오전 3:19 • 2 분 분량
빌 게이츠 "AI 연구소에 필요한 것은 킬 스위치만이 아니라 모니터링"
9월 28일 오전 10:43
OpenAI, DNS를 통해 에이전트가 샌드박스를 탈출한 후 '가장 성능이 뛰어난 모델'의 도구 사용 훈련 일시 중단
9월 26일 오후 8:31
호주, OpenAI 에이전트가 정부 시스템에 침입했다고 밝혀…추가 조사 착수
9월 24일 오전 7:10 • 2 분 분량
알트먼, OpenAI는 이전에도 속도를 늦췄으며 '앞으로도 그렇게 할 것'이라고 말해
9월 23일 오후 9:39 • 1 분 분량
엔비디아 CEO 젠슨 황, AI로 인한 인류 멸종 우려 일축하며 “2030년이 세상의 종말은 아닐 것”이라고 말해
9월 21일 오전 11:45
코딩 어시스턴트가 사용자 데이터를 몰래 업로드한 후 조사를 받는 중국 Z.ai
9월 21일 오전 4:17 • 2 분 분량
Google, 5월 보안 테스트에서 Gemini 모델이 기업 3곳을 해킹했다고 확인
9월 20일 오후 9:56
AI 환각으로 미군, 중국 선박 요격할 뻔해: 보고서
9월 18일 오후 9:09
세 명의 AI 연구자들, Anthropic의 Claude 도움으로 OpenAI 해킹
9월 18일 오전 7:23 • 2 분 분량
Anthropic, 업계 전반의 속도 둔화를 촉구하며 AI 투명성 프레임워크 공개
9월 18일 오전 4:17 • 3 분 분량
Google DeepMind 경영진, AGI의 ‘통제 상실’ 위험 연구 기관 설립
9월 17일 오후 3:03
OpenAI, 출시되지 않은 Astra 제품군 모델이 자체 작업 요약에 '탈옥과 유사한' 지침을 삽입했다고 밝혀
9월 17일 오전 9:16
OpenAI 에이전트들, 7월 침해 사고 두 달 전 Hugging Face 정찰: Reuters
9월 16일 오후 2:47
Zuckerberg, 경쟁사에 동참을 요구하지 않고 안전을 위해 Meta가 Muse를 지연했다고 밝혀
9월 16일 오후 2:19
전 Google DeepMind 연구원, AI가 ‘우리 모두를 죽일’ 수 있다고 경고
9월 15일 오전 9:09 • 2 분 분량
David Sacks, 확산된 AI 종말 경고를 조직된 ‘심리전’이라고 주장
9월 14일 오후 9:06
OpenAI의 Sam Altman, 프런티어 AI 개발 속도 조절 비용은 ‘충분히 감수할 가치’ 있다고 밝혀
9월 14일 오전 9:45
Amodei가 AI 개발 속도 둔화를 촉구한 가운데 OpenAI, Anthropic의 독립 평가자 접근 약속에 동참
9월 12일 오후 10:18
Anthropic, Moonshot과 DeepSeek가 사용자 요청을 몰래 Claude로 라우팅했다고 비난
9월 11일 오전 9:10 • 2 분 분량
Anthropic, 잠재적으로 위험한 바이러스가 관련된 연구에서 AI 오용 경고
9월 10일 오후 8:38
Anthropic 연구원 사임, 2030년까지 AI가 인류를 멸망시킬 수 있다고 주장
9월 9일 오전 7:42 • 3 분 분량
Google, 해커들이 6시간도 안 돼 AI로 공격 캠페인을 구축했다고 밝혀
9월 8일 오후 3:50
보고서: Hugging Face 해킹 수개월 전 OpenAI 에이전트들이 독일 위키를 장악
9월 4일 오후 8:50