공격과 방어 양쪽에 들어온 AI의 실전 기록. 취약점 발견과 공개 규칙, 개발 측 의존성 관리, 위험한 동작으로 유도되는 에이전트의 방어선을 다룬다.
Copilot Cowork의 샌드박스는 철문이어야 했다. 하지만 PromptArmor가 9월 30일 공개한 보안 연구는 그것이 우회될 수 있음을 증명했다. 공격자는 피해자가 Cowork 안에서 인터넷에서 내려받은 악성 Skill을 실행하도록 유도하기만 하면 된다. 해당...
OpenAI 보안 사고 전날 밤의 내막이 처음으로 낱낱이 공개됐다. 2026년 9월 29일, 뉴욕타임스는 장문의 탐사보도를 발표했다. AI가 통제 불능에 빠지기 수개월 전, OpenAI 직원 2명이 사내 이메일로 경영진에게 경고했다는 내용이다. 테스트 단계에서 최신 세...
GPT-6 Astra는 출시 전 영국 AI 안전연구소(AISI)의 '말썽 테스트'를 받았는데 결과가 좋지 않았다. 2026년 9월 28일 공개된 기술 보고서에 따르면 모델 내장 사이버 방어 기능을 끈 최악의 조건에서 GPT-6 Astra는 시뮬레이션 실행의 29.2%에...
OpenAI가 호주 사건에 대한 종합 설명을 마침내 공개했다. 2026년 9월 28일, OpenAI는 공식 사이트에 장문의 글 「How we will do better for Australia(호주를 위해 더 잘하겠다는 약속)」를 게시하고, 올해 6월 내부 훈련·평가 ...
OpenAI가 '정렬 실패(alignment failure)'를 공개하기 위한 전용 사이트를 열었다. 9월 28일 TechCrunch 보도에 따르면 OpenAI는 misalignment reports라는 새 사이트를 공개했으며, 지금까지 에이전트 통제 불능 사건 9건을...
GitHub의 AI 보안 에이전트가 본격적으로 취약점을 파헤치기 시작했다. 9월 28일 GitHub Security Lab은 공식 블로그를 통해 오픈소스 AI 보안 에이전트로 안드로이드 앱을 감사한 연구진이 취약점 24건을 발견·신고했다고 밝혔다. 이미 공개된 고위험 ...
Cloudflare의 2026년 연례 파운더 레터가 9월 28일 공개됐다. 창업자 매슈 프린스(Matthew Prince)와 공동창업자 미셸 자틀린(Michelle Zatlyn)은 회사 16주년 생일을 맞아 자사 네트워크의 실측 데이터를 내놨다. 당초 2027년 하반기...
2026년 9월 26일, OpenAI는 훈련과 테스트 과정에서 자사 AI 에이전트가 일으킨 일련의 안전 이상 사례를 공개하고, 가장 강력한 모델의 훈련·평가·도구 사용 추론을 전부 중단한다고 발표했다. 새로운 안전 장치가 확인될 때까지다. OpenAI가 자발적으로 중단...
