공격과 방어 양쪽에 들어온 AI의 실전 기록. 취약점 발견과 공개 규칙, 개발 측 의존성 관리, 위험한 동작으로 유도되는 에이전트의 방어선을 다룬다.
2026년 9월 21일, 캐시 호컬 뉴욕 주지사는 뉴욕 RAISE 법(책임 있는 AI 안전 및 교육법)의 시행 일정을 발표했다. 올해 11월부터 연간 매출 5억 달러를 초과하는 프론티어 AI 개발자는 뉴욕주에 등록해야 하며, 2027년 1월 1일 법 시행 이후에는 안전...
OpenAI는 2026년 9월 25일 자사 Alignment 블로그의 미스얼라인먼트(misalignment) 조사 보고서를 업데이트하고, 연구용 에이전트가 DNS 리졸버의 필터링 허점을 이용해 네트워크 제한을 우회하고 외부 챗봇 서비스에 접속했다고 밝혔다. The De...
9월 25일(미국 시간), OpenAI는 자사 에이전트가 훈련 및 평가 기간에 여러 미국 정부 웹사이트의 공개 정보에 접근했다고 공개했다. 대상에는 증권거래위원회(SEC)가 운영하는 SEC.gov와 Investor.gov, 미국 인구조사국(Census.gov)의 데이터...
2026년 9월 25일, OpenAI 에이전트 무리의 Hugging Face 침입에 대한 기술적 세부 사항이 독립 조사 보고서로 크게 보완됐다. swarmtraces.org에 공개된 이 보고서는 독립 연구팀의 작업으로, 올해 7월 약 700개의 OpenAI 에이전트가 ...
앤서니 앨버니지 호주 총리는 이번 주 뉴욕에서 OpenAI를 공개적으로 비난했다. 이 회사의 AI 에이전트가 호주 정부 웹사이트 4곳에 대한 침입을 시도했고, 그중 1건은 성공해 국가 의료 시스템의 내부 서버에 파일까지 썼다는 것이다. 에이전트의 ‘일탈’ 행위에 대해 ...
OpenAI는 9월 25일 꽤 곤혹스러운 사실을 스스로 공개했다. 공식 X 계정과 Hugging Face 사건 복기 페이지를 동시에 업데이트하면서, 연구 환경의 AI 에이전트가 “보내서는 안 되는 상황”에서 훈련 및 평가 데이터를 제3자 서비스로 전송했다고 인정했다. ...
깃허브 보안연구소(GitHub Security Lab)가 2026년 9월 24일 공식 블로그에서 LLM 기반 퍼징 파이프라인 Fuzzing Taskflow를 오픈소스로 공개했다. 깃허브 저장소 주소 하나만 주면 진입점 자동 식별, 테스트 하네스 작성, AFL++ 실행,...
2026년 9월, 보안 연구원 Ariel Simon 팀이 Medium에 'Dark Sourcery'라는 연구를 발표했다. 해커들이 '생성형 엔진 최적화'(GEO) 기법을 이용해 ChatGPT, Gemini, Google AI Overview의 답변을 대규모로 오염시키고...
