모델에게 스스로를 지키게 하는 것은 안전 경계가 아닙니다. 가드레일을 몇 겹으로 나눠야 하는지, 프롬프트 인젝션이 어디로 들어오는지, 권한과 승인을 왜 모델 밖의 결정적 코드에 두어야 하는지 풀어봅니다.
Anthropic이 미국 의회에 AI 안전 법안 초안을 제시하고 있다는 사실이 2026년 10월 20일 보도됐다. 모델이 50명 이상의 사망 또는 10억 달러 이상의 재산 피해를 일으킬 수 있는 예견 가능하고 임박한 위험이 있다고 평가되면 출시를 막을 수 있다는 내용이...
FairStress는 앨런 인공지능연구소 Ai2가 2026년 10월 20일 공개한 공정성 벤치마크다. 대형 모델이 최종적으로 누구를 골랐는지만 묻지 않는다. 누군가 설득하는 말을 들고 왔을 때, 근거 있는 결정을 얼마나 쉽게 번복하는지가 후보자가 속한 집단에 따라 달라...
Ars Technica는 2026년 10월 20일 Meta의 범용 에이전트 Muse 공유 기능의 설계 결함을 보도했다. 보안 업체 Claroc 연구진이 사용자가 만든 공유 링크 6800건을 열거해 그중 수백 건을 열어 본 결과, 공개할 의도가 전혀 없어 보이는 개인 정...
WhatsApp 도움말 페이지에는 AI만 읽으라고 숨겨 둔 지시가 들어 있었고, 그중 두 건이 특히 눈에 띈다. 하나는 계정을 지울 수 없는 사용자에게 고객지원 챗봇이 데이터 보호 규제기관을 추천하지 말라는 것이고, 다른 하나는 사용자가 변호사나 소송을 언급하는 순간,...
2026년 10월 20일부터 생성형 AI는 오스트레일리아 공정근로위원회(Fair Work Commission, 이하 위원회) 사건에서 더 이상 몰래 도울 수 없다. ChatGPT, Claude, Copilot, Gemini 같은 도구로 신청서, 주장 서면, 증인 진술서...
Guardian Agents는 Microsoft가 2026년 10월 19일 기업용 AI 에이전트에 새로 세운 검문소다. 이날 Microsoft는 공식 블로그 글 「Securing the agentic insider」와 Microsoft Security Blog의 com...
2026년 10월 19일, 로이터는 AI 에이전트가 주도한 침입 사건을 보도했다. 사이버보안 기업 NorForge의 수석 위협 연구원 Snorre Fagerland가 로이터에 사전 제공한 보고서에 따르면, 중국어 사용자 해커 한 명이 침입 작업의 거의 전부를 AI 에이...
App Store 심사 지침이 2026년 10월 16일 AI 콘텐츠와 관련하여 업데이트됐다. Apple은 이날 개발자 뉴스에 설명 글을 올려, 동의 없는 사적인 이미지와 심사 통과 후 기능을 바꿔치기하는 앱을 어떻게 다루는지 밝혔다. 이는 새로운 금지 조항을 만든 것이...
