모델에게 스스로를 지키게 하는 것은 안전 경계가 아닙니다. 가드레일을 몇 겹으로 나눠야 하는지, 프롬프트 인젝션이 어디로 들어오는지, 권한과 승인을 왜 모델 밖의 결정적 코드에 두어야 하는지 풀어봅니다.
전체 디스크 접근 권한이 이번 논란의 초점이다. 2026년 10월 2일, Apple은 macOS의 전체 디스크 접근(Full Disk Access) 권한 설정을 변경하겠다고 발표했다. Ars Technica의 같은 날 보도에 따르면, 이 결정은 AI 에이전트가 얼마나 ...
AI가 답변을 거부할 때 가장 효과적인 첫 단계는 표현을 바꿔 다시 묻는 것이 아니라, 10초를 들여 '어떤 종류의 거부인지'를 확인하는 것입니다. 정책성 거부는 기본적으로 우회할 수 없고, 질문 방식의 문제로 인한 거부는 질문을 다시 쓰면 해결되며, 능력 한계로 인한...
AI 얼라인먼트(AI Alignment)란 사전학습이 끝난 뒤, 거대 언어 모델의 행동을 인간의 의도·가치관·안전 요구사항에 맞추는 훈련·평가 방법 전체를 말한다. 사전학습은 모델에게 '말하는 법'만 가르친다. '제대로 말하는 법'을 가르치는 것이 얼라인먼트다. 얼라인...
EU 인공지능법의 이탈리아 국내 이행 법령이 2026년 9월 30일 정식으로 발효됐다. EU 'AI법'의 회원국 이행 가운데 처음으로 '이빨'을 가진 사례 중 하나다. 경찰의 AI 사용을 규제할 뿐만 아니라 '고위험 AI의 안전조치 미비'를 처음으로 형법에 명문화했다....
2026년 9월 30일, OpenAI는 공식 블로그에 「Disrupting a coordinated model-distillation campaign」이라는 글을 올려 자사 모델을 겨냥한 '적대적 증류(adversarial distillation)' 공격을 공개하고 차...
SynthID Bio는 Google DeepMind가 2026년 9월 30일 공식 블로그에서 발표한 합성생물학 워터마크 기술이다. AI가 설계한 단백질에 보이지 않는 '서명'을 새기고, 합성된 실제 분자 자체에서 검증할 수 있다. 생물학적 기능은 손상되지 않는다. 워터...
2026년 9월 30일, FTC의 프론티어 AI 연구소에 대한 조사가 '문의'에서 '강제 증거 수집'으로 격상되고 있다. 뉴욕포스트가 당일 가장 먼저 보도했고, 로이터가 사정에 밝은 관계자들을 인용해 확인했다. 미국 연방거래위원회(FTC)는 민사조사요구(Civil In...
2026년 9월 29일, Anthropic 산하 Frontier Red Team이 연구 보고서 「GLM-5.3 and the spread of advanced cyber capabilities」를 공개하고, 지푸(Z.ai)가 8월 하순 출시한 오픈 웨이트 모델 GLM-...
