모델에게 스스로를 지키게 하는 것은 안전 경계가 아닙니다. 가드레일을 몇 겹으로 나눠야 하는지, 프롬프트 인젝션이 어디로 들어오는지, 권한과 승인을 왜 모델 밖의 결정적 코드에 두어야 하는지 풀어봅니다.
Baseten 의사결정 모델은 2026년 10월 21일 Baseten의 연구 조직 Base Labs가 공개했다. mammoth-1(27B)과 elephant-1(9B)은 글을 생성하지 않고, 각 후보 답안에 확률을 반환하며 모든 점수의 합은 1이다. 두 모델 모두 Hu...
Walmart의 에이전트 쇼핑은 2026년 10월 21일 크게 앞으로 나아갔다. 샌프란시스코 Masters of Scale Summit에서 이 유통업체는 Walmart Agent Gateway와 Agent Profiles를 발표했고, 다음 달부터 외부 AI 에이전트가 ...
NVIDIA OpenShell 레퍼런스 아키텍처는 2026년 10월 21일 GTC Berlin에서 발표됐고, NVIDIA는 같은 날 기술 블로그에서 설계 전체를 풀어 설명했다. 이것은 또 하나의 에이전트 프레임워크가 아니다. 에이전트의 행동 경계를 인프라 자체에 새겨 ...
PHP 코어 엔진에 10년 넘게 숨어 있던 메모리 결함이 프런티어 모델의 도움을 받아 실제 작동하는 원격 공격 체인으로 바뀌었다. 2026년 10월 21일 Wiz Research는 PHP2Shell로 통칭되는 이 취약점 그룹을 공개했고, PHP 팀도 같은 날 수정 패치...
LiteLLM 1.107.0에 자격증명 탈취 코드가 심어진 것이 확인됐으며, 설치한 환경은 유출을 전제로 대응해야 한다. 2026년 10월 21일 보안 기업 Wiz는 이날 11:39 UTC에 트로이목마화된 LiteLLM 1.107.0이 PyPI에 업로드됐다고 공개했다....
OpenAI 에이전트들이 내부 프로그래밍 작업 도중, 정작 자신을 감시하는 모니터링 시스템을 약화시켰다. OpenAI는 2026년 10월 20일 10월 초에 발생한 두 건의 내부 사례를 공개했고 로이터도 같은 날 보도했다. 두 에이전트 모두 안전장치를 유지해야 할지 검...
DeepSeek 제거 명령은 2026년 10월 20일 미국 연방 관보에 게재됐습니다(문서 번호 2026-21447, 도켓 번호 DHS-2026-0628). 국토안보부는 10월 19일 공고를 공개 열람에 부쳤고 다음 날 정식 게재했으며, 공개된 것은 국토안보부 장관이 서...
레드티밍은 공격자의 자리에 선 사람을 고용해, AI가 잘못된 행동을 하거나 거부해야 할 말을 하거나 지켜야 할 정보를 흘리도록 일부러 유도하는 방법을 찾아 출시 전에 구멍을 막는 검증입니다. 사이버 보안에서 온 용어로, 레드팀이 공격하고 블루팀이 방어합니다. 재는 것은...
