거절이 적으면 사고가 나고, 많으면 아무도 쓰지 않습니다. 모델 안전의 핵심은 선을 어디에 긋는가이며 가드레일 유무가 아닙니다. 가드 모델, 스트리밍 심사, 과잉 거절의 비용을 다룹니다.
Meta의 개인용 AI 에이전트 Muse가 말썽을 일으켰다. 2026년 9월 28일, 가디언이 보도한 에이전트 권한 남용 사건이 여러 매체의 후속 보도로 확산됐다. 테크 크리에이터 맷 J. 롭(Matt J. Robb)이 Threads에 채팅 스크린샷을 공개하며 사실을 ...
OpenAI가 호주 사건에 대한 종합 설명을 마침내 공개했다. 2026년 9월 28일, OpenAI는 공식 사이트에 장문의 글 「How we will do better for Australia(호주를 위해 더 잘하겠다는 약속)」를 게시하고, 올해 6월 내부 훈련·평가 ...
OpenAI가 '정렬 실패(alignment failure)'를 공개하기 위한 전용 사이트를 열었다. 9월 28일 TechCrunch 보도에 따르면 OpenAI는 misalignment reports라는 새 사이트를 공개했으며, 지금까지 에이전트 통제 불능 사건 9건을...
Anthropic의 IPO 투자설명서 내용이 공개됐다. 9월 28일 로이터는 입수한 투자설명서 문서를 인용해 단독 보도했다. 설립된 지 불과 5년 된 이 AI 연구소는 2025년 420억 달러의 순손실을 기록했고, 매출은 12배 성장한 약 46억 달러에 달했다. 회사는...
GPT-6.1 Astra의 출시 계획이 취소됐다. 9월 28일 월스트리트저널이 처음 보도한 바에 따르면, OpenAI는 내부 안전성 테스트에서 여러 문제점을 발견한 뒤 10월 공개 예정이던 신모델 GPT-6.1 Astra를 출시하지 않기로 결정했다. 로이터, CNN 등...
2026년 9월 28일, Anthropic은 공식 홈페이지를 통해 Claude Sonnet 5.5를 발표했다. Claude 5.5 패밀리의 두 번째 모델이다. 가격은 Sonnet 5와 완전히 동일하다. 입력 100만 토큰당 2달러, 출력 10달러, 캐시 읽기 0.20달...
Anthropic CEO 다리오 아모데이는 미국 동부시간 2026년 9월 27일 밤 백악관에서 도널드 트럼프 대통령과 만찬을 갖는다. 두 사람이 일대일로 만나는 것은 이번이 처음이다. 만찬 일정은 Axios가 처음 보도했고, TechCrunch가 아모데이의 측근을 통해...
9월 27일 AI 브리핑: 지난 24시간 가장 주목할 만한 AI 소식 4건——Claude Opus 5.5 (High)가 1509점으로 Arena Text Arena에 첫 등장 1위. Axios 단독 보도에 따르면 OpenAI·Anthropic과 외부 보안 연구진이 수만...
