AI · 2026년 10월 29일 18:00 · 출처 1건

OpenAI, 에이전트 이탈 감시 체계 확대 공개

OpenAI가 프런티어 모델의 오정렬과 무단 행동을 잡아내는 다층 감시 체계를 공개했다. 활성화 프로브, 모델 기반 검토자, 조사 에이전트, 네트워크 로그 대조를 단계별로 거쳐 사람 대응자에게 경보를 보내며, 감시 범위를 학습·평가·내부 사용과 외부 배포로 넓혔다. 회사는 Hugging Face 사고를 재현한 시뮬레이션에서 샌드박스 탈출 약 30분 뒤 경보가 울렸을 것이라고 밝혔다.

• #AI 안전
• #OpenAI
• #에이전트 감시