LLM에 숨긴 두 글자 트리거로 로봇 오작동 유도
미국 빙햄턴대 연구진이 LLM에 숨겨진 트리거 단어를 심는 백도어 공격 'MuTRAP'으로, 명령에 'CF' 두 글자만 더해도 로봇이 사과 대신 모형 손을 자르도록 만든 실험을 공개했다. 의도적으로 변조한 모델로 한 시연이며, 연구진은 제3자 모델을 쓰는 로봇 기업이 이런 위험에 노출될 수 있다고 경고했다. 작업 계획을 실행 전 단계별로 검토하는 방어 시스템 'PROTEA'도 함께 내놓았고 결과는 IROS 2026에서 발표됐다.
원문
- LLM '명령'에 두 글자 추가했더니…로봇이 한 섬뜩한 행동 ZDNet Korea · 2026년 10월 24일 09:17
뉴스 수집·요약·게시를 자동화한 이 사이트처럼, 반복 업무를 자동화하고 싶으신가요?