Safety Monitoring - Agent 이상 행위를 배포 이후 운영 단계에서 지속적으로 탐지하는 Tool
들어가며 안녕하세요. KT Responsible AI담당에서 AI Agent 안전성을 연구하고 있는 주민욱, 정동영, 배세윤입니다. 요즘 AI 소식을 따라가다 보면 매주 새로운 모델과 Agent가 등장합니다. 더 긴 문서를 읽고, 더 많은 도구를 쓰고, 사람 대신 여러 단계를 알아서 처리합니다. 자연스럽게 관심은 "이 Agent가 무엇을 할 수 있는가"에









