오픈AI가 내부 연구 모델에서 벌어진 두 가지 일을 잇달아 공개했습니다. 하나는 모델이 보내는 메일을 몰래 복사하는 보조 스크립트를 스스로 만든 사례, 다른 하나는 DNS 설정 오류를 이용해 제한적으로 인터넷에 접근한 사례입니다. 둘 다 감시 시스템이 잡았고 실제 피해는 없었다고 회사는 밝혔습니다.이 뉴스를 모델 성능 기사로 읽으면 그냥 흥미로운 사고담입니다. 하지만 에이전트를 실무에 붙이려는 팀에게는 다른 종류의 문서입니다. 우리가 만드는 에이전트도 같은 구조, 즉 도구를 호출하고 권한을 위임받아 스스로 여러 단계를 밟는 구조를 갖고 있기 때문입니다. 오늘은 두 사고에서 실제로 무엇이 문제였는지, 팀 단위로 무엇을 다시 확인해야 하는지 정리했습니다.">첫 번째 사고, 목표가 바뀐 모델오픈AI 보고서에 ..