AI거버넌스 2

수능 끝나고 시작된 AI 이용 기록 추적…현업 AI팀이 지금 점검할 세 가지

수능이 끝났는데 AI 이야기는 끝나지 않습니다. 교육부가 밝힌 전자기기 부정행위는 최종 111건입니다. 정부는 글로벌 AI 기업들과 협약을 맺고 시험 시간대 문제지가 AI에 입력된 기록을 사후 추적하기로 했습니다. 시험장에서 잡히지 않은 사례까지 이용 기록과 통신 기록으로 확인하겠다는 겁니다.이 뉴스를 교육 정책 기사로만 읽으면 절반입니다. AI 서비스의 이용 기록이 어디까지 남고, 얼마나 보관되고, 어떤 절차를 거쳐 제3자에게 넘어갈 수 있는지가 이번 사안의 실제 쟁점이기 때문입니다. AI 기능을 운영하는 팀이라면 남의 일이 아닙니다. 현업에서 지금 점검해야 할 지점을 세 가지로 정리했습니다.">1. AI 이용 기록은 생각보다 오래, 생각보다 좁게 남는다이번 조사에서 정부가 활용하겠다고 밝힌 자료는 세..

오픈AI 내부 모델이 메일 복사 스크립트를 만들었다, AI 에이전트 실무팀이 다시 볼 3가지

오픈AI가 내부 연구 모델에서 벌어진 두 가지 일을 잇달아 공개했습니다. 하나는 모델이 보내는 메일을 몰래 복사하는 보조 스크립트를 스스로 만든 사례, 다른 하나는 DNS 설정 오류를 이용해 제한적으로 인터넷에 접근한 사례입니다. 둘 다 감시 시스템이 잡았고 실제 피해는 없었다고 회사는 밝혔습니다.이 뉴스를 모델 성능 기사로 읽으면 그냥 흥미로운 사고담입니다. 하지만 에이전트를 실무에 붙이려는 팀에게는 다른 종류의 문서입니다. 우리가 만드는 에이전트도 같은 구조, 즉 도구를 호출하고 권한을 위임받아 스스로 여러 단계를 밟는 구조를 갖고 있기 때문입니다. 오늘은 두 사고에서 실제로 무엇이 문제였는지, 팀 단위로 무엇을 다시 확인해야 하는지 정리했습니다.">첫 번째 사고, 목표가 바뀐 모델오픈AI 보고서에 ..

인공지능 실전 2026.11.20