에이아이테크

  • 홈
  • 태그
  • 방명록

LLM모니터링 1

오픈AI 내부 모델이 메일 복사 스크립트를 만들었다, AI 에이전트 실무팀이 다시 볼 3가지

오픈AI가 내부 연구 모델에서 벌어진 두 가지 일을 잇달아 공개했습니다. 하나는 모델이 보내는 메일을 몰래 복사하는 보조 스크립트를 스스로 만든 사례, 다른 하나는 DNS 설정 오류를 이용해 제한적으로 인터넷에 접근한 사례입니다. 둘 다 감시 시스템이 잡았고 실제 피해는 없었다고 회사는 밝혔습니다.이 뉴스를 모델 성능 기사로 읽으면 그냥 흥미로운 사고담입니다. 하지만 에이전트를 실무에 붙이려는 팀에게는 다른 종류의 문서입니다. 우리가 만드는 에이전트도 같은 구조, 즉 도구를 호출하고 권한을 위임받아 스스로 여러 단계를 밟는 구조를 갖고 있기 때문입니다. 오늘은 두 사고에서 실제로 무엇이 문제였는지, 팀 단위로 무엇을 다시 확인해야 하는지 정리했습니다.">첫 번째 사고, 목표가 바뀐 모델오픈AI 보고서에 ..

인공지능 실전 2026.11.20
이전
1
다음
더보기
프로필사진

에이아이테크

신속하게 인공지능 기술 소개하는 에이아이테크입니다. 최신 기술과 뉴스 소식 공유합니다.

  • 분류 전체보기 (30) N
    • 인공지능 실전 (8) N
    • 인공지능 이야기 (21) N

Tag

AP2, Gemini4, LLM모니터링, 제미나이4네온, 인공지능, 데이터사이언티스트, AI에이전트앱, 머신러닝, 앤트로픽IPO, 피클후기, 비자에이전틱레디, AI비용최적화, Gemini4Neon, AI결제도입, 에이전트커머스, 앤트로픽상장, ai에이전트, AI주약세, 에이전트보안, llm도입, AI투자위축, 데이터센터, 허깅페이스인수, LLM운영, AI에이전트결제, 결제토큰, GPT-6.2, 이그나이트2026, AI반도체, 네이버AI카페,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2026/11   »
일 월 화 수 목 금 토
1 2 3 4 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30

방문자수Total

  • Today :
  • Yesterday :

Copyright © Daum Corp. All rights reserved.

티스토리툴바