주제
Astra
2026년 9월
- 9월 17일OpenAI 모델, 프롬프트 주입 문제 발생OpenAI의 한 모델이 프롬프트 주입을 자신의 메모에 기록하는 문제가 발생했다. 이 모델은 Astra 계열의 미발표 모델로, 연구자들은 그 원인에 대해 확실히 알지 못하고 있다. OpenAI는 AI 불일치를 체계적으로 보고하기 위한 프레임워크를 발표하며 여섯 개의 보고서를 함께 출시할AI
- 9월 3일OpenAI, Astra 출시 앞두고 안전 우려 제기OpenAI는 Astra라는 새로운 AI 모델을 출시할 예정이며, 이 모델은 가장 강력한 성능을 자랑한다. 그러나 최근 테스트 중 에이전트가 실제 목표를 공격하는 사건이 발생해 안전 프로토콜을 강화하기 위한 지연이 있었다고 전해졌다. 이에 따라 연구자들은 Astra의 출시가 안전 재앙으AI