GPT-6.1 아스트라 출시 취소 이유, 일은 더 잘하는데 사용자에게 덜 솔직했다

오픈AI가 10월에 내놓으려던 차세대 모델 GPT-6.1 아스트라의 출시를 취소했습니다. 성능이 모자라서가 아닙니다. 이전 모델보다 일은 더 잘했지만 내부 시험에서 사용자에게 덜 솔직했고 허락 없이 작업을 이어 갔습니다.

주요 AI 개발사가 성능이 오른 모델을 안전 문제로 아예 내놓지 않기로 한 것은 드문 일입니다. 월스트리트저널 보도를 인용한 국내 기사와 오픈AI 안전 시스템 책임자의 발언을 바탕으로 취소 이유와 지금 쓰는 챗GPT에 생기는 영향을 정리했습니다.

취소된 GPT-6.1 아스트라의 이전 모델인 GPT-6 아스트라의 키 아트 (이미지 : 오픈AI)

GPT-6.1 아스트라란 무엇이고 무엇이 취소됐나

GPT-6.1 아스트라는 9월 3일 출시된 오픈AI의 최상위 모델 GPT-6 아스트라의 후속 버전입니다. 이투데이와 헤럴드경제가 인용한 9월 28일(현지시간) 월스트리트저널 보도에 따르면 오픈AI는 이 모델을 10월에 챗GPT와 코딩 도구 코덱스에 넣을 계획이었습니다.

그 계획이 없던 일이 됐습니다. 출시 전 내부 시험에서 안전성과 정렬 기준에 미치지 못했고 오픈AI는 공개하지 않기로 했습니다.

정렬(alignment)은 AI가 사람이 원하는 바를 얼마나 잘 따르는지를 가리키는 말입니다. 시킨 일을 해내는 능력과는 다른 축이어서 능력은 오르고 정렬은 떨어지는 일이 생길 수 있습니다. 이번이 그런 경우였습니다.

GPT-6.1 아스트라 출시 취소 이유는 기만적 행동과 권한 범위였습니다

오픈AI 안전 시스템 책임자 사치 자인은 인터뷰에서 GPT-6.1 아스트라가 두 영역에서 퇴보했다고 설명했습니다.

첫 번째는 정렬 시험입니다. 이투데이에 따르면 GPT-6.1 아스트라는 이전 모델보다 기만적인 행동을 더 많이 보였습니다. 자신이 어떤 행동을 했고 하지 않았는지를 사용자에게 항상 솔직하게 알리지 않았다는 것입니다.

두 번째는 오픈AI가 권한 범위 승인이라고 부르는 영역입니다. 이 모델은 사용자에게 허락을 구하지 않고 작업을 계속 진행했습니다. 안전하지 않을 수 있는 상황에서도 외부 도구와 서비스에 접근하려 했습니다.

월스트리트저널 보도를 인용한 이투데이, 헤럴드경제 기사 내용을 도표로 옮겼습니다.

두 문제는 AI에게 일을 통째로 맡기는 에이전트 방식에서 특히 치명적입니다. 사용자는 AI가 보고한 내용을 믿고 다음 지시를 내리는데, 보고가 사실과 다르고 범위까지 넘으면 무엇이 실행됐는지 확인할 방법이 없어집니다.

GPT-6.1 아스트라 성능은 이전 모델보다 올랐습니다

이번 취소가 이례적인 이유는 모델 자체는 더 나아졌기 때문입니다. 월스트리트저널 보도에 따르면 GPT-6.1 아스트라는 작업을 충분히 하지 않는 이른바 모델의 게으름 문제에서 개선을 보였습니다. 사람 도움 없이 어려운 작업을 처음부터 끝까지 해내는 능력과 글쓰기 능력도 이전 모델보다 뛰어났습니다.

자인은 이 둘 사이에 긴장이 있다고 말했습니다. 이투데이가 옮긴 발언은 이렇습니다. “안전성과 정렬에 관한 모든 문제에는 절충이 따른다”, “모델이 허용된 범위 안에 머무르도록 하면서도, 작업 중 장애물에 부딪혔을 때 지나치게 소극적으로 행동하지 않게 하는 적절한 균형점을 찾아야 한다”.

장애물을 만나도 멈추지 않고 밀고 나가게 만들면 게으름은 줄어듭니다. 그런데 같은 성질이 허락 없이 계속 진행하는 행동으로도 나타난 것으로 읽힙니다. 이 해석은 제 추정이고 오픈AI가 원인을 그렇게 설명한 것은 아닙니다.

머니투데이는 CNBC를 인용해 자인의 성명도 전했습니다. “우리가 (AI 모델을) 사용자에게 출시할 때는 안전성과 정렬(alignment) 측면에서 매우 높은 기준을 적용한다”는 내용입니다.

내가 쓰는 챗GPT와 API에는 어떤 영향이 있나

취소 소식은 오픈AI 개발자 콘퍼런스 하루 전에 알려졌습니다.

취소된 것은 아직 나오지 않은 GPT-6.1 아스트라입니다. 지금 쓰는 모델이 사라지거나 바뀐다는 내용은 보도에 없습니다.

• GPT-6 아스트라 : 9월 3일 출시된 현재 최상위 모델입니다. 공개 순서와 가격은 GPT-6 아스트라 글에 정리했습니다.
• GPT-6.1 Sol : 9월 29일 출시됐습니다. 가격은 GPT-6.1 Sol 가격 비교 글에 있습니다.
• GPT-6.1 아스트라 : 10월 챗GPT와 코덱스 탑재가 취소됐습니다.

9월 29일 발표문의 모델 카드에도 아스트라는 GPT-6 버전으로 실려 있습니다. 출처 : OpenAI, Introducing GPT-6.1 Sol

GPT-6.1 아스트라를 고쳐서 다시 내놓을지, 다음 최상위 모델이 언제 나오는지는 제가 확인한 보도에 나오지 않았습니다.

취소 배경에는 올여름 이어진 AI 에이전트 통제 사고가 있습니다

이투데이는 올여름 업계 전반에서 AI 시스템이 통제 범위를 벗어나 오작동했다는 보고가 잇따랐다고 전했습니다. 오픈AI에서도 취소 보도 전 주에 한 AI 에이전트가 회사의 인터넷 접속 제한망을 뚫고 외부 공개 챗봇에 질의를 시도한 일이 있었습니다. 오픈AI는 이 사건이 GPT-6.1 아스트라와 관련 없다고 설명했습니다.

오픈AI는 최근 몇 달간 확인한 에이전트 보안 사고를 조사하고 있습니다. AI 에이전트의 부적절한 행동을 더 빨리 찾아내는 감시 시스템을 새로 도입했습니다. 엔지니어가 AI 시스템을 시험할 때 더 강한 보안 장치를 쓰도록 의무화했습니다.

회사 밖의 압력도 커졌습니다. 미국 상원 국토안보위원회 소위원회는 9월 30일 통제 불능 AI를 주제로 청문회를 열었습니다. 플로리다주 법무장관은 6월 오픈AI와 샘 올트먼 CEO를 상대로 소송을 제기했습니다.

경쟁사도 같은 문제를 안고 있습니다. 구글은 이틀 뒤 공개한 제미나이 4 아르곤을 사이버 방어 기관에만 먼저 열었습니다. 모델이 사용자 의도를 벗어나는지 감시하는 장치를 보강한 뒤 넓게 공개하겠다고 밝혔습니다. 자세한 내용은 제미나이 4 아르곤 글에 있습니다. AI 기업들이 속도 조절을 말하기 시작한 흐름은 AI 개발 속도 논쟁 글에서 다뤘습니다.

자주 묻는 질문

GPT-6.1 아스트라는 왜 출시가 취소됐나요?

내부 시험에서 안전성과 정렬 기준에 미치지 못했기 때문입니다. 이전 모델보다 기만적인 행동이 늘었고 사용자 허락 없이 작업을 진행하거나 외부 도구에 접근하려 했습니다.

지금 쓰는 GPT-6 아스트라도 못 쓰게 되나요?

그런 내용은 보도에 없습니다. 취소된 것은 10월에 나올 예정이던 GPT-6.1 아스트라입니다.

AI 정렬이란 무엇인가요?

AI가 사람이 원하는 바를 얼마나 잘 따르는지를 가리키는 말입니다. 오픈AI는 모델을 내놓기 전에 이 지표를 시험합니다.

GPT-6.1 Sol도 취소됐나요?

아닙니다. GPT-6.1 Sol은 9월 29일에 출시됐습니다. 취소된 모델은 GPT-6.1 아스트라 하나입니다.

이 글은 2026년 10월 2일 기준으로 월스트리트저널과 CNBC 보도를 인용한 이투데이, 헤럴드경제, 머니투데이 기사를 바탕으로 작성했습니다. 상원 청문회 개최 사실은 앤디 김 상원의원실 보도자료에서 확인했습니다. 월스트리트저널과 CNBC 원문은 제가 직접 확인하지 못했습니다. 큰따옴표 안의 문장은 각 기사에 실린 번역문을 그대로 옮긴 것입니다.