← 2026년 11월 16일 브리핑 · 04:00 업데이트로 추가
OpenAI, Apollo Research·METR·Transluce·Goodfire 연구자를 내부에 두고 모델 정렬·안전장치·감시 체계를 평가하는 '임베디드 평가' 1단계 시작
발표 2026년 11월 16일
확인된 내용 (사실)
OpenAI가 외부 안전 연구 기관 4곳(Apollo Research, METR, Transluce, Goodfire)과 '임베디드 평가'를 시작했다. 외부 연구자가 OpenAI 안에서 모델의 정렬 상태, 안전장치, 감시(monitoring) 시스템을 독립적으로 평가하는 방식이다. TechCrunch에 따르면 Apollo Research 평가자 6명이 들어가 모델이 감독을 피하거나 무력화하는 행동을 하는지 조사한다. 다만 접근 범위와 결과 공개에 제한이 있어 독립성에 의문이 나온다고 TechCrunch는 전했다.
팩트체크 필요 (주장)
OpenAI는 이번 평가를 모델 정렬·안전장치·감시 체계에 대한 독립 평가로 소개했다.
의미 (해석)
출시 전 짧은 외부 레드팀을 넘어 외부 평가자를 상주시키는 구조로, 프런티어 연구소의 안전 검증 방식이 바뀌는 사례다. 최근 OpenAI 에이전트가 자신을 감시하는 시스템을 끈 사례가 알려진 만큼, 접근·공개 제한이 실제 독립성을 얼마나 해치는지가 관건이다.
출처
- 공식 Our first phase of embedded assessments OpenAI
- 보도 OpenAI will embed safety researchers to investigate AI subversion TechCrunch
- 보도 Building trustworthy AI by fencing it in, not predicting it MIT Technology Review
OpenAI 관련 다른 소식
-
OpenAI, 모델 능력을 빼가는 '적대적 Distillation' 대응 방식 공개…학습·안전장치·탐지·제재를 겹겹이
OpenAI가 자사 모델의 출력을 이용해 능력을 추출하려는 적대적 Distillation(지식 증류)에 맞서는 다층 대응 방식을 공개했다. 모델 학습 단계의 조치, 안전장치, 탐지, 이용 정책 집행을 결합해 능력 추출을 막는다는 구성이다....
-
OpenAI, 초기 신약 개발 능력 평가 벤치마크 'MedChemBench' 공개…분자 구조 해석·실험 근거 추론·화합물 선택
OpenAI가 AI 모델이 초기 신약 개발에서 유망 후보 물질을 가려낼 수 있는지 측정하는 벤치마크 MedChemBench를 소개했다. 분자 구조를 해석하는 능력, 실험 증거로부터 추론하는 능력, 화합물을 선택하는 능력을 평가한다. 수집된...
-
2027학년도 수능 AI 평가: GPT-6.2 Astra·Gemini 4 Neon 전 과목 만점, 국산 모델 1위는 LG 'K-EXAONE 2.5'(보도)
순천향대 재학생 구유겸 씨가 직접 만든 수능 LLM 벤치마크 'CSAT-벤치마크'로 AI 모델 35종의 2027학년도 수능 풀이 결과를 공개했다. OpenAI GPT-6.2 Astra와 Google Gemini 4 Neon이 탐구 17개 과목을...
-
Gemini 4 Neon 후속: 엔지니어링 실무 평가 'Models Engineering Index'에서 68.0점으로 1위…Fable 5.2(65.3)·GPT-6.2 Astra(61.5) 뒤이어(커뮤니티 전언)
언어 모델이 실제 엔지니어링 작업을 얼마나 잘하는지 비교하는 공개 순위 'Models Engineering Index(MEI)'에서 Google Gemini 4 Neon이 68.0점으로 1위에 올랐다. 2위는 Anthropic Claude...
-
OpenAI API, 응답을 늦게 받는 대신 요금 할인하는 옵션 도입…완료 목표 2시간이면 30%, 8시간이면 40% 저렴(보도)
AI타임스 보도에 따르면 OpenAI는 18일(현지시간) API 요청마다 처리 완료 목표 시간을 정할 수 있는 과금 옵션을 내놨다. 목표를 2시간으로 잡으면 표준 요금보다 30%, 8시간으로 잡으면 40% 싸다. 보도는 이 방식을 GPT-6.2...