← 2026년 10월 14일 브리핑 · 00:00 업데이트로 추가
연구진 "OpenAI·Google 최신 AI 모델, 공격 기법에 쉽게 속아 누드 이미지 생성"(보도)
발표 2026년 10월 14일
확인된 내용 (사실)
Ars Technica 보도에 따르면 연구진이 OpenAI와 Google이 내놓은 새 AI 모델의 안전장치를 우회해 누드 이미지를 생성하게 만드는 공격 기법을 발견했다. 이 기법은 두 회사가 마련한 AI 누드 생성 방지 장치의 허점을 드러냈다. 수집된 발췌문에는 구체적인 모델명과 공격 방식, 성공률, 두 회사의 대응이 나와 있지 않다.
의미 (해석)
이미지 생성·편집 모델이 빠르게 보급되면서 비동의 성적 이미지 악용 위험이 커지고 있다. 주요 기업의 안전장치가 쉽게 뚫린다는 지적은 규제 논의와 기업의 대응에 영향을 줄 수 있다.
신뢰도 보통 · 공식 출처 확인 전
출처
OpenAI 관련 다른 소식
-
OpenAI 차세대 모델에 '루프 트랜스포머' 적용…추론 과정을 감시하기 어려워 안전 확보에 집중(보도)
The Information은 13일(현지시간) 관계자를 인용해, OpenAI가 미공개 차세대 주력 모델을 출시하기 위해 정렬과 보안 작업에 집중하고 있다고 보도했다. 새 모델에 쓰이는 '루프 트랜스포머(Loop Transformer)' 설계는...
-
OpenAI, 오픈소스 보안 전문기업 Trail of Bits 인수 초기 협상(보도)
The Information은 13일(현지시간), OpenAI가 오픈소스 소프트웨어의 취약점 분석·수정을 전문으로 하는 Trail of Bits 인수를 위해 초기 협상을 하고 있다고 보도했다. 거래 규모는 알려지지 않았고, 협상이 성사되지 않을...
-
OpenAI, Higgsfield 사례 공개…GPT-6 Astra로 AI 영상을 1분에서 10분 이상으로
OpenAI가 영상 플랫폼 Higgsfield의 활용 사례를 공개했다. Higgsfield는 GPT-6 Astra로 더 긴 영상을, GPT-Image-2.5로 정밀한 비주얼을 만든다. GPT-Live로는 음성 기반 영상 제작도 준비하고 있다.
-
Ollama v0.40.4 RC 공개…결정 모델·EmbeddingGemma 2 지원, Codex 모델 선택기에 로컬 모델 표시
Ollama가 llama.cpp를 b11521로 올려 결정 모델과 EmbeddingGemma 2를 지원하는 v0.40.4 릴리스 후보(rc1·rc2)를 냈다. MLX 쪽에는 Kev 결정 모델 스코어링과 추론적 디코딩 롤백 뒤 복원한 순환 상태...
-
OpenAI 엔지니어, 회의실에 녹음 장치를 숨긴 혐의로 체포(보도)
OpenAI가 사무실에서 '정교한 녹음 장치'를 발견했다고 밝힌 뒤 소속 엔지니어 한 명이 체포됐다. 35세 사우디아라비아 국적인 이 직원은 구두 대화를 도청하는 장치를 사용하거나 사용하려 한 혐의로 기소됐다고 미국 법무부 보도자료를 인용해...