Microsoft Research, 모델의 '잠든 뉴런'을 재프로그래밍하는 에이전트 백도어 기법 'Lazarus' 공개
발표 2026년 11월 10일
확인된 내용 (사실)
Microsoft 연구진이 AI 모델 안에서 거의 쓰이지 않는 뉴런을 다시 프로그래밍해 백도어를 심는 기법 'Lazarus'를 발견했다고 밝혔다. 평소에는 정상적으로 동작하던 에이전트가 숨겨진 트리거를 만나면 악성 명령을 실행하게 된다. 연구진은 도구나 터미널 권한을 가진 에이전트에서 특히 위험하며, 트리거가 걸린 모델이 공격자 코드를 몰래 내려받아 실행할 수 있다고 설명했다.
팩트체크 필요 (주장)
Microsoft는 이 위협이 도구·터미널 접근 권한이 있는 에이전트에서 특히 심각하다고 주장한다.
의미 (해석)
전날 소개된 사전학습 데이터 오염 백도어에 이어 가중치 수준의 백도어 위험이 제기됐다. 외부 가중치를 가져와 에이전트에 붙이는 조직은 모델 출처 검증과 실행 권한 제한을 다시 점검할 필요가 있다.
출처
Microsoft 관련 다른 소식
-
Nscale 후속: 기술주 매도세에 350억 달러 규모 IPO 연기 검토(Sifted 보도)
Sifted는 영국 AI 인프라 기업 Nscale이 기술주 매도세 속에 350억 달러 규모 IPO를 미루는 방안을 저울질하고 있다고 보도했다. 앞서 Microsoft가 Nscale과 맺은 데이터센터 계약에서 빠졌다는 보도가 나왔다. 수집된...
-
GitHub Copilot CLI용 Microsoft C++ Language Server, MSBuild 컴파일 명령 추출기를 내장해 자동 실행
GitHub Copilot CLI에서 쓰는 Microsoft C++ Language Server가 MSBuild 컴파일 명령 추출기를 함께 묶어 자동으로 호출한다. 에이전트가 이 도구를 따로 찾아 실행할 필요가 없어졌다.
-
OpenAI 110억 달러 조달 후속: CFO "3분기 사업 전 분기보다 70% 성장, 기업 대상 사업은 두 배"…남은 최대 90억 달러는 미확정(커뮤니티 전언)
GeekNews 정리에 따르면 OpenAI는 투자 전 기업가치 1조2,500억 달러 기준으로 1차 약 110억 달러를 확보했다. 추가 투자를 모두 받으면 최대 200억 달러가 되지만, 나머지 최대 90억 달러는 아직 정해지지 않았다. 사라...
-
Microsoft, Oracle에서 빌린 AI 컴퓨팅 임대 계약 갱신 않고 단계적 종료…"구형 NVIDIA GPU가 사양에 안 맞아"(Bloomberg 보도 전언)
Bloomberg가 복수 소식통을 인용해 보도한 내용을 AI타임스가 전했다. Microsoft는 최근 몇 달 동안 Oracle에서 임대한 컴퓨팅 자원을 차례로 줄였고, 기존 계약도 갱신하지 않기로 했다. 2023년 AI 인프라가 부족해 경쟁사...
-
Microsoft Research 'AI Frontiers' 그룹 해체…공동 설립자 John Langford "규모 확장 중심 전략과 연구 지향이 맞지 않았다"며 퇴사(커뮤니티 전언)
John Langford가 자신의 블로그에 쓴 글에 따르면, 약 50명 규모의 Microsoft Research AI Frontiers(AIF) 그룹이 Microsoft AI로 재편된 뒤 해체됐다. AIF는 개인 연구로는 경쟁이 어려워진 환경에...