가중치 공간 프로그래밍: LLM이 신경망 가중치를 직접 쓰고 고치는 법

왜 필요했나: 데이터로만 고치는 방식의 빈틈

신경망을 만들거나 고치는 표준 방법은 경사 하강법이다. 많은 예제를 보여 주고 오차가 줄어드는 방향으로 수많은 파라미터(망 안의 숫자)를 조금씩 움직인다. 효과는 좋지만 대가가 셋 있다. 데이터가 많이 필요하다. 한 번 고칠 때마다 거의 모든 숫자가 바뀐다. 그리고 바뀐 숫자가 무슨 뜻인지 사람이 알기 어렵다.

비용 문제는 분야마다 다르게 드러난다. 의료 영상 연구논문는 분류기를 만들려면 라벨이 붙은 영상이 필요한데, 이런 영상은 비싸고 아예 없는 경우도 많다고 지적한다. 양자 회로 연구논문는 변분 양자 알고리즘이 양자 장치에서 평가를 거듭하며 각도를 최적화하는데, 이 과정에서 기울기가 사라지고(기울기 소실) 최적화 비용이 높아진다고 짚는다.

검증도 문제다. 방사선치료 감사 연구논문에 따르면, 이 분야의 모델은 정답이 알려진 사례로 시험한 뒤 현장에 투입된다. 그런데 시험 사례가 학습 데이터와 같은 '지름길'(규칙 대신 우연한 단서를 외우는 것)을 공유하면 이 시험으로는 결함이 드러나지 않을 수 있다. 같은 연구는 최신 LLM이 작은 신경망의 원시 가중치를 읽고 쓸 수 있다는 보고가 최근 나왔고, 이 능력을 가중치 공간 프로그래밍이라 부른다고 소개한다. 데이터를 거치지 않고 가중치를 직접 다루면 위의 빈틈을 메울 수 있지 않을까 하는 물음이 여기서 나온다.

핵심 아이디어: 다시 찍어 내지 않고 납땜으로 고치기

비유를 들자면 경사 하강법은 시제품 수천 개를 보여 주고 공장이 회로 기판 전체를 다시 찍어 내게 하는 방식이다. 가중치 공간 프로그래밍은 기술자가 회로도와 사양서를 펴 놓고 저항 몇 개를 직접 갈아 끼우는 방식이다. 두 player 게임 연구논문는 이를 '원하는 계산을 명시적으로 적은 명세에서 출발해, 경사 하강법도 학습 데이터도 없이 피드포워드 망의 모든 가중치를 손으로 정하는 일'이라고 정의한다. Qwen 모델을 편집한 연구논문는 이를 경사 기반 모델 적응의 대안으로 본다.

입력 연구들을 보면 동작은 세 가지로 나뉜다. 첫째는 '쓰기'다. 빈 망의 가중치를 처음부터 채운다(게임, 의료 영상, 양자 회로). 둘째는 '고치기'다. 이미 학습된 망에서 문제가 되는 몇 군데만 바꾼다(임상 감사, Qwen 편집). 셋째는 '읽기'다. 가중치만 보고 이 망이 무엇을 하는지, 어디가 틀렸는지 설명한다(임상 감사, 가중치 읽기 검증 연구).

이 방식은 파라미터 하나하나에 뜻을 붙일 수 있을 때 가장 잘 통한다. 양자 회로 연구논문는 파라미터가 해석 가능한 구조를 가질 때 LLM이 최적화기와 같거나 비슷한 결과를 냈다고 보고한다. 임상 감사 연구논문에서도 LLM이 찾아낸 결함은 모두 단일 유닛(뉴런 하나)에서 보이는 것이었다. 즉 이 기법은 '규칙이 숫자 몇 개에 담겨 있다'는 전제 위에서 설계됐다. 그 전제가 깨지는 큰 망이나 분산된 표현에서는 어려워진다.

어떻게 작동하나: 명세 → 편집 → 검증 → 채택

1단계는 명세 주기다. LLM에게 과제 설명을 준다. 임상 프로토콜의 규칙 네 가지일 수도 있고논문, 게임 규칙일 수도 있고논문, 회로 구조와 게이트 규약일 수도 있다논문. 고치기 과제라면 기존 망의 가중치도 함께 준다. 임상 감사 연구는 도구, 데이터, 코드 실행 없이 가중치만 보여 주는 '블라인드' 조건을 썼다. 의료 영상 연구논문는 LLM이 이미지를 한 장도 보지 않고 한 번의 답변으로 CNN(합성곱 신경망)의 파라미터 전체를 생성하게 했다.

2단계는 가설과 편집이다. LLM은 어느 유닛이 어떤 규칙을 맡는지 추론하고, 문제가 있는 곳의 숫자를 바꾸거나 새로 써 넣는다. 핵심은 적게 바꾸는 것이다. 임상 감사에서는 파라미터 중앙값 3개를 바꿨다. Qwen 편집에서는 1,023개, 로봇 정책 수리논문에서는 토큰 임베딩 65행을 바꿨다.

3단계는 검증이다. 연구마다 방법이 다르고, 사실상 이 단계가 결과의 신뢰도를 정한다. 임상 감사는 LLM의 주장과 수리 하나하나를 약 420,000건의 요청으로 시험했다. 정책 연구논문는 모델 검사기 Storm으로 정책이 요구 조건을 만족할 확률을 시뮬레이션 추정이 아니라 정확히 계산했다. 로봇 연구는 예산이 정해진 시뮬레이터 피드백을 썼다.

4단계는 채택하거나 원래대로 두는 것이다. 검증을 통과하지 못하면 편집을 버린다. Qwen 연구에서는 편집 Trajectory 16개 가운데 6개가 개선을 확실히 검증하지 못해 원래 가중치를 유지했다. 로봇 연구의 추가 세션 13개에서는 편집기가 후보 12개를 거절했다. 결과가 좋지 않으면 아무것도 바꾸지 않는 선택지가 설계에 들어 있다는 점이 중요하다.

발전 흐름: 한 주 사이에 갈라진 세 갈래

입력 자료의 논문은 모두 2026년 11월 3일부터 9일 사이에 나왔다. 그래서 서로를 이어받은 계보라기보다, 같은 시기에 다른 방향으로 시험한 연구들이다. 크게 '새로 쓰기', '감사·수리', '되먹임 고리'의 세 갈래로 묶을 수 있다.

새로 쓰기 갈래부터 보자. 두 player 게임 연구논문는 Nim, 틱택토, 크기가 다른 커넥트 포 두 가지, 체스 엔드게임으로 난이도 사다리를 만들고 망 10개를 지었다. 그중 6개는 독립된 오라클(정답을 확실히 아는 판정기) 대비 정확성을 통계가 아닌 증명으로 확인할 수 있었다. 체스 엔드게임에서는 일부러 맞추도록 만든 한 수짜리 전술은 84.1~100% 성공했다. 그러나 실제 대국에서는 0.57~9.13%로 무너졌고, 저자는 남은 격차가 공들인 정도가 아니라 구조 자체의 한계라고 본다. 의료 영상 연구논문에서는 Claude Opus 5.5와 GPT-6 Astra가 쓴 작은 CNN이 MedMNIST 6개 과제 모두에서 우연 수준보다 나았다. 평균 AUC는 Opus 0.719, Astra 0.711이었다. 파라미터가 10,000배 넘게 적으면서도 6개 중 5개 과제에서 제로샷 MedSigLIP을 앞섰다. 그러나 같은 구조를 라벨 영상 256장으로 Adam 학습시키자 모든 MedMNIST 과제에서 더 높았다(평균 AUC 0.828). 양자 회로 연구논문는 이 기법을 양자 회로 각도로 넓혔다. VQE 문제에서 에너지 스펙트럼의 95~100%에 도달했고, H₂ 바닥 상태를 닫힌 식으로 정확히 유도했다. 숫자 3 대 8 분류에서는 손으로 쓴 가중치 12~18개로 93~96% 정확도를 냈다.

감사·수리 갈래에서 임상 감사 연구논문는 파라미터 433~4,801개짜리 두경부 방사선치료 계획 심사 망에 결함을 일부러 심었다. 규칙을 가리는 교란 변수, 척수 기준 3 Gy 이동, 숨은 트리거다. Claude Opus 5.5는 결함 있는 망 18개 중 16개에서 고장 난 규칙을 짚었다. 교란 변수나 기준 이동이 있는 15개는 모두 찾았다. Qwen 연구논문는 Qwen3.5-0.8B와 9B를 대상으로 했다. 파라미터 1,023개만 바꿔 MATH-500 정확도를 29.45%p 올렸고, IFEval에서는 최대 36.72%p를 올렸다. 확산 모델 복원 연구논문는 실험 결과라기보다 가설을 제시한다. LLM이 품질 문제의 원인 층을 찾고 몇몇 가중치 방향만 고쳐 화질을 높일 수 있는지 묻고, 이 기법을 '디버깅'에서 '개선'으로 넓힐 수 있을지 검토한다.

되먹임 고리 갈래의 정책 연구논문는 LLM이 쓴 정책을 모델 검사기로 확인하고 그 결과를 다시 LLM에 돌려준다. 3개 환경에서 18번 실행 모두 아무 피드백 없이도 최적 확률에 도달했다. WeightLoop논문은 한발 더 나아간다. GPT-6 Astra가 한 번 '편집 프로그램'을 써 두면, 그 프로그램이 새 실험 측정값이 들어올 때마다 예측 모델을 고친다. 이후에는 LLM을 다시 부르지 않고 경사 재학습도 하지 않는다. 저자들은 이를 Recursive Self-Improvement(재귀적 자기 개선)에서 착안한 개선 고리라고 설명한다.

요즘 어디로 가고 있나: 큰 모델의 국소 수리, 그리고 '읽기'에 대한 의심

첫째 흐름은 큰 실전 모델에 적용하되 범위를 좁게 잡는 것이다. 로봇 디버깅 연구논문는 로봇 파운데이션 정책 π0.5에서 토큰 임베딩 65행만 고쳐 지시문 해석의 어휘 오류를 바로잡았다. 가장 좋은 세션은 처음 보는 바꿔 말하기 지시문 765개에서 성공률을 86.3%에서 92.0%로 올렸다. 효과는 편집한 토큰이 들어간 지시문 335개에 몰렸고(74.3% → 87.5%), 나머지 430개 에피소드의 결과는 하나도 바뀌지 않았다. 같은 크기의 무작위 방향 편집은 효과가 없었다. 저자들은 이 결과가 '정밀한 어휘 수리'를 뒷받침할 뿐, 로봇이 없던 능력을 얻었다는 증거는 아니라고 선을 긋는다.

둘째 흐름은 LLM이 가중치를 정말 '이해하는지' 따져 보는 것이다. 가중치 읽기 검증 연구논문는 Claude Opus 5.5에게 파라미터 약 125,000개짜리 CNN의 가중치를 데이터셋 이름 없이 텍스트로 보여 줬다. 모델은 배치 정규화 통계로 학습 단계 수를 맞히는 등 국소 계산은 정확했다. 하지만 의미를 판단할 때는 익숙한 데이터셋에 기댔다. 패스트푸드 이미지 망 세 개를 모두 CIFAR-10이라고 불렀고, CIFAR-10의 라벨 순서를 섞자 해석한 클래스 쌍이 전부 틀렸다. 저자는 이를 기억해 둔 라벨 순서에 의존한다는 신호로 본다.

두 흐름을 합치면 방향이 보인다. '모델이 스스로 능력을 키운다'는 큰 이야기보다는, 좁고 검증 가능한 수리에 집중하는 쪽이다. 그리고 LLM의 설명을 그대로 믿지 않고 실행 결과로 확인하는 쪽으로 무게가 옮겨 가고 있다.

다른 방법과 무엇을 맞바꿨나

파인튜닝과 비교하면 이 기법은 성능을 조금 내주고 '국소성과 설명 가능성'을 얻는다. 임상 감사 연구논문에서는 프로토콜 라벨이 붙은 요청으로 파인튜닝해도 모든 망이 고쳐졌다. 다만 거의 모든 파라미터가 바뀌었고, 가중치 공간 프로그래밍은 중앙값 3개만 바꿨다. 무엇을 왜 바꿨는지 사람이 검토할 수 있다는 점이 차이다. 반대로 데이터가 있으면 학습이 더 강하다. 의료 영상 연구논문에서 라벨 영상 256장만으로 학습한 망이 모든 MedMNIST 과제에서 LLM이 쓴 망을 앞섰다.

단순한 시험 방법과 비교하면 냉정한 결과가 나온다. 같은 임상 연구에서 LLM이 찾은 교란 변수와 기준 이동은 모두 단일 유닛에서 보였다. 결함 유형별로 고른 단순 통계도 같은 결함을 찾았다. 프로토콜에 맞춰 시험하는 방식은 결함을 모두 잡아냈다. 결함을 '찾는 일'만 놓고 보면 LLM 감사가 기존 시험보다 낫다는 근거는 아직 없다. LLM 감사의 가치는 결함이 어느 규칙인지 이름을 붙이고 최소 수리안을 내놓는 데 있다.

최적화기와는 경쟁보다 협업 관계가 맞다. 양자 회로 연구논문에서 LLM이 쓴 각도를 출발점으로 삼자, 최적화는 수백 번이 아니라 중앙값 한 번의 평가 만에 최고값에 도달했다. 이 기법을 '학습의 대체'가 아니라 '좋은 초기값과 정밀 수리 도구'로 보는 편이 근거에 맞다.

한계와 쟁점, 그리고 실무 판단 기준

규모의 한계가 가장 크다. 처음부터 쓰기에 성공한 사례는 파라미터 수천 개 이하의 망, 작은 LeNet형 CNN, 가중치 10여 개짜리 양자 회로였다. 큰 모델에서는 국소 편집만 됐다(Qwen 1,023개, 로봇 임베딩 65행). 확산 모델 복원 연구논문도 최근 실험들이 파라미터를 0.016%만 바꿔 구조적 버그를 고쳤지만 새 능력을 심지는 못했다고 정리한다. 게임 연구논문의 체스 실전 붕괴도 같은 맥락이다. 계획을 여러 수 이어 가야 하는 능력은 손으로 쓴 망에 담기 어려웠다.

신뢰성의 편차도 크다. Qwen 연구논문는 Trajectory마다 결과가 크게 달랐다고 밝혔다. 의료 영상 연구에서 Opus는 SynthUterus에서 AUC 0.764를 냈지만, Astra는 체계적 오류로 우연보다 낮은 0.136에 그쳤다. 임상 감사에서는 정상 망 5개 중 2개만 정상이라고 판정했고, 숨은 트리거는 3개 중 1개만 찾았다. 이것은 백도어 공격 탐지에 쓰기에는 아직 약하다는 뜻이다. 또 정확도와 안전 요구 조건이 부딪힐 수 있다. 정책 연구논문에서는 데이터셋으로 수리하자 정확도가 98.4%로 올랐지만 안전 요구 조건이 깨졌다. 모델 검사 피드백 한 번으로 이를 되살렸다.

실무 판단 기준은 이렇다. 이 기법은 망이 작고, 명세를 규칙으로 적을 수 있고, 편집 결과를 독립적으로 검증할 수단이 있을 때 쓴다. 라벨 데이터가 거의 없을 때의 첫 모델이나 최적화의 초기값을 만들 때도 쓸 만하다. 반대로 라벨 데이터가 충분하거나, 새 능력을 얻어야 하거나, 검증 수단이 없으면 피한다. 흔한 실수도 셋 있다. LLM의 감사 의견을 최종 판정으로 쓰는 것, 정확도만 보고 안전 요구 조건을 확인하지 않는 것, 무작위 편집 같은 대조군 없이 효과를 주장하는 것이다. 로봇 연구와 WeightLoop논문은 모두 무작위 편집과 비교했다.

의료처럼 사람에게 직접 영향이 가는 분야에서는 특히 조심해야 한다. 위 수치는 모두 실험용 망과 공개·합성 데이터에서 나온 것이고, 실제 진료 성능이 아니다. 임상 감사 연구의 의미도 'LLM이 의료 모델을 대신 승인한다'가 아니다. 사람이 프로토콜 시험과 함께 쓸 보조 감사 수단이 될 수 있다는 정도다. 최종 투입 결정과 책임은 의료진과 물리 전문가에게 남는다.

더 공부하려면

개념과 한계를 한 번에 보려면 Qwen 모델 편집 연구논문부터 읽는다. 국소 편집의 효과, 과제 간 전이, Trajectory마다 다른 결과를 한 논문에서 볼 수 있다. 이어서 임상 감사 연구논문를 읽으면 블라인드 감사, 대규모 검증, 파인튜닝과 단순 통계 대조군을 어떻게 짜야 엄격한 실험이 되는지 배울 수 있다.

검증을 설계에 넣는 방법이 궁금하면 모델 검사 기반 정책 연구논문와 WeightLoop논문을 이어서 본다. '학습 데이터를 대신할 수 있나'라는 물음에는 의료 영상 연구논문의 비교 실험이 가장 직접적으로 답한다. 기법이 어디서 무너지는지는 게임 난이도 사다리 연구논문가 잘 보여 준다.

마지막으로 가중치 읽기 검증 연구논문와 로봇 디버깅 연구논문를 읽으면, 이 기법의 주장을 어디까지 믿을지 감을 잡을 수 있다. 앞의 연구들이 무엇을 할 수 있는지 보여 준다면, 이 두 편은 그 결과를 무엇으로 착각하기 쉬운지 보여 준다.