"파라미터 1만7,253개짜리 신경망 가중치를 텍스트로 주자 AI가 'Pac-Man 플레이 모델'임을 알아맞혀"…Astra·Opus 5.5·Muse Spark 1.3 모두 성공(커뮤니티 전언)

확인된 내용 (사실)

Arcturus Labs 블로그 글이 Reddit r/MachineLearning에 공유됐다. 글쓴이에 따르면 파라미터 1만7,253개짜리 작은 신경망의 가중치를 토큰화한 일반 텍스트로 넣었더니, GPT-6 Astra·Claude Opus 5.5·Muse Spark 1.3 세 모델 모두 이 신경망이 Pac-Man을 플레이한다는 것을 알아냈다. Astra는 추론을 거의 하지 않고도 맞혔다고 한다. 글쓴이는 학습 데이터에 이런 내용이 거의 없을 텐데 이 능력이 어디서 왔는지 묻는다. 연구소들이 일부러 학습시켰거나, 모델의 일반화 범위가 예상보다 넓다는 두 가지 가능성을 제시하고, 자신은 뒤쪽에 더 무게를 둔다.

의미 (해석)

모델이 다른 모델의 가중치를 읽고 기능을 알아낸다면, 해석 가능성 연구와 모델 감사에 쓸 수 있다. 앞서 나온 'Astra가 Qwen 가중치를 직접 고쳤다'는 주장과 함께, 모델이 모델을 다루는 능력에 대한 관심을 키운다. 다만 개인 실험이라 재현과 검증이 필요하다.

출처

• 커뮤니티 AI can read neural network weights. I wasn't ready for that. [D] Reddit