아침 브리핑 · 08:00
작아진 모델과 무거워진 검증
AI 능력이 더 작은 모델과 더 많은 경로로 퍼지면서, 가치의 중심은 능력 자체에서 결과를 검증하고 흐름을 통제하는 장치로 옮겨 가고 있다. 같은 날 노트북에서 돌아가는 에이전트 코딩 모델이 공개됐고, 프런티어 기업은 모델 출력을 통해 능력이 빠져나가는 문제를 보안 과제로 다뤘다. 수학과 신약 개발에서는 AI가 낸 결과를 어떻게 확인할지가 실제 쟁점이 됐다.
능력은 작아지고 넓게 퍼진다
Thinking Machines Lab이 공개한 오픈 웨이트 모델 Inkling 2 Mini는 능력이 퍼지는 속도를 보여 준다1. 전체 파라미터는 약 26B이지만 토큰마다 5.4B만 활성화한다. 또 중간 레이어를 토큰마다 되풀이하는 루프 구조를 써서 크기에 비해 연산량을 늘렸다. 약 20GB 메모리로 Mac 같은 로컬 환경에서 실행되며, Ollama 릴리스 노트는 SWE-Bench Verified(실제 소프트웨어 이슈 해결 평가) 점수로 79.2%를 제시했다. 파라미터를 키우는 대신 연산을 반복해 품질을 끌어올리는 설계여서, 에이전트 코딩 능력이 개인 장비로 내려오는 경로가 하나 더 생긴 셈이다.
Pandaily 보도에 따르면 Tencent도 Hy4 플래그십 모델의 Instruct·FP8·Base 가중치와 시스템 카드를 공개했다7. 다만 Apache 2.0이 아닌 조건부 라이선스여서, 가중치가 공개됐더라도 어디까지 쓸 수 있는지는 따로 따져야 한다.
능력은 공개된 가중치로만 퍼지지 않는다. OpenAI는 자사 모델의 출력을 모아 능력을 빼내려는 적대적 Distillation(지식 증류)에 대응하는 방식을 공개했다2. 학습 단계의 조치, 안전장치, 탐지, 이용 정책 집행을 겹쳐 쓰는 구성이다. OpenAI는 이 계층형 접근이 능력 추출을 막는 데 효과적이라고 설명했다. 의도한 공개와 의도하지 않은 유출이 같은 날 다뤄진 것은, 능력을 만드는 일만큼 그 흐름을 관리하는 일이 과제가 됐다는 뜻이다.
결과의 가치는 검증이 정한다
능력이 흔해질수록 남는 질문은 그 결과를 믿을 수 있느냐다. 이 질문이 가장 선명하게 드러난 분야는 수학이다. Anthropic 수학자 레벤트 알푀게가 Claude를 활용한 리만 가설 증명을 주장했고, 같은 날 Ravi Vakil은 알레산드로 마술로의 일반화 리만 가설(GRH) 증명안 초안을 앞당겨 공개한다고 알렸다3. Vakil은 940쪽 분량의 이 원고에 대해 "전부 사람이 했고 AI는 없다"고 밝혔고, Brian Conrad가 수개월째 검토하고 있다고 전했다. 알푀게는 Claude와 함께 논증을 추가 가정 없이 형식화했다고 주장한다. 두 증명 모두 공식 검증 전이다. 같은 난제를 두고 AI와 협업한 증명과 사람의 증명이 함께 나오면서, 누가 어떤 절차로 확인하는지가 결과만큼 중요해졌다.
과학 연구와 기업 실무에서도 같은 방향이 보인다. OpenAI의 MedChemBench는 분자 구조 해석, 실험 근거에 기반한 추론, 화합물 선택처럼 초기 신약 개발의 실제 판단을 측정하려는 벤치마크다4. AWS가 정식 출시한 Textract Insights는 자연어로 지정한 필드를 문서에서 추출하고, 값마다 신뢰도 점수와 근거가 된 페이지를 붙여 준다6. Standard Bank Group은 Amazon Bedrock의 LLM-as-a-judge(모델에게 평가를 맡기는 방식)로 생성 AI 사용 사례를 국제 표준과 내부 정책에 따라 점수화한다14. 이렇게 나온 평가는 추적 가능한 근거로 위험위원회에 전달된다.
세 사례는 분야가 다르지만 설계 방향은 같다. 모델이 답을 내는 데서 끝나지 않고, 그 답이 어디서 나왔고 어떤 기준을 통과했는지를 함께 보여 준다. 규제 산업과 연구 현장에서 AI 도입을 가로막는 요인이 성능에서 확인 가능성으로 옮겨 가고 있다고 볼 수 있다.
통제 장치에는 아직 공백이 있다
다만 검증과 통제가 능력의 확산을 실제로 따라잡고 있는지는 아직 분명하지 않다. Ars Technica에 따르면 한 연구자가 추적 가능한 비밀을 담은 프롬프트 약 200만 개를 AI 공급망에 흘려보냈고, 사용자 데이터가 비공개로 남지 않은 사례가 확인됐다8. 어느 서비스나 경로에서 새어 나갔는지, 그 비율이 얼마인지는 자료에서 확인되지 않는다. 그렇더라도 API 중개나 래퍼 서비스처럼 여러 단계를 거쳐 AI를 쓰는 구조라면, 입력한 데이터가 기업의 통제 범위를 벗어날 수 있다는 점은 공급업체 점검을 다시 해 볼 이유가 된다.
오늘 나온 주장들도 상당 부분 검증을 기다리고 있다. Inkling 2 Mini의 SWE-Bench 점수는 릴리스 노트에 실린 수치이고, 다중 턴 대화와 복잡한 제약이 붙은 지시 수행은 상대적 약점으로 거론된다. OpenAI의 대응 방식에는 구체적인 탐지 기법이나 집행 사례 수치가 없다. MedChemBench도 모델별 점수와 공개 범위가 알려지지 않았다. 검증을 중시하는 흐름 자체가 아직 검증되지 않은 주장들에 기대고 있다는 점이 이 논지의 한계다.
실무자라면 모델을 고를 때 성능표뿐 아니라 근거 제시 방식, 데이터가 거쳐 가는 경로, 라이선스 조건도 기준에 넣어야 한다. 이어서 확인할 일은 세 가지다. Inkling 2 Mini의 라이선스와 독립 평가 결과, OpenAI가 말한 정책 집행이 계정 차단이나 약관 변경 같은 구체적 조치로 이어지는지, 그리고 두 증명에 대한 Lean 형식화 자료와 전문가 검토 결과다.