오후 브리핑 · 16:00
AI 위험 관리, 출시 앞단으로
작성자 · bombong
AI의 위험과 효과를 확인하는 시점이 출시 뒤에서 그 앞단으로 옮겨 가고 있다. Alibaba는 공격용 사이버 능력을 학습 데이터에서 걸러 낸 최상위 모델을 내놓았다. Apple은 건강 AI 답변이 실제로 도움이 되는지 대규모 연구로 먼저 확인하기 시작했다. 미국에서는 AI 보안 사고를 일찍 신고하게 하려는 권고가 나왔다.
위험을 학습 단계에서 덜어 내다
아침 브리핑은 AI가 전문 작업 깊숙이 들어가는 흐름을 다뤘다. 오후 소식은 그렇게 깊이 들어간 AI의 위험을 언제 다루느냐는 질문으로 이어진다. 가장 직접적인 사례는 Alibaba가 프리뷰에 이어 정식 공개한 Qwen4-Max다18. 회사 설명에 따르면 학습 데이터에서 공격용 사이버 능력은 일부러 걸러 냈고, 방어에 쓸 능력은 남겼다.
이 조치는 위험 대응을 출시 뒤의 필터나 이용 정책에만 맡기지 않고 데이터 단계에 두었다는 점에서 의미가 있다. GeekNews 요약 기준으로 이 모델은 2.4조 파라미터 백본에 100만 토큰 문맥을 처리한다. Alibaba는 작업 1건당 평균 비용이 4.43달러에서 1.67달러로 62% 내려갔다고 밝혔다. 성능과 가격을 앞세우는 발표에 안전 설계를 함께 내세운 것은 AI 기반 사이버 공격에 대한 우려가 제품 설계 단계까지 들어왔음을 보여 준다.
소비자 서비스와 제도도 같은 방향
모델 설계에서 보인 이 흐름은 소비자 서비스와 정책 쪽에서도 나타난다. Apple은 임상 AI 플랫폼 OpenEvidence와 함께 미국에서 최대 20만 명이 참여하는 'Apple Health AI Usage Study'를 시작했다고 보도됐다15. 연구에서는 사용자가 AI 답변을 얼마나 정확히 이해하고 믿는지, iPhone 건강 데이터를 함께 쓰면 답변이 더 쓸모 있어지는지, 실제 건강관리 행동이 바뀌는지를 본다. 기능을 내놓기 전에 효과와 신뢰의 근거부터 쌓는 순서다.
제도 쪽에서는 백악관 AI 태스크포스 관계자들이 AI가 얽힌 사이버 공격이나 취약점을 선의로 먼저 신고한 기업은 최소 1년간 규제상 책임을 덜 지게 하자고 권고했다고 Bloomberg를 인용한 보도가 나왔다20. 사고가 난 뒤의 처벌보다 사고 정보를 일찍 모으는 데 무게를 둔 방안이다. 모델 회사는 데이터에서, 서비스 회사는 사전 연구에서, 정책 쪽은 신고 유인에서 위험을 앞당겨 다루려 한다는 공통점이 있다.
아직 자체 평가에 머문 숫자들
다만 앞단 검증이 업계 전반의 관행이 됐다고 보기는 이르다. 오늘 나온 모델 발표의 성능 수치는 대부분 회사가 직접 잰 값이다. Qwen4-Max의 Work360 점수가 자체 평가였고, Reddit에는 Artificial Analysis 지수에서 43점을 받았다는 글이 따로 올라왔다. Tencent의 MoE(전문가 혼합) 모델 Hy4 flash는 총 224B, 활성 12B 파라미터에 출력 100만 토큰당 2위안을 내세웠다. 다만 주요 성능 결과는 자체 벤치마크 WorkIndex 기준이다19.
Huawei Cloud는 로봇용 월드 액션 모델 CloudRobo-WM1.2가 RoboTwin 2.0과 LIBERO-Pro 2.0에서 1위를 했다고 주장했다. 오픈소스 공개를 예고했지만, 발표 시점에는 가중치가 없었다21. 백악관 방안도 아직 권고 단계여서 시행 여부와 범위는 확인되지 않았다. 위험 관리는 앞단으로 옮겨 가고 있지만, 성능 주장을 외부에서 검증하는 일은 여전히 출시 뒤에 남아 있다.
모델을 도입하는 실무자라면 성능과 단가만 보지 말고 두 가지를 함께 따져 볼 필요가 있다. 하나는 제공사가 학습·출시 전 단계에서 어떤 위험 관리 조치를 했는지이고, 다른 하나는 수치를 외부 평가로 확인할 수 있는지다. 앞으로는 백악관 권고가 실제 기관 기준으로 이어지는지, Apple 연구가 어떤 결과와 근거를 내놓는지, Huawei가 예고한 대로 가중치를 공개하고 벤치마크 결과가 재현되는지를 확인할 일이다.
이 글은 AI로 초안을 쓰고, 인용한 공개 자료와 출처·수치를 대조하는 검증을 거쳐 발행했으며, 발행 뒤 운영자가 다시 검토합니다. 필자의 해석이 포함되어 있습니다. 작성·검수 방식 · 정정 기록
아침 브리핑 · 08:00
물리 증명부터 칩 검증까지 파고든 AI
작성자 · bombong
AI 모델의 쓰임새가 범용 대화를 넘어 전문가가 일하는 과정의 특정 단계로 옮겨 가고 있다. OpenAI는 이론물리 증명에 GPT-6 Astra를 쓴 과정을 새 과학 블로그에 공개했다. 중국에서는 칩 설계 검증과 로봇 탑재 칩에 에이전트와 모델을 맞춘 발표가 이어졌다.
연구 절차의 일부가 된 프런티어 모델
OpenAI가 이론물리 연구 과정에 모델을 쓴 사례를 공식 채널로 내놓으면서 이 흐름이 가장 분명하게 드러났다. OpenAI는 입자물리 표준모형을 격자 위에서 비섭동적으로(근사 전개에 기대지 않고) 정의하는 후보안을 소개하는 글을 게시했다1. 이 글은 결과보다 아이디어를 구체적인 증명으로 다듬는 데 GPT-6 Astra가 어떻게 쓰였는지를 주로 다룬다. OpenAI는 모델이 상세한 증명을 만드는 데 도움을 줬다고 밝혔다. 양-밀스 증명 주장에 이어 기초물리의 오래된 문제에 모델을 쓴 두 번째 사례라는 점에서, 일회성 시도로 보기는 어렵다.
글이 실린 곳도 의미가 있다. 이 글은 같은 날 문을 연 과학 전용 블로그에 실렸다9. 이 블로그는 AI로 연구하는 사람들의 새 결과와 실용적인 방법, 경험담을 싣는 채널이다. 성과만 알리지 않고 모델을 어떻게 썼는지까지 공유하는 구성이다. OpenAI가 모델을 연구 절차 안의 도구로 자리 잡게 하려는 것으로 볼 수 있다.
공학 현장의 도구 사슬에서도 같은 움직임
연구실에서 보인 흐름은 공학 현장의 도구 사슬에서도 나타난다. S2C와 HyperSilicon이 합쳐 만든 HyperS2C는 디지털 프런트엔드 EDA(전자설계자동화) 툴체인과 칩 검증용 에이전트 HSCompile·HSDebug를 내놨다고 보도됐다10. 에이전트가 범용 비서로 나오지 않고 컴파일과 디버그라는 특정 단계를 이름으로 달고 나왔다. 오늘의 논지를 잘 보여 주는 대목이다.
로봇 분야에서는 모델이 현장 하드웨어로 내려가고 있다. D-Robotics와 Infinigence AI는 강화학습 프레임워크 RLinf를 비롯한 오픈소스 로봇 도구를 Sunrise 칩과 RoboGo 플랫폼에 연결했다. 또 APXInf를 써서 Pi0.5 모델을 Sunrise S600에서 실행한다고 전해졌다7. VLA(시각·언어·행동) 모델을 클라우드가 아닌 로봇 탑재 칩에서 직접 돌리는 사례다.
개발 현장에서는 여러 모델을 업무 흐름에 끼워 넣는 연결부가 정비되고 있다. LangChain은 Mistral·Groq·xAI·DeepSeek 연동 패키지의 새 버전에 채팅 모델 호출을 LangSmith 게이트웨이로 보내는 기능을 넣었다4. 이제는 어떤 모델 하나를 고르느냐보다 여러 모델 호출을 한곳에서 관리하는 일이 실무의 과제가 되고 있다. 이번 배포에서 Python 3.10 지원이 빠졌으므로, 이 버전을 쓰는 팀은 업그레이드 전에 런타임을 확인해야 한다.
아직 확인되지 않은 부분
이 흐름을 이미 검증된 성과로 단정하기는 이르다. OpenAI의 물리 증명은 회사가 직접 설명한 내용이며, 외부 연구자가 검증했는지는 자료에 나오지 않는다. HyperS2C와 D-Robotics의 발표도 매체 한 곳의 보도로만 전해졌고, 실제 성능이나 적용 규모는 공개되지 않았다. 따라서 지금은 방향을 보여 주는 신호로 보는 것이 맞다.
현장으로 내려가는 AI도 결국 연산 자원 위에서 돌아가므로, 공급 환경이 불확실하다는 점도 남아 있다. The Verge는 미 의회에서 AI 칩 수출 제한을 강화하는 조치와 법안에 양당 의원들이 지지를 표했다고 보도했다3. Reuters 분석을 전한 보도에 따르면, 중국에서는 수출이 제한된 NVIDIA 칩을 전제로 한 프로젝트와 장비 계약이 230억 위안 규모에 이른다6. 규제가 실제 입법으로 이어질지는 아직 정해지지 않았다. 다만 특정 하드웨어를 전제로 짠 계획이 많을수록, 자국 칩과 툴체인에 모델을 맞추는 작업의 비중도 커질 수 있다.
실무자에게 오늘 소식이 주는 의미는 분명하다. 모델 성능 순위보다 자기 업무의 어느 단계에 모델을 넣을지가 더 구체적인 질문이 됐다는 것이다. 앞으로는 세 가지를 확인할 필요가 있다. 하나는 OpenAI 물리 증명에 대한 외부 검토이고, 다른 하나는 칩 검증 에이전트의 실제 적용 사례다. 마지막으로 이번 주 NVIDIA 실적 발표와 의회 논의가 연산 공급 환경에 어떤 신호를 줄지 지켜봐야 한다.
이 글은 AI로 초안을 쓰고, 인용한 공개 자료와 출처·수치를 대조하는 검증을 거쳐 발행했으며, 발행 뒤 운영자가 다시 검토합니다. 필자의 해석이 포함되어 있습니다. 작성·검수 방식 · 정정 기록
확인 중인 소식 4
공식 출처로 아직 확인되지 않은 소식입니다. 사실 확인 전이니 원문을 함께 보세요.
- GitLab 19.5 출시, 에이전트 개발을 거버넌스가 적용되는 DevOps 플랫폼 기능으로 편입(InfoQ China 보도) 원문
- 음성에 대해 예/아니오·선택·점수를 바로 내는 경량 모델 'Marimba' Apache 2.0 공개…고정된 Qwen3-ASR-0.6B 위에서 동작(커뮤니티 전언) 원문
- X, 엔지니어 5명과 AI 코딩 에이전트로 6개월 안에 웹 앱 재구축…서버 3개를 하나로, 느린 네트워크에서 첫 게시물 표시 23.9초→2.7초(커뮤니티 전언) 원문
- "DeepSeek 무료 앱·웹 채팅에 하루 사용 한도, 입력은 약 4만 자로 줄어" 사용자 제보…DeepSeek은 확인 안 해(Pandaily 보도) 원문
커뮤니티 화제 5
Reddit·Hacker News·GeekNews 등에서 많이 이야기된 주제입니다. 커뮤니티의 반응이며 사실 확인 전 내용이 섞여 있을 수 있습니다.
- AI 생성 코드 오픈소스화 "AI가 만든 코드는 모두 오픈소스여야 한다"는 글이 Hacker News에서 1,000점을 넘기고 댓글 560여 개가 달렸으며, GeekNews에도 소개됐다. 오픈소스로 학습한 모델이 만든 코드를 비공개로 두는 것은 라이선스 세탁이라는 주장과, 사람이 쓰지 않은 코드의 저작권 문제가 논점이다.
- 로컬 추론 엔진 속도 경쟁 llama.cpp가 Gemma4 모델에서 직접 만든 엔진을 따라잡거나 앞질렀다는 벤치마크, RTX 5090에서 Qwen 27B를 초당 최대 770토큰대로 돌린다는 Basalt 0.4.0, 두 양자화 모델이 어느 토큰에서 갈라지는지 보여 주는 inside-llm, B300에서 cudaMemcpy를 5배 빠르게 했다는 도구가 함께 화제가 됐다.
- Claude Fable 5.2 데모와 회의론 Claude Fable 5.2가 짠 Transformer와 Opus 5.5가 만든 학습 데이터로, 플로피디스크에 들어가고 1990년대 펜티엄 PC에서 도는 36만7,000 파라미터 모델을 만들었다는 게시물이 주목받았다. 한편 GeekNews에서는 코딩 실력을 초지능의 증거로 받아들이는 업계 분위기를 비판하는 'Claude라는 망상' 글도 공유됐다.
- GPT-6 품질 저하 체감 r/OpenAI에서 Plus 요금제의 GPT-6 high가 대화 끝부분에서 엉뚱한 출력을 낸다는 글과, 지시와 반대로 작업해 시간을 낭비하게 한다는 불만 글이 올라왔다. 커뮤니티에서는 버그인지 일시적 문제인지를 두고 이야기가 나온다.
- AI 자금 순환·안전 운동 OpenAI가 지난해 약 130억 달러를 벌고 컴퓨팅에 약 1조1,500억 달러를 약정했으며 그중 상당액이 NVIDIA로 돌아간다는 분석 영상이 공유됐다. 같은 날 수전 라이스 전 국가안보보좌관이 초지능 저지 시위에 참석했다는 게시물과, 한 OpenAI 내부고발자가 IPO 뒤 지분을 전액 기부하겠다고 했다는 글도 반응을 얻었다.