Anthropic·Theorem, Claude로 오픈소스 라이브러리 123개의 퍼징 진입점 239개 정형 검증…버그 수정 뒤 충돌 없음 증명(커뮤니티 전언)

확인된 내용 (사실)

GeekNews 요약에 따르면 Anthropic과 Theorem은 Claude를 써서 오픈소스 라이브러리 123개에 있는 퍼징 진입점 239개를 정형 검증했다. 검증 중 찾은 버그를 고친 뒤, 정해진 실행 환경과 입력 크기 조건에서는 컴파일된 코드가 충돌하지 않는다는 것을 증명했다. 방법은 기존 퍼즈 테스트를 명세로 바꾸고 RISC-V 바이너리 수준에서 검증하는 방식으로 소개됐다.

의미 (해석)

정형 검증은 사람이 많이 들어가서 소수의 핵심 코드에만 쓰여 왔다. LLM으로 이 작업을 라이브러리 수백 곳 규모로 넓힐 수 있다면, AI가 취약점을 찾는 데서 그치지 않고 '안전함을 증명'하는 쪽으로 넘어간다. 다만 증명은 특정 환경과 입력 크기를 전제로 한다.

출처

• 커뮤니티 LLM이 훨씬 더 큰 규모의 소프트웨어 정형 검증을 가능하게 하고 있음 GeekNews

Anthropic 관련 다른 소식

• 2026-10-23 P2 정책 확인 필요 안전·정렬에이전트 Anthropic
  "Claude Code의 편집 수락·거절이 약관상 '피드백'으로 학습에 쓰일 수 있어"…학습 설정을 꺼도 해당된다는 사용자 주장(커뮤니티 전언, 미확인)

  Reddit의 한 Max 요금제 사용자는 'help improve Claude'를 꺼 두었다고 밝혔다. 그런데 설치된 Claude Code 바이너리 2.1.283~2.1.309의 첫머리 주석에 다음 취지의 문구가 있다고 주장했다. 코드 변경을...

• 2026-10-23 P1 제품 발표 에이전트안전·정렬 Anthropic
  Anthropic, 다음 주부터 Claude 앱 대부분에서 '오토 모드' 기본 적용…매번 묻지 않고 자동 검사로 위험 판단(보도)

  AI타임스 보도에 따르면 Anthropic은 현지시간 22일 공식 발표문을 업데이트했다. 다음 주부터 Pro·Max·Team 요금제 이용자가 대부분의 Claude 앱에서 새 세션을 시작하면 '오토 모드(Auto Mode)'가 기본으로 켜진다....

• 2026-10-23 P2 정책 발표 AI 보안AI 플랫폼·솔루션 스웨덴 정부청사OpenAIAnthropicMicrosoft
  스웨덴 정부청사, 월요일부터 직원 업무용 PC에서 ChatGPT·Claude 접속 차단…승인 도구는 Microsoft Copilot 등(커뮤니티 전언)

  Sveriges Radio 기사를 공유한 커뮤니티 게시물에 따르면 스웨덴 정부청사(Regeringskansliet)는 월요일(10월 26일)부터 직원 업무용 컴퓨터에서 ChatGPT와 Claude에 접속하지 못하게 한다. 직원이 승인된 AI...

• 2026-10-23 P2 연구 논문 언어 모델데이터·평가과학·바이오 Harvard UniversityAnthropic
  "Harvard 사회과학 논문 124편 동료 심사, Claude Opus 4.8이 모든 지표에서 사람 전문가 앞서" 연구 공유(커뮤니티 전언)

  Reddit 게시물이 Harvard 사이트(gking.harvard.edu/peerless)에 올라온 연구를 소개했다. 게시물에 따르면 연구진은 Harvard 사회과학 논문 124편의 동료 심사를 비교했다. 대상 논문은 통계 분석, 형식 모델,...

• 2026-10-23 P2 연구 논문 안전·정렬AI 보안멀티모달 Anthropic
  "Claude Fable 5.1, 평범한 SVG 이미지에 메시지를 숨기고 다른 세션의 같은 모델이 78% 복원" 실험 공유(커뮤니티 전언)

  커뮤니티에 공유된 실험 내용이다. Claude Fable 5.1에게 겉보기에 평범한 SVG 이미지 안에 메시지를 숨기게 했다. 그런 다음 별도 세션의 같은 모델에게 인코딩 규칙도 SVG 소스도 주지 않고 메시지를 되살리게 했더니 78%를...