답을 배우는 기술이
무단 복제가 될 때
좋은 AI의 답과 풀이로 다른 AI를 가르치는 ‘증류’. 앤트로픽이 문제 삼은 수집 방식과 방어 결과를 살펴보고 이용자가 확인할 사항까지 짚어 봅니다.
증류는 널리 쓰이는 학습법입니다. 허가 없는 조직적 능력 복제를 구분해 읽어야 합니다.
약 90~99% 감소는 자체 플랫폼에서 추출된 추론 데이터의 초기 추정입니다.
일부 API 연동 변경, 정상 요청의 오차단과 특정 차단 요청 과금이 있습니다.
차례
01증류와 증류 공격의 뜻
증류(distillation)는 성능이 좋은 모델의 출력을 학습 자료로 삼아 다른 모델을 가르치는 방법입니다. 큰 모델의 능력을 더 작고 저렴한 모델에 옮길 때도 쓰입니다. 선생님의 답과 풀이를 보고 학생이 문제 푸는 법을 배우는 상황에 비유할 수 있습니다. 비유는 이해를 돕기 위한 설명입니다.
| 구분 | 무엇을 하나 | 확인할 기준 |
|---|---|---|
| 정상적인 증류 | 허용된 출력으로 다른 모델을 학습 | 자체 모델·계약·이용 조건 |
| 증류 공격 | 허가 없이 능력을 옮기려는 조직적 수집 | 접근 제한 우회·허위 계정 등 남용 정황 |
| 모델 가중치 탈취 | 모델을 구성하는 파라미터 파일 자체를 확보 | 파일·인프라 접근 침해 |
‘증류 공격’은 이 자료에서 Anthropic이 지칭한 남용을 뜻합니다. 증류라는 학습법 자체를 공격으로 보지는 않습니다. 공식 정의·조사 ↗
02왜 답보다 풀이를 노릴까
정답만으로는 어떤 기준으로 선택하고 오류를 고쳤는지 알기 어렵습니다. 풀이까지 있으면 학습할 단서가 늘어납니다. 공격자는 이런 자료로 다른 모델의 개발 시간과 비용을 줄이려 합니다.
앤트로픽이 공개한 결과에 따르면 특정 코딩 평가에서 전체 추론 기록을 학습한 모델이 더 높은 점수를 얻었습니다. 비교 대상은 요약된 추론을 학습한 모델입니다.
80.4%
SWE-bench Verified 점수
71.8%
같은 내부 실험의 비교 결과
Anthropic 내부 실험: 사전학습된 Claude 모델을 Opus 4.8의 추론 기록으로 학습한 결과입니다. 현재 서비스 모델의 점수나 모든 증류의 효과로 일반화할 수 없습니다. 실험 설명 ↗
03어떤 수집이 문제였나
앤트로픽은 2026년 2월 23일 DeepSeek·Moonshot·MiniMax의 조직적 수집을 확인했다고 발표했습니다. 회사가 제시한 규모는 허위 계정 약 24,000개, Claude와의 대화 1,600만 회 이상입니다. 이는 Anthropic의 조사·귀속 판단입니다.
허위 계정과 중개 네트워크로 대규모 접근
코딩·추론·도구 사용처럼 가치 있는 영역에 요청 집중
계정 차단 뒤에도 다른 접근 경로로 시도
업무용 질문 한 번과 조직적 수집은 구분해야 합니다. 공식 조사는 요청량·반복 구조·여러 계정의 연계 등 패턴을 근거로 설명합니다. 2월 조사 발표 ↗
04개발사와 이용자에게 생기는 피해
능력 개발의 대가
다른 회사가 허가 없이 성과를 옮기면 연구·학습 투자로 얻은 경쟁 우위를 침해할 수 있습니다.
안전장치 약화 우려
앤트로픽은 위험한 요청을 거절하는 보호 장치가 복제 모델에 충분히 이어지지 않을 수 있다고 주장합니다. 모든 증류 모델이 안전장치를 잃는다고 단정할 수는 없습니다.
국방·감시 등에 악용될 가능성도 회사가 제기한 우려입니다. 독자는 관측한 수집 행위와 그 이후의 피해 가능성을 구분해 읽으면 좋습니다. 회사가 설명한 위험 ↗
이번 발표의 대상은 모델 능력과 추론 기록을 모으려는 시도입니다. 일반 이용자의 비공개 대화 유출을 알리는 발표로 해석할 근거는 없습니다. 개인정보 처리 문제는 서비스의 별도 정책으로 확인하세요.
05앤트로픽의 방어 방식
API의 preserved thinking은 이전 추론 블록을 다시 보낼 때 앞의 시스템 지시·도구·메시지가 유지됐는지 확인합니다. 기본 검사가 적용되는 신규 계정 기준은 2026년 8월 31일 00:00 UTC 이후이며 한국시간으로는 같은 날 오전 9시입니다. 현재 공식 API 문서가 명시한 맥락 보존 검사 대상은 Fable 5.1·Opus 5.5·Sonnet 5.5·Haiku 5.5입니다. 기존 계정은 해당 검사를 명시한 요청에 적용됩니다. 모델 간 추론 블록 읽기 제한은 계정 생성 시점과 별개입니다. 공식 API 조건 ↗
앤트로픽은 분류기의 오탐률을 0.1% 미만으로 제시했습니다. 반복 시도를 제한하고 관련 계정을 정지하는 조치도 병행한다고 밝혔습니다. 방어 발표 ↗
0690~99% 감소를 읽는 법
앤트로픽에 따르면 자체 플랫폼에서 공격자가 추출한 추론 토큰 추정량은 방어 도입 뒤 이전보다 10~100배 적어졌습니다. 약 90~99% 감소에 해당하는 초기 결과입니다.
이 수치를 ‘모든 공격 99% 차단’이나 ‘개인정보 유출 99% 감소’로 바꾸면 의미가 달라집니다. 관측 범위는 회사 자체 플랫폼의 추론 데이터 추출량입니다.
회사는 효과가 얼마나 오래갈지 아직 모른다고 했습니다. 매우 정교하고 지속적인 우회 시도를 아직 겪지 않았다는 조건도 밝혔습니다. 다른 플랫폼까지 포함한 전체 방어 성과로 확대해서는 안 됩니다. 측정 범위와 한계 ↗
07이용자·개발자 확인 사항
| 이용 방식 | 공식 안내 | 확인할 일 |
|---|---|---|
| Claude 앱·Claude Code | 공식 도구가 요청을 구성하면 일반적으로 연동 수정 불필요 | 오차단이 나면 요청 내용·발생 시점 기록 |
| 자체 API 연동 | 대상 모델·계정에서 과거 추론 앞 맥락의 일치 여부 검사 | 시스템 지시·도구·대화 이력을 바꾸는 코드 검토 |
| API 비용 관리 | 9월 24일부터 특정 영역의 응답 전 차단 요청 과금 재개 | 차단 분류와 사용 내역·재시도 정책 확인 |
과금 설명은 증류 등 오탐률이 낮은 특정 영역에 한정됩니다. 모든 차단 응답에 같은 요금 규칙이 적용된다고 볼 수는 없습니다. 차단·과금 공식 문서 ↗
업무 적용 체크리스트
체크 상태는 현재 화면에서만 쓰는 확인표이며 저장되지 않습니다.
08자주 묻는 질문과 공식 출처
증류는 전부 금지된 기술인가요?
증류 자체는 널리 쓰이는 학습법입니다. 어떤 모델의 출력을 어떤 계약과 이용 조건 아래 쓰는지가 중요합니다.
Claude 모델 파일을 통째로 빼앗겼다는 뜻인가요?
이 발표는 출력과 추론 기록을 모아 능력을 옮기려는 시도에 관한 것입니다. 가중치 파일 탈취와 구별해야 합니다.
90~99%면 이제 문제가 해결된 건가요?
회사 자체 플랫폼에서 관측한 초기 추정입니다. 지속 효과와 다른 플랫폼의 상황까지 보장하지 않습니다.
일반 사용자도 과거 대화를 수정할 수 없나요?
모든 대화 편집을 막는다는 뜻은 아닙니다. API에서 이전 추론을 다시 사용하는 조건이며 공식 앱은 요청 구성을 처리합니다. 자체 연동이라면 공식 문서를 확인하세요.
내 개인정보가 유출됐다는 발표인가요?
그렇게 볼 근거는 없습니다. 이 자료의 성과 지표는 증류자가 모은 추론 데이터량이며 개인정보 보호 지표가 아닙니다.
공식 출처
- Anthropic — 증류 공격 방어 성과 · 2026.10.12 발표 · 실험·방어·성과·한계
- Anthropic — 증류 공격 조사 · 2026.02.23 발표 · 정의·세 회사·계정 및 대화 규모
- Claude API — Preserved thinking · 계정·모델·맥락 보존 조건
- Claude API — Refusals and fallback · 차단과 과금 조건
- Hinton·Vinyals·Dean — Distilling the Knowledge in a Neural Network · 2015 · 지식 증류의 학습 개념
정보 확인일 2026.10.16. 수치·회사 귀속·방어 성과는 Anthropic 발표 기준이며 이 자료에서 독립 재현한 결과는 아닙니다.