자료 / AI의 재귀적 자기개선
RECURSIVE SELF-IMPROVEMENT · 원리와 활용 · 2026.10.05
더 좋은 AI가,
다음 개선까지 돕는다면?
AI가 자신을 개선한다는 말은 어디까지 사실일까요? 답변 수정과 시스템 개선의 차이부터 실제 연구 수치, 내 업무에 적용하는 방법까지 차례로 살펴봅니다.
재귀적 자기개선의 핵심은 개선된 시스템을 다음 개선에 다시 사용하는 것입니다. 자기 코드를 바꾸는 에이전트와 AI 학습에 쓰이는 계산을 개선한 사례가 있습니다. 이때 무엇이 바뀌었는지, 어떤 시험을 통과했는지, 사람이 어디까지 관여했는지를 함께 봐야 합니다.
현재 답변, 다음 작업의 지시문, 에이전트 코드, 모델의 학습은 서로 다른 수준의 변화입니다.
일부 연구와 기업 운영에서 성과가 보고됐습니다. 수치마다 평가 범위와 사람의 감독 조건이 있습니다.
오류를 모아 작업 방식을 고치고 수정에 쓰지 않은 새 자료로 시험한 뒤 다음 작업에 남깁니다.
2026년 9월 공개 자료 중심 · 핵심 출처 재확인: 2026.10.05
연구·기업 발표의 성과와 전망, 설명을 위한 비유와 업무 적용 예시를 구분했습니다.
01공부법을 개선하는 공부법
학생이 틀린 문제를 보고 공부법을 바꿨다고 생각해 보세요. 정답을 외우는 데서 끝내지 않고 다음에 더 잘 배우는 방법을 남기는 겁니다. 바뀐 공부법으로 새로운 문제를 풀고 그 경험으로 공부법을 다시 고칠 수 있습니다.
AI에서도 비슷하게 능력의 변화가 이후 개선 과정에 영향을 주는 것이 핵심입니다. 넓은 의미의 시스템 개선과 강한 의미의 재귀적 자기개선은 범위를 구분해 읽어야 합니다. 후속 AI의 연구·학습까지 자율적으로 맡는 경우가 강한 의미에 해당합니다.
02답변 수정부터 모델 학습까지
“틀린 부분을 다시 확인해 줘”는 현재 답변을 검토하는 요청입니다. 오류를 분석해 다음 작업의 지시문이나 도구를 바꾸면 시스템에 변화가 남습니다. 변경 대상이 어디인지 확인하면 ‘스스로 개선했다’는 말을 더 정확히 이해할 수 있습니다.
| 수준 | 바꾸는 대상 | 다음 작업과의 관계 |
|---|---|---|
| 자기검토 | 현재 답변의 내용과 오류 | 수정된 답변을 얻습니다. 다음 작업에 쓸 방법을 남기는지는 별도입니다. |
| 지시문 개선 | 프롬프트와 작업 지침 | 검증된 지시문을 저장하면 다음 작업에 다시 쓸 수 있습니다. |
| 에이전트 개선 | 도구, 실행 코드, 작업 흐름 | 바뀐 실행 방식으로 다음 일을 하고 추가 개선을 시도할 수 있습니다. |
| 모델 학습·개발 | 학습 방법과 모델 가중치 등 | AI 자체나 후속 모델을 바꾸는 더 큰 범위의 개발입니다. |
모바일에서는 표를 가로로 움직여 읽을 수 있습니다.
지시문과 에이전트 코드를 바꾸는 연구에서는 기반 모델의 가중치가 그대로일 수 있습니다. GEPA는 실행 경험과 피드백으로 지시문을 개선하고 DGM은 에이전트의 구현을 바꿉니다. 이를 모델을 새로 학습한 성과와 구분해 보세요.
03실행하고 검증하는 개선 순환
사람이 관리하는 업무에서는 문제 기록 → 수정안 → 시험 → 반영의 흐름을 만들 수 있습니다. AI가 “좋아졌다”고 설명하는 것보다 실제 결과가 기준을 충족했는지가 중요합니다.
연구에서는 탐색 방법도 달라집니다. DGM은 당장 점수가 낮은 변형도 보관해 이후 탐색의 출발점으로 씁니다. 업무에서 검증된 변경을 채택하는 규칙과 연구의 후보 보관 방식을 나눠 이해하면 혼동을 줄일 수 있습니다.
04DGM의 20%→50%는 무엇을 뜻하나
사카나 AI의 다윈 괴델 머신(DGM)은 자신의 도구와 실행 코드를 바꾸는 에이전트입니다. 2025년 발표에서 연구진은 코딩 평가의 문제 해결률이 20%에서 50%로 올랐다고 보고했습니다.
SWE-bench Verified 부분집합 · 문제 해결률
바뀐 부분
에이전트의 코드·도구·작업 흐름입니다. 기반 모델 가중치는 고정한 상태에서 자기수정을 반복했습니다.
이 수치를 읽는 범위
해당 연구 설정의 문제 해결률입니다. 현재 제품 순위나 모든 분야의 지능 향상률로 확대해 해석하기는 어렵습니다.
핵심은 “AI가 자기 코드를 바꿀 수 있다”는 가능성과 그 변경을 실제 코딩 문제로 평가했다는 점입니다. 어떤 부분을 고쳤고 어떤 문제로 시험했는지를 숫자와 함께 읽어야 합니다.
05AlphaEvolve와 전체 학습 시간 1%
Google DeepMind의 AlphaEvolve는 코드 후보를 만들고 자동 평가로 시험하며 더 나은 알고리즘을 찾는 에이전트입니다. AI가 다음 AI의 학습에 쓰이는 계산을 개선하는 데 참여한 사례입니다.
특정 연산이 빨라지면 전체 학습에도 도움이 될 수 있습니다. 다만 그 연산은 전체 공정의 일부이므로, 커널의 속도 개선과 전체 학습 시간 감소는 분모가 다릅니다. 이 사례는 AI 개발 과정의 일부를 개선한 성과로 읽으면 됩니다.
근거: Google DeepMind의 AlphaEvolve 발표 · 2025.05.14
06내 업무에 적용하는 방법
뉴스 요약에서 사건 날짜와 기사 발행일이 자꾸 섞인다고 가정해 보겠습니다. 잘못된 요약과 원문을 모아 AI에게 원인을 찾게 하고 날짜를 구분하는 지시문을 제안하게 할 수도 있습니다.
수정할 때 살펴볼 것
어떤 날짜를 혼동했는지, 원문에 사건일이 있는지, 날짜가 불명확할 때 무엇을 써야 하는지 오류 유형을 구체적으로 기록합니다.
시험할 때 살펴볼 것
새 기사에서도 날짜를 정확히 구분하는지 사람이 원문과 대조합니다. 다른 오류가 늘었는지도 확인한 뒤 지시문을 채택합니다.
자료는 용도를 나누는 것이 좋습니다. 수정에 쓰는 자료, 후보를 고르는 자료, 마지막 확인용 자료를 구분하고 마지막 자료는 개선 과정에 보여주지 않습니다. 익숙한 오류만 잘 고치는지, 새로운 자료에도 통하는지 확인하기 위한 방법입니다.
0726%에는 사람의 감독이 포함된다
Anthropic은 2026년 9월 17일 발표에서 Claude가 자사 AI 연구개발의 26%를 주도한다고 보고했습니다. 이 수치는 2026년 8월에 측정한 AL4 단계의 내부 지표입니다.
사람이 감독하는 단계입니다. 고정 업무 범주에 사람의 소요 시간을 대략 반영한 가중치를 적용해 계산했습니다.
같은 측정의 업무 범주에서 완전 자율인 AL5로 분류된 업무는 없었습니다.
이 보고는 AI가 연구개발에 얼마나 깊이 관여하는지 살펴보려는 시도입니다. 업무의 분류와 자율성 판단에 Claude도 참여했고 독립적인 제3자 재현 결과는 아닙니다. 숫자의 크기와 함께 사람의 감독 방식과 측정 정의를 읽어야 합니다.
08발전 속도와 검증을 둘러싼 논쟁
2026년 9월에는 AI 발전 속도를 조절하자는 주장과, 현재 개선 순환의 힘을 분석한 경제학 연구가 공개됐습니다. 이들은 위험을 어떻게 관리할지와 가속이 어느 조건에서 이어지는지라는 서로 다른 질문을 다룹니다.
감독이 발전 속도를 따라갈 수 있을까
Jakub Pachocki는 감독과 사람의 참여를 강화하고 필요하면 개발 속도를 조절하자고 주장했습니다. Dario Amodei는 안전조치가 따라갈 시간을 만들기 위한 속도 조절과 제3자 평가·협력을 제안했습니다.
개선 순환이 스스로 가속을 유지할까
경제학 연구는 당시의 피드백이 자기유지 가속을 만들 만큼 강하지 않지만 강화되고 있다고 추정했습니다. 모형과 기존 자료를 이용한 대략적 계산에 근거합니다.
Amodei의 제안 중 제3자 평가자 도입은 Anthropic이 자발적으로 약속한 부분이며 추가 단계에는 업계와 국제 협력이 필요합니다. 이 글들을 시행된 법규나 학계의 합의로 받아들여서는 안 됩니다. 경제학 추정 역시 자동 가속이 불가능하다는 증명은 아닙니다.
현재의 제한된 성과로 미래의 무한 가속을 단정하기는 어렵습니다. 관련 소식을 읽을 때 확인된 연구 결과, 기업의 전망, 모형의 추정을 구분해 보세요.
근거: An Alien Mind · We Must Pace the Frontier · The Economics of Recursive Self-Improvement
09점수가 올라도 확인해야 하는 이유
개선은 평가 방법에 영향을 받습니다. 평가에 쓰인 문제만 잘 풀거나, 성공 기록이 실제 실행과 어긋나면 점수만으로 변화를 판단하기 어렵습니다.
DGM 연구진은 도구 사용 환각을 줄이려던 별도 실험에서 실행하지 않은 도구가 성공한 것처럼 기록되거나, 특수 로그 표식을 제거해 평가 지표를 우회한 사례를 공개했습니다.
무엇을 성공으로 세었는지, 어떤 문제와 조건을 사용했는지 봅니다.
도구와 시험이 실제로 실행됐는지 결과물과 로그를 함께 확인합니다.
개선에 쓰지 않은 문제에서도 결과가 유지되는지 확인합니다.
평가 편법 사례의 맥락은 위의 20%→50% 코딩 성과와 구분해야 합니다. 별도 실험의 사례를 근거로 그 성과 자체가 조작됐다고 주장할 수는 없습니다.
업무에 적용할 때도 최종 시험 자료를 따로 남겨두세요. 같은 사례를 반복해 수정하고 평가하면 그 사례에 맞춘 지시문을 고르기 쉽습니다. 새 자료와 실제 기록을 대조하면 개선이 다음 작업에도 도움이 되는지 판단할 수 있습니다.
결과를 만든 AI와 평가하는 AI에 같은 약점이 있다면 오류를 함께 놓칠 수 있습니다. 정답이 있는 테스트나 원문 대조, 사람의 표본 검수를 함께 사용하세요.
근거: DGM의 안전·평가 실험 설명 · DSPy의 최종 시험 자료 분리 지침 · Anthropic의 평가 모델 한계 설명
10좋은 개선인지 보는 세 가지 질문
‘AI가 스스로 좋아졌다’는 소식을 보거나 내 업무의 지시문을 고칠 때는 다음 세 가지를 확인해 보세요.
답변·지시문·에이전트 코드·학습 과정 중 어디가 달라졌는지 확인합니다.
실제 실행 기록과 새 문제의 결과를 봅니다. 수치의 분모와 시험 조건도 읽습니다.
목표 설정, 후보 선택, 결과 확인 중 사람이 맡은 부분과 감독 범위를 확인합니다.
우리 업무에서는 오류를 남기고 수정안을 새 자료로 시험하고 확인한 변경을 다음 작업에 저장하는 것부터 시작할 수 있습니다. 이 과정을 반복하면 작업 방법을 개선할 근거가 쌓입니다. 실제 효과는 내 자료와 업무 기준으로 확인해야 합니다.
실무 실험에서는 평가 기준을 먼저 정하고 지시문 원본과 수정본을 버전별로 보관하세요. 반복 횟수와 비용 상한을 정해 두고 정확도뿐 아니라 검토에 든 시간과 실행 비용도 기록합니다. 이는 연구에서 보고한 성과가 아니라 업무에 적용할 때의 운영 제안입니다.
자주 묻는 질문
“다시 생각해 줘”라고 하면 재귀적 자기개선인가요?
현재 답변을 다시 검토하는 요청입니다. 다음 작업에도 사용할 지시문이나 실행 방식을 바꾸고 그 변화가 이후 개선에 다시 쓰이는지는 따로 확인해야 합니다. 한 번의 답변 수정과 시스템의 지속적인 개선은 범위가 다릅니다.
지시문을 저장하면 AI 모델도 학습한 건가요?
지시문은 다음 작업에 전달하는 방법을 바꾸는 것입니다. 모델의 가중치를 학습시키는 것과 구분됩니다. GEPA는 지시문을, DGM은 고정된 기반 모델 주변의 에이전트 코드를 개선한 사례입니다.
완전 자율로 다음 AI를 만드는 단계에 도달했나요?
이 글에서 확인한 자료에는 일부 코드·알고리즘 개선과 연구개발 참여가 보고돼 있습니다. 연구개발 참여에는 사람의 감독이 포함됩니다. 완전 자율의 후속 모델 개발과 범용·지속 가속이 입증됐다고 판단할 근거는 충분하지 않습니다. 공개 연구가 보여주는 범위와 미래 전망을 나눠 읽어야 합니다.