핵심부터 — 무엇이 사라졌나

Anthropic RSP 3.0에서 사라진 문장은 딱 하나입니다. 2023년 원본 RSP의 핵심 약속 — “안전 조치를 사전에 충분히 보장하지 못하면 AI 모델을 훈련하거나 배포하지 않겠다”는 그 문장입니다. 이 약속이 3년간 Anthropic을 ‘업계의 양심’으로 자리매김하게 한 근거였습니다.

새 정책은 이 이진 구조를 폐기했습니다. 대신 “Anthropic이 AI 경쟁 선두에 있으면서 동시에 재앙적 위험이 크다고 판단할 때만 개발을 지연(delay)할 수 있다”는 이중 조건으로 대체했습니다. (출처: Anthropic 공식 블로그, RSP v3.0 발표문, 2026.02.24) 이 두 조건이 동시에 충족되는 상황은 구조적으로 희귀합니다.

“will not train”이 “will delay”로 바뀌었고, 그 조건도 훨씬 느슨해졌습니다. 단어 하나의 교체가 정책 전체의 무게를 바꾼 것입니다.

RSP 1.0 때 그 서약, 사실 처음부터 조건부였습니다

많은 사람들이 “Anthropic이 2년 만에 약속을 깼다”고 반응했습니다. 그런데 공식 문서를 직접 보면 조금 다른 그림이 나옵니다.

이게 왜 중요하냐면 — “처음부터 완전한 서약이 아니었다”는 사실은 Anthropic에 유리한 해석이기도 하지만, 동시에 “그 서약이 강력하다고 믿었던 사람들이 오해하도록 방치했다”는 비판을 피하기 어렵게 만듭니다. GovAI(Centre for the Governance of AI)는 이를 두고 “Anthropic이 약속을 실제보다 더 구속력 있는 것처럼 인상을 주면서 수정하지 않았다”고 지적했습니다. (출처: GovAI 분석 보고서, governance.ai, 2026.03.05)

결론적으로, 이번 변화는 U-턴이라기보다 이미 기울어져 있던 방향을 공개적으로 인정한 것에 가깝습니다.

대신 들어온 세 가지

Anthropic RSP 3.0이 기존 서약 대신 내놓은 카드는 세 가지입니다. 공식 PDF 원문을 기준으로 정리합니다. (출처: Anthropic RSP v3.0 전문, anthropic.com/responsible-scaling-policy/rsp-v3-0, 2026.02.24)

여기서 놓치면 안 되는 게 있습니다. 리스크 리포트는 절차적 의무지만, 프론티어 안전 로드맵은 “no hard commitments(구속력 있는 약속이 아님)”이라고 원문에 명시되어 있습니다. 목표를 공표하고 결과를 공개한다는 것이지, 목표를 달성하지 못해도 개발을 중단하지는 않습니다.

경쟁사 상향 약속은 반대로 긍정적으로 읽힙니다. 경쟁사가 더 나은 안전 조치를 비슷한 비용으로 구현하면 Anthropic도 따라가겠다는 내용입니다. 이건 “바닥을 향한 경쟁”을 막는 작은 안전핀으로 볼 수 있습니다. (출처: Anthropic RSP v3.0 Appendix A, 2026.02.24)

Pentagon 압박과 같은 날 발표된 건 우연이었을까요

2026년 2월 24일, Anthropic이 RSP 3.0을 공개한 날 Axios가 별도 단독 보도를 냈습니다. 국방장관 Pete Hegseth가 Anthropic CEO Dario Amodei에게 “금요일까지 Claude의 군사 제한 없는 사용을 허용하지 않으면 제재를 가하겠다”고 경고했다는 내용이었습니다. (출처: Engadget, 2026.02.25; Axios 단독 보도 인용)

Anthropic 측은 두 사건의 연관성을 명시적으로 부정하지 않았습니다. Kaplan은 TIME과의 인터뷰에서 “경쟁 현실에 대한 실용적 대응”이라고 설명했고, Amodei가 이사회 만장일치로 결정을 승인했다고 밝혔습니다. (출처: TIME 단독, 2026.02.24)

중요한 건 상관관계가 아닙니다. RSP 3.0 발표 타이밍이 보여주는 것은, AI 안전 정책이 이제 기술 결정이 아닌 지정학·군사·상업 압박이 모두 교차하는 지점에서 만들어진다는 사실입니다.

지금 남아 있는 조치와 빠진 조치

“안전 서약이 사라졌다”는 헤드라인과 달리, 현재 운영 중인 보호 장치는 그대로입니다. 명확하게 구분하면 이렇습니다.

핵·방사선 리스크 카테고리가 RSP에서 아예 삭제된 점은 주목할 만합니다. Anthropic 측은 별도 설명을 제공하지 않았으나, GovAI 분석은 “이러한 리스크가 재앙적 피해로 이어질 가능성이 낮다는 업데이트된 시각 때문으로 보인다”고 분석했습니다. (출처: GovAI 분석, governance.ai, 2026.03.05) 확인 필요.

RAND SL5 “불가능”이라고 공식 문서에 적혔습니다

Anthropic이 상위 보안 기준 약속을 철회한 이유가 단순히 “의지가 없어서”가 아니라는 걸 보여주는 대목이 RSP 원문에 있습니다. Anthropic은 공식 발표문에서 RAND 보고서를 직접 인용하며 이렇게 썼습니다.

이 대목이 기존 블로그 글들이 잘 다루지 않는 부분입니다. RSP 철회를 “안전 포기”로만 프레임하면 이 맥락이 날아갑니다. 동시에 “현실적 한계를 인정했다”는 해석도 “그렇다면 애초에 왜 그런 약속을 했냐”는 질문을 피할 수 없습니다.

METR의 정책 디렉터 Chris Painter는 이를 정확하게 짚었습니다. “이 변화는 Anthropic이 트리아지 모드로 전환했음을 보여준다 — 위험 평가와 완화 방법이 능력 발전 속도를 따라가지 못하기 때문이다.” 그러면서 기존 이진 임계값이 사라지면 “개구리 삶기(frog-boiling) 효과”가 올 수 있다고 경고했습니다. (출처: TIME, METR Chris Painter 인터뷰, 2026.02.24) 위험이 서서히 높아지지만 어느 시점에도 경보가 울리지 않는 상황을 말합니다.

Q&A

마치며 — 서약의 수명

Anthropic RSP는 처음부터 “살아있는 문서(living document)”를 자처했습니다. 바뀌는 건 예정된 일이었습니다. 문제는 방향이었습니다.

솔직히 말하면, 이번 RSP 3.0은 나쁜 선택과 덜 나쁜 선택 사이의 선택처럼 보입니다. “지키지 못할 약속을 유지하면서 escape clause를 조용히 쓰는 것”보다, “현실을 인정하고 투명성을 높이는 것”이 덜 나쁩니다. GovAI도 같은 판단을 내렸습니다.

그러나 이 사건이 보여주는 더 큰 그림이 있습니다. AI 업계에서 가장 강한 자발적 안전 약속이 시장 압박·정치 환경·보안 기술 한계라는 세 가지 현실 앞에서 3년을 버티지 못했습니다. 이것은 “자율 규제로 충분하다”는 주장에 대한 가장 강력한 반례입니다.

RSP 3.0 이후 리스크 리포트가 얼마나 솔직하게 나올지, 프론티어 안전 로드맵 목표가 실제로 달성될지가 앞으로의 관전 포인트입니다. 3~6개월마다 공개되는 만큼, 검증의 기회는 생겼습니다.

본 포스팅 참고 자료

1. Anthropic 공식 RSP v3.0 발표문 — anthropic.com/news/responsible-scaling-policy-v3
2. Anthropic RSP v3.0 전문 PDF — anthropic.com/responsible-scaling-policy/rsp-v3-0
3. GovAI 분석: RSP v3.0 작동 방식과 변경 사항 — governance.ai, 2026.03.05
4. TIME 단독: Anthropic Drops Flagship Safety Pledge — time.com, 2026.02.24
5. Engadget: Anthropic weakens safety pledge amid Pentagon pressure — engadget.com, 2026.02.25