Gemini 2.5 Pro, 3가지 수치로 직접 따져봤습니다

결론부터 말씀드리면, 100만 토큰은 있는 그대로 믿으면 안 됩니다. 출력 한도도 공식 수치와 실제가 다릅니다. 그리고 지금으로부터 꼭 3개월 뒤인 6월 17일, 이 모델은 공식 종료됩니다. 이 세 가지를 공식 문서와 실측 데이터로 직접 확인했습니다.

Gemini 2.5 Pro가 지금 왜 중요한가

Gemini 2.5 Pro는 구글 딥마인드가 2025년 6월 17일 정식 출시한 플래그십 언어 모델입니다. 1백만 토큰 컨텍스트 윈도우, 텍스트·이미지·오디오·영상을 아우르는 네이티브 멀티모달, 그리고 업계 최고 수준의 추론 성능을 내세웠습니다. 2026년 3월 현재도 API 호출량 기준으로 여전히 수많은 서비스와 워크플로우에서 현역으로 돌아가고 있습니다.

그런데 여기서 중요한 사실 하나. 구글 AI API 공식 지원 중단 페이지(2026년 3월 11일 업데이트)에는 gemini-2.5-pro의 종료일이 2026년 6월 17일로 명시돼 있습니다. 지금으로부터 약 88일 뒤입니다. (출처: Google AI for Developers 공식 지원 중단 페이지) 권장 교체 모델은 gemini-3.1-pro-preview입니다. 모델명을 하드코딩해서 쓰던 서비스라면 이미 마이그레이션 계획이 있어야 합니다.

솔직히 말하면, 이 사실을 한국어로 정리한 글이 거의 없었습니다. 지금부터 공식 문서와 실측 데이터를 바탕으로 Gemini 2.5 Pro를 있는 그대로 짚어봅니다.

▲ 목차로 돌아가기

100만 토큰, 실제로 다 쓸 수 없는 이유

Gemini 2.5 Pro의 입력 토큰 상한은 공식적으로 1,048,576토큰입니다. (출처: Vertex AI 공식 문서, docs.cloud.google.com) 이 수치는 마케팅 측면에서 확실히 인상적입니다. 400페이지 분량의 기술 문서 전체를 한 번에 처리하거나, 1시간 분량 영상을 통째로 넣을 수 있는 용량입니다. GPT-4o(128K)나 Claude Sonnet 4.6(200K)과 비교하면 5~8배 차이가 납니다.

그런데 나무위키의 Gemini 항목에는 이런 문장이 들어 있습니다: “토큰이 쌓일수록 성능이 급락하기에 실사용과 괴리가 있다.” 이게 단순한 소문이 아닙니다. 컨텍스트 윈도우가 길어질수록 어텐션 레이어의 연산량이 기하급수적으로 늘고, 모델이 앞쪽에서 받은 지시나 정보를 점점 덜 반영하는 이른바 ‘중간 망각(lost-in-the-middle)’ 현상이 생깁니다. 이건 Gemini만의 문제가 아니라 현재 모든 트랜스포머 기반 모델에 공통적으로 보이는 현상입니다.

실용적으로 보면 이렇습니다. 400페이지짜리 PDF를 통째로 넣어도 물리적으로 처리는 됩니다. 하지만 그 문서에서 뒤쪽 200페이지에만 있는 핵심 조건이나 예외 사항을 정확히 짚어달라고 하면 응답 품질이 눈에 띄게 떨어집니다. 1M 토큰이라는 숫자는 신호를 받아들이는 그릇의 크기일 뿐, 그릇 끝까지 신호가 고르게 전달된다는 보장은 아닙니다.

그렇다면 어느 정도까지가 실용적인 한계일까요

Lazy Tech Talk(2026년 3월)의 실측 테스트에서는 400페이지 기술 명세서를 단일 패스로 처리하는 데는 Gemini 2.5 Pro가 세 모델(GPT-4o, Claude, Gemini) 중 가장 좋은 결과를 냈습니다. 단, 이 테스트의 전제는 ‘요약 및 핵심 요구사항 추출’이었습니다. 문서 전체의 세부 사실을 빠짐없이 추론해야 하는 업무라면 결과가 다를 수 있습니다. 1M 토큰이라는 숫자를 그대로 업무 근거로 쓰기 전에, 실제 파일로 먼저 테스트해 보는 게 맞습니다.

▲ 목차로 돌아가기

출력 65,535토큰의 진실 — 공식 포럼이 증언합니다

Vertex AI 공식 문서에는 Gemini 2.5 Pro의 최대 출력 토큰이 65,535토큰(기본값)으로 명시돼 있습니다. (출처: docs.cloud.google.com/vertex-ai/generative-ai/docs/models/gemini/2-5-pro) 이론상으로는 약 5만 단어 분량의 텍스트를 한 번에 출력할 수 있는 셈입니다.

그런데 구글 공식 AI 개발자 포럼(discuss.ai.google.dev)에 2026년 1월 4일 올라온 버그 리포트를 보면 이야기가 달라집니다. 사용자가 maxOutputTokens=60000을 설정하고 2만 토큰짜리 문서 생성을 요청했을 때, 모델은 finishReason: STOP을 반환하면서 실제로는 약 2,952토큰에서 멈췄습니다. MAX_TOKENS(한도 초과)가 아니라 STOP(모델 스스로 종료)으로 마무리됐기 때문에 설정 문제가 아니었습니다.

이 현상이 더 명확히 드러난 것은 Gemini 3 모델군에서였습니다. Gemini 3 Pro의 출력 제한이 공식 한도(65K)를 한참 밑도는 21,723토큰에서 사실상 막혔다는 실측 보고가 2026년 2월 Reddit에 올라왔습니다. Gemini 3.1 Pro에서 이 문제가 해결됐다는 사용자 보고가 이어졌다는 건, 역으로 2.5 Pro와 3 Pro 세대에서 이 문제가 실재했음을 보여줍니다.

정리하면 이렇습니다. 긴 보고서나 코드 파일 전체를 단일 응답으로 받아야 하는 작업에서 65,535토큰을 전제로 설계하면 실제 서비스에서 예외가 생길 수 있습니다. 멀티턴 방식(여러 번 나눠서 요청)을 기본 전략으로 삼는 게 더 안전합니다.

▲ 목차로 돌아가기

GPT-4o·Claude Sonnet 4.6과 실측 비교

Lazy Tech Talk 팀이 2026년 3월에 실측한 결과를 바탕으로 세 모델을 직접 비교하면 다음과 같습니다.

(출처: Lazy Tech Talk 실측 테스트, 2026년 3월 / Vertex AI 공식 가격표 기준)

가격 차이가 특히 눈에 띕니다. GPT-4o 대비 Gemini 2.5 Pro의 API 입력 단가는 8분의 1 수준($10/1M vs $1.25/1M)입니다. 대규모 문서 처리 파이프라인을 구축하는 경우 비용 효율이 압도적입니다.

코딩에서는 여전히 Claude가 앞선다는 점

Lazy Tech Talk의 코드 테스트에서 2,000줄짜리 Python 코드베이스에 대한 테스트 슈트 작성 작업을 시켰을 때, Gemini 2.5 Pro도 좋았지만 Claude Sonnet 4.6이 더 관용적이고(idiomatic) 미묘한 버그를 더 많이 잡아냈습니다. 코딩이 주목적이라면 Claude Code 환경이 여전히 우위입니다. Gemini 2.5 Pro는 코딩보다 멀티모달·장문 문서 처리에서 빛납니다.

▲ 목차로 돌아가기

중단일 D-88, 지금 어떻게 준비해야 하나

구글 AI for Developers의 공식 지원 중단 페이지(최종 업데이트: 2026년 3월 11일)에는 gemini-2.5-pro 모델의 종료일이 2026년 6월 17일로 명확히 나와 있습니다. 종료 이후에는 엔드포인트 자체가 비활성화됩니다. 권장 교체 모델은 gemini-3.1-pro-preview입니다.

이걸 단순히 “모델명 한 줄 바꾸면 되잖아요”로 받아들이면 곤란합니다. 교체 모델인 Gemini 3.1 Pro는 현재 프리뷰(Preview) 상태입니다. 정식 출시(GA)가 언제인지 구글이 공식 답변을 내놓지 않은 상황입니다. 프리뷰 모델은 언제든 스펙·가격·응답 형식이 바뀔 수 있고, 프로덕션 SLA(서비스 수준 협약)도 GA와 다릅니다.

가격 변화도 감안해야 합니다. Vertex AI 공식 가격표 기준으로 Gemini 2.5 Pro의 입력 단가는 20만 토큰 이하 기준 $1.25/1M인 반면, Gemini 3.1 Pro의 입력 단가는 $2/1M으로 60% 높습니다. 같은 사용량이라면 월 청구액이 그만큼 올라갑니다. 사용량이 많은 서비스라면 마이그레이션 시점에 예산 계획도 함께 조정해야 합니다.

▲ 목차로 돌아가기

Gemini 2.5 Pro가 아직 가장 유리한 딱 한 가지 상황

단점을 여러 개 짚었지만, 솔직하게 말하면 지금 시점에서도 Gemini 2.5 Pro가 경쟁자들을 압도하는 영역이 있습니다. 바로 영상 이해(Video Understanding)입니다.

GPT-4o는 영상 입력을 프레임 추출 방식으로 처리하는 제한이 있고, Claude Sonnet 4.6은 영상 입력 자체를 지원하지 않습니다. (출처: Lazy Tech Talk 실측 테스트, 2026년 3월) Gemini 2.5 Pro는 원본 영상 파일을 그대로 입력으로 받아 내용을 추론할 수 있는, 현재 상용 모델 중 사실상 유일한 선택지입니다. 제품 데모 영상 분석, 강의 내용 요약, 영상 기반 QA 시스템 구축 같은 워크플로우에서 대체재가 없습니다.

API 가격도 주목할 만합니다. 입력 단가 $1.25/1M는 GPT-4o($10/1M) 대비 8배 저렴하고, Claude Sonnet 4.6($3/1M) 대비 2.4배 저렴합니다. 대용량 문서 처리·영상 분석 파이프라인을 대규모로 돌린다면 이 격차가 직접적인 운영 비용으로 이어집니다. 예를 들어 하루 1,000만 토큰씩 처리하는 서비스라면 GPT-4o 대비 월 약 $270의 비용 차이가 납니다(입력 기준, 30일 계산).

다만 이 장점도 6월 17일 이후엔 같은 가격과 스펙이 Gemini 3 계열로 넘어갑니다. 지금 당장 영상 처리 파이프라인을 Gemini 2.5 Pro 기반으로 새로 짜는 건, 종료일을 고려하면 처음부터 Gemini 3.1 계열로 시작하는 게 낫습니다. 지금 이미 운영 중인 서비스라면 마이그레이션 여유가 아직 88일 있습니다.

▲ 목차로 돌아가기

Q&A 5선

▲ 목차로 돌아가기

마치며

Gemini 2.5 Pro는 1M 컨텍스트와 네이티브 영상 이해라는 두 가지 무기에서 여전히 경쟁자가 없습니다. API 가격도 GPT-4o 대비 8분의 1이라 대규모 파이프라인에서 비용 효율이 확실히 납니다.

그런데 이 모델을 계속 쓰기 위해서는 세 가지를 직시해야 합니다. 첫째, 100만 토큰 전체를 고르게 활용한다는 가정은 현실과 다릅니다. 둘째, 출력 65,535토큰도 실제 단일 응답에서 그 한도에 도달하는 경우가 드뭅니다. 셋째, 2026년 6월 17일이면 이 모델은 종료됩니다.

지금 Gemini 2.5 Pro를 쓰고 있다면 지금 당장 마이그레이션 계획을 잡아두는 게 맞습니다. 새로 시작하는 프로젝트라면 처음부터 Gemini 3.1 Pro Preview로 검증하는 게 더 효율적입니다. 이 글이 실제 판단에 도움이 됐으면 합니다.

본 포스팅 참고 자료

1. Google AI for Developers — Gemini 모델 지원 중단 공식 페이지 (최종 업데이트: 2026.03.11)
2. Vertex AI 공식 문서 — Gemini 2.5 Pro 모델 스펙 및 버전 정보
3. Google Cloud Vertex AI 공식 가격표 (Gemini 2.5 / 3 계열 포함)
4. Google AI 개발자 포럼 — 출력 토큰 실제 제한 버그 리포트 (2026.01.04)
5. Lazy Tech Talk — Gemini 2.5 Pro vs GPT-4o vs Claude 실측 비교 (2026년 3월)