Gemini 3.1 Pro, 추론 2배라는 말이 반은 맞습니다

구글이 2026년 2월 19일 공개한 Gemini 3.1 Pro는 ARC-AGI-2 벤치마크에서 77.1%를 기록했습니다. 이전 버전인 Gemini 3 Pro 대비 두 배 이상 향상된 수치입니다. 근데 솔직히 말하면, 이 숫자만 보고 쓰기 시작하면 막히는 지점이 꽤 있습니다. temperature를 낮추면 오히려 성능이 나빠지고, thinking loop에 빠지면 크레딧이 통째로 날아가는 상황도 실제로 발생합니다. 공식 문서와 실사용 데이터를 교차해서 확인했습니다.

Gemini 3.1 Pro가 뭐가 달라졌나요?

2026년 2월 19일 공개된 Gemini 3.1 Pro는 Gemini 3 시리즈의 핵심 추론 엔진을 업그레이드한 버전입니다. 구글 공식 블로그는 “단편적인 문답을 넘어, 고도의 추론이 요구되는 고난도 작업을 위해 설계됐다”고 설명합니다. (출처: Google Blog KR, 2026.02.19)

아키텍처 측면에서는 Gemini 3 Pro와 동일한 Sparse MoE(희소 전문가 혼합) 트랜스포머 기반을 유지하면서, 내부 사고 프로세스의 효율을 높였습니다. Vertex AI 공식 문서에 따르면 3.1 Pro에서 새로 추가된 주요 변경 사항은 세 가지입니다. SWE(소프트웨어 엔지니어링) 및 에이전트 성능 개선, thinking 토큰 효율 향상, thinking_level 파라미터에 MEDIUM 옵션 추가입니다. (출처: Google Cloud Vertex AI 공식 문서, 2026.03.15 기준)

배포 채널은 Google AI Studio API, Gemini CLI, Google Antigravity(에이전트 개발 플랫폼), Android Studio를 통해 프리뷰 버전으로 제공됩니다. Vertex AI와 Gemini Enterprise도 지원합니다. 일반 이용자는 Gemini 앱(Google AI Pro·Ultra 구독자 대상)과 NotebookLM(Pro·Ultra 독점)에서 사용할 수 있습니다.

▲ 목차로 돌아가기

ARC-AGI-2 77.1%, 이 숫자가 의미하는 것

ARC-AGI-2는 사람이 직관적으로 풀지만 AI가 어려워하는 ‘완전히 새로운 논리 패턴’을 평가하는 벤치마크입니다. 기존 학습 데이터에 없는 새로운 규칙을 추론해야 하기 때문에, 단순 암기나 패턴 매칭으로는 점수를 낼 수 없습니다.

77.1%라는 수치는 단순히 성능이 올랐다는 의미가 아닙니다. 두 배 이상 향상됐다는 건, 이전에 절반 이상 틀리던 새로운 추론 문제를 이제 대부분 맞힌다는 뜻입니다. Vertex AI에서 실시한 코딩 테스트에서는 3 Pro 대비 소프트웨어 엔지니어링 문제 해결 정확도가 35% 더 높았습니다. (출처: Google Cloud Blog KR, 2025.11.19)

▲ 목차로 돌아가기

temperature 낮출수록 좋아지지 않는 이유

AI 모델을 쓸 때 “정확한 답이 필요하면 temperature를 낮춰라”는 게 오래된 통설입니다. 하지만 Gemini 3.1 Pro에서는 이 방식이 역효과를 냅니다. 공식 문서가 직접 경고하는 내용입니다.

temperature를 0.1~0.5 수준으로 낮추면 모델이 더 결정적으로 행동할 것 같지만, Gemini 3.1 Pro의 추론 기능은 1.0 설정에 최적화돼 있습니다. 낮추면 추론 루핑이 생기거나 성능이 오히려 떨어집니다. 이전 모델들과 완전히 다른 방향입니다.

이유는 아직 공개되지 않았습니다. 다만 Gemini 3 시리즈가 기본적으로 “동적 사고(dynamic thinking)”를 쓰기 때문에, 내부 추론 과정이 temperature 변화에 민감하게 반응하는 것으로 볼 수 있습니다. topP(기본 0.95)와 topK(64 고정)는 그대로 두는 게 안전합니다.

▲ 목차로 돌아가기

thinking loop 버그, 크레딧이 통째로 사라지는 조건

출시 직후부터 실사용자들 사이에서 같은 증상이 반복 보고됐습니다. “100초 이상 사고를 지속한 후 아무것도 출력하지 않고 출력 토큰 한도 초과 오류만 발생한다”는 내용입니다. (출처: Reddit r/google_antigravity, 2026.02.22)

한 사용자는 “70줄짜리 코드 수정을 요청했는데 3분간 사고만 하다가 엉뚱한 결과를 냈다”고 밝혔습니다. 또 다른 사용자는 “2일 전까지 잘 됐는데 3.1 업데이트 이후 thinking loop에 빠져 크레딧을 전부 소진했다”고 했습니다. 두 사례 모두 Google AI Pro 구독자입니다.

Google Support 스레드에서도 “Dynamic Thinking 과부하 또는 재귀적 Context Caching 루프에서 극심한 지연과 컨텍스트 오류가 발생한다”고 확인됩니다. (출처: Google Support, 2026.03.03)

Vertex AI 공식 문서에는 3.1 Pro에 “token efficiency and thinking 개선”이 적혀 있지만, 출시 초기에는 오히려 반대 현상이 나타난 것입니다. 공식 문서가 뒤따라오고 있는 상황입니다.

▲ 목차로 돌아가기

API 비용, 20만 토큰 기준이 왜 중요한가

계산을 직접 해보면 체감이 됩니다. 입력 35만 토큰 + 출력 1만5천 토큰짜리 연구 분석 1건의 비용은 이렇습니다.

하루 100건의 장문 컨텍스트 요청을 처리하면 월 약 $50~$70이지만, 영상이 포함된 에이전트 워크플로에서는 최적화 없이 쉽게 수천 달러가 됩니다. 20만 토큰 경계를 의식적으로 관리하는 것이 비용의 핵심입니다.

▲ 목차로 돌아가기

실제로 쓸 만한 상황과 아닌 상황

공식 발표문과 실제 사용 흐름을 같이 놓고 보면 이런 패턴이 보입니다. 추론 능력이 높아졌다고 해서 모든 상황에서 유리한 게 아닙니다.

특히 다른 모델(Gemini 2.5 등)에서 3.1 Pro로 대화 기록을 넘길 때 thinking signature가 없으면 오류가 납니다. 공식 문서에는 이 경우 더미 문자열 "context_engineering_is_the_way_to_go"를 서명 필드에 넣으라는 우회 방법이 명시돼 있습니다. 이런 식의 임시방편이 공식 문서에 올라와 있다는 점이 현재 상태를 잘 보여줍니다.

▲ 목차로 돌아가기

자주 묻는 질문

▲ 목차로 돌아가기

마치며

개인적인 판단으로는, 현재 시점에서 Gemini 3.1 Pro를 그냥 “켜놓고 쓰는” 방식은 비효율적입니다. thinking_level 조정, 작업 단계 분리, 20만 토큰 경계 관리, 커스텀 도구 엔드포인트 분리 — 이 네 가지를 챙길 준비가 됐을 때 제 성능을 뽑을 수 있습니다. 반대로 그냥 연결만 해놓으면 비용 폭탄과 빈 응답을 먼저 만날 가능성이 있습니다.

프리뷰 딱지가 붙은 이유가 있습니다. 지금은 테스트하면서 조건을 파악하는 단계로 쓰고, 안정 버전이 나오면 그때 본격적으로 투입하는 게 현실적입니다.

▲ 목차로 돌아가기

📎 본 포스팅 참고 자료

1. Google Blog KR — 복잡한 과제 해결을 위해 더욱 스마트해진 ‘제미나이 3.1 프로’ (blog.google, 2026.02.19)
2. Google AI for Developers — Gemini 3 개발자 가이드 (ai.google.dev)
3. Google Cloud Vertex AI — Gemini 3.1 Pro 공식 스펙 문서 (docs.cloud.google.com)
4. Apidog Blog — Gemini 3 Pro API 가격 분석 (apidog.com)
5. Reddit r/google_antigravity — 실사용 thinking loop 보고 (reddit.com, 2026.02.22)
6. Google Support — Gemini 3.1 Pro 기술 이슈 스레드 (2026.03.03)