Gemini 3.5 Flash vs 3.1 Pro: 속도, 에이전트, 비용 비교

저는 Dora입니다. 2026년 5월 19일 Google I/O 출시 이후 Gemini 3.5 Flash vs 3.1 Pro 수치를 계속 살펴보고 있었는데, 간단히 말하면: 계층 역전은 실제로 일어났고, 마케팅이 아니며, 이미 설정 파일에 고정해둔 라우팅 결정에 영향을 미칩니다.

Flash 모델은 품질을 속도와 맞바꾼다고 알려져 있습니다. 3.5 Flash는 그 공식을 깨뜨립니다 — 적어도 실제 프로덕션 에이전트가 실행하는 워크로드에서는요.

이 비교가 특별한 이유: Flash가 이전 Pro를 이기다

Google이 I/O 2026에서 보여준 것

Gemini 3.5 Flash는 5월 19일 GA로 출시됐으며, 안정적인 모델 ID는 preview 접미사 없이 Gemini-3.5 Flash입니다. Google의 주요 주장: 코딩 및 에이전트 벤치마크에서 Gemini 3.1 Pro를 능가하면서도 비슷한 수준의 프론티어 모델보다 약 4배 빠르게 실행되며, 종종 절반 이하의 비용으로 동작한다는 것입니다.

계층 역전을 한 문단으로 설명

Flash는 실제 작업처럼 보이는 벤치마크에서 3.1 Pro를 이깁니다: Terminal-Bench 2.1 (76.2% vs 70.3%), MCP Atlas (83.6% vs 78.2%), Finance Agent v2 (57.9% vs 43.0%), GDPval-AA Elo (1656 vs 1314). 순수 파라메트릭 지식과 추상적 추론이 지배하는 벤치마크인 Humanity’s Last Exam (40.2% vs 44.4%)과 ARC-AGI-2 (72.1% vs 77.1%)에서는 Pro에 뒤집니다. Gemini 3.5 Flash vs 3.1 Pro를 평가할 때 구분은 명확합니다: 에이전트 작업은 Flash로, 어려운 추론은 Pro로.

정면 대결: 벤치마크와 실제 측정 내용

Gemini 3.5 Flash 벤치마크에서 3.1 Pro를 상대로 한 사례는 보편적이지 않고 구체적입니다. 수치가 실제로 보여주는 것은 다음과 같습니다.

Terminal-Bench 2.1은 다단계 터미널 작업 실행 능력을 측정합니다 — 파일 시스템 상태 읽기, 스크립트 작성 및 실행, 오류 출력 처리, 재시도. Flash는 3.1 Pro의 70.3%에 대해 76.2%를 기록합니다. 약 6포인트 차이는 모델이 인간 운영자에게 조언하는 것이 아니라 터미널을 직접 조작하는 자동화 파이프라인에서 의미 있습니다.

MCP Atlas는 제가 계속 돌아오게 되는 벤치마크입니다. 확장된 도구 사용 신뢰성을 테스트합니다 — 모델이 확장된 다중 호출 시퀀스(작업당 8~~15번 호출, 호출당 4k~~12k 토큰 컨텍스트)에서 올바른 도구 호출을 얼마나 잘 유지하는지. Flash의 83.6%는 3.1 Pro의 78.2%를 이기고, Claude Opus 4.7 (79.1%)과 GPT-5.5 (75.3%)를 포함한 모든 경쟁자를 앞섭니다. 웹 검색, 벡터 데이터베이스, 코드 실행 샌드박스를 통합하는 자율 에이전트를 구축하는 개발자에게 이것이 가장 중요하게 고려해야 할 벤치마크입니다.

GDPval-AA Elo: Flash 1656 대 Pro 1314. 실제 작업 에이전트 평가에서 342포인트 차이. 반올림 오류가 아닙니다.

3.1 Pro가 여전히 이기는 곳 (ARC-AGI-2, 장문 컨텍스트 검색)

ARC-AGI-2 점수는 5포인트 차이로 Pro가 앞섭니다 (77.1% vs 72.1%). 새로운 패턴 인식, 복잡한 논리적 추론, 또는 훈련 데이터 패턴에 매핑되지 않는 문제가 필요한 작업에서 3.1 Pro가 우위를 점합니다.

장문 컨텍스트 격차는 실제로 데이터를 기반으로 테스트해봐야 하는 부분입니다. 128K 컨텍스트에서의 MRCR v2는 3.1 Pro가 84.9%, Flash가 77.3%로 7.6포인트 차이를 보입니다. 매우 긴 문서에서 특정 정보를 검색하거나, 법률 문서 분석, 또는 needle-in-a-haystack 검색이 필요한 경우 3.1 Pro가 여전히 더 강력한 선택입니다.

솔직한 주의사항 하나: 위의 모든 주요 수치는 Google이 자체 보고한 것입니다. 결론을 내리기 전에 자신의 프롬프트와 도메인 제약 조건으로 검증하세요.

멀티모달 이해 점수

CharXiv Reasoning: Flash 84.2%, GPT-5.5의 84.1%를 근소하게 앞섭니다. OSWorld: 78.4%, GPT-5.5 (78.7%)와 동등. 멀티모달 파이프라인에서 Flash는 가장 명확한 업그레이드 사례를 보입니다.

가격 및 지연 시간

Gemini 3.5 Flash 가격

Gemini 3.5 Flash 가격: 입력 토큰 100만 개당 $1.50, 출력 토큰 100만 개당 $9. 캐시된 입력은 1M당 $0.15로 낮아집니다 — 에이전트 루프 전체에서 반복되는 시스템 프롬프트를 실행하는 경우 관련 있는 수치입니다. 컨텍스트 윈도우: 입력 토큰 1,048,576개, 출력 토큰 65,536개. 동적 사고는 비용/성능 트레이드오프를 위한 레벨(최소, 낮음, 중간, 높음)과 함께 기본적으로 활성화되어 있습니다.

Gemini 3.1 Pro Preview 단위 비용

Gemini 3.1 Pro: 캐시 미스 입력 토큰 100만 개당 $2.00, 출력 토큰 100만 개당 $12.00. 컨텍스트 윈도우: 2.0M 토큰. 최대 출력: 요청당 16K 토큰. 200K 컨텍스트 초과 시 가격은 입력 $4.00 / 출력 $18.00으로 상승합니다. Flash는 4배의 출력 한도 이점을 가집니다(응답당 65K vs 16K), 이는 잘림 없이 완전한 코드 파일을 생성하는 데 중요합니다.

처리량 비교

Flash는 Pro의 109 토큰/초 대비 약 284 토큰/초를 제공합니다. Pro로 3분 걸리는 워크플로우가 Flash로는 90초 이내에 완료될 수 있으며, 토큰당 비용은 25% 낮습니다.

속도 자체가 목표가 아닙니다. 흐름을 끊지 않는 것이 중요합니다. 에이전트 단계당 3번 이상의 도구 호출에서 그 격차는 빠르게 복리로 쌓입니다.

프로덕션 라우팅 결정

Flash가 올바른 기본값인 경우

다음 경우에 Flash를 라우팅 기본값으로 사용하세요:

에이전트가 작업당 여러 순차적 도구 호출을 수행하는 경우 (MCP, 함수 호출, 코드 실행 샌드박스)
CI/CD 파이프라인 또는 터미널 자동화 워크로드에 있는 경우
요청당 컨텍스트가 100K 토큰 이하인 경우
응답 시간이 사용자에게 보이는 경우 — 284 토큰/초 대 109의 차이는 인터랙티브 제품에서 중요합니다

MCP 기반 에이전트의 경우, 차이가 확실합니다. Flash는 MCP Atlas에서 5.4포인트, Toolathlon에서 7.1포인트, Finance Agent v2에서 14.9포인트 앞섭니다. 속도 이점은 다단계 루프에서 복리로 쌓입니다. $0.15/1M의 캐시된 입력은 고빈도 도구 사용을 Pro 실행보다 10배 저렴하게 만듭니다.

3.1 Pro가 여전히 비용 가치가 있는 경우

두 가지 경우입니다. 하나는 순수 추론: 알고리즘 설계, 증명 구성, 출력을 실행하여 검증할 수 없는 복잡한 디버깅. ARC-AGI-2에서 77.1% vs 72.1%가 신호입니다. 오류 비용이 높고 한 번의 기회만 있는 작업에서 그 격차는 중요합니다.

두 번째 경우는 장문 컨텍스트입니다. 검색이 128K 토큰 이상에서 작동하는 경우 — 전체 코드베이스 분석, 장문 문서 RAG, 계약서 — 전환 전에 실제 검색 길이를 기준으로 MRCR v2 격차를 테스트하세요. 3.1 Pro의 2.0M 컨텍스트 윈도우는 Flash가 따라올 수 없는 여유 공간을 제공합니다.

두 모델 중 하나를 선택하는 대신 3.5 Pro를 기다려야 할 때

Gemini 3.5 Pro는 5월 19일 I/O에서 발표됐지만 아직 제한된 Vertex 프리뷰 상태이며, 2026년 6월 GA 예정입니다. 2M 토큰 컨텍스트 윈도우, Deep Think 추론, 프론티어 멀티모달을 목표로 합니다 — Gemini Ultra가 다루던 사용 사례들입니다.

핵심 요구사항이 대규모의 어려운 추론이고 2M 컨텍스트 윈도우가 필요하다면 3.5 Pro를 기다리세요. 현재 Pro는 3.1이고 해당 벤치마크에서 이깁니다. 3.5 Pro는 그 차이를 더 벌릴 가능성이 높습니다.

실질적인 질문은 일정입니다. 지금 당장 프로덕션 트래픽을 라우팅해야 한다면, Flash와 3.1 Pro 사이에서 선택하는 것입니다. 자신의 특정 작업 분포에 대해 직접 평가를 실행하세요. 제가 말하는 어떤 것보다 더 많은 것을 알려줄 것입니다.

고가용성 스택을 위한 폴백 패턴

깔끔한 패턴은 전역 모델 ID 교체가 아닌 요청 분류기입니다. “모든 Gemini-3.1-pro-preview 문자열을 Gemini-3.5-Flash로 교체”하는 방식으로 마이그레이션을 실행하지 마세요. 그것이 좋은 출시 소식이 프로덕션 회귀로 변하는 방법입니다.

실용적인 폴백 로직:

기본: 에이전트 및 코딩 워크로드에 Gemini-3.5-Flash
추론 작업 시 에스컬레이션: Gemini-3.1-pro-preview — 작업 분류기에 의해 트리거 (장문 컨텍스트, 새로운 추론, 재시도 불가 제약)
429 / 할당량 소진 시: 먼저 지수 백오프로 Flash 재시도; 두 번 실패 후에만 Pro로 에스컬레이션
5xx 시: 즉시 Pro로 폴백, 모델 ID 및 실패 이유 로깅

모델 ID, 프롬프트 크기, 토큰 수, 도구 호출 수, 지연 시간, 폴백 이유, 사용자에게 보이는 결과를 로깅하세요. 해당 필드 없이는 라우팅 성능을 측정하는 대신 모델 선호도를 놓고 논쟁하게 될 것입니다.

모델 집계에서의 의미

단계적 롤아웃이 단일 벤더 의존을 더 위험하게 만드는 이유

이번 달의 Gemini 에이전트 벤치마크 상황은 2025~2026년을 통해 가속화된 패턴을 보여줍니다: Flash 계층 모델이 에이전트 작업에서 이전 Pro를 이기고, Pro는 추론에서 유지됩니다. 다음 달에 3.5 Pro가 출시됩니다. 순위가 다시 재설정됩니다.

인프라를 단일 모델 ID에 하드코딩하면 각 릴리스마다 시간 압박 하에 마이그레이션이 강요됩니다. 이 사이클을 매끄럽게 처리한 팀들은 이미 모델 이름이 아닌 작업 클래스로 라우팅하고 있었습니다.

한 벤더 내 계층 간 + 벤더 간 라우팅

많은 도구를 갖는 것이 문제가 아닙니다. 도구를 관리해야 하는 것이 문제입니다.

이 결론에는 만료 날짜가 있습니다. Gemini 3.1 Pro vs Gemini 3.5 Flash 결정은 오늘 대부분의 프로덕션 에이전트 작업에서 Flash처럼 보입니다. 6월에 모델 카드가 공개될 때 3.5 Pro 벤치마크를 확인하세요. 지금 구축하는 라우팅 로직은 해당 재평가를 코드 변경이 아닌 설정 변경으로 만들어야 합니다.

FAQ

Gemini 3.5 Flash가 Gemini 3.1 Pro보다 엄격히 더 낫나요?

아닙니다. Flash는 에이전트 작업, 도구 사용, 코딩, 멀티모달 벤치마크에서 3.1 Pro를 능가합니다. 그러나 3.1 Pro는 여전히 순수 추상 추론 (ARC-AGI-2)과 128K 토큰 이상의 장문 컨텍스트 검색에서 앞섭니다. 더 나은 모델은 전적으로 워크로드 분포에 달려 있습니다.

지금 당장 3.1 Pro에서 3.5 Flash로 마이그레이션해야 하나요?

상황에 따라 다릅니다. 워크로드가 에이전트, 다단계 도구 호출, 터미널 자동화, 또는 코딩 작업 위주라면, 마이그레이션은 보통 가치 있습니다 — 더 나은 벤치마크 성능, 약 3배 더 높은 처리량, 더 낮은 비용을 얻을 수 있습니다. 장문 컨텍스트 RAG 또는 오류 비용이 높은 중요한 추론의 경우, 전환 전에 먼저 자신의 프롬프트를 테스트하세요.

Gemini 3.5 Pro는 언제 출시되나요?

Gemini 3.5 Pro는 I/O 2026에서 발표됐지만 아직 일반 출시되지 않았습니다. 현재 제한된 프리뷰 상태입니다. Google은 전체 출시 목표로 2026년 6월을 제시했습니다. 현재 프로덕션 Pro 모델은 Gemini 3.1 Pro Preview로 유지됩니다.

Gemini 3.5 Flash에 무료 티어가 있나요?

네, 일일 할당량이 있는 무료 티어가 있습니다. 그러나 진지한 프로덕션 에이전트 워크로드의 경우, 무료 티어 한도는 빠르게 소진될 가능성이 높습니다. 대부분의 프로덕션 사용 사례는 유료 티어를 계획해야 합니다.

결론

Gemini 3.5 Flash vs 3.1 Pro 구분은 대부분의 Flash vs. Pro 비교보다 더 명확합니다. Flash는 프로덕션처럼 보이는 작업에서 이깁니다: 에이전트, 도구 호출, 터미널 작업, 멀티모달 그라운딩. Pro는 연구처럼 보이는 작업에서 이깁니다: 어려운 추론, 장문 컨텍스트 검색, 새로운 추론.

에이전트 워크로드에는 Flash를 기본으로 사용하세요. 추론이 많은 요청과 128K 이상의 장문 컨텍스트 검색을 위한 에스컬레이션 대상으로 Pro를 유지하세요. 6월의 3.5 Pro 출시가 마이그레이션 스프린트가 아닌 설정 업데이트가 되도록 지금 폴백 로직을 구축하세요.

여기서 제 데이터가 끝납니다. 프로덕션에 라우팅 변경을 커밋하기 전에 자신의 작업 분포에서 실행해보세요.

이전 포스트: