MARS AI 연구 에이전트란? — 기존 AI와 무엇이 다른가

MARS AI 연구 에이전트(마스, Modular Agent with Reflective Search)는
구글과 스탠포드대학교 연구진이 2026년 2월 2일 arXiv에 게재한 자율 AI 연구 자동화 프레임워크입니다.
단순히 “코드를 생성하는 AI”가 아니라, 머신러닝 연구 전 과정 — 문제 파악, 실험 설계, 코드 작성, 결과 분석, 전략 수정 — 을
스스로 수행하도록 설계되었습니다.

기존 LLM 기반 에이전트들은 AI 연구 자동화 앞에서 두 가지 치명적 약점을 드러냈습니다.
첫째, 실행 비용을 무시한 채 거대한 스크립트를 만들어 GPU 자원을 낭비했습니다.
둘째, 성능이 나빠진 이유가 데이터 전처리 문제인지 하이퍼파라미터 조정 탓인지
정확히 가려내지 못했습니다. 연구 하나를 학습하는 데 수 시간~수 일이 걸리는 현실에서,
이런 낭비는 치명적입니다.

마스는 이 문제를 정면 돌파했습니다. 연구 과정을 “최적의 소프트웨어 저장소를 찾는 탐색 문제”로
재정의하고, 비용 인식 + 모듈화 + 경험 축적이라는 세 가지 축으로 해결책을 구현했습니다.
2026년 3월 현재, 한국어로 마스를 제대로 소개한 콘텐츠는 거의 없습니다.
이 글이 국내 최초 심층 분석이라고 해도 과언이 아닙니다.

▲ 목차로 돌아가기

세 가지 핵심 기둥 — 마스가 똑똑한 이유

마스의 성능은 세 가지 설계 원칙에서 나옵니다. 각각을 이해하면
왜 마스가 기존 AI 에이전트와 근본적으로 다른지 바로 파악할 수 있습니다.

▲ 목차로 돌아가기

MLE-벤치 성능 결과 — 숫자로 증명된 압도적 차이

마스의 성능은 오픈AI가 공개한 MLE-벤치(MLE-bench) 기준으로 측정됐습니다.
MLE-벤치는 캐글(Kaggle) 경진대회 75개 문제를 기반으로 AI 에이전트의 머신러닝 엔지니어링 역량을 평가하는
벤치마크입니다. 실제 데이터 사이언스 경진대회를 그대로 가져왔기 때문에, 현실 적합성이 높습니다.

특히 주목할 만한 것은 코드 표절 검사 결과입니다. 공개된 캐글 노트북 코드와의
유사도가 대부분 60% 미만으로 나타났습니다. 즉, 마스는 인터넷에 공개된 해답을 베끼는 것이 아니라
스스로 새로운 해법을 생성하고 있다는 뜻입니다. 이것이 진짜 의미 있는 수치입니다.
금메달률 31.1%는 숫자 자체보다 “창의적 해법 생성”이라는 질적 사실이 더 중요합니다.

▲ 목차로 돌아가기

재귀적 자기 개선 — AI가 스스로 성장하는 루프

마스의 가장 독보적인 특성은 연구진이 강조한 ‘재귀적 자기 개선(recursive self-improvement)’입니다.
에이전트가 실패 원인을 분석하고, 그 결론을 다음 시도에 반영하는 지속 학습 루프를 구현했습니다.
이것은 단순히 “더 많은 데이터로 학습한다”는 의미가 아닙니다.

비교 성찰적 메모리가 쌓은 교훈의 63%가 “같은 실험 경로 내”가 아닌
“다른 탐색 경로 사이의 교차 전이“에서 비롯됐습니다.
즉, 실험 A에서 배운 교훈이 전혀 다른 문제인 실험 B를 풀 때 활용됩니다.
이것이 인간 연구자의 직관과 가장 유사한 점입니다.
숙련된 데이터 사이언티스트가 “예전에 이미지 분류에서 배운 기법을 NLP 문제에 응용하는” 것과 같은 원리입니다.

연구진은 이 현상을 “아하 모멘트(Aha! moment)”라고 불렀습니다.
단순 패턴 매칭이 아닌, 이전 경험에서 추상화한 인사이트를 새 상황에 적용하는
— 일종의 창의적 연결 — 이 에이전트 수준에서 나타나고 있다는 것입니다.
이것이 사실이라면, 마스는 AI가 “도구”에서 “연구 주체”로 전환하는 첫 번째 현실적 사례가 됩니다.

왜 지금까지 이런 AI가 없었을까?

ML 연구 자동화는 일반 소프트웨어 자동화보다 훨씬 어렵습니다. 단 하나의 모델을 훈련시키는 데도
수 시간이 걸리기 때문에, 잘못된 실험 방향을 뒤늦게 인식하면 막대한 시간과 비용을 낭비하게 됩니다.
기존 에이전트들은 이 비용 구조를 제대로 인식하지 못했고, 마스의 MCTS 기반 예산 인식 설계가
이 장벽을 처음으로 효과적으로 돌파했습니다.

▲ 목차로 돌아가기

실무 활용 가능성 — 나는 마스를 어떻게 써야 할까?

마스는 논문 공개와 함께 arXiv에 프레임워크 정보가 공개됐으며,
머신러닝 엔지니어, 데이터 사이언티스트, AI 연구자 등이 활용할 수 있습니다.
현재 상용 서비스 형태로 배포된 것은 아니지만, 관련 코드와 구조를 참고해
자체 실험 파이프라인에 적용하는 것이 가능합니다.

누가 가장 먼저 쓸 수 있을까?

① 캐글 참여자·데이터 사이언티스트: MLE-벤치가 캐글 기반이라는 점에서,
마스의 구조를 캐글 경진대회 파이프라인에 직접 적용해 볼 수 있습니다.
특히 모듈식 구성 원칙은 복잡한 피처 엔지니어링 코드를 관리할 때 즉시 유용합니다.

② 스타트업 ML 팀: GPU 두 개만으로 59.6% 메달 획득률을 낸 MARS+는
GPU 수백 개를 쓰는 빅테크 대비 현실적인 대안입니다. 비용 효율성을 최우선으로 하는
소규모 팀에게 마스의 예산 인식 설계 원리는 곧바로 응용할 수 있는 아이디어입니다.

③ AI 연구 자동화에 관심 있는 개발자: 마스의 비교 성찰적 메모리 개념은
자체 AI 실험 관리 툴(MLflow, Weights & Biases 등)과 결합해 “교훈 축적 레이어”를
별도로 구현하는 방향으로 확장할 수 있습니다.

▲ 목차로 돌아가기

한계와 과제 — 마스가 아직 못 하는 것

마스가 인상적인 성과를 냈지만, 연구진 스스로 명확한 한계를 지적했다는 점에서
오히려 신뢰할 수 있습니다. 맹목적인 기술 낙관론을 경계해야 합니다.

첫째, 정해진 벤치마크 환경 내에서의 결과입니다. MLE-벤치는 캐글 경진대회 형태로
명확한 목적 함수(최적화할 지표)가 주어집니다. 하지만 실제 연구에서는 무엇을 최적화해야 할지
문제 정의 자체가 불분명한 경우가 많습니다. 마스는 아직 “무엇을 연구할지 스스로 결정하는”
단계에는 이르지 못했습니다.

둘째, 완전히 새로운 이론 창출은 아직 불가합니다. 마스는 기존 방법론을 조합하고
개선하는 데는 뛰어나지만, 기존에 없던 새로운 학습 패러다임을 직접 발명하는 것은
아직 인간 연구자의 영역입니다. 연구진도 “창의적 연구 단계까지는 추가 검증이 필요하다”고
명시했습니다.

셋째, 실행 비용이 여전히 존재합니다. MARS+는 GPU 두 개를 사용하며,
단기간에 결과를 내야 하는 경우 비용 부담이 발생할 수 있습니다.
일반 개인 개발자가 클라우드에서 돌리면 비용이 적지 않을 수 있습니다.

▲ 목차로 돌아가기