본문으로 건너뛰기
News

Handshake AI가 본 프런티어 연구소의 데이터 구매 기준: 금융·생명과학·코딩 환경별 평가 사례

What Frontier Labs Buy: A Data Deep Dive with Handshake AI — Garrett Lord & Team

Handshake AI의 AI 학습 사업은 출시 약 1년 만에 연간 gross 매출 10억 달러에 도달했고, Latent Space는 Garrett Lord 팀과 함께 금융(ATLAS-Finance), 생명과학(VIALS), 코딩(파일 접근 시뮬레이션) 영역의 강화학습 환경을 실시간으로 시연했다. 프런티어 연구소가 어떤 데이터와 평가를 사는지 구체적으로 보여준다는 점에서 중요하다. 금융 시연에서 에이전트는 은행 이메일에서 과제를 찾고, 거래를 규율하는 파일을 판단한 뒤 워크북을 제출해야 한다. 고객 이메일의 기존 goodwill 항목 한 줄을 에이전트가 Python으로 옮겨 차감하는 과정에서 실수가 나왔고, 세금 처리 설명은 직접 물으면 정확히 답했지만 해당 코드 줄에 규칙을 적용해야 할 때 틀렸다. 생명과학 과제에서는 VIALS 벤치마크로 과학자가 쓰는 이미지를 해석하게 하며, 뇌종양 조직 슬라이드 아홉 장 중 가장 진행된 혈관 괴사 두 장을 고르는 문제를 다룬다. 코딩 시뮬레이션에서는 에이전트가 어떤 파일을 읽었는지, 복사본을 확인했는지, 이후 shell history에 무엇을 남겼는지 점검한다. 기사는 모델이 여전히 인간 수준에 못 미치는 영역으로 과학 이미지 판독과 규칙을 코드 단계에 적용하는 일을 함께 꼽는다. 최종 답변 텍스트만으로는 이런 과정을 놓친다는 점도 강조한다.

Excel 채점기(Excel grader)와 파일 접근 로그, shell history를 함께 보는 방식은 에이전트 평가에서 최종 답변 외에 중간 도구 호출을 검사해야 한다는 실무 기준이 된다.

원문 출처

Latent Space (swyx & Alessio)

원문 보기 ↗
AI 리서치·논문고급·

Cognition, merge 가능성 평가 벤치마크 FrontierCode 공개에 Opus 4.8도 13.4%

Cognition(Devin 개발사)이 6월 8일 정답 여부를 넘어 '실제로 머지할 코드인가'를 묻는 코딩 벤치마크 FrontierCode를 공개했다. 36개 주력 오픈소스 레포에서 추출한 150개 태스크로 구성되며, 20명 이상의 일급 메인테이너가 태스크당 40시간 넘게 투입해 설계했다. 난이도는 Extended(150)·Main(100)·Diamond(최난 50)로 중첩 구성된다. 채점은 기능 정확성에 더해 회귀 안전성, 스코프 침범(scope creep) 여부, 테스트 품질, 코드베이스 규약 준수까지 평가한다. 고전적 단위 테스트, 에이전트가 작성한 테스트가 망가진 코드에서 실제로 실패하는지 검증하는 역방향 테스트, 파일·diff 경계 검증, LLM 기반 코드 품질 리뷰를 결합한다. 'blocker' 기준을 모두 통과해야 0점을 면한다. 최고 성적은 Claude Opus 4.8로 Diamond 13.4%·Main 34.3%·Extended 51.8%, GPT-5.5는 Diamond 6.3%, Gemini 3.1 Pro는 4.7%에 그쳤다. SWE-Bench Pro 대비 오탐률(false positive)이 81% 낮다.

SWE-bench류 포화 속에서 '테스트만 통과하면 통과'라는 벤치마크의 맹점을 정면으로 겨냥했다 — METR도 고득점 패치가 메인테이너에게 거절되는 현상을 지적해왔다. Diamond 13.4%라는 낮은 천장은 에이전트 코드의 프로덕션 머지 적합성이 마케팅 수치보다 훨씬 뒤처져 있음을 보여준다. 한국 개발팀에는 코딩 에이전트 도입 시 정답률이 아니라 회귀·스코프·리뷰 통과율로 평가 기준을 재설정하라는 실무 지침이다.

Cognition원문
AI 리서치·논문입문·

Grok 5, Q1 데드라인 넘겨 Q2 베타 전망에 6T 파라미터 MoE 루머

xAI의 Grok 5가 2026년 6월 기준으로 여전히 학습 중이며 공식 출시일·스펙은 발표되지 않았다. xAI는 1월 시리즈 E 업데이트에서 학습이 진행 중임을 확인했고, 일론 머스크가 원래 노렸던 Q1 2026 출시 창은 지나갔다. 현재 xAI 공식 X 계정 기준 가장 유력한 시점은 Q2 2026 공개 베타로 좁혀진다. 스펙은 전부 루머 단계지만 일관되게 거론되는 수치는 6조(6T) 파라미터 + MoE 아키텍처로, 사실이라면 공개 발표된 모델 중 최대 규모이자 Grok 4의 약 2배다. 비교 기준으로 Grok 4는 GPQA Diamond 88%, Humanity's Last Exam 25.4%를 기록했다. 요컨대 Grok 5는 '메가스케일 + 지연'이라는 두 키워드로 정리된다 — 발표 규모는 업계 최대급이지만, 출시는 반복적으로 밀리고 있어 실측 벤치마크는 존재하지 않는다.

Grok 5는 '발표 수치'와 '실출시'를 분리해서 봐야 하는 전형적 사례다. 6T 파라미터는 화제성은 크지만 실측 벤치마크가 없는 한 의사결정 근거가 될 수 없다 — LLM 시세·스펙 환각을 경계하는 우리 함정 목록과 같은 맥락이다. 한국 팀에 주는 실무 교훈은 명확하다. 미출시 모델을 로드맵의 전제로 삼지 말 것. Grok 5는 나올 때 다시 평가하면 되고, 지금은 이미 출시된 Gemini 3.1·Command A+·Kimi K2.6으로 의사결정하는 게 합리적이다.

xAI release trackers (NxCode / WaveSpeed)
AI 리서치·논문중급·

에이전틱 RAG 이해하기: 검색에 '추론 루프'를 두르다

전통적 RAG는 질문을 임베딩해 한 번 검색하고 그 결과를 그대로 프롬프트에 붙이는 단방향 파이프라인이다. 문제는 검색 단계가 자주 실패한다는 데 있다. 단순 RAG 파이프라인이 검색에서 상당한 비율로 부정확한 결과를 낸다는 분석이 반복적으로 보고된다. 에이전틱 RAG는 검색 주위에 추론 루프를 두른다. 에이전트가 "정보가 충분한가? 관련 있나? 질의를 다시 짜서 재검색해야 하나?"를 스스로 판단하고, 필요하면 질의를 재구성해 여러 번 검색한다. 그래프 기반 검색, 계층적 검색 인터페이스, 병렬 검증 에이전트로 확장되는 흐름이다. 동시에 정적 지식엔 RAG가 여전히 유효하되, 적응형 어시스턴트에는 컨텍스트 메모리가 점점 더 큰 비중을 차지한다는 관측도 나온다. 한국 개발자에게는 "생성보다 검색이 병목"이라는 현실 인식과, 검색을 에이전트가 능동 제어하도록 설계하라는 실무 지침이 핵심이다.

RAG 실패의 대부분이 생성이 아닌 검색 단계에서 나온다는 점을 짚고, 검색을 에이전트가 제어하는 설계로 옮겨야 하는 이유를 설명한다.

arXiv (Agentic RAG Survey)원문

아직 댓글이 없습니다. 첫 의견을 남겨 주세요.