오늘의 AI 브리핑 · 2026.08.24

오픈웨이트가 자리를 넓힌 이틀

주요 키워드 TOP 5: 프리토큰 로컬 추론 · 오픈웨이트 62% · 엔비디아 60억 달러 · Ox Alpha 정체 · 클로드 코드 노력 수치 | 메인 이벤트: 버셀 게이트웨이를 지나간 토큰의 62%가 오픈웨이트 모델 몫이었다 — 두 달 전엔 28%였다

주말 이틀 사이 오픈웨이트 모델이 돌아갈 자리를 양쪽에서 넓혔습니다. 위로는 버셀의 AI 게이트웨이를 지나간 토큰 중 오픈웨이트 몫이 62%까지 올라갔고, 아래로는 8GB짜리 노트북 그래픽카드가 350억 파라미터 모델을 초당 39토큰으로 돌리는 엔진이 공개됐습니다. 엔비디아가 풀사이드에 60억 달러를 얹어 오픈웨이트 모델을 직접 만들겠다고 나선 것도 같은 곡선을 보고 내린 판단입니다. 값이 붙는 자리가 모델 가중치에서 그것을 돌리는 쪽으로 옮겨 가고 있습니다.

1. 8GB 노트북 그래픽카드가 350억 모델을 돌렸다 — 프리토큰

• UC버클리와 MIT 연구진이 프리토큰이라는 추론 엔진을 아파치 2.0으로 공개했습니다. 전문가 혼합(MoE) 모델을 GPU·CPU·시스템 메모리에 나눠 얹고, 필요한 전문가만 그때그때 옮깁니다.
• 8GB짜리 RTX 4060 노트북이 콴3.6-35B를 초당 39.3토큰으로 돌렸습니다. 96GB 워크스테이션 카드 한 장은 7,530억 파라미터짜리 GLM-5.2를 초당 14.9토큰으로 처리했습니다.
• 같은 소비자용 GPU에서 올라마보다 2~4배 빨랐다는 게 저자들의 측정입니다. 지원 모델은 20종이 넘고, 파이썬 패키지와 윈도·리눅스 앱으로 함께 나왔습니다.

지금까지 로컬에서 큰 모델을 돌리는 방법은 사실상 하나였습니다. 가중치가 전부 들어갈 만큼 VRAM을 사거나, 안 되면 포기하는 것이었습니다. 350억 모델은 16비트로 70GB, 4비트로 줄여도 18GB 근처를 요구하니 소비자용 카드 대부분이 문 앞에서 걸렸습니다. 프리토큰은 이 전제를 바꿉니다. 전문가 혼합 구조에서는 토큰 하나를 처리할 때 전체 전문가 중 일부만 깨어나므로, 지금 깨어날 전문가를 미리 가늠해 그것만 GPU에 올리면 됩니다.

관건은 PCIe 대역폭이었고 논문 제목이 그 지점을 그대로 가리킵니다. 고정된 오프로딩 전략을 쓰면 데이터가 오가는 통로에서 막히니, 실행 중에 남은 자원을 계속 다시 재서 계산과 모델 상태를 그때그때 배치하는 방식을 택했습니다. 저자 명단에 이온 스토이카, 마테이 자하리아, 커트 커처, 송 한이 들어 있어 공개 직후 이틀 만에 관련 게시물이 여러 갈래로 퍼졌습니다.

그 밖에: 트윗들은 이걸 "UC버클리가 공개했다"로 요약했지만, 논문에는 MIT를 비롯한 다른 소속 저자들이 함께 올라 있습니다. 성능 수치는 모두 저자들이 낸 값이고 제3자 재현은 아직입니다.

시사점: 로컬 모델을 포기했던 기준을 다시 잡아 보세요. "내 VRAM에 가중치가 들어가는가"는 이제 유일한 기준이 아닙니다. 다만 표에 적힌 속도는 최적 조건 값이니, 쓰던 모델을 같은 프롬프트로 한 번 돌려 비교한 뒤에 워크플로를 옮기는 편이 안전합니다.

#프리토큰 #로컬LLM #MoE

출처 2🔖 @akshay_pachaar🔥 @mark_k

2. 버셀 게이트웨이에서 오픈웨이트가 62%를 가져갔다

• 버셀 AI 게이트웨이를 지나간 토큰 가운데 오픈웨이트 모델 몫이 8월 22일 집계에서 62%를 기록했습니다. 두 달 전인 6월 24일에는 28.4%였습니다.
• 게이트웨이를 만든 기욤 로시가 직접 올린 수치이고, 기업 도입이 아직 초기이며 도구·CLI·SDK가 모델을 가리지 않는 쪽으로 바뀌는 중이라 이제 시작이라고 덧붙였습니다.
• 같은 이틀 사이 엔비디아는 풀사이드에 라이선스료 60억 달러를 내고 인력 109명을 네모트론 오픈웨이트 프로젝트로 데려가는 계약을 맺었습니다. 별도로 12억 달러 기업가치 기준 10억 달러를 투자합니다.

한 회사의 게이트웨이 통계라는 점은 감안해야 합니다. 다만 이 지표는 벤치마크 점수와 성격이 다릅니다. 누가 더 똑똑한지가 아니라 실제로 돈을 내고 어느 쪽에 호출을 보냈는지를 세기 때문입니다. 투자자 개빈 베이커는 이 이동이 인프라 수요에는 오히려 좋다고 읽었습니다. 오픈웨이트 토큰을 만드는 데도 프런티어 토큰과 같은 만큼의 연산이 들어가고, 모델 계층의 마진만 깎이기 때문입니다.

엔비디아의 60억 달러는 그 해석과 정확히 같은 방향의 베팅입니다. 자기 GPU를 살 이유를 늘리려면 그 위에서 돌 강력한 오픈 모델이 필요한데, 지금 그 자리를 딥시크와 키미가 차지하고 있습니다. 풀사이드 경영진은 합류하지 않고 독립 연구를 이어 가므로 인수도 인수합병식 고용도 아니며, 회사가 산 것은 모델 공장과 그것을 돌릴 사람들입니다.

그 밖에: 이 계약은 8월 20일 뉴커머와 블룸버그가 먼저 전했고, WSJ가 22일 저녁에 규모와 인원을 붙여 보도했습니다. 가장 큰 모델이 1조 파라미터를 넘길 것이라는 관측이 돌지만 회사가 확인한 숫자는 아닙니다.

시사점: 모델 선택 기준에 "가중치를 받아 둘 수 있는가"를 한 줄 넣어 두세요. 가격 인하나 서비스 종료가 잦은 구간에서는 같은 모델을 다른 곳에서 돌릴 수 있느냐가 협상력이 됩니다. 게이트웨이를 쓰고 있다면 모델 이름을 코드에 직접 박지 말고 설정으로 빼 두는 편이 낫습니다.

#오픈웨이트 #엔비디아 #풀사이드

출처 3🔥 @rauchg💬 @GavinSBaker🔥 @kimmonismus

3. 이름을 안 밝힌 모델, 서버가 대신 말했다

• 지난주 오픈라우터에 나타난 익명 모델 Ox Alpha를 두고 다들 토크나이저 지문을 재고 있었는데, 한 개발자가 서버에 일부러 망가진 요청을 보내 자바 오류 문구를 끌어냈습니다.
• 거기 찍힌 내부 클래스 이름이 com.wd.paas.api.domain.v4.chat.ChatCompletionRequest였습니다. /api/paas/v4/chat/completions는 지푸(Z.ai)가 문서로 공개해 둔 경로입니다.
• 대조도 함께 돌렸습니다. 지푸의 GLM-5.3·5.2·5v-터보가 같은 오류 코드 1214를 냈고, 같은 가중치를 다른 업체가 호스팅한 경우에는 전혀 다른 오류가 났습니다. 토크나이저는 프로브 30개 전부 GLM-5.3과 일치했습니다.

이 추적이 흥미로운 건 결론보다 방법입니다. 지문 대조는 "비슷하다"까지만 말할 수 있는데, 오류 응답은 그 서비스를 운영하는 쪽의 코드에서 나옵니다. 정리한 사람도 그 차이를 한 줄로 적어 뒀습니다 — 방언은 가중치가 아니라 운영자에게 속한다는 것입니다. 같은 모델을 다른 회사가 호스팅했을 때 오류 형태가 달라진 게 그 증거입니다. 통제군이 어긋난 단서 다섯 개는 버렸다는 표기도 함께 있습니다.

다만 어느 연구소도 공식 확인은 하지 않았습니다. 사흘 넘게 이름 없이 무료로 풀린 채 코딩 과제 순위표 위쪽에 있고, 그동안 들어간 프롬프트는 전량 운영자 쪽에 남습니다. 무료 구간이 8월 27일 근처에 끝나는 일정이라 그전에 사내 코드를 넣어 본 팀이 있다면, 그 데이터가 어느 나라 어느 회사 서버에 있는지는 지금도 추정입니다.

그 밖에: 지난 반년 동안 이런 익명 출시가 반복되면서 하나의 홍보 방식으로 굳었습니다. 한 관측자는 익명성 자체가 배포 전략이 됐다고 적었습니다. 공개된 성적표에서는 DeepSWE 코딩 통과율이 80%로, 페이블 5(65%)와 GPT-5.6 솔(52%)보다 위였습니다.

시사점: 정체가 공개되지 않은 무료 모델에는 사내 코드와 고객 데이터를 넣지 마세요. 값이 0원인 서비스에서 대가로 오가는 것은 대개 입력 데이터입니다. 성능이 궁금하면 공개 저장소나 더미 데이터로만 시험하고, 이름이 붙은 뒤에 약관을 보고 결정하는 순서가 맞습니다.

#OxAlpha #지푸 #스텔스모델

출처 2🔥 @chetaslua🔥 @MiaAI_lab

4. 클로드 코드가 high에서 10을 보여 준 이유, 앤스로픽이 답했다

• 한 사용자가 클로드 코드 2.1.239에서 상단 표시는 high effort인데 모델에게 물으니 100점 만점에 10이라 답하는 화면을 올렸습니다. 예전에 low가 쓰던 바로 그 숫자입니다.
• 해커뉴스로 옮겨 가 196점이 붙자 앤스로픽 클로드 코드 팀의 타릭이 직접 답했습니다. 출시 전에 API 서빙 설정을 시험하는 일이 있고, 지금 도는 실험 하나가 노력 값을 숫자로 옮기는 방식을 다르게 잡는다는 설명입니다.
• 고른 노력 단계 자체는 그대로이고 표시되는 숫자만 내부 매핑이 바뀐 것이며, 성능에 영향이 없다는 걸 자체 평가로 확인했다고 했습니다. 회귀 사례를 기록해 보내면 크레딧을 주겠다는 말도 덧붙였습니다.

이 소동이 커진 배경에는 최근 몇 주의 체감 논쟁이 깔려 있습니다. 오퍼스 5가 장황하고 게으르다는 불만이 반복해 올라왔고, 앤스로픽 쪽에서 그건 반복 개선 작업에 쓰는 모델이라 용도를 잘못 잡은 것이라 답하자 프레이밍이 문제라는 반응이 다시 붙었습니다. 그 와중에 숫자가 10으로 찍힌 화면이 나왔으니, 느낌으로만 오가던 이야기에 처음으로 눈에 보이는 근거가 생긴 셈이었습니다.

정리하면 두 가지가 갈립니다. 실제로 서버 쪽 실험이 돌고 있었다는 건 회사가 인정했고, 그 실험이 성능을 깎았다는 부분은 회사가 부인했습니다. 확인되지 않은 채 남은 건 왜 변경 기록에 아무 말이 없었느냐입니다. 세션마다 실험군이 갈리면 같은 설정으로 어제와 오늘의 결과를 비교하던 사용자는 원인을 자기 프롬프트에서 찾게 됩니다.

그 밖에: 대상은 클로드 코드 2.1.236 이상에서 도는 페이블 5 세션이고, 구버전과 오퍼스 5는 실험에서 제외됐다는 후속 관찰이 붙었습니다. A/B 테스트라 모두가 겪는 것은 아닙니다.

시사점: 모델이 갑자기 둔해졌다고 느끼면 먼저 도구 버전과 설정 표시를 적어 두세요. 서버 쪽 설정은 앱을 업데이트하지 않아도 바뀌고, 그 변화는 화면에 잘 드러나지 않습니다. 같은 프롬프트를 저장해 두고 주기적으로 돌려 보면 체감 대신 기록으로 말할 수 있습니다.

#클로드코드 #추론강도 #AB테스트

출처 3💬 @argofowl🔥 @kimmonismus💬 @paradite_

5. 샘 올트먼이 자기 예측이 틀렸다고 말했다

• 대담에서 올트먼은 2023년 GPT-4가 나왔을 때 그 직후 훨씬 큰 파괴가 올 것으로 봤다고 회고했습니다. 소프트웨어 사업이 곧바로 갈아엎어질 것이라 생각했다는 것입니다.
• 속도를 잘못 봤다는 게 그의 정리입니다. 경제에는 관성이 아주 많다는 표현을 썼고, 사람들은 하던 대로 하고 사던 곳에서 계속 산다고 덧붙였습니다.
• 그러면서 사회와 경제가 더 천천히 적응하는 편을 오히려 긍정적으로 본다고 했습니다. 이 발언은 사흘 새 여러 갈래로 인용되며 확산했습니다.

이 말을 어떻게 읽을지는 갈립니다. 한쪽에서는 자금 조달의 근거였던 시간표를 뒤늦게 손보는 것이라 봤습니다. 몇 년간 곧 온다고 말해 온 쪽이 이제 와서 관성을 말한다는 지적입니다. 다른 쪽에서는 예측을 공개적으로 접는 일 자체가 드물다는 점을 짚습니다.

같은 이틀의 다른 소식과 나란히 놓으면 그림이 조금 달라집니다. 능력은 계속 올라가는데 바깥세상이 그 속도로 안 바뀌는 구간이라면, 값을 만드는 자리는 새 모델이 아니라 이미 있는 모델을 실제 업무에 끼워 넣는 쪽으로 옮겨 갑니다. 오늘 1·2번에서 본 것도 새 모델 발표가 아니라 이미 있는 모델을 더 싸고 더 가까운 곳에서 돌리는 이야기였습니다.

그 밖에: 올트먼은 앞서 5월에도 초급 사무직이 사라지는 속도를 과대평가했다며 틀린 게 기쁘다고 말한 적이 있습니다. 이번 발언은 그 연장선에 있고, 같은 대담에서 통제 상실과 권력 집중을 AI의 가장 큰 위험 둘로 꼽았습니다.

시사점: 도입 계획을 세울 때 "모델이 좋아지면 해결된다"는 항목을 지우세요. 지난 2년의 교훈은 능력 곡선보다 조직이 바뀌는 속도가 병목이라는 쪽에 가깝습니다. 지금 있는 모델로 6개월 안에 끝낼 수 있는 일부터 고르는 편이 실현 가능성이 높습니다.

#샘올트먼 #AI도입속도 #오픈AI

출처 3💬 @firesidealpha🔥 @davidsenra💬 @ns123abc

6. 🆕 그 밖의 신기능·신제품

• 마린 535B가 훈련을 시작했고 그 과정을 공개합니다. 스탠퍼드 퍼시 리앙 팀이 활성 파라미터 230억짜리 5,350억 모델을 GB200 NVL72 11세트로 3개월간 돌립니다. 데이터는 18.75조 토큰이고 손실 곡선을 실시간으로 볼 수 있습니다.
• x64dbg용 MCP 서버가 나왔습니다. 디버거 기능을 HTTP로 열어 AI 도구가 중단점·메모리·레지스터를 직접 다루게 합니다. 지그로 짜서 의존성이 없고 공개 엿새 만에 별 752개가 붙었습니다.
• 제미나이 3.7 플래시가 구글 내부 최단 성장 기록을 세웠습니다. 첫 주 성장이 이전 제미나이 모델을 전부 넘었고, 검색과 제미나이 앱에도 들어갔습니다.

그 밖에: 버셀의 기욤 로시는 오픈 모델과 코딩 도구로 화면 공유용 미니 브라우저를 직접 만들어 올리며, 개인용 소프트웨어를 짜는 비용이 얼마나 내려갔는지를 사례로 들었습니다. 누스리서치는 자체 하네스인 에르메스 에이전트를 내놓으며 스택을 스스로 통제하는 일의 중요성을 짚었습니다. a16z 집계에서는 에이전트가 사람보다 토큰을 5배 가까이 쓰고 2월 대비 14배로 늘었습니다.

시사점: 새 도구를 볼 때 별 개수보다 만든 날짜와 커밋 수를 먼저 확인하세요. 이번 주 목록에 오른 저장소 상당수가 생긴 지 일주일 안쪽이고 커밋이 한두 개입니다. 업무에 넣으려면 최소한 이슈가 며칠 안에 닫히는지를 보고 결정하는 편이 낫습니다.

#마린535B #MCP #제미나이3_7플래시

출처 6🔖 @duty_1g🚀 @MaxForAI🔥 @rauchg🔥 @NousResearch🔥 @sundarpichai🔥 @kimmonismus

📊 오늘의 감정/온도 분석

오픈웨이트가 클라우드 게이트웨이와 개인 노트북 양쪽에서 자리를 넓혔습니다. 엔비디아도 그쪽에 60억 달러를 걸었습니다.

8GB 노트북이 350억 모델을 돌리고, 5,350억 모델의 훈련 과정이 실시간으로 공개됩니다.

Ox Alpha는 서버 흔적으로만 지목됐을 뿐 어느 연구소도 확인하지 않았고, 그동안 입력은 전부 운영자 쪽에 남습니다.

체감 저하 이야기가 숫자 하나를 만나 하루 만에 커졌습니다. 회사 답변이 나온 뒤에도 원인 진단은 갈려 있습니다.

💼 오늘의 실무 팁 — 쉽게 풀어 쓴 사용법 6가지

1. 로컬 모델 기준을 VRAM 용량에서 떼어 놓기 전문가 혼합 모델은 토큰마다 일부만 깨어나므로 가중치 전체가 들어갈 필요가 없습니다. 포기했던 크기를 다시 시험해 볼 구간입니다.

2. 속도 표는 최적 조건 값으로 읽기 공개된 초당 토큰 수는 특정 카드·특정 양자화에서 나온 값입니다. 옮기기 전에 쓰던 프롬프트로 직접 재 보세요.

3. 모델 이름을 코드에 박지 말고 설정으로 빼기 값이 빠르게 움직이는 구간에서는 같은 작업을 다른 모델로 돌려 볼 수 있느냐가 곧 협상력입니다.

4. 정체 미공개 모델에는 더미 데이터만 넣기 무료 시험판의 대가는 대개 입력 데이터입니다. 사내 코드는 이름과 약관이 공개된 뒤로 미루세요.

5. 도구가 둔해졌다 싶으면 버전과 설정을 기록해 두기 서버 쪽 설정은 앱을 그대로 둬도 바뀝니다. 같은 프롬프트를 저장해 주기적으로 돌리면 체감 대신 기록이 남습니다.

6. 신규 저장소는 별보다 생성일과 커밋 수 보기 이번 주 화제작 상당수가 만들어진 지 일주일이 안 됐습니다. 이슈가 며칠 만에 닫히는지 확인하고 도입하세요.

📦 확인 방식 프리토큰의 성능 수치와 소속은 저자들이 공개한 논문에서, 오픈웨이트 62%는 버셀 게이트웨이 운영자가 올린 집계에서 가져왔습니다. 엔비디아·풀사이드 계약 금액과 인원은 8월 22일 자 월스트리트저널 보도를, 클로드 코드 노력 수치에 대한 설명은 앤스로픽 직원이 해커뉴스에 남긴 답변을 그대로 읽었습니다. Ox Alpha의 정체는 어느 회사도 확인하지 않았고, 외부 독립 검증 전입니다.

🏷 라벨 가이드 — 🔥 인기(좋아요 중심) · 🔁 공유(리트윗 비율 높음) · 💬 논쟁(댓글 비율 높음) · 🔖 저장(북마크 많음) · 🚀 떠오름(작은 계정인데 확산 시작)