gpu-unlock-ada 딥다이브
— GeForce의 절반 속도 텐서 연산을 드라이버가 뜨기 전에 푸는 커널 모듈

1프로젝트 한줄 요약

gpu-unlock-ada는 NVIDIA 순정 드라이버가 GPU를 잡기 전에 initramfs에서 GPU 내부 보안 프로세서(SEC2)를 돌려 SM 속도 선택 레지스터(SS0/SS1)를 "전속"으로 바꾸고, PCIe FLR로 GPU를 한 번 리셋한 뒤 순정 드라이버에 넘기는 리눅스 커널 모듈입니다. 드라이버를 패치하지도, 파일시스템을 바꾸지도 않습니다. 커널 명령줄에 gpu_unlock.targets=가 있을 때만 동작합니다.

이 저장소는 Zagitta/gpu-unlock(리눅스 모듈·펌웨어 생성·부팅 패키징)을 바탕으로, TOTORONG/AD103_win_unlocker(Hugging Face)가 공개한 AD102 페이로드와 디버그 부스터 분석을 통합해 RTX 4090(AD102)까지 넓힌 포크입니다. 이후 RTX 4070 Ti SUPER(AD103)와 RTX 4060 Ti 16GB(AD106)를 "카드 한 장에서 확인된 실험 대상"으로 추가했고, Windows UEFI 실험 포트(Latence.app 기여)가 한 폴더에 따로 들어 있습니다.

1-1. 측정된 변화 (README 기준, 카드 한 장 단위)

"2배"는 레지스터에 올려 둔 값으로 명령어만 돌리는 발행률 측정이고, 실제 cuBLAS 행렬곱에서는 RTX 4090의 FP16이 12~34%, BF16이 4096³ 크기에서 거의 변화 없음으로 나왔습니다. README가 스스로 "전체 응용 가속이 아니다"라고 못박은 대목입니다.

2왜 주목받는가

2026-10-25 GitHub 기준 스타 약 1,241개, 포크 144개입니다. 저장소는 2026-10-23에 만들어져 이틀 만에 이 수치에 도달했고, 커밋은 19개, 릴리스는 v1.1.0·v1.1.1 둘입니다. 이 수치는 관심도일 뿐 도입 효과를 뜻하지 않습니다.

2-1. 관심을 모은 이유 세 가지

• 소비자용 RTX 4090의 LLM 연산 반쪽 제한을 소프트웨어 쪽에서 풀었다는 주장 — 같은 하드웨어에서 FP16/BF16·FP32 누적 처리량이 2배로 측정됐다는 증거 폴더(docs/evidence/)가 함께 올라와 있습니다.
• 재현 가능한 증거 정리 — 벤치 원문, 부팅 로그 발췌, SHA256SUMS, 같은 카드에서 stock/unlocked를 맞붙인 "matched" 실험 디렉터리까지 남깁니다.
• NVIDIA 바이너리를 배포하지 않는다 — 빌드 때 NVIDIA 610.43.03 소스 아카이브와 nvidia-utils 패키지를 내려받아 SHA-256으로 검증한 뒤 로컬에서 펌웨어 파일을 만듭니다. 저장소에는 NVIDIA 펌웨어 바이너리가 없다고 firmware/NOTICE.md가 밝힙니다.

2-2. 비슷한 계보와의 차이

3기술 스택 전체 지도

초판 커밋 4e7fefc의 추적 파일은 338개였습니다. 다음 개수·줄 수는 그 시점의 구조 관측값이며 최신 개수는 아닙니다. 확장자별로는 헤더 112개(상당수가 Windows 포트에 들어 있는 EDK2 UEFI 헤더와 호환 계층), C 43개, 마크다운 27개, Python 28개, JSON 33개, CUDA(.cu) 4개, PowerShell 4개입니다. 리눅스 모듈 자체는 kernel/gpu_unlock/의 .c 6개·.h 9개로 합계 약 3,170줄이고, 그중 unlock_610.c가 1,781줄입니다.

3-1. 층별 스택

3-2. 입력 고정(핀) 방식

firmware/artifacts-610.43.03.json이 NVIDIA 오픈 커널 모듈 소스 아카이브(URL·SHA-256 포함), nvidia-utils 패키지, CMP90 참조 패치 파일들을 해시와 함께 적어 둡니다. fetch_artifacts.py는 HTTPS만 허용하고, 리다이렉트도 HTTPS여야 하며, 1 GiB를 넘으면 중단하고, 해시가 다르면 거부합니다. kernel/gpu_unlock/firmware_pins_610.h는 같은 해시를 커널 안에 박아서, 모듈이 펌웨어를 읽은 뒤 SHA-256을 다시 확인한 다음에야 카드를 건드립니다.

4아키텍처 심화 분석

4-1. 부팅 순서에서의 위치

이 순서는 gpu_unlock_610_unlock()(unlock_610.c 끝부분)에 unlock_transaction_* 함수들이 차례로 호출되는 모양 그대로입니다. 중간 하나가 실패하면 뒤 단계는 건너뛰고 되돌리기(unwind)가 돌며, 실패한 카드는 gpu_unlock: unlock failed (errno)를 남깁니다.

4-2. 진입점: 안전 게이트가 전부 main.c에 있다

main.c의 gpu_unlock_init()은 다음 규칙을 순서대로 적용합니다.

if (!targets || !*targets) return 0;      // 명령줄 옵트인이 없으면 종료
all = !strcmp(targets, "all");
if (!all) report_unmatched();             // 오타난 PCI 주소를 로그로 알림
while ((pdev = next_supported(pdev))) {
    // exact로 표시된 실험 ID는 "all"이나 부분일치 금지,
    // 각 카드의 정확한 PCI 주소가 필요 (쉼표 목록 가능)
    if (!all && !listed(pci_name(pdev))) continue;
    async_schedule_domain(unlock_one, pci_dev_get(pdev), &unlock_domain);
}
async_synchronize_full_domain(&unlock_domain); // nvidia 가 뜨기 전에 전부 끝내기

supported()는 PCI 장치 ID로 대상 카드를 거릅니다. RTX 4090(2684)과 GA10x 목록 외에는 experimental_ids[]의 ID·enabled 플래그·exact 조건을 확인합니다. AD103·AD104·AD106·AD107, AD103M과 일부 AD102 변형이 별도 플래그로 추가됐습니다. RTX 4090 D(2685)는 exact=false인 예외이며 다른 실험 ID는 정확한 PCI 주소도 필요합니다. unlock_one()은 드라이버가 이미 바인딩된 카드면 -EBUSY로 건너뜁니다.

4-3. 핵심은 "정상 부팅 경로를 흉내 낸 뒤 페이로드만 바꿔 끼우기"

NVIDIA GPU는 부팅 때 VBIOS의 FWSEC가 보호 영역(WPR2)을 만들고, 서명된 Booter가 SEC2에서 GSP를 올립니다. 이 모듈은 같은 과정을 Linux 커널 모듈이 직접 수행하되, 서명 영역에 V67 페이로드(64,000바이트, GU_V67_SIZE 0xfa00)를 끼워 SEC2가 그것을 실행하게 합니다. AD102 페이로드는 4개의 쓰기 체인(WPR_CFG, FBPA, WPR, FEAT_OVR_PLM)을 만들고, 마지막에 mailbox0 표식 0x67b00001을 요청합니다. ad102_permissions[]가 이 네 가지 레지스터 주소와 기대값을 표로 들고 있습니다.

static const struct { const char *name; u32 offset, expected; bool required; }
ad102_permissions[] = {
    { "WPR_CFG", 0x001fa7cc, 0xfffff0ff, true  },
    { "FBPA",    0x009a0148, 0xffffffff, false },  // 관찰용, 필수 아님
    { "WPR",     0x001fa7c4, 0xffffffff, true  },
    { "FEAT",    GU_FEAT_PLM_OFFSET, 0xffffffff, true },
};

그 뒤 write_selector()가 SS0 = 0x88888888, SS1 = 0x8(정의: GU_SS0_UNLOCK, GU_SS1_UNLOCK)을 쓰고 읽어서 값이 맞는지 확인합니다. AD102에서는 페이로드 표식과 권한 변화가 확인되기 전에 선택값을 쓰지 않습니다(payload_verified 검사, 아니면 -EPROTO).

4-4. FLR 뒤에 다시 검사한다

unlock_transaction_reset()은 선택값이 맞는지 한 번 더 읽고, 버스 마스터(BME)를 끈 상태로 pcie_flr()을 호출합니다. 이어서 PCI 설정·BAR 값이 이전과 같은지, ROM GFW 정지(halt)가 확인되는지, 보호 영역 WPR2가 꺼져 있는지(hi >> 4가 0), SS0/SS1이 FLR 뒤에도 남아 있는지를 확인합니다. WPR2가 남아 있으면 순정 드라이버가 거부하기 때문에 -EBUSY로 중단합니다. 한 번이라도 모순이 나오면 실패이고, 펌웨어가 쓸 수도 있는 DMA 버퍼는 해제하지 않고 남겨 둡니다(README: "power off before trying again").

4-5. 설계 패턴 네 가지

이 코드의 진짜 볼거리는 "레지스터 한두 개를 바꾼다"가 아니라, 실패 가능한 하드웨어 작업을 읽은 값·기대값·되돌리기로 감싼 방어 설계입니다.

5디렉토리 구조 해부

5-1. 처음 읽는 순서 추천

1. README.md와 QUICKSTART.md — 무엇을 하는지와 어디까지 검증됐는지.
2. kernel/gpu_unlock/main.c — 176줄이라 한 번에 읽힙니다.
3. unlock_610.c의 gpu_unlock_610_unlock()부터 거꾸로 단계 함수 읽기.
4. firmware/README.md와 generate_v67.py — 페이로드가 어떤 바이트로 이루어지는지.
5. docs/ada-2705-report.md와 evidence/ — 주장이 어떤 로그로 뒷받침되는지.

6학습 포인트 (기술별)

7하드웨어 / 시스템 요구사항

7-1. 지원 대상 (소스와 README 기준)

전문가용 RTX A 시리즈와 데이터센터 GPU는 허용하지 않습니다(이미 전속이기 때문). 공유 펌웨어를 쓴다고 해서 목록 밖 카드가 지원되는 것은 아닙니다.

2026-10-26 추가된 실험 대상과 해석

표의 ID는 모두 exact=true이며 플래그만 켜거나 targets=all로 고를 수 없습니다. main.c가 장치 허용 여부를 결정하고 unlock_610.c의 ad102_family()는 허용된 ID를 같은 고정 펌웨어 경로로 보내는 역할만 합니다. 같은 펌웨어를 쓴다는 사실이 목록 밖 GPU의 지원을 뜻하지 않습니다. GA107 3050 6GB(2584)도 상속 목록에 추가됐지만 저장소가 기록한 검증은 카드 한 장입니다.

노트북은 특히 상태 레지스터가 풀렸다는 것과 실제 처리량 증가를 나눠 봐야 합니다. README의 4090 Laptop(2757)은 Clevo에서 처리량 변화가 없고 Lenovo에서 두 차례 콜드 부팅의 약 2배가 보고됐습니다. 수정된 48GB 4090의 양자화 MoE 서빙도 8K 프리필 0.983배로 이득이 없었습니다. 이 수치는 저장소 기여자의 관측이며 이번 해설에서 독립 측정하지 않았습니다. 기존 AD103 CUTLASS FP8 한 커널의 0.3% 차이만으로 FP8 전체에 이득이 없다고 일반화해서도 안 됩니다.

벤치 러너의 power_limit()은 노트북의 N/A 전력 제한을 None으로 표현하고 기대값과 실제값이 모두 N/A일 때만 통과시킵니다. 전력 제한 검사를 끈 것이 아닙니다. 지원 확대 뒤에도 카드·전력·커널·드라이버와 실측 종류를 함께 기록해야 합니다.

7-2. 소프트웨어 조건

• 리눅스 커널 헤더, C 툴체인, DKMS, Git, Python 3, zstd. 커널 설정은 CONFIG_PCI, CONFIG_FW_LOADER(dkms.conf), 그리고 SHA-256 라이브러리 CONFIG_CRYPTO_LIB_SHA256(README).
• 배포판 경로: Arch(makepkg), Debian/Ubuntu(dpkg-buildpackage), Fedora/RHEL(rpmbuild·DNF 필요). initramfs 생성기는 mkinitcpio·initramfs-tools·dracut 지원.
• 빌드 때 NVIDIA 610.43.03 입력을 내려받아 $HOME/.cache/gpu-unlock에 둡니다(CACHE=로 변경).
• 동작 확인용: 순정 NVIDIA 드라이버(기록상 580.178.04·595.99.02·615.78.08), 벤치는 CUDA 툴킷과 SM89 대상 nvcc.

7-3. 운영 조건

7-4. Windows 포트

windows/ad104-msi/는 MSI RTX 4070 Ti(AD104) + MSI Z490 시스템 한 대의 캡처 프로필에 묶인 UEFI 앱 참조 구현입니다. Windows 포트 자체는 별도 경로이며, 최신 Linux AD104 지원은 위의 실험 ID 게이트로 판단합니다. 이 포트에는 배포용 EFI 바이너리나 자동 설치기도 없으며, 소스 빌드에는 ESP GUID 등 로컬 프로필 헤더를 직접 만들어야 합니다. 다른 컴퓨터에서 가드를 풀어 쓰지 말라고 README가 명시합니다.

8직접 해볼 수 있는 실습 과제

git clone https://github.com/JustAResearcher/gpu-unlock-ada.git
cd gpu-unlock-ada
lspci -Dnn | grep -i nvidia          # PCI 주소와 10de:XXXX 확인
python3 tools/print_boot_option.py   # 후보 옵션을 출력만 함(호스트 변경 없음)

make test        # 목 PCI/펌웨어로 트랜잭션을 흉내 냄. GPU 접근 없음
# 생성 자산이 없으면 전체 트랜잭션 테스트는 "건너뜀"으로 표시됨

cd docs/evidence/ada2705
shasum -a 256 -c SHA256SUMS          # macOS. 리눅스는 sha256sum -c
head -40 tensor-modes-comparison.json
grep -n "TF" stock-mma.txt unlocked-mma.txt | head

9관련 기술 심화 학습 로드맵

더 파고들고 싶다면 envytools·Nouveau의 GSP 부팅 코드, NVIDIA open-gpu-kernel-modules의 kgsp·ksec2 계열을 함께 읽는 것이 자연스러운 다음 단계입니다. 이 저장소의 주석이 그 함수 이름(kgspIsWpr2Up_TU102, ksec2ResetHw_TU102 등)을 직접 인용합니다.

10핵심 키워드 사전

11참고 링크

• JustAResearcher/gpu-unlock-ada — 이 저장소 (분석 기준 커밋 4e7fefc)
• QUICKSTART.md · docs/testing.md
• Zagitta/gpu-unlock — 리눅스 모듈의 부모 프로젝트
• TOTORONG/AD103_win_unlocker — AD102 페이로드·디버그 부스터 분석의 출처
• WildFlash1st/cmp90hx-unlock — GA102 V67 체인 파생 원본
• envytools — GPU 리버스 엔지니어링 도구와 문서