QUESTION
Fastboot USB function과 command dispatch 단계에서 실제로 바뀌는 상태는 무엇인가?
USB 전송 완료와 flash 완료는 다른 경계다. download buffer의 크기·수명, command parser의 길이 검증, backend write 결과가 응답 문자열에 반영되는지 본다.
호스트에 OKAY를 보내기 전에 요청된 저장 작업과 필요한 flush가 성공해야 한다. 이 문장을 기준으로 코드를 위에서 아래로 읽으면, 함수 이름을 외우는 대신 어느 시점에 어떤 상태를 신뢰할 수 있는지 판단할 수 있다.
STRUCTURE
객체와 주소가 놓이는 구조
struct f_fastboot / download buffer를 중심에 놓고 왼쪽의 입력이 어떤 검사를 거쳐 오른쪽 결과로 공개되는지 표시했다. 실제 디버깅에서는 각 블록의 주소와 크기를 로그에 대입한다.
CALL PATH
실행 흐름
화살표는 단순 호출 순서만 뜻하지 않는다. 각 단계가 성공을 반환할 때 다음 단계가 읽을 수 있는 상태가 무엇인지 함께 확인한다. 오류 반환이 발생하면 바로 다음 화살표로 진행하지 않고 해당 단계의 정리 경로를 따라간다.
STATE LEDGER
단계별 입력과 출력
각 단계의 입력과 처리 후 바뀌는 상태를 정리한 표다. 사용 중인 소스 버전에서 다른 필드를 변경한다면 그에 맞춰 표도 수정한다.
| # | 단계 | 진입 시 신뢰할 상태 | 성공 뒤 남아야 할 상태 | 다음 소비자 |
|---|---|---|---|---|
| 01 | USB enumeration | USB completion과 command 처리 문맥 | USB endpoints | fastboot function |
| 02 | fastboot function | USB enumeration 완료 상태 | download buffer | OUT request |
| 03 | OUT request | fastboot function 완료 상태 | command response | command parser |
| 04 | command parser | OUT request 완료 상태 | partition backend | storage operation |
| 05 | storage operation | command parser 완료 상태 | partition backend | 이 단계의 처리 결과를 사용하는 코드 |
분석 범위의 전제와 비교해, 다음 단계에 잘못된 입력을 넘긴 부분부터 조사한다.
UPSTREAM SOURCE
원본 코드
아래 코드는 U-Boot v2026.07의 drivers/usb/gadget/f_fastboot.c에서 344-432줄을 그대로 가져온 것이다. 설명을 위해 실제 코드를 가짜 의사 코드로 바꾸지 않았다.
344 ret = usb_ep_enable(f_fb->in_ep, d);
345 if (ret) {
346 puts("failed to enable in ep\n");
347 goto err;
348 }
349
350 f_fb->in_req = fastboot_start_ep(f_fb->in_ep);
351 if (!f_fb->in_req) {
352 puts("failed alloc req in\n");
353 ret = -EINVAL;
354 goto err;
355 }
356 f_fb->in_req->complete = fastboot_complete;
357
358 ret = usb_ep_queue(f_fb->out_ep, f_fb->out_req, 0);
359 if (ret)
360 goto err;
361
362 return 0;
363err:
364 fastboot_disable(f);
365 return ret;
366}
367
368static int fastboot_add(struct usb_configuration *c)
369{
370 struct f_fastboot *f_fb = fastboot_func;
371 int status;
372
373 debug("%s: cdev: 0x%p\n", __func__, c->cdev);
374
375 if (!f_fb) {
376 f_fb = memalign(CONFIG_SYS_CACHELINE_SIZE, sizeof(*f_fb));
377 if (!f_fb)
378 return -ENOMEM;
379
380 fastboot_func = f_fb;
381 memset(f_fb, 0, sizeof(*f_fb));
382 }
383
384 f_fb->usb_function.name = "f_fastboot";
385 f_fb->usb_function.bind = fastboot_bind;
386 f_fb->usb_function.unbind = fastboot_unbind;
387 f_fb->usb_function.set_alt = fastboot_set_alt;
388 f_fb->usb_function.disable = fastboot_disable;
389 f_fb->usb_function.strings = fastboot_strings;
390
391 status = usb_add_function(c, &f_fb->usb_function);
392 if (status) {
393 free(f_fb);
394 fastboot_func = NULL;
395 }
396
397 return status;
398}
399DECLARE_GADGET_BIND_CALLBACK(usb_dnl_fastboot, fastboot_add);
400
401static int fastboot_tx_write(const char *buffer, unsigned int buffer_size)
402{
403 struct usb_request *in_req = fastboot_func->in_req;
404 int ret;
405
406 memcpy(in_req->buf, buffer, buffer_size);
407 in_req->length = buffer_size;
408
409 usb_ep_dequeue(fastboot_func->in_ep, in_req);
410
411 ret = usb_ep_queue(fastboot_func->in_ep, in_req, 0);
412 if (ret)
413 printf("Error %d on queue\n", ret);
414 return 0;
415}
416
417static int fastboot_tx_write_str(const char *buffer)
418{
419 return fastboot_tx_write(buffer, strlen(buffer));
420}
421
422static void compl_do_reset(struct usb_ep *ep, struct usb_request *req)
423{
424 g_dnl_unregister();
425 do_reset(NULL, 0, 0, NULL);
426}
427
428static unsigned int rx_bytes_expected(struct usb_ep *ep)
429{
430 int rx_remain = fastboot_data_remaining();
431 unsigned int rem;
432 unsigned int maxpacket = usb_endpoint_maxp(ep->desc);
READING CONTRACT
발췌 범위와 읽기 기준
원문 344-432줄에는 앞뒤 문맥이 포함됩니다. 기준 구문 static int fastboot_add(struct usb_configuration *c)은 L368에 있습니다. 발췌 첫 줄을 함수 정의의 시작으로 해석하지 않습니다.
USB 전송 완료와 flash 완료는 다른 경계다. download buffer의 크기·수명, command parser의 길이 검증, backend write 결과가 응답 문자열에 반영되는지 본다.
DETAILS
내부 동작을 더 깊게 읽기
진입 조건을 먼저 고정한다
USB enumeration에서 들어온 실행은 USB completion과 command 처리 문맥에 놓여 있다. 이때 interrupt, MMU/cache, stack, heap 중 무엇이 이미 준비되었는지 소스의 호출자까지 올라가 확인한다. 같은 함수라도 SPL, relocation 전후, app thread처럼 호출 문맥이 달라지면 허용되는 API와 지연 시간이 달라진다.
USB 전송 완료와 flash 완료는 다른 경계다. download buffer의 크기·수명, command parser의 길이 검증, backend write 결과가 응답 문자열에 반영되는지 본다.
중심 객체의 생성과 공개를 나눈다
이 글의 중심 객체는 struct f_fastboot / download buffer다. 메모리를 확보한 시점, 필드를 채운 시점, 전역 list나 다른 subsystem에 공개한 시점을 구분한다. 공개 뒤 오류가 발생한다면 목록에서 제거하고 child, buffer, reference를 역순으로 정리하는지 확인한다.
빌드 산출물 관점에서는 최종 부트로더 이미지 안에 해당 symbol과 section이 실제로 포함되었는지도 map과 objdump로 검증한다.
주소, 크기와 정렬을 계산한다
부트 코드에서는 주소 계산 오류를 주의해야 한다. 원본과 목적지의 주소 범위, 헤더에 기록된 데이터 크기, 블록·페이지 단위를 표로 정리하고 각 구간의 끝 주소를 계산한다. 끝 주소가 start + size - 1처럼 마지막 바이트를 가리키는지, 구간 바로 다음 주소를 가리키는지는 API 규약에서 확인한다.
성공 flag와 실제 완료 시점을 맞춘다
fastboot function → OUT request → command parser 구간에서는 부분 초기화 상태가 생길 수 있다. flag, list insertion, callback 등록, storage write 완료 중 무엇이 성공의 기준인지 찾는다. hardware write나 DMA가 포함되면 함수 반환과 장치 완료가 같은 시점인지도 확인한다.
다른 CPU, 인터럽트 처리기, USB 완료 콜백, 셸 명령에서도 이 상태를 읽는다면 메모리 접근 순서와 잠금 범위를 함께 확인한다.
제어권을 넘기기 전에 확인할 조건을 정리한다
정상 경로는 storage operation에서 끝난다. 이 단계가 함수 반환인지, scheduler 전환인지, 다른 image로의 비복귀 분기인지 구분한다. 비복귀 handoff라면 cache clean/invalidate, interrupt disable, 장치 quiesce, argument register와 FDT 또는 image address가 최종 점검 항목이다.
호출한 함수로 돌아오는 경로라면 오류와 일부 처리만 완료된 상태를 구분하는지 확인한다. 이어서 다음 후보를 시도할지, 복구 절차를 실행할지 살펴본다.
IMPLEMENTATION NOTES
구현을 읽을 때 놓치기 쉬운 부분
USB transport와 fastboot command 상태기는 비동기로 맞물린다
control endpoint 구성 뒤 bulk OUT request가 command 또는 download data를 받고 bulk IN response가 OKAY, FAIL, DATA를 보낸다. callback이 완료되기 전에 request buffer를 재사용하거나 command state를 바꾸면 host와 target이 서로 다른 phase를 해석한다.
disconnect, reset, short packet에서 pending request와 download state를 초기화하는지 확인한다.
download buffer는 제품의 가장 큰 외부 입력이다
host가 선언한 download size를 RAM buffer, max download size와 address overflow에 대해 먼저 검증해야 한다. 수신 완료 전 flash/boot command가 buffer를 소비하지 않도록 received length와 expected length를 분리한다.
cacheable buffer를 DMA가 쓰는 platform에서는 completion 뒤 cache maintenance와 CPU visibility도 필요하다.
command dispatch는 storage 권한 경계다
partition 이름, slot suffix, sparse chunk와 erase/write 범위를 검증하고 locked 상태에서 허용할 command를 분리한다. parser 오류가 다른 partition의 raw offset으로 이어지지 않게 exact match와 size check를 본다.
USB packet trace, fastboot verbose log와 block write trace를 같은 command ID로 묶으면 host timeout과 target storage 실패를 구분할 수 있다.
OBJECT LIFETIME
객체와 수명
| 대상 | 만들어지는 시점 | 유효 범위 | 확인할 조건 |
|---|---|---|---|
struct f_fastboot / download buffer | fastboot function | storage operation 또는 오류 정리 완료까지 | 진입 전제와 상태 계약 |
| 입력 buffer / metadata | USB enumeration | parse와 검증이 끝날 때까지 | 길이, 정렬, 소유권, 변조 가능성 |
| 등록된 list / descriptor | OUT request | 하위 시스템을 종료하거나 다음 이미지에 제어권을 넘길 때까지 | 중복 등록, 해제된 객체를 가리키는 포인터, 오류 후 자원 정리 |
| hardware 또는 persistent state | 실제 write/probe가 완료된 뒤 | reset 또는 명시적 해제·갱신까지 | 쓰기 완료, 시간 초과, 전원 차단, 이전 상태 복원 |
최종 부트로더 이미지 | link/image 생성 시점 | 다음 stage가 새 image로 교체할 때까지 | 적재 주소, 진입점, 섹션, 헤더의 일치 여부 |
FAILURE PATH
실패 지점과 증상
| # | 조건 | 관찰되는 증상 | 먼저 볼 단계 |
|---|---|---|---|
| 01 | download size overflow | heap 손상 | fastboot function |
| 02 | partition 이름 검증 누락 | 잘못된 대상 쓰기 | OUT request |
| 03 | write 실패 후 OKAY | 호스트와 실제 상태 불일치 | command parser |
로그가 끊긴 함수뿐 아니라 그 함수에 주소, 크기, 플래그를 전달한 앞 단계도 조사한다. 오류 처리 후 등록된 객체나 하드웨어 설정이 그대로 남아 있는지도 확인한다.
EVIDENCE
소스 밖에서 확인할 증거
소스에서 파악한 동작을 실제 빌드 결과와 대상 보드의 로그로 확인한다. 아래 명령의 보드 이름과 툴체인 접두사는 사용 중인 빌드 환경에 맞게 바꾼다.
| # | 목적 | 명령 또는 계측 | 판정 기준 |
|---|---|---|---|
| 01 | 전처리 결과 | make <board>_defconfig && make V=1 | 선택된 CONFIG와 실제 compile/link 명령을 보관한다. |
| 02 | symbol과 section | ${CROSS_COMPILE}nm -n u-boot | grep 'static int fastboot_add' | symbol 주소가 기대한 stage와 image에 들어갔는지 확인한다. |
| 03 | 어셈블리 대조 | ${CROSS_COMPILE}objdump -drS u-boot | C 한 줄이 실제 branch, relocation, memory access로 어떻게 바뀌었는지 본다. |
| 04 | 주소 배치 | bdinfo | relocaddr, malloc, FDT, stack과 DRAM bank 주소를 한 번에 기록한다. |
| 05 | runtime 관찰 | dm tree; dm uclass; printenv | driver model과 환경이 이 단계에서 실제로 공개되었는지 확인한다. |
LAB
직접 확인할 실험
- 01fastboot getvar all 결과와 partition table 비교
fastboot function진입 전후에 USB endpoints의 주소·크기·반환값과 timestamp를 함께 남긴다. - 02MAX_DOWNLOAD_SIZE 경계값 전송
OUT request진입 전후에 download buffer의 주소·크기·반환값과 timestamp를 함께 남긴다. - 03storage write 오류를 주입해 FAIL 응답 확인
command parser진입 전후에 command response의 주소·크기·반환값과 timestamp를 함께 남긴다.
PRIMARY REFERENCES