U-Boot · source analysis

Fastboot USB function과 command dispatch

USB 가젯 구성에 fastboot 기능을 등록하고 download·flash 명령을 처리하는 과정을 살펴봅니다.

표의 버전은 소스 분석 기준이며 최신 보안 버전 권고가 아닙니다. TF-A LTS 2.14.3 이후에는 보안 수정이 있습니다. 제품 적용 시 공식 변경 기록과 사용 플랫폼의 errata를 확인하세요.

Series
18 / 22
Baseline
v2026.07
Commit
ece349ade297
Source
drivers/usb/gadget/f_fastboot.c:344-432 (발췌 범위)

Fastboot USB function과 command dispatch 단계에서 실제로 바뀌는 상태는 무엇인가?

USB 전송 완료와 flash 완료는 다른 경계다. download buffer의 크기·수명, command parser의 길이 검증, backend write 결과가 응답 문자열에 반영되는지 본다.

호스트에 OKAY를 보내기 전에 요청된 저장 작업과 필요한 flush가 성공해야 한다. 이 문장을 기준으로 코드를 위에서 아래로 읽으면, 함수 이름을 외우는 대신 어느 시점에 어떤 상태를 신뢰할 수 있는지 판단할 수 있다.

객체와 주소가 놓이는 구조

그림 1. Fastboot USB function과 command dispatch에서 입력, 내부 상태, 출력의 경계
입력과 전제내부 상태외부로 공개되는 결과
01USB endpoints
02download buffer
03command response
04partition backend

struct f_fastboot / download buffer를 중심에 놓고 왼쪽의 입력이 어떤 검사를 거쳐 오른쪽 결과로 공개되는지 표시했다. 실제 디버깅에서는 각 블록의 주소와 크기를 로그에 대입한다.

실행 흐름

그림 2. 정상 경로의 주요 호출과 상태 전달
USB enumeration
fastboot function
OUT request
command parser
storage operation

화살표는 단순 호출 순서만 뜻하지 않는다. 각 단계가 성공을 반환할 때 다음 단계가 읽을 수 있는 상태가 무엇인지 함께 확인한다. 오류 반환이 발생하면 바로 다음 화살표로 진행하지 않고 해당 단계의 정리 경로를 따라간다.

단계별 입력과 출력

각 단계의 입력과 처리 후 바뀌는 상태를 정리한 표다. 사용 중인 소스 버전에서 다른 필드를 변경한다면 그에 맞춰 표도 수정한다.

#단계진입 시 신뢰할 상태성공 뒤 남아야 할 상태다음 소비자
01USB enumerationUSB completion과 command 처리 문맥USB endpointsfastboot function
02fastboot functionUSB enumeration 완료 상태download bufferOUT request
03OUT requestfastboot function 완료 상태command responsecommand parser
04command parserOUT request 완료 상태partition backendstorage operation
05storage operationcommand parser 완료 상태partition backend이 단계의 처리 결과를 사용하는 코드

분석 범위의 전제와 비교해, 다음 단계에 잘못된 입력을 넘긴 부분부터 조사한다.

원본 코드

아래 코드는 U-Boot v2026.07의 drivers/usb/gadget/f_fastboot.c에서 344-432줄을 그대로 가져온 것이다. 설명을 위해 실제 코드를 가짜 의사 코드로 바꾸지 않았다.

commitece349ade2973e220f524ce59e59711cc919263fanchor · L368static int fastboot_add(struct usb_configuration *c)
344	ret = usb_ep_enable(f_fb->in_ep, d);
345	if (ret) {
346		puts("failed to enable in ep\n");
347		goto err;
348	}
349
350	f_fb->in_req = fastboot_start_ep(f_fb->in_ep);
351	if (!f_fb->in_req) {
352		puts("failed alloc req in\n");
353		ret = -EINVAL;
354		goto err;
355	}
356	f_fb->in_req->complete = fastboot_complete;
357
358	ret = usb_ep_queue(f_fb->out_ep, f_fb->out_req, 0);
359	if (ret)
360		goto err;
361
362	return 0;
363err:
364	fastboot_disable(f);
365	return ret;
366}
367
368static int fastboot_add(struct usb_configuration *c)
369{
370	struct f_fastboot *f_fb = fastboot_func;
371	int status;
372
373	debug("%s: cdev: 0x%p\n", __func__, c->cdev);
374
375	if (!f_fb) {
376		f_fb = memalign(CONFIG_SYS_CACHELINE_SIZE, sizeof(*f_fb));
377		if (!f_fb)
378			return -ENOMEM;
379
380		fastboot_func = f_fb;
381		memset(f_fb, 0, sizeof(*f_fb));
382	}
383
384	f_fb->usb_function.name = "f_fastboot";
385	f_fb->usb_function.bind = fastboot_bind;
386	f_fb->usb_function.unbind = fastboot_unbind;
387	f_fb->usb_function.set_alt = fastboot_set_alt;
388	f_fb->usb_function.disable = fastboot_disable;
389	f_fb->usb_function.strings = fastboot_strings;
390
391	status = usb_add_function(c, &f_fb->usb_function);
392	if (status) {
393		free(f_fb);
394		fastboot_func = NULL;
395	}
396
397	return status;
398}
399DECLARE_GADGET_BIND_CALLBACK(usb_dnl_fastboot, fastboot_add);
400
401static int fastboot_tx_write(const char *buffer, unsigned int buffer_size)
402{
403	struct usb_request *in_req = fastboot_func->in_req;
404	int ret;
405
406	memcpy(in_req->buf, buffer, buffer_size);
407	in_req->length = buffer_size;
408
409	usb_ep_dequeue(fastboot_func->in_ep, in_req);
410
411	ret = usb_ep_queue(fastboot_func->in_ep, in_req, 0);
412	if (ret)
413		printf("Error %d on queue\n", ret);
414	return 0;
415}
416
417static int fastboot_tx_write_str(const char *buffer)
418{
419	return fastboot_tx_write(buffer, strlen(buffer));
420}
421
422static void compl_do_reset(struct usb_ep *ep, struct usb_request *req)
423{
424	g_dnl_unregister();
425	do_reset(NULL, 0, 0, NULL);
426}
427
428static unsigned int rx_bytes_expected(struct usb_ep *ep)
429{
430	int rx_remain = fastboot_data_remaining();
431	unsigned int rem;
432	unsigned int maxpacket = usb_endpoint_maxp(ep->desc);

발췌 범위와 읽기 기준

원문 344-432줄에는 앞뒤 문맥이 포함됩니다. 기준 구문 static int fastboot_add(struct usb_configuration *c)은 L368에 있습니다. 발췌 첫 줄을 함수 정의의 시작으로 해석하지 않습니다.

USB 전송 완료와 flash 완료는 다른 경계다. download buffer의 크기·수명, command parser의 길이 검증, backend write 결과가 응답 문자열에 반영되는지 본다.

내부 동작을 더 깊게 읽기

01

진입 조건을 먼저 고정한다

USB enumeration에서 들어온 실행은 USB completion과 command 처리 문맥에 놓여 있다. 이때 interrupt, MMU/cache, stack, heap 중 무엇이 이미 준비되었는지 소스의 호출자까지 올라가 확인한다. 같은 함수라도 SPL, relocation 전후, app thread처럼 호출 문맥이 달라지면 허용되는 API와 지연 시간이 달라진다.

USB 전송 완료와 flash 완료는 다른 경계다. download buffer의 크기·수명, command parser의 길이 검증, backend write 결과가 응답 문자열에 반영되는지 본다.

02

중심 객체의 생성과 공개를 나눈다

이 글의 중심 객체는 struct f_fastboot / download buffer다. 메모리를 확보한 시점, 필드를 채운 시점, 전역 list나 다른 subsystem에 공개한 시점을 구분한다. 공개 뒤 오류가 발생한다면 목록에서 제거하고 child, buffer, reference를 역순으로 정리하는지 확인한다.

빌드 산출물 관점에서는 최종 부트로더 이미지 안에 해당 symbol과 section이 실제로 포함되었는지도 map과 objdump로 검증한다.

03

주소, 크기와 정렬을 계산한다

부트 코드에서는 주소 계산 오류를 주의해야 한다. 원본과 목적지의 주소 범위, 헤더에 기록된 데이터 크기, 블록·페이지 단위를 표로 정리하고 각 구간의 끝 주소를 계산한다. 끝 주소가 start + size - 1처럼 마지막 바이트를 가리키는지, 구간 바로 다음 주소를 가리키는지는 API 규약에서 확인한다.

04

성공 flag와 실제 완료 시점을 맞춘다

fastboot function → OUT request → command parser 구간에서는 부분 초기화 상태가 생길 수 있다. flag, list insertion, callback 등록, storage write 완료 중 무엇이 성공의 기준인지 찾는다. hardware write나 DMA가 포함되면 함수 반환과 장치 완료가 같은 시점인지도 확인한다.

다른 CPU, 인터럽트 처리기, USB 완료 콜백, 셸 명령에서도 이 상태를 읽는다면 메모리 접근 순서와 잠금 범위를 함께 확인한다.

05

제어권을 넘기기 전에 확인할 조건을 정리한다

정상 경로는 storage operation에서 끝난다. 이 단계가 함수 반환인지, scheduler 전환인지, 다른 image로의 비복귀 분기인지 구분한다. 비복귀 handoff라면 cache clean/invalidate, interrupt disable, 장치 quiesce, argument register와 FDT 또는 image address가 최종 점검 항목이다.

호출한 함수로 돌아오는 경로라면 오류와 일부 처리만 완료된 상태를 구분하는지 확인한다. 이어서 다음 후보를 시도할지, 복구 절차를 실행할지 살펴본다.

구현을 읽을 때 놓치기 쉬운 부분

01

USB transport와 fastboot command 상태기는 비동기로 맞물린다

control endpoint 구성 뒤 bulk OUT request가 command 또는 download data를 받고 bulk IN response가 OKAY, FAIL, DATA를 보낸다. callback이 완료되기 전에 request buffer를 재사용하거나 command state를 바꾸면 host와 target이 서로 다른 phase를 해석한다.

disconnect, reset, short packet에서 pending request와 download state를 초기화하는지 확인한다.

02

download buffer는 제품의 가장 큰 외부 입력이다

host가 선언한 download size를 RAM buffer, max download size와 address overflow에 대해 먼저 검증해야 한다. 수신 완료 전 flash/boot command가 buffer를 소비하지 않도록 received length와 expected length를 분리한다.

cacheable buffer를 DMA가 쓰는 platform에서는 completion 뒤 cache maintenance와 CPU visibility도 필요하다.

03

command dispatch는 storage 권한 경계다

partition 이름, slot suffix, sparse chunk와 erase/write 범위를 검증하고 locked 상태에서 허용할 command를 분리한다. parser 오류가 다른 partition의 raw offset으로 이어지지 않게 exact match와 size check를 본다.

USB packet trace, fastboot verbose log와 block write trace를 같은 command ID로 묶으면 host timeout과 target storage 실패를 구분할 수 있다.

객체와 수명

대상만들어지는 시점유효 범위확인할 조건
struct f_fastboot / download bufferfastboot functionstorage operation 또는 오류 정리 완료까지진입 전제와 상태 계약
입력 buffer / metadataUSB enumerationparse와 검증이 끝날 때까지길이, 정렬, 소유권, 변조 가능성
등록된 list / descriptorOUT request하위 시스템을 종료하거나 다음 이미지에 제어권을 넘길 때까지중복 등록, 해제된 객체를 가리키는 포인터, 오류 후 자원 정리
hardware 또는 persistent state실제 write/probe가 완료된 뒤reset 또는 명시적 해제·갱신까지쓰기 완료, 시간 초과, 전원 차단, 이전 상태 복원
최종 부트로더 이미지link/image 생성 시점다음 stage가 새 image로 교체할 때까지적재 주소, 진입점, 섹션, 헤더의 일치 여부

실패 지점과 증상

#조건관찰되는 증상먼저 볼 단계
01download size overflowheap 손상fastboot function
02partition 이름 검증 누락잘못된 대상 쓰기OUT request
03write 실패 후 OKAY호스트와 실제 상태 불일치command parser

로그가 끊긴 함수뿐 아니라 그 함수에 주소, 크기, 플래그를 전달한 앞 단계도 조사한다. 오류 처리 후 등록된 객체나 하드웨어 설정이 그대로 남아 있는지도 확인한다.

소스 밖에서 확인할 증거

소스에서 파악한 동작을 실제 빌드 결과와 대상 보드의 로그로 확인한다. 아래 명령의 보드 이름과 툴체인 접두사는 사용 중인 빌드 환경에 맞게 바꾼다.

#목적명령 또는 계측판정 기준
01전처리 결과make <board>_defconfig && make V=1선택된 CONFIG와 실제 compile/link 명령을 보관한다.
02symbol과 section${CROSS_COMPILE}nm -n u-boot | grep 'static int fastboot_add'symbol 주소가 기대한 stage와 image에 들어갔는지 확인한다.
03어셈블리 대조${CROSS_COMPILE}objdump -drS u-bootC 한 줄이 실제 branch, relocation, memory access로 어떻게 바뀌었는지 본다.
04주소 배치bdinforelocaddr, malloc, FDT, stack과 DRAM bank 주소를 한 번에 기록한다.
05runtime 관찰dm tree; dm uclass; printenvdriver model과 환경이 이 단계에서 실제로 공개되었는지 확인한다.

직접 확인할 실험

  1. 01
    fastboot getvar all 결과와 partition table 비교

    fastboot function 진입 전후에 USB endpoints의 주소·크기·반환값과 timestamp를 함께 남긴다.

  2. 02
    MAX_DOWNLOAD_SIZE 경계값 전송

    OUT request 진입 전후에 download buffer의 주소·크기·반환값과 timestamp를 함께 남긴다.

  3. 03
    storage write 오류를 주입해 FAIL 응답 확인

    command parser 진입 전후에 command response의 주소·크기·반환값과 timestamp를 함께 남긴다.

원문과 다음 글