LK · source analysis

heap_init과 allocator backend

초기 heap 영역이 선택한 allocator backend에 연결되고 malloc/free API로 노출되는 과정을 읽습니다.

표의 버전은 소스 분석 기준이며 최신 보안 버전 권고가 아닙니다. TF-A LTS 2.14.3 이후에는 보안 수정이 있습니다. 제품 적용 시 공식 변경 기록과 사용 플랫폼의 errata를 확인하세요.

Series
09 / 20
Baseline
upstream 1eb9917
Commit
1eb99171efae
Source
lib/heap/heap_wrapper.c:116-204 (발췌 범위)

heap_init과 allocator backend 단계에서 실제로 바뀌는 상태는 무엇인가?

heap 시작·끝과 linker image, boot allocator 영역의 겹침을 먼저 확인한다. wrapper 아래 backend가 miniheap인지 dlmalloc인지도 project 설정에 따라 달라진다.

allocator가 관리하는 arena는 다른 memory owner와 겹치지 않고 모든 반환 포인터의 정렬을 만족해야 한다. 이 문장을 기준으로 코드를 위에서 아래로 읽으면, 함수 이름을 외우는 대신 어느 시점에 어떤 상태를 신뢰할 수 있는지 판단할 수 있다.

객체와 주소가 놓이는 구조

그림 1. heap_init과 allocator backend에서 입력, 내부 상태, 출력의 경계
입력과 전제내부 상태외부로 공개되는 결과
01heap span
02allocator headers
03allocated blocks
04free lists

heap arena / allocator metadata를 중심에 놓고 왼쪽의 입력이 어떤 검사를 거쳐 오른쪽 결과로 공개되는지 표시했다. 실제 디버깅에서는 각 블록의 주소와 크기를 로그에 대입한다.

실행 흐름

그림 2. 정상 경로의 주요 호출과 상태 전달
memory arena
heap_init
allocator metadata
malloc/free
kernel objects

화살표는 단순 호출 순서만 뜻하지 않는다. 각 단계가 성공을 반환할 때 다음 단계가 읽을 수 있는 상태가 무엇인지 함께 확인한다. 오류 반환이 발생하면 바로 다음 화살표로 진행하지 않고 해당 단계의 정리 경로를 따라간다.

단계별 입력과 출력

각 단계의 입력과 처리 후 바뀌는 상태를 정리한 표다. 사용 중인 소스 버전에서 다른 필드를 변경한다면 그에 맞춰 표도 수정한다.

#단계진입 시 신뢰할 상태성공 뒤 남아야 할 상태다음 소비자
01memory arena부트 CPU의 동기 실행 문맥heap spanheap_init
02heap_initmemory arena 완료 상태allocator headersallocator metadata
03allocator metadataheap_init 완료 상태allocated blocksmalloc/free
04malloc/freeallocator metadata 완료 상태free listskernel objects
05kernel objectsmalloc/free 완료 상태free lists이 단계의 처리 결과를 사용하는 코드

분석 범위의 전제와 비교해, 다음 단계에 잘못된 입력을 넘긴 부분부터 조사한다.

주소와 객체의 이동을 그림으로 읽기

아래 그림은 주소, 객체를 사용하는 기간, 제어권을 넘기는 시점을 중심으로 정리했다. 실제 주소와 크기는 사용 중인 보드의 bdinfo, 맵 파일과 링커 심벌로 확인한다.

그림 3. heap arena에서 allocation과 free block 병합

호출 이름만 나열하지 않고, 각 단계가 다음 단계에 넘기는 상태를 기준으로 실행 순서를 표시한다.

01heap range 등록
02초기 free block
03size·alignment 보정
04block split
05allocated header 게시
06free
07인접 block coalesce
그림 4. free block과 allocated block의 메타데이터

두 열의 객체는 이름이 비슷해도 생성 시점, 사용 가능한 API와 해제 책임이 다르다.

Free block

01free list link

02병합 가능한 size

03poison pattern

04owner 없음

05중복 삽입 금지

Allocated block

01요청·실제 크기

02alignment padding

03caller ownership

04free 전 list 미연결

05경계 guard 검사

원본 코드

아래 코드는 LK upstream 1eb9917의 lib/heap/heap_wrapper.c에서 116-204줄을 그대로 가져온 것이다. 설명을 위해 실제 코드를 가짜 의사 코드로 바꾸지 않았다.

commit1eb99171efae98867d4be4a5bd6479ea03f43ac9anchor · L140void heap_init(void)
116#else
117#error need to select valid heap implementation or provide wrapper
118#endif
119
120static void heap_free_delayed_list(void) {
121    struct list_node list;
122
123    list_initialize(&list);
124
125    spin_lock_saved_state_t state;
126    spin_lock_irqsave(&delayed_free_lock, state);
127
128    struct list_node *node;
129    while ((node = list_remove_head(&delayed_free_list))) {
130        list_add_head(&list, node);
131    }
132    spin_unlock_irqrestore(&delayed_free_lock, state);
133
134    while ((node = list_remove_head(&list))) {
135        LTRACEF("freeing node %p\n", node);
136        HEAP_FREE(node);
137    }
138}
139
140void heap_init(void) {
141    HEAP_INIT();
142}
143
144void heap_trim(void) {
145    // deal with the pending free list
146    if (unlikely(!list_is_empty(&delayed_free_list))) {
147        heap_free_delayed_list();
148    }
149
150    HEAP_TRIM();
151}
152
153void *malloc(size_t size) {
154    LTRACEF("size %zd\n", size);
155
156    // deal with the pending free list
157    if (unlikely(!list_is_empty(&delayed_free_list))) {
158        heap_free_delayed_list();
159    }
160
161    void *ptr = HEAP_MALLOC(size);
162    if (heap_trace)
163        printf("caller %p malloc %zu -> %p\n", __GET_CALLER(), size, ptr);
164    return ptr;
165}
166
167void *memalign(size_t boundary, size_t size) {
168    LTRACEF("boundary %zu, size %zd\n", boundary, size);
169
170    // deal with the pending free list
171    if (unlikely(!list_is_empty(&delayed_free_list))) {
172        heap_free_delayed_list();
173    }
174
175    void *ptr = HEAP_MEMALIGN(boundary, size);
176    if (heap_trace)
177        printf("caller %p memalign %zu, %zu -> %p\n", __GET_CALLER(), boundary, size, ptr);
178    return ptr;
179}
180
181void *calloc(size_t count, size_t size) {
182    LTRACEF("count %zu, size %zd\n", count, size);
183
184    // deal with the pending free list
185    if (unlikely(!list_is_empty(&delayed_free_list))) {
186        heap_free_delayed_list();
187    }
188
189    void *ptr = HEAP_CALLOC(count, size);
190    if (heap_trace)
191        printf("caller %p calloc %zu, %zu -> %p\n", __GET_CALLER(), count, size, ptr);
192    return ptr;
193}
194
195void *realloc(void *ptr, size_t size) {
196    LTRACEF("ptr %p, size %zd\n", ptr, size);
197
198    // deal with the pending free list
199    if (unlikely(!list_is_empty(&delayed_free_list))) {
200        heap_free_delayed_list();
201    }
202
203    void *ptr2 = HEAP_REALLOC(ptr, size);
204    if (heap_trace)

발췌 범위와 읽기 기준

원문 116-204줄에는 앞뒤 문맥이 포함됩니다. 기준 구문 void heap_init(void)은 L140에 있습니다. 발췌 첫 줄을 함수 정의의 시작으로 해석하지 않습니다.

heap 시작·끝과 linker image, boot allocator 영역의 겹침을 먼저 확인한다. wrapper 아래 backend가 miniheap인지 dlmalloc인지도 project 설정에 따라 달라진다.

함께 읽어야 하는 원본 코드

첫 코드 조각만으로 동작이 완성되지 않는 경우 호출 매크로, 객체 정의와 실제 실행 목록을 같은 페이지에 묶었다. 각 조각은 같은 기준 commit에서 가져왔다.

01. heap wrapper에서 실제 allocation으로 들어가는 malloc

lib/heap/heap_wrapper.c 145-211줄이다.

filelib/heap/heap_wrapper.canchor · L153void *malloc(size_t size)
145    // deal with the pending free list
146    if (unlikely(!list_is_empty(&delayed_free_list))) {
147        heap_free_delayed_list();
148    }
149
150    HEAP_TRIM();
151}
152
153void *malloc(size_t size) {
154    LTRACEF("size %zd\n", size);
155
156    // deal with the pending free list
157    if (unlikely(!list_is_empty(&delayed_free_list))) {
158        heap_free_delayed_list();
159    }
160
161    void *ptr = HEAP_MALLOC(size);
162    if (heap_trace)
163        printf("caller %p malloc %zu -> %p\n", __GET_CALLER(), size, ptr);
164    return ptr;
165}
166
167void *memalign(size_t boundary, size_t size) {
168    LTRACEF("boundary %zu, size %zd\n", boundary, size);
169
170    // deal with the pending free list
171    if (unlikely(!list_is_empty(&delayed_free_list))) {
172        heap_free_delayed_list();
173    }
174
175    void *ptr = HEAP_MEMALIGN(boundary, size);
176    if (heap_trace)
177        printf("caller %p memalign %zu, %zu -> %p\n", __GET_CALLER(), boundary, size, ptr);
178    return ptr;
179}
180
181void *calloc(size_t count, size_t size) {
182    LTRACEF("count %zu, size %zd\n", count, size);
183
184    // deal with the pending free list
185    if (unlikely(!list_is_empty(&delayed_free_list))) {
186        heap_free_delayed_list();
187    }
188
189    void *ptr = HEAP_CALLOC(count, size);
190    if (heap_trace)
191        printf("caller %p calloc %zu, %zu -> %p\n", __GET_CALLER(), count, size, ptr);
192    return ptr;
193}
194
195void *realloc(void *ptr, size_t size) {
196    LTRACEF("ptr %p, size %zd\n", ptr, size);
197
198    // deal with the pending free list
199    if (unlikely(!list_is_empty(&delayed_free_list))) {
200        heap_free_delayed_list();
201    }
202
203    void *ptr2 = HEAP_REALLOC(ptr, size);
204    if (heap_trace)
205        printf("caller %p realloc %p, %zu -> %p\n", __GET_CALLER(), ptr, size, ptr2);
206    return ptr2;
207}
208
209void free(void *ptr) {
210    LTRACEF("ptr %p\n", ptr);
211    if (heap_trace)

내부 동작을 더 깊게 읽기

01

진입 조건을 먼저 고정한다

memory arena에서 들어온 실행은 부트 CPU의 동기 실행 문맥에 놓여 있다. 이때 interrupt, MMU/cache, stack, heap 중 무엇이 이미 준비되었는지 소스의 호출자까지 올라가 확인한다. 같은 함수라도 SPL, relocation 전후, app thread처럼 호출 문맥이 달라지면 허용되는 API와 지연 시간이 달라진다.

heap 시작·끝과 linker image, boot allocator 영역의 겹침을 먼저 확인한다. wrapper 아래 backend가 miniheap인지 dlmalloc인지도 project 설정에 따라 달라진다.

02

중심 객체의 생성과 공개를 나눈다

이 글의 중심 객체는 heap arena / allocator metadata다. 메모리를 확보한 시점, 필드를 채운 시점, 전역 list나 다른 subsystem에 공개한 시점을 구분한다. 공개 뒤 오류가 발생한다면 목록에서 제거하고 child, buffer, reference를 역순으로 정리하는지 확인한다.

빌드 산출물 관점에서는 최종 부트로더 이미지 안에 해당 symbol과 section이 실제로 포함되었는지도 map과 objdump로 검증한다.

03

주소, 크기와 정렬을 계산한다

부트 코드에서는 주소 계산 오류를 주의해야 한다. 원본과 목적지의 주소 범위, 헤더에 기록된 데이터 크기, 블록·페이지 단위를 표로 정리하고 각 구간의 끝 주소를 계산한다. 끝 주소가 start + size - 1처럼 마지막 바이트를 가리키는지, 구간 바로 다음 주소를 가리키는지는 API 규약에서 확인한다.

04

성공 flag와 실제 완료 시점을 맞춘다

heap_init → allocator metadata → malloc/free 구간에서는 부분 초기화 상태가 생길 수 있다. flag, list insertion, callback 등록, storage write 완료 중 무엇이 성공의 기준인지 찾는다. hardware write나 DMA가 포함되면 함수 반환과 장치 완료가 같은 시점인지도 확인한다.

다른 CPU, 인터럽트 처리기, USB 완료 콜백, 셸 명령에서도 이 상태를 읽는다면 메모리 접근 순서와 잠금 범위를 함께 확인한다.

05

제어권을 넘기기 전에 확인할 조건을 정리한다

정상 경로는 kernel objects에서 끝난다. 이 단계가 함수 반환인지, scheduler 전환인지, 다른 image로의 비복귀 분기인지 구분한다. 비복귀 handoff라면 cache clean/invalidate, interrupt disable, 장치 quiesce, argument register와 FDT 또는 image address가 최종 점검 항목이다.

호출한 함수로 돌아오는 경로라면 오류와 일부 처리만 완료된 상태를 구분하는지 확인한다. 이어서 다음 후보를 시도할지, 복구 절차를 실행할지 살펴본다.

구현을 읽을 때 놓치기 쉬운 부분

01

heap arena를 제공하는 계층과 block allocator를 나눈다

초기 static arena를 allocator에 넘기는 경우와 PMM/VMM에서 page를 추가로 받는 runtime 경로는 실패 조건이 다르다. heap metadata가 arena 안에 놓이는지 별도 영역인지 계산해 첫 usable address를 확인한다.

alignment와 최소 block size 때문에 선언한 arena size 전체를 payload로 쓸 수 없다.

02

split과 coalesce의 경계 tag를 검증한다

allocation은 큰 free block을 나누고 free는 인접 block을 합친다. size field와 free list link가 서로 다른 상태를 나타내는 순간 다른 CPU가 관찰하지 않도록 lock 범위를 본다.

double free와 buffer overrun이 다음 allocation까지 숨어 있지 않도록 canary와 free-list consistency check를 debug build에 넣는다.

03

초기화 전 allocation을 구별한다

constructor나 early platform code가 heap_init보다 먼저 malloc을 호출하면 null 반환, static fallback 또는 memory corruption 중 어느 동작인지 구현에 따라 달라진다. call graph에서 early allocation을 전수 검색한다.

각 init level 뒤 used/free/high-water mark를 기록해 allocator leak와 정상 persistent allocation을 구분한다.

객체와 수명

대상만들어지는 시점유효 범위확인할 조건
heap arena / allocator metadataheap_initkernel objects 또는 오류 정리 완료까지진입 전제와 상태 계약
입력 buffer / metadatamemory arenaparse와 검증이 끝날 때까지길이, 정렬, 소유권, 변조 가능성
등록된 list / descriptorallocator metadata하위 시스템을 종료하거나 다음 이미지에 제어권을 넘길 때까지중복 등록, 해제된 객체를 가리키는 포인터, 오류 후 자원 정리
hardware 또는 persistent state실제 write/probe가 완료된 뒤reset 또는 명시적 해제·갱신까지쓰기 완료, 시간 초과, 전원 차단, 이전 상태 복원
최종 부트로더 이미지link/image 생성 시점다음 stage가 새 image로 교체할 때까지적재 주소, 진입점, 섹션, 헤더의 일치 여부

실패 지점과 증상

#조건관찰되는 증상먼저 볼 단계
01arena overlapimage/stack 손상heap_init
02free owner 오류metadata corruptionallocator metadata
03interrupt 문맥 malloclatency와 재진입 문제malloc/free

로그가 끊긴 함수뿐 아니라 그 함수에 주소, 크기, 플래그를 전달한 앞 단계도 조사한다. 오류 처리 후 등록된 객체나 하드웨어 설정이 그대로 남아 있는지도 확인한다.

소스 밖에서 확인할 증거

소스에서 파악한 동작을 실제 빌드 결과와 대상 보드의 로그로 확인한다. 아래 명령의 보드 이름과 툴체인 접두사는 사용 중인 빌드 환경에 맞게 바꾼다.

#목적명령 또는 계측판정 기준
01빌드 구성make <project> -j1platform, target, app 선택과 linker 입력을 로그로 남긴다.
02symbol과 주소nm -n build-*/lk.elf | grep 'void heap_init'init hook, app descriptor와 함수가 어느 주소에 놓였는지 확인한다.
03어셈블리 대조objdump -drS build-*/lk.elfthread 전환과 interrupt disable 구간의 실제 명령을 확인한다.
04초기화 순서init level 전후에 current_time_hires()와 함수 이름 기록level 내부 순서와 지연을 serial log로 남긴다.
05문맥 확인current_thread, interrupt state, stack pointer 기록함수가 bootstrap thread인지 scheduler 이후 thread인지 구분한다.

직접 확인할 실험

  1. 01
    heap base/end를 map과 대조

    heap_init 진입 전후에 heap span의 주소·크기·반환값과 timestamp를 함께 남긴다.

  2. 02
    할당 크기별 alignment 검사

    allocator metadata 진입 전후에 allocator headers의 주소·크기·반환값과 timestamp를 함께 남긴다.

  3. 03
    allocation failure를 주입해 caller 처리 확인

    malloc/free 진입 전후에 allocated blocks의 주소·크기·반환값과 timestamp를 함께 남긴다.

원문과 다음 글