LK · source analysis

ARM64 exception에서 C handler까지

예외 벡터에서 레지스터를 저장한 뒤 예외 원인을 해석하는 C 처리기로 넘어가는 과정을 살펴봅니다.

표의 버전은 소스 분석 기준이며 최신 보안 버전 권고가 아닙니다. TF-A LTS 2.14.3 이후에는 보안 수정이 있습니다. 제품 적용 시 공식 변경 기록과 사용 플랫폼의 errata를 확인하세요.

Series
08 / 20
Baseline
upstream 1eb9917
Commit
1eb99171efae
Source
arch/arm64/exceptions_c.c:136-224 (발췌 범위)

QUESTION

ARM64 exception에서 C handler까지 단계에서 실제로 바뀌는 상태는 무엇인가?

exception level과 vector slot에 따라 저장해야 할 register가 다르다. fault address와 syndrome을 읽는 시점, frame의 수명을 확인한다.

handler가 복귀한다면 frame은 예외 전 CPU 상태를 완전하게 보존하고 수정 사항만 의도적으로 반영해야 한다. 이 문장을 기준으로 코드를 위에서 아래로 읽으면, 함수 이름을 외우는 대신 어느 시점에 어떤 상태를 신뢰할 수 있는지 판단할 수 있다.

STRUCTURE

객체와 주소가 놓이는 구조

그림 1. ARM64 exception에서 C handler까지에서 입력, 내부 상태, 출력의 경계
입력과 전제내부 상태외부로 공개되는 결과
01vector slot
02arm64_iframe
03syndrome registers
04fault handler
CONTRACT

이 흐름의 전제와 실패 조건

arm64_iframe / ESR_ELx를 중심에 놓고 왼쪽의 입력이 어떤 검사를 거쳐 오른쪽 결과로 공개되는지 표시했다. 실제 디버깅에서는 각 블록의 주소와 크기를 로그에 대입한다.

CALL PATH

실행 흐름

그림 2. 정상 경로의 주요 호출과 상태 전달
exception vector
save iframe
ESR/FAR read
C dispatch
eret or panic

화살표는 단순 호출 순서만 뜻하지 않는다. 각 단계가 성공을 반환할 때 다음 단계가 읽을 수 있는 상태가 무엇인지 함께 확인한다. 오류 반환이 발생하면 바로 다음 화살표로 진행하지 않고 해당 단계의 정리 경로를 따라간다.

STATE LEDGER

단계별 입력과 출력

각 단계의 입력과 처리 후 바뀌는 상태를 정리한 표다. 사용 중인 소스 버전에서 다른 필드를 변경한다면 그에 맞춰 표도 수정한다.

#단계진입 시 신뢰할 상태성공 뒤 남아야 할 상태다음 소비자
01exception vector동기 exception 문맥vector slotsave iframe
02save iframeexception vector 완료 상태arm64_iframeESR/FAR read
03ESR/FAR readsave iframe 완료 상태syndrome registersC dispatch
04C dispatchESR/FAR read 완료 상태fault handlereret or panic
05eret or panicC dispatch 완료 상태fault handler이 단계의 처리 결과를 사용하는 코드

분석 범위의 전제와 비교해, 다음 단계에 잘못된 입력을 넘긴 부분부터 조사한다.

VISUAL WALKTHROUGH

주소와 객체의 이동을 그림으로 읽기

아래 그림은 주소, 객체를 사용하는 기간, 제어권을 넘기는 시점을 중심으로 정리했다. 실제 주소와 크기는 사용 중인 보드의 bdinfo, 맵 파일과 링커 심벌로 확인한다.

그림 3. vector slot에서 C exception handler와 eret까지

호출 이름만 나열하지 않고, 각 단계가 다음 단계에 넘기는 상태를 기준으로 실행 순서를 표시한다.

01VBAR slot 진입
02register frame push
03ESR·FAR·ELR 저장
04exception class decode
05C handler
06frame 복원
07eret 또는 panic

원래 fault 정보는 handler 내부의 추가 fault가 덮기 전에 frame과 system register에서 보존해야 한다.

그림 4. 동기 예외와 IRQ 진입의 차이

두 열의 객체는 이름이 비슷해도 생성 시점, 사용 가능한 API와 해제 책임이 다르다.

Synchronous exception

01현재 instruction 원인

02ESR EC/ISS

03FAR 사용 가능성

04ELR 재시도·skip 판단

05대개 panic/debug

IRQ

01외부 interrupt 원인

02GIC acknowledge

03handler return flag

04reschedule 가능

05EOI 순서 필요

같은 vector frame을 사용해도 원인 확인과 복귀 조건은 완전히 다르다.

UPSTREAM SOURCE

원본 코드

아래 코드는 LK upstream 1eb9917의 arch/arm64/exceptions_c.c에서 136-224줄을 그대로 가져온 것이다. 설명을 위해 실제 코드를 가짜 의사 코드로 바꾸지 않았다.

commit1eb99171efae98867d4be4a5bd6479ea03f43ac9anchor · L160void arm64_sync_exception
136}
137
138extern struct fault_handler_table_entry __fault_handler_table_start[];
139extern struct fault_handler_table_entry __fault_handler_table_end[];
140
141static void dump_iframe(const struct arm64_iframe_long *iframe) {
142    printf("iframe %p:\n", iframe);
143    printf("x0  0x%16llx x1  0x%16llx x2  0x%16llx x3  0x%16llx\n", iframe->r[0], iframe->r[1], iframe->r[2], iframe->r[3]);
144    printf("x4  0x%16llx x5  0x%16llx x6  0x%16llx x7  0x%16llx\n", iframe->r[4], iframe->r[5], iframe->r[6], iframe->r[7]);
145    printf("x8  0x%16llx x9  0x%16llx x10 0x%16llx x11 0x%16llx\n", iframe->r[8], iframe->r[9], iframe->r[10], iframe->r[11]);
146    printf("x12 0x%16llx x13 0x%16llx x14 0x%16llx x15 0x%16llx\n", iframe->r[12], iframe->r[13], iframe->r[14], iframe->r[15]);
147    printf("x16 0x%16llx x17 0x%16llx x18 0x%16llx x19 0x%16llx\n", iframe->r[16], iframe->r[17], iframe->r[18], iframe->r[19]);
148    printf("x20 0x%16llx x21 0x%16llx x22 0x%16llx x23 0x%16llx\n", iframe->r[20], iframe->r[21], iframe->r[22], iframe->r[23]);
149    printf("x24 0x%16llx x25 0x%16llx x26 0x%16llx x27 0x%16llx\n", iframe->r[24], iframe->r[25], iframe->r[26], iframe->r[27]);
150    printf("x28 0x%16llx x29 0x%16llx lr  0x%16llx usp 0x%16llx\n", iframe->r[28], iframe->r[29], iframe->lr, iframe->usp);
151    printf("elr 0x%16llx\n", iframe->elr);
152    printf("spsr 0x%16llx\n", iframe->spsr);
153    arch_stacktrace(iframe->r[29], iframe->elr);
154}
155
156__WEAK void arm64_syscall(struct arm64_iframe_long *iframe, bool is_64bit) {
157    panic("unhandled syscall vector\n");
158}
159
160void arm64_sync_exception(struct arm64_iframe_long *iframe);
161void arm64_sync_exception(struct arm64_iframe_long *iframe) {
162    struct fault_handler_table_entry *fault_handler;
163    uint32_t esr = ARM64_READ_SYSREG(esr_el1);
164    uint32_t ec = BITS_SHIFT(esr, 31, 26);
165    uint32_t il = BIT(esr, 25);
166    uint32_t iss = BITS(esr, 24, 0);
167
168    switch (ec) {
169        case 0b000111: /* floating point */
170            arm64_fpu_exception(iframe);
171            return;
172        case 0b010001: /* syscall from arm32 */
173        case 0b010101: /* syscall from arm64 */
174#ifdef WITH_LIB_SYSCALL
175            void arm64_syscall(struct arm64_iframe_long *iframe);
176            arch_enable_fiqs();
177            arm64_syscall(iframe);
178            arch_disable_fiqs();
179            return;
180#else
181            arm64_syscall(iframe, (ec == 0x15) ? true : false);
182            return;
183#endif
184        case 0b100000: /* instruction abort from lower level */
185        case 0b100001: /* instruction abort from same level */
186            printf("instruction abort: PC at 0x%llx\n", iframe->elr);
187            print_fault_msg(BITS(iss, 5, 0));
188            break;
189        case 0b100100: /* data abort from lower level */
190        case 0b100101: { /* data abort from same level */
191            for (fault_handler = __fault_handler_table_start;
192                    fault_handler < __fault_handler_table_end;
193                    fault_handler++) {
194                if (fault_handler->pc == iframe->elr) {
195                    iframe->elr = fault_handler->fault_handler;
196                    return;
197                }
198            }
199
200            /* read the FAR register */
201            uint64_t far = ARM64_READ_SYSREG(far_el1);
202
203            printf("data fault: %s access from PC 0x%llx, FAR 0x%llx, iss 0x%x (DFSC 0x%lx)\n",
204                   BIT(iss, 6) ? "Write" : "Read", iframe->elr, far, iss, BITS(iss, 5, 0));
205            print_fault_msg(BITS(iss, 5, 0));
206            break;
207        }
208        case 0b111100: {
209            printf("BRK #0x%04lx instruction: PC at 0x%llx\n",
210                   BITS_SHIFT(iss, 15, 0), iframe->elr);
211            break;
212        }
213        default:
214            printf("unhandled synchronous exception\n");
215    }
216
217    /* unhandled exception, die here */
218    printf("ESR 0x%x: ec 0x%x, il 0x%x, iss 0x%x\n", esr, ec, il, iss);
219    dump_iframe(iframe);
220
221    panic("die\n");
222}
223
224void arm64_invalid_exception(struct arm64_iframe_long *iframe, unsigned int which);

READING CONTRACT

발췌 범위와 읽기 기준

원문 136-224줄에는 앞뒤 문맥이 포함됩니다. 기준 구문 void arm64_sync_exception은 L160에 있습니다. 발췌 첫 줄을 함수 정의의 시작으로 해석하지 않습니다.

exception level과 vector slot에 따라 저장해야 할 register가 다르다. fault address와 syndrome을 읽는 시점, frame의 수명을 확인한다.

RELATED SOURCE

함께 읽어야 하는 원본 코드

첫 코드 조각만으로 동작이 완성되지 않는 경우 호출 매크로, 객체 정의와 실제 실행 목록을 같은 페이지에 묶었다. 각 조각은 같은 기준 commit에서 가져왔다.

01. exception frame의 register를 덤프하는 코드

arch/arm64/exceptions_c.c 133-199줄이다.

filearch/arm64/exceptions_c.canchor · L141static void dump_iframe
133            break;
134        }
135    }
136}
137
138extern struct fault_handler_table_entry __fault_handler_table_start[];
139extern struct fault_handler_table_entry __fault_handler_table_end[];
140
141static void dump_iframe(const struct arm64_iframe_long *iframe) {
142    printf("iframe %p:\n", iframe);
143    printf("x0  0x%16llx x1  0x%16llx x2  0x%16llx x3  0x%16llx\n", iframe->r[0], iframe->r[1], iframe->r[2], iframe->r[3]);
144    printf("x4  0x%16llx x5  0x%16llx x6  0x%16llx x7  0x%16llx\n", iframe->r[4], iframe->r[5], iframe->r[6], iframe->r[7]);
145    printf("x8  0x%16llx x9  0x%16llx x10 0x%16llx x11 0x%16llx\n", iframe->r[8], iframe->r[9], iframe->r[10], iframe->r[11]);
146    printf("x12 0x%16llx x13 0x%16llx x14 0x%16llx x15 0x%16llx\n", iframe->r[12], iframe->r[13], iframe->r[14], iframe->r[15]);
147    printf("x16 0x%16llx x17 0x%16llx x18 0x%16llx x19 0x%16llx\n", iframe->r[16], iframe->r[17], iframe->r[18], iframe->r[19]);
148    printf("x20 0x%16llx x21 0x%16llx x22 0x%16llx x23 0x%16llx\n", iframe->r[20], iframe->r[21], iframe->r[22], iframe->r[23]);
149    printf("x24 0x%16llx x25 0x%16llx x26 0x%16llx x27 0x%16llx\n", iframe->r[24], iframe->r[25], iframe->r[26], iframe->r[27]);
150    printf("x28 0x%16llx x29 0x%16llx lr  0x%16llx usp 0x%16llx\n", iframe->r[28], iframe->r[29], iframe->lr, iframe->usp);
151    printf("elr 0x%16llx\n", iframe->elr);
152    printf("spsr 0x%16llx\n", iframe->spsr);
153    arch_stacktrace(iframe->r[29], iframe->elr);
154}
155
156__WEAK void arm64_syscall(struct arm64_iframe_long *iframe, bool is_64bit) {
157    panic("unhandled syscall vector\n");
158}
159
160void arm64_sync_exception(struct arm64_iframe_long *iframe);
161void arm64_sync_exception(struct arm64_iframe_long *iframe) {
162    struct fault_handler_table_entry *fault_handler;
163    uint32_t esr = ARM64_READ_SYSREG(esr_el1);
164    uint32_t ec = BITS_SHIFT(esr, 31, 26);
165    uint32_t il = BIT(esr, 25);
166    uint32_t iss = BITS(esr, 24, 0);
167
168    switch (ec) {
169        case 0b000111: /* floating point */
170            arm64_fpu_exception(iframe);
171            return;
172        case 0b010001: /* syscall from arm32 */
173        case 0b010101: /* syscall from arm64 */
174#ifdef WITH_LIB_SYSCALL
175            void arm64_syscall(struct arm64_iframe_long *iframe);
176            arch_enable_fiqs();
177            arm64_syscall(iframe);
178            arch_disable_fiqs();
179            return;
180#else
181            arm64_syscall(iframe, (ec == 0x15) ? true : false);
182            return;
183#endif
184        case 0b100000: /* instruction abort from lower level */
185        case 0b100001: /* instruction abort from same level */
186            printf("instruction abort: PC at 0x%llx\n", iframe->elr);
187            print_fault_msg(BITS(iss, 5, 0));
188            break;
189        case 0b100100: /* data abort from lower level */
190        case 0b100101: { /* data abort from same level */
191            for (fault_handler = __fault_handler_table_start;
192                    fault_handler < __fault_handler_table_end;
193                    fault_handler++) {
194                if (fault_handler->pc == iframe->elr) {
195                    iframe->elr = fault_handler->fault_handler;
196                    return;
197                }
198            }
199

DETAILS

내부 동작을 더 깊게 읽기

01

진입 조건을 먼저 고정한다

exception vector에서 들어온 실행은 동기 exception 문맥에 놓여 있다. 이때 interrupt, MMU/cache, stack, heap 중 무엇이 이미 준비되었는지 소스의 호출자까지 올라가 확인한다. 같은 함수라도 SPL, relocation 전후, app thread처럼 호출 문맥이 달라지면 허용되는 API와 지연 시간이 달라진다.

exception level과 vector slot에 따라 저장해야 할 register가 다르다. fault address와 syndrome을 읽는 시점, frame의 수명을 확인한다.

02

중심 객체의 생성과 공개를 나눈다

이 글의 중심 객체는 arm64_iframe / ESR_ELx다. 메모리를 확보한 시점, 필드를 채운 시점, 전역 list나 다른 subsystem에 공개한 시점을 구분한다. 공개 뒤 오류가 발생한다면 목록에서 제거하고 child, buffer, reference를 역순으로 정리하는지 확인한다.

빌드 산출물 관점에서는 최종 부트로더 이미지 안에 해당 symbol과 section이 실제로 포함되었는지도 map과 objdump로 검증한다.

03

주소, 크기와 정렬을 계산한다

부트 코드에서는 주소 계산 오류를 주의해야 한다. 원본과 목적지의 주소 범위, 헤더에 기록된 데이터 크기, 블록·페이지 단위를 표로 정리하고 각 구간의 끝 주소를 계산한다. 끝 주소가 start + size - 1처럼 마지막 바이트를 가리키는지, 구간 바로 다음 주소를 가리키는지는 API 규약에서 확인한다.

04

성공 flag와 실제 완료 시점을 맞춘다

save iframe → ESR/FAR read → C dispatch 구간에서는 부분 초기화 상태가 생길 수 있다. flag, list insertion, callback 등록, storage write 완료 중 무엇이 성공의 기준인지 찾는다. hardware write나 DMA가 포함되면 함수 반환과 장치 완료가 같은 시점인지도 확인한다.

다른 CPU, 인터럽트 처리기, USB 완료 콜백, 셸 명령에서도 이 상태를 읽는다면 메모리 접근 순서와 잠금 범위를 함께 확인한다.

05

제어권을 넘기기 전에 확인할 조건을 정리한다

정상 경로는 eret or panic에서 끝난다. 이 단계가 함수 반환인지, scheduler 전환인지, 다른 image로의 비복귀 분기인지 구분한다. 비복귀 handoff라면 cache clean/invalidate, interrupt disable, 장치 quiesce, argument register와 FDT 또는 image address가 최종 점검 항목이다.

호출한 함수로 돌아오는 경로라면 오류와 일부 처리만 완료된 상태를 구분하는지 확인한다. 이어서 다음 후보를 시도할지, 복구 절차를 실행할지 살펴본다.

IMPLEMENTATION NOTES

구현을 읽을 때 놓치기 쉬운 부분

01

vector slot에서 iframe 완성까지가 하나의 원자적 진입이다

assembly는 interrupted context의 general register, ELR, SPSR와 syndrome을 stack frame에 저장한 뒤 C handler로 넘긴다. frame offset이 C 구조체와 한 필드라도 다르면 backtrace와 signal 판단이 모두 틀어진다.

nested exception을 허용하기 전까지 stack과 per-CPU exception state가 완성되어야 한다.

02

IRQ와 synchronous exception은 복귀 조건이 다르다

IRQ handler는 interrupt controller에서 source를 acknowledge하고 device handler 뒤 EOI를 수행하지만 synchronous abort는 ESR class와 FAR를 해석해 복구 또는 panic을 결정한다. 같은 C dispatch로 들어가도 saved PC를 증가시킬지 여부가 다르다.

spurious interrupt와 level-triggered source가 계속 assert된 경우의 loop를 구분한다.

03

user와 kernel fault 경계를 명시한다

lower EL에서 온 fault는 현재 process address space와 user register를 기준으로 처리할 수 있지만 kernel fault는 대개 invariant 위반이다. exception origin bit와 saved SPSR를 먼저 확인한다.

fault log에는 ESR 해석 문자열뿐 아니라 raw ESR, FAR, ELR, SP와 translation table base를 남긴다.

OBJECT LIFETIME

객체와 수명

대상만들어지는 시점유효 범위확인할 조건
arm64_iframe / ESR_ELxsave iframeeret or panic 또는 오류 정리 완료까지진입 전제와 상태 계약
입력 buffer / metadataexception vectorparse와 검증이 끝날 때까지길이, 정렬, 소유권, 변조 가능성
등록된 list / descriptorESR/FAR read하위 시스템을 종료하거나 다음 이미지에 제어권을 넘길 때까지중복 등록, 해제된 객체를 가리키는 포인터, 오류 후 자원 정리
hardware 또는 persistent state실제 write/probe가 완료된 뒤reset 또는 명시적 해제·갱신까지쓰기 완료, 시간 초과, 전원 차단, 이전 상태 복원
최종 부트로더 이미지link/image 생성 시점다음 stage가 새 image로 교체할 때까지적재 주소, 진입점, 섹션, 헤더의 일치 여부

FAILURE PATH

실패 지점과 증상

#조건관찰되는 증상먼저 볼 단계
01frame layout 불일치잘못된 register 복원save iframe
02ESR decode 오류원인 오판ESR/FAR read
03nested exception원래 frame 손상C dispatch

로그가 끊긴 함수뿐 아니라 그 함수에 주소, 크기, 플래그를 전달한 앞 단계도 조사한다. 오류 처리 후 등록된 객체나 하드웨어 설정이 그대로 남아 있는지도 확인한다.

EVIDENCE

소스 밖에서 확인할 증거

소스에서 파악한 동작을 실제 빌드 결과와 대상 보드의 로그로 확인한다. 아래 명령의 보드 이름과 툴체인 접두사는 사용 중인 빌드 환경에 맞게 바꾼다.

#목적명령 또는 계측판정 기준
01빌드 구성make <project> -j1platform, target, app 선택과 linker 입력을 로그로 남긴다.
02symbol과 주소nm -n build-*/lk.elf | grep 'void arm64_sync_exception'init hook, app descriptor와 함수가 어느 주소에 놓였는지 확인한다.
03어셈블리 대조objdump -drS build-*/lk.elfthread 전환과 interrupt disable 구간의 실제 명령을 확인한다.
04초기화 순서init level 전후에 current_time_hires()와 함수 이름 기록level 내부 순서와 지연을 serial log로 남긴다.
05문맥 확인current_thread, interrupt state, stack pointer 기록함수가 bootstrap thread인지 scheduler 이후 thread인지 구분한다.

LAB

직접 확인할 실험

  1. 01
    의도적 data abort로 ESR/FAR 확인

    save iframe 진입 전후에 vector slot의 주소·크기·반환값과 timestamp를 함께 남긴다.

  2. 02
    objdump로 assembly frame offset과 C struct 비교

    ESR/FAR read 진입 전후에 arm64_iframe의 주소·크기·반환값과 timestamp를 함께 남긴다.

  3. 03
    breakpoint exception의 PC 증가 규칙 확인

    C dispatch 진입 전후에 syndrome registers의 주소·크기·반환값과 timestamp를 함께 남긴다.

PRIMARY REFERENCES

원문과 다음 글

arch/arm64/exceptions_c.cupstream 1eb9917 원본 파일 LK source tree기준 commit 1eb99171efae