OP-TEE OS · source analysis

Standard SMC 진입과 thread 할당

Normal World의 OPTEE_SMC_CALL_WITH_ARG가 secure monitor를 거쳐 들어오고 message physical address를 검증해 thread를 실행하는 경로를 읽습니다.

표의 버전은 소스 분석 기준이며 최신 보안 버전 권고가 아닙니다. TF-A LTS 2.14.3 이후에는 보안 수정이 있습니다. 제품 적용 시 공식 변경 기록과 사용 플랫폼의 errata를 확인하세요.

Series
06 / 12
Baseline
4.10.0
Commit
753afbbee168
Source
core/arch/arm/kernel/thread_optee_smc.c:28-116 (발췌 범위)

Linux 드라이버가 이 진입에 넘기는 값

Linux v6.18.37은 ioctl 인자를 optee_msg_arg로 만들고 선택한 전송 ABI로 호출합니다. CALL_WITH_ARG 계열의 a1:a2는 메시지 물리 주소의 상위·하위 32비트이지만, CALL_WITH_REGD_ARG에서는 등록된 공유 메모리 cookie이며 a3는 offset입니다. FF-A 구성에는 별도의 전송 구현이 있으므로 이 레지스터 표를 공통 규약처럼 적용하지 않습니다.

양쪽 코드를 이어서 읽기

Standard SMC 진입과 thread 할당 단계에서 실제로 바뀌는 상태는 무엇인가?

SMC 레지스터로 전달받은 값은 검증해야 한다. a1-a2로 구성한 물리 주소, 캐시 속성, 메시지 크기, 공유 메모리의 관리 주체를 확인한 뒤 해당 주소의 메모리에 접근한다.

message argument는 등록되거나 허용된 non-secure shared memory 안에 완전히 포함되고 active secure thread가 소유하는 동안 재사용 규칙을 지켜야 한다. 이 문장을 기준으로 코드를 위에서 아래로 읽으면, 함수 이름을 외우는 대신 어느 시점에 어떤 상태를 신뢰할 수 있는지 판단할 수 있다.

객체와 주소가 놓이는 구조

그림 1. Standard SMC 진입과 thread 할당에서 입력, 내부 상태, 출력의 경계
입력과 전제내부 상태외부로 공개되는 결과
01thread_smc_args
02optee_msg_arg
03mobj
04thread_ctx

thread_smc_args / optee_msg_arg를 중심에 놓고 왼쪽의 입력이 어떤 검사를 거쳐 오른쪽 결과로 공개되는지 표시했다. 실제 디버깅에서는 각 블록의 주소와 크기를 로그에 대입한다.

실행 흐름

그림 2. 정상 경로의 주요 호출과 상태 전달
Linux SMC
TF-A opteed
thread_handle_std_smc
message address lookup
thread allocate/run

화살표는 단순 호출 순서만 뜻하지 않는다. 각 단계가 성공을 반환할 때 다음 단계가 읽을 수 있는 상태가 무엇인지 함께 확인한다. 오류 반환이 발생하면 바로 다음 화살표로 진행하지 않고 해당 단계의 정리 경로를 따라간다.

단계별 입력과 출력

각 단계의 입력과 처리 후 바뀌는 상태를 정리한 표다. 사용 중인 소스 버전에서 다른 필드를 변경한다면 그에 맞춰 표도 수정한다.

#단계진입 시 신뢰할 상태성공 뒤 남아야 할 상태다음 소비자
01Linux SMCsecure monitor call entrythread_smc_argsTF-A opteed
02TF-A opteedLinux SMC 완료 상태optee_msg_argthread_handle_std_smc
03thread_handle_std_smcTF-A opteed 완료 상태mobjmessage address lookup
04message address lookupthread_handle_std_smc 완료 상태thread_ctxthread allocate/run
05thread allocate/runmessage address lookup 완료 상태thread_ctx이 단계의 처리 결과를 사용하는 코드

분석 범위의 전제와 비교해, 다음 단계에 잘못된 입력을 넘긴 부분부터 조사한다.

주소와 객체의 이동을 그림으로 읽기

아래 그림은 주소, 객체를 사용하는 기간, 제어권을 넘기는 시점을 중심으로 정리했다. 실제 주소와 크기는 사용 중인 보드의 bdinfo, 맵 파일과 링커 심벌로 확인한다.

그림 3. Standard SMC 진입과 thread 할당의 실행 순서

각 칸은 제어권이 다음 단계로 넘어가기 전에 확정되어야 하는 상태를 나타낸다.

01Linux SMC
02TF-A opteed
03thread_handle_std_smc
04message address lookup
05thread allocate/run
그림 4. Linux SMC register에서 secure thread까지

왼쪽에서 만든 상태를 오른쪽 단계가 처음 사용하는 관계를 표시한다.

01a0OPTEE_SMC_CALL_WITH_ARGstandard call
02a1:a2message PAmobj lookup
03a3+resume/cache argsthread state
04validated argthread_alloc_and_runsecure execution

원본 코드

아래 코드는 OP-TEE OS 4.10.0의 core/arch/arm/kernel/thread_optee_smc.c에서 28-116줄을 그대로 가져온 것이다. 설명을 위해 실제 코드를 가짜 의사 코드로 바꾸지 않았다.

commit753afbbee1682f5d16fd30e87b31058a4fd4f4b8anchor · L52uint32_t thread_handle_std_smc(uint32_t a0
28
29static_assert(NOTIF_VALUE_DO_BOTTOM_HALF ==
30	      OPTEE_SMC_ASYNC_NOTIF_VALUE_DO_BOTTOM_HALF);
31
32void thread_handle_fast_smc(struct thread_smc_args *args)
33{
34	thread_check_canaries();
35
36	if (IS_ENABLED(CFG_NS_VIRTUALIZATION) &&
37	    virt_set_guest(args->a7) && args->a7 != HYP_CLNT_ID) {
38		args->a0 = OPTEE_SMC_RETURN_ENOTAVAIL;
39		goto out;
40	}
41
42	tee_entry_fast(args);
43
44	if (IS_ENABLED(CFG_NS_VIRTUALIZATION))
45		virt_unset_guest();
46
47out:
48	/* Fast handlers must not unmask any exceptions */
49	assert(thread_get_exceptions() == THREAD_EXCP_ALL);
50}
51
52uint32_t thread_handle_std_smc(uint32_t a0, uint32_t a1, uint32_t a2,
53			       uint32_t a3, uint32_t a4, uint32_t a5,
54			       uint32_t a6 __unused, uint32_t a7 __maybe_unused)
55{
56	uint32_t rv = OPTEE_SMC_RETURN_OK;
57
58	thread_check_canaries();
59
60	if (IS_ENABLED(CFG_NS_VIRTUALIZATION) && virt_set_guest(a7))
61		return OPTEE_SMC_RETURN_ENOTAVAIL;
62
63	/*
64	 * thread_resume_from_rpc() and thread_alloc_and_run() only return
65	 * on error. Successful return is done via thread_exit() or
66	 * thread_rpc().
67	 */
68	if (a0 == OPTEE_SMC_CALL_RETURN_FROM_RPC) {
69		thread_resume_from_rpc(a3, a1, a2, a4, a5);
70		rv = OPTEE_SMC_RETURN_ERESUME;
71	} else {
72		thread_alloc_and_run(a0, a1, a2, a3, 0, 0);
73		rv = OPTEE_SMC_RETURN_ETHREAD_LIMIT;
74	}
75
76	if (IS_ENABLED(CFG_NS_VIRTUALIZATION))
77		virt_unset_guest();
78
79	return rv;
80}
81
82/**
83 * Free physical memory previously allocated with thread_rpc_alloc_arg()
84 *
85 * @cookie:	cookie received when allocating the buffer
86 */
87static void thread_rpc_free_arg(uint64_t cookie)
88{
89	if (cookie) {
90		uint32_t rpc_args[THREAD_RPC_NUM_ARGS] = {
91			OPTEE_SMC_RETURN_RPC_FREE
92		};
93
94		reg_pair_from_64(cookie, rpc_args + 1, rpc_args + 2);
95		thread_rpc(rpc_args);
96	}
97}
98
99static uint32_t get_msg_arg(struct mobj *mobj, size_t offset,
100			    size_t *num_params, struct optee_msg_arg **arg,
101			    struct optee_msg_arg **rpc_arg)
102{
103	void *p = NULL;
104	size_t sz = 0;
105
106	if (!mobj)
107		return OPTEE_SMC_RETURN_EBADADDR;
108
109	p = mobj_get_va(mobj, offset, sizeof(struct optee_msg_arg));
110	if (!p || !IS_ALIGNED_WITH_TYPE(p, struct optee_msg_arg))
111		return OPTEE_SMC_RETURN_EBADADDR;
112
113	*arg = p;
114	*num_params = READ_ONCE((*arg)->num_params);
115	if (*num_params > OPTEE_MSG_MAX_NUM_PARAMS)
116		return OPTEE_SMC_RETURN_EBADADDR;

발췌 범위와 읽기 기준

원문 28-116줄에는 앞뒤 문맥이 포함됩니다. 기준 구문 uint32_t thread_handle_std_smc(uint32_t a0은 L52에 있습니다. 발췌 첫 줄을 함수 정의의 시작으로 해석하지 않습니다.

SMC 레지스터로 전달받은 값은 검증해야 한다. a1-a2로 구성한 물리 주소, 캐시 속성, 메시지 크기, 공유 메모리의 관리 주체를 확인한 뒤 해당 주소의 메모리에 접근한다.

함께 읽어야 하는 원본 코드

첫 코드 조각만으로 동작이 완성되지 않는 경우 호출 매크로, 객체 정의와 실제 실행 목록을 같은 페이지에 묶었다. 각 조각은 같은 기준 commit에서 가져왔다.

01. 검증된 message를 command dispatcher에 전달

core/tee/entry_std.c 677-765줄이다.

filecore/tee/entry_std.canchor · L689TEE_Result __tee_entry_std
677}
678
679/* Note: this function is weak to let platforms add special handling */
680TEE_Result __weak tee_entry_std(struct optee_msg_arg *arg, uint32_t num_params)
681{
682	return __tee_entry_std(arg, num_params);
683}
684
685/*
686 * If tee_entry_std() is overridden, it's still supposed to call this
687 * function.
688 */
689TEE_Result __tee_entry_std(struct optee_msg_arg *arg, uint32_t num_params)
690{
691	TEE_Result res = TEE_SUCCESS;
692
693	/* Enable foreign interrupts for STD calls */
694	thread_set_foreign_intr(true);
695	switch (arg->cmd) {
696	case OPTEE_MSG_CMD_OPEN_SESSION:
697		entry_open_session(arg, num_params);
698		break;
699	case OPTEE_MSG_CMD_CLOSE_SESSION:
700		entry_close_session(arg, num_params);
701		break;
702	case OPTEE_MSG_CMD_INVOKE_COMMAND:
703		entry_invoke_command(arg, num_params);
704		break;
705	case OPTEE_MSG_CMD_CANCEL:
706		entry_cancel(arg, num_params);
707		break;
708#if defined(CFG_CORE_DYN_SHM) && !defined(CFG_CORE_FFA)
709	case OPTEE_MSG_CMD_REGISTER_SHM:
710		register_shm(arg, num_params);
711		break;
712	case OPTEE_MSG_CMD_UNREGISTER_SHM:
713		unregister_shm(arg, num_params);
714		break;
715#endif
716	case OPTEE_MSG_CMD_DO_BOTTOM_HALF:
717		if (IS_ENABLED(CFG_CORE_ASYNC_NOTIF))
718			notif_deliver_event(NOTIF_EVENT_DO_BOTTOM_HALF);
719		else
720			goto err;
721		break;
722	case OPTEE_MSG_CMD_STOP_ASYNC_NOTIF:
723		if (IS_ENABLED(CFG_CORE_ASYNC_NOTIF))
724			notif_deliver_event(NOTIF_EVENT_STOPPED);
725		else
726			goto err;
727		break;
728#ifdef CFG_CORE_DYN_PROTMEM
729	case OPTEE_MSG_CMD_GET_PROTMEM_CONFIG:
730		get_protmem_config(arg, num_params);
731		break;
732#ifdef CFG_CORE_FFA
733	case OPTEE_MSG_CMD_ASSIGN_PROTMEM:
734		assign_protmem(arg, num_params);
735		break;
736#else
737	case OPTEE_MSG_CMD_LEND_PROTMEM:
738		lend_protmem(arg, num_params);
739		break;
740	case OPTEE_MSG_CMD_RECLAIM_PROTMEM:
741		reclaim_protmem(arg, num_params);
742		break;
743#endif /*!CFG_CORE_FFA*/
744#endif /*CFG_CORE_DYN_PROTMEM*/
745	default:
746err:
747		EMSG("Unknown cmd 0x%x", arg->cmd);
748		res = TEE_ERROR_NOT_IMPLEMENTED;
749	}
750
751	return res;
752}
753
754static TEE_Result default_mobj_init(void)
755{
756#ifdef CFG_CORE_RESERVED_SHM
757	shm_mobj = mobj_phys_alloc(default_nsec_shm_paddr,
758				   default_nsec_shm_size, SHM_CACHE_ATTRS,
759				   CORE_MEM_NSEC_SHM);
760	if (!shm_mobj)
761		panic("Failed to register shared memory");
762#endif
763
764#ifdef CFG_SECURE_DATA_PATH
765	sdp_mem_mobjs = core_sdp_mem_create_mobjs();

02. mobj와 offset에서 정렬된 optee_msg_arg를 찾는 함수

core/arch/arm/kernel/thread_optee_smc.c 89-167줄이다.

filecore/arch/arm/kernel/thread_optee_smc.canchor · L99static uint32_t get_msg_arg(struct mobj *mobj
89	if (cookie) {
90		uint32_t rpc_args[THREAD_RPC_NUM_ARGS] = {
91			OPTEE_SMC_RETURN_RPC_FREE
92		};
93
94		reg_pair_from_64(cookie, rpc_args + 1, rpc_args + 2);
95		thread_rpc(rpc_args);
96	}
97}
98
99static uint32_t get_msg_arg(struct mobj *mobj, size_t offset,
100			    size_t *num_params, struct optee_msg_arg **arg,
101			    struct optee_msg_arg **rpc_arg)
102{
103	void *p = NULL;
104	size_t sz = 0;
105
106	if (!mobj)
107		return OPTEE_SMC_RETURN_EBADADDR;
108
109	p = mobj_get_va(mobj, offset, sizeof(struct optee_msg_arg));
110	if (!p || !IS_ALIGNED_WITH_TYPE(p, struct optee_msg_arg))
111		return OPTEE_SMC_RETURN_EBADADDR;
112
113	*arg = p;
114	*num_params = READ_ONCE((*arg)->num_params);
115	if (*num_params > OPTEE_MSG_MAX_NUM_PARAMS)
116		return OPTEE_SMC_RETURN_EBADADDR;
117
118	sz = OPTEE_MSG_GET_ARG_SIZE(*num_params);
119	if (!mobj_get_va(mobj, offset, sz))
120		return OPTEE_SMC_RETURN_EBADADDR;
121
122	if (rpc_arg) {
123		size_t rpc_sz = 0;
124
125		rpc_sz = OPTEE_MSG_GET_ARG_SIZE(THREAD_RPC_MAX_NUM_PARAMS);
126		p = mobj_get_va(mobj, offset + sz, rpc_sz);
127		if (!p)
128			return OPTEE_SMC_RETURN_EBADADDR;
129		*rpc_arg = p;
130	}
131
132	return OPTEE_SMC_RETURN_OK;
133}
134
135static void clear_prealloc_rpc_cache(struct thread_ctx *thr)
136{
137	thread_rpc_free_arg(mobj_get_cookie(thr->rpc_mobj));
138	mobj_put(thr->rpc_mobj);
139	thr->rpc_arg = NULL;
140	thr->rpc_mobj = NULL;
141}
142
143static uint32_t call_entry_std(struct optee_msg_arg *arg, size_t num_params,
144			       struct optee_msg_arg *rpc_arg)
145{
146	struct thread_ctx *thr = threads + thread_get_id();
147	uint32_t rv = 0;
148
149	if (rpc_arg) {
150		/*
151		 * In case the prealloc RPC arg cache is enabled, clear the
152		 * cached object for this thread.
153		 *
154		 * Normally it doesn't make sense to have the prealloc RPC
155		 * arg cache enabled together with a supplied RPC arg
156		 * struct. But if it is we must use the supplied struct and
157		 * at the same time make sure to not break anything.
158		 */
159		if (IS_ENABLED(CFG_PREALLOC_RPC_CACHE) &&
160		    thread_prealloc_rpc_cache)
161			clear_prealloc_rpc_cache(thr);
162		thr->rpc_arg = rpc_arg;
163	}
164
165	if (tee_entry_std(arg, num_params))
166		rv = OPTEE_SMC_RETURN_EBADCMD;
167	else

내부 동작을 더 깊게 읽기

01

진입 조건을 먼저 고정한다

Linux SMC에서 들어온 실행은 secure monitor call entry에 놓여 있다. 이때 interrupt, MMU/cache, stack, heap 중 무엇이 이미 준비되었는지 소스의 호출자까지 올라가 확인한다. 같은 함수라도 SPL, relocation 전후, app thread처럼 호출 문맥이 달라지면 허용되는 API와 지연 시간이 달라진다.

SMC 레지스터로 전달받은 값은 검증해야 한다. a1-a2로 구성한 물리 주소, 캐시 속성, 메시지 크기, 공유 메모리의 관리 주체를 확인한 뒤 해당 주소의 메모리에 접근한다.

02

중심 객체의 생성과 공개를 나눈다

이 글의 중심 객체는 thread_smc_args / optee_msg_arg다. 메모리를 확보한 시점, 필드를 채운 시점, 전역 list나 다른 subsystem에 공개한 시점을 구분한다. 공개 뒤 오류가 발생한다면 목록에서 제거하고 child, buffer, reference를 역순으로 정리하는지 확인한다.

빌드 산출물 관점에서는 최종 부트로더 이미지 안에 해당 symbol과 section이 실제로 포함되었는지도 map과 objdump로 검증한다.

03

주소, 크기와 정렬을 계산한다

부트 코드에서는 주소 계산 오류를 주의해야 한다. 원본과 목적지의 주소 범위, 헤더에 기록된 데이터 크기, 블록·페이지 단위를 표로 정리하고 각 구간의 끝 주소를 계산한다. 끝 주소가 start + size - 1처럼 마지막 바이트를 가리키는지, 구간 바로 다음 주소를 가리키는지는 API 규약에서 확인한다.

04

성공 flag와 실제 완료 시점을 맞춘다

TF-A opteed → thread_handle_std_smc → message address lookup 구간에서는 부분 초기화 상태가 생길 수 있다. flag, list insertion, callback 등록, storage write 완료 중 무엇이 성공의 기준인지 찾는다. hardware write나 DMA가 포함되면 함수 반환과 장치 완료가 같은 시점인지도 확인한다.

다른 CPU, 인터럽트 처리기, USB 완료 콜백, 셸 명령에서도 이 상태를 읽는다면 메모리 접근 순서와 잠금 범위를 함께 확인한다.

05

제어권을 넘기기 전에 확인할 조건을 정리한다

정상 경로는 thread allocate/run에서 끝난다. 이 단계가 함수 반환인지, scheduler 전환인지, 다른 image로의 비복귀 분기인지 구분한다. 비복귀 handoff라면 cache clean/invalidate, interrupt disable, 장치 quiesce, argument register와 FDT 또는 image address가 최종 점검 항목이다.

호출한 함수로 돌아오는 경로라면 오류와 일부 처리만 완료된 상태를 구분하는지 확인한다. 이어서 다음 후보를 시도할지, 복구 절차를 실행할지 살펴본다.

구현을 읽을 때 놓치기 쉬운 부분

01

Linux SMC에서 thread allocate/run까지 제어권이 이동하는 조건

Normal World의 OPTEE_SMC_CALL_WITH_ARG가 secure monitor를 거쳐 들어오고 message physical address를 검증해 thread를 실행하는 경로를 읽습니다. 이 경로는 함수 호출 목록만 외워서는 연결되지 않는다. Linux SMC → TF-A opteed → thread_handle_std_smc → message address lookup → thread allocate/run 순서에서 각 단계가 읽는 입력, 새로 확정하는 상태, 다음 단계에 넘기는 값을 구분해야 한다. 특히 secure monitor call entry에서는 이전 단계가 남긴 register와 memory attribute가 C 코드의 전제 조건이 된다.

SMC 레지스터로 전달받은 값은 검증해야 한다. a1-a2로 구성한 물리 주소, 캐시 속성, 메시지 크기, 공유 메모리의 관리 주체를 확인한 뒤 해당 주소의 메모리에 접근한다. 따라서 첫 지점에서 thread_smc_args / optee_msg_arg의 주소와 owner를 기록하고, 마지막 지점에서 같은 값이 그대로 유지되는지 아니면 새 객체로 교체되는지를 확인한다. 중간 함수가 성공을 반환해도 message argument는 등록되거나 허용된 non-secure shared memory 안에 완전히 포함되고 active secure thread가 소유하는 동안 재사용 규칙을 지켜야 한다.

02

thread_smc_args와 thread_ctx의 생성 시점과 수명

이 글에서 함께 나타나는 객체는 thread_smc_args, optee_msg_arg, mobj, thread_ctx이다. 이름이 비슷해도 저장 위치와 수명은 다르다. build-time descriptor인지, boot 단계의 임시 객체인지, world switch 뒤에도 남는 runtime 객체인지 나눠야 pointer를 따라가다 다른 단계의 구조체를 같은 것으로 오해하지 않는다.

thread_smc_args / optee_msg_arg을 기준으로 allocation 또는 정적 배치 위치, list/table에 공개되는 시점, 참조가 끊기는 시점을 적는다. 그 다음 source와 destination 범위, per-CPU 여부, secure/non-secure 접근 권한을 map과 runtime log로 대조한다. 이 절차를 거치면 단순한 호출 순서가 아니라 실제 소유권 이동이 보인다.

03

성공 로그만으로 놓치기 쉬운 오류

대표적인 실패 조건은 PA truncation/overflow: 다른 memory 참조; unregistered shared memory: validation 우회; thread 부족 반환 오류: Linux hang이다. 이 문제들은 대개 fault가 발생한 함수보다 앞에서 만들어진 잘못된 주소, size, security state 또는 refcount 때문에 생긴다. 마지막 출력만 보지 말고 각 경계 직전의 상태를 한 줄씩 남겨 최초 불일치 지점을 찾는다.

재현에는 잘못 정렬된 message PA 전달; 32/64-bit SMC 조합 비교; thread pool 고갈 시 Linux driver 반환값 기록를 사용한다. 정상 경로와 실패 경로에서 같은 필드를 같은 위치에 출력하고, 실패가 검증 단계에서 차단되는지 아니면 다음 context까지 전파되는지 비교한다. firmware와 secure world에서는 실패 뒤의 cleanup 또는 reset 경로도 정상 경로만큼 중요하다.

레지스터에서 오류 판정까지 상세 분석

Standard SMC entry는 Linux가 넘긴 physical pointer를 곧바로 optee_msg_arg *로 cast하는 경로가 아니다. a1:a2 register pair를 64-bit address로 조합한 뒤 registered 또는 reserved shared-memory mobj를 찾고 offset, alignment, header와 parameter count를 검증해야 secure code가 message를 읽을 수 있다.

새 request와 RPC resume는 같은 thread_handle_std_smc로 들어오지만 state machine이 다르다. new call은 FREE thread를 할당하고, resume는 a1-a5의 token과 saved state를 이용해 SUSPENDED thread를 재개하므로 function ID를 잘못 분류하면 thread ownership이 무너진다.

그림 5. 이 경로를 통과하는 다섯 개의 진입 계약
01a0

CALL_WITH_ARG/registered arg/RETURN_FROM_RPC 등 지원 SMC ID여야 한다.

02a1:a2

message physical address 또는 shared-memory reference를 ABI대로 조합한다.

03a3-a5

cookie, offset, resume 값의 명령별 의미를 구분한다.

04a7

virtualization 설정에서 허용된 guest ID여야 한다.

05thread availability

new call은 FREE slot, resume는 정확한 SUSPENDED slot을 요구한다.

각 계약은 앞 단계가 생산하고 현재 단계가 검증한 뒤 다음 소비자에게 넘기는 상태다. 한 항목이라도 확인되지 않으면 뒤 단계의 fault를 그 지점의 문제로 단정하지 않는다.

진입 레지스터와 메모리 계약

함수 첫 줄에 도달했을 때 이미 참이라고 가정하는 값과, 그 값이 틀렸을 때 영향을 받는 범위를 함께 적었다.

#입력 상태생산자정상 조건확인 이유
01a0Linux OP-TEE driverCALL_WITH_ARG/registered arg/RETURN_FROM_RPC 등 지원 SMC ID여야 한다.new standard call과 resume를 선택한다.
02a1:a2Normal Worldmessage physical address 또는 shared-memory reference를 ABI대로 조합한다.optee_msg_arg lookup의 시작값이다.
03a3-a5RPC resume/registered callcookie, offset, resume 값의 명령별 의미를 구분한다.잘못된 thread 또는 mobj 선택을 막는다.
04a7client/guest IDvirtualization 설정에서 허용된 guest ID여야 한다.guest별 shared memory와 context를 선택한다.
05thread availabilityOP-TEE thread poolnew call은 FREE slot, resume는 정확한 SUSPENDED slot을 요구한다.request 실행 자원을 결정한다.

핵심 구조체 필드의 생산자, 소비자와 수명

구조체 이름만 나열하지 않고 어떤 코드가 값을 쓰고, 어느 코드가 처음 읽으며, 언제까지 주소와 내용이 유지되어야 하는지 구분했다.

#객체 또는 필드생산자소비자수명과 불변 조건
01thread_smc_argsentry assemblythread_handle_std_smcSMC 진입 frame 동안 a0-a7을 보존한다.
02optee_msg_argNormal World shared memorystandard entry검증된 call 동안만 직접 접근하고 필요 field는 secure copy로 옮긴다.
03argument mobjregistered/reserved SHM lookupmobj_get_va와 cleanupmessage 처리 끝까지 ref를 유지해 unregister를 막는다.
04RPC argthread RPC setupNormal World supplicant와 resumesuspend 동안 NS가 수정할 수 있으므로 resume에서 결과를 재검증한다.
05thread_ctxthread_alloc_and_run/resumesecure call stackcall 종료 또는 suspend state로 전환될 때까지 request owner다.
06guest contextvirtualization layerSMC/message lookupa7 guest ID별로 분리되고 다른 guest의 cookie를 허용하면 안 된다.

함수 내부 실행 순서

소스의 큰 분기와 side effect를 실행 순서대로 다시 펼쳤다. breakpoint는 이 목록의 경계에 두고, 다음 번호로 넘어갈 때 새로 유효해진 객체를 기록한다.

  1. 01

    TF-A opteed가 Normal World SMC context를 저장하고 OP-TEE secure context로 전환한다.

  2. 02

    entry assembly가 a0-a7을 thread_smc_args 형식으로 보존하고 standard/fast call handler를 구분한다.

  3. 03

    thread_handle_std_smc가 guest ID와 function ID를 검증해 new call 또는 RPC resume를 선택한다.

  4. 04

    new call은 thread_alloc_and_run으로 FREE thread를 ACTIVE로 바꾸고 register frame을 초기화한다.

  5. 05

    a1:a2를 64-bit message reference로 만들고 reserved/registered SHM registry에서 mobj를 찾는다.

  6. 06

    offset, 최소 header 크기, natural alignment, num_params에 따른 전체 size를 overflow 없이 검증한다.

  7. 07

    검증된 VA에서 optee_msg_arg를 읽고 standard command dispatcher로 넘긴다.

  8. 08

    RPC가 필요하면 thread를 suspend해 Normal World로 반환하고 resume SMC에서 token을 검증한다.

  9. 09

    최종 result와 origin을 message/register에 쓰고 mobj ref와 thread state를 정리한 뒤 TF-A를 통해 복귀한다.

빌드 설정이 바꾸는 실제 코드 경로

동일한 함수 이름이라도 아래 설정에 따라 포함되는 source, 구조체 크기, 인자 의미와 failure path가 달라진다.

#설정바뀌는 동작확인 방법
01CFG_CORE_DYN_SHMregistered shared-memory cookie와 mobj lookup을 허용한다.Linux capability와 SHM register/unregister 경로를 확인한다.
02CFG_CORE_RESERVED_SHM고정 NS SHM physical range의 argument를 허용한다.PA가 reserved range 안인지 boundary test한다.
03CFG_NS_VIRTUALIZATIONa7 guest ID와 guest-specific context가 추가된다.다른 guest cookie를 교차 전달해 거부되는지 확인한다.
04CFG_NUM_THREADS동시에 받을 수 있는 standard call 수를 바꾼다.thread exhaustion return과 Linux retry 동작을 본다.

증상에서 최초 불일치 지점까지 추적하기

마지막 panic 메시지가 아니라 어디에서 멈추고 무엇을 읽어 어떤 결론을 내릴지 정리했다. 정상값과 실패값은 같은 build와 같은 위치에서 비교한다.

#관찰 증상중단 위치기록할 값판정
01BAD_ADDRESS 반환message mobj lookupa1:a2 PA/cookie, offset, SHM registry등록 누락, 범위 초과, 잘못된 argument 형식을 구분한다.
02num_params가 클 때만 panicmessage size 계산header size, count, multiplication/add overflowNS 입력을 사용한 integer overflow 검사를 확인한다.
03RPC resume에서 ENOTAVAILthread_resume_from_rpca3 token, thread state, guest IDstale token, double resume, guest mismatch를 판정한다.
0432-bit Normal World에서 주소가 잘림reg_pair_to_64a1/a2 order와 physical addressregister pair ABI와 casting 오류를 찾는다.

객체와 수명

대상만들어지는 시점유효 범위확인할 조건
thread_smc_args / optee_msg_argTF-A opteedthread allocate/run 또는 오류 정리 완료까지진입 전제와 상태 계약
입력 buffer / metadataLinux SMCparse와 검증이 끝날 때까지길이, 정렬, 소유권, 변조 가능성
등록된 list / descriptorthread_handle_std_smc하위 시스템을 종료하거나 다음 이미지에 제어권을 넘길 때까지중복 등록, 해제된 객체를 가리키는 포인터, 오류 후 자원 정리
hardware 또는 persistent state실제 write/probe가 완료된 뒤reset 또는 명시적 해제·갱신까지쓰기 완료, 시간 초과, 전원 차단, 이전 상태 복원
최종 부트로더 이미지link/image 생성 시점다음 stage가 새 image로 교체할 때까지적재 주소, 진입점, 섹션, 헤더의 일치 여부

실패 지점과 증상

#조건관찰되는 증상먼저 볼 단계
01PA truncation/overflow다른 memory 참조TF-A opteed
02unregistered shared memoryvalidation 우회thread_handle_std_smc
03thread 부족 반환 오류Linux hangmessage address lookup

로그가 끊긴 함수뿐 아니라 그 함수에 주소, 크기, 플래그를 전달한 앞 단계도 조사한다. 오류 처리 후 등록된 객체나 하드웨어 설정이 그대로 남아 있는지도 확인한다.

소스 밖에서 확인할 증거

소스에서 파악한 동작을 실제 빌드 결과와 대상 보드의 로그로 확인한다. 아래 명령의 보드 이름과 툴체인 접두사는 사용 중인 빌드 환경에 맞게 바꾼다.

#목적명령 또는 계측판정 기준
01빌드 산출물make PLATFORM=<platform> CFG_TEE_CORE_LOG_LEVEL=4tee.elf, tee.bin과 pageable/pager 구성이 같은 설정에서 생성됐는지 확인한다.
02ELF 배치${CROSS_COMPILE64}readelf -W -lS out/arm/core/tee.elfsecure RAM 안에서 text, data, pager, pageable 구간이 어떤 주소와 권한으로 배치되는지 확인한다.
03심볼과 주소${CROSS_COMPILE64}nm -n out/arm/core/tee.elf | grep 'uint32_t thread_handle_std_smc'entry, thread, TA manager 함수의 링크 주소를 원본 설명과 연결한다.
04명령과 예외 경로${CROSS_COMPILE64}objdump -drS out/arm/core/tee.elfSMC entry, world switch, abort 복귀가 실제 register save/restore와 어떻게 이어지는지 대조한다.
05Normal world 왕복xtest; dmesg | grep -i opteesecure console과 Linux OP-TEE driver 로그를 함께 보고 SMC, RPC, shared memory 왕복의 양쪽 증거를 맞춘다.

직접 확인할 실험

  1. 01
    잘못 정렬된 message PA 전달

    TF-A opteed 진입 전후에 thread_smc_args의 주소·크기·반환값과 timestamp를 함께 남긴다.

  2. 02
    32/64-bit SMC 조합 비교

    thread_handle_std_smc 진입 전후에 optee_msg_arg의 주소·크기·반환값과 timestamp를 함께 남긴다.

  3. 03
    thread pool 고갈 시 Linux driver 반환값 기록

    message address lookup 진입 전후에 mobj의 주소·크기·반환값과 timestamp를 함께 남긴다.

원문과 다음 글