전체 흐름
locking/RCU/atomic 코드는 shared mutable state의 ordering과 lifetime을 보증하는 언어다. lock API를 외우는 것이 아니라 context, memory model, object lifetime을 하나의 그래프로 읽어야 한다.
함수 이름보다 입력 객체와 출력 객체를 먼저 본다. 이 토픽에서 어떤 구조체가 생성, 연결, publish, retire되는지 표시한다.
정상 경로와 실패 경로를 함께 확인한다. 성공 경로뿐 아니라 오류 복구, hotplug, 해제 과정에서 상태가 올바르게 정리되는지 점검한다.
왼쪽에서 오른쪽으로 갈수록 실제 상태 변경이 커진다. 각 코드 조각이 어느 단계에 해당하는지 대조한다.
소스 코드 위치
먼저 확인할 Linux v6.6 소스 파일
Linux v6.6: kernel/rcu/tree.c
Linux v6.6: kernel/rcu/update.c
Linux v6.6: include/linux/rcupdate.h설명: 첫 파일은 보통 진입 함수가 있는 곳이고, 나머지는 구조체 정의, architecture glue, callback 구현을 확인할 때 같이 연다. 파일을 여러 개 놓고 봐야 이 토픽의 boundary가 보인다.
대표 코드
void __init rcu_init
void __init rcu_init(void)
{
int cpu = smp_processor_id();
rcu_early_boot_tests();
kfree_rcu_batch_init();
rcu_bootup_announce();
sanitize_kthread_prio();
rcu_init_geometry();
rcu_init_one();
if (dump_tree)
rcu_dump_rcu_node_tree();
if (use_softirq)
open_softirq(RCU_SOFTIRQ, rcu_core_si);
/*
* We don't need protection against CPU-hotplug here because
* this is called early in boot, before either interrupts
* or the scheduler are operational.
*/
pm_notifier(rcu_pm_notify, 0);
WARN_ON(num_online_cpus() > 1); // Only one CPU this early in boot.
rcutree_prepare_cpu(cpu);
rcu_cpu_starting(cpu);
rcutree_online_cpu(cpu);
/* Create workqueue for Tree SRCU and for expedited GPs. */
rcu_gp_wq = alloc_workqueue("rcu_gp", WQ_MEM_RECLAIM, 0);
WARN_ON(!rcu_gp_wq);
rcu_alloc_par_gp_wq();
/* Fill in default value for rcutree.qovld boot parameter. */
/* -After- the rcu_node ->lock fields are initialized! */
if (qovld < 0)
qovld_calc = DEFAULT_RCU_QOVLD_MULT * qhimark;
else
qovld_calc = qovld;
// Kick-start in case any polled grace periods started early.
(void)start_poll_synchronize_rcu_expedited();
rcu_test_sync_prims();
}확인 사항: 이 코드에서는 반환값보다 상태 변경을 먼저 확인한다. 어느 잠금을 획득한 뒤 어떤 필드를 바꾸는지, 실패 시 어느 레이블로 분기하는지, 변경된 상태를 다음 호출자가 어떤 전제로 사용하는지 추적한다.
call_rcu
void call_rcu(struct rcu_head *head, rcu_callback_t func)
{
return __call_rcu_common(head, func, IS_ENABLED(CONFIG_RCU_LAZY));
}call_rcu()는 callback을 즉시 실행하거나 현재 호출자를 grace period 끝까지 재우는 함수가 아니다. head와 func를 __call_rcu_common()에 전달해 지연 실행을 등록한다. callback 안에서 무엇을 해제할지는 사용자가 정하며, 이미 공개한 객체는 먼저 독자가 새로 찾지 못하도록 분리해야 한다.
함수별 분석
read-side를 가볍게 유지하면서 update/free를 grace period 뒤로 미루는 RCU core state를 초기화한다.
이 섹션은 원본 코드 발췌를 함수 이름 단위로 끊어, 각 함수가 어떤 전제 조건을 만들고 다음 함수가 무엇을 소비하는지 추적한다.
각 노드는 독립 함수가 아니라 전제 조건을 생산하고 소비하는 연결점이다. 코드를 읽을 때는 노드 사이에서 어떤 필드가 바뀌는지 표시한다.
1. void __init rcu_init
void __init rcu_init 주변에서는 rcu_state를 중심으로 본다. 이 필드는 global GP state 역할을 하므로, 함수가 끝날 때 boot init 상태가 실제로 성립했는지 확인해야 한다.
원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 RCU structures 준비을 전제로 삼을 수 있다.
자주 틀리는 해석: RCU read lock을 mutual exclusion으로 오해함
2. call_rcu
call_rcu 주변에서는 rcu_data를 중심으로 본다. 이 필드는 CPU별 quiescent accounting 역할을 하므로, 함수가 끝날 때 read-side enters 상태가 실제로 성립했는지 확인해야 한다.
원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 reader tracking 시작을 전제로 삼을 수 있다.
자주 틀리는 해석: pointer publish에 rcu_assign_pointer를 빼먹음
| 함수 | 입력 | 상태 변경 | 검증 질문 |
|---|---|---|---|
| void __init rcu_init | rcu_state, caller context, subsystem 전제 조건 | boot init: RCU structures 준비 | RCU read lock을 mutual exclusion으로 오해함 문제를 코드상 어느 조건문 또는 error label에서 분리하는가 |
| call_rcu | rcu_data, caller context, subsystem 전제 조건 | read-side enters: reader tracking 시작 | pointer publish에 rcu_assign_pointer를 빼먹음 문제를 코드상 어느 조건문 또는 error label에서 분리하는가 |
구조체와 필드
여기서는 “어떤 구조체가 있다”가 아니라 그 필드가 어느 단계에서 쓰기 가능하고 어느 단계부터 관찰 가능한지를 본다. 필드의 뜻보다 보호 규칙이 먼저다.
필드는 구조체 안에 흩어져 있지만, 실제 실행에서는 위 순서로 의미가 이어진다.
누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인.
| 필드 | 읽는 법 |
|---|---|
| rcu_state | global GP state |
| rcu_data | CPU별 quiescent accounting |
| rcu_node | tree hierarchy |
| rcu_head | callback anchor |
실행 단계와 상태 변화
실행 단계를 따로 정리하면 정상 경로와 실패 경로를 나란히 비교할 수 있다. 커널 문제는 최종 결과보다 준비가 덜 된 중간 상태를 다른 코드에 공개한 뒤, 실패 시 제대로 정리하지 못할 때 자주 발생한다.
화살표는 정상 진행 방향을 나타낸다. 중간 단계에서 실패하면 각 단계의 오류 처리 또는 대체 경로로 이동한다.
| 상태 | 의미 | 진입 조건 | 깨지는 지점 |
|---|---|---|---|
| boot init | RCU structures 준비 | 앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤 | 다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때 |
| read-side enters | reader tracking 시작 | 앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤 | 다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때 |
| callback queued | free 지연 | 앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤 | 다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때 |
| grace period ends | old reader 없음 보장 | 앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤 | 다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때 |
불변 조건과 실패 사례
RCU init의 핵심 객체가 외부에 공개된 뒤에는 마지막 참조가 사라질 때까지 해제 경로가 callback, timer, IRQ, worker와 경합하지 않아야 한다.
상태 필드를 바꾼 뒤 다른 CPU나 하위 계층이 관찰할 수 있다면 lock, barrier, refcount, RCU 중 어느 장치가 visibility를 보장하는지 확인한다.
중간 단계 실패는 성공 단계의 역순으로 되돌아가야 한다. goto label이 많은 코드는 label 이름보다 어느 resource가 이미 획득됐는지를 표로 적는다.
embedded bring-up에서는 panic보다 silence, timeout, deferred probe, interrupt flood처럼 간접 증상으로 드러나는 경우가 많다.
RCU read lock을 mutual exclusion으로 오해함
pointer publish에 rcu_assign_pointer를 빼먹음
callback 실행 시점을 즉시 free로 봄
계측과 검증
계측은 printk 위치 경쟁이 아니라 가설 검증이다. 먼저 위 상태표에서 멈춘 state를 정하고, 그 state를 바꾸는 함수와 그 결과를 소비하는 함수를 동시에 본다.
로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인.
| 도구 | 보는 것 |
|---|---|
| rcu:* tracepoints | RCU init 실행이 어느 단계에서 멈추는지 확인 |
| rcutorture concepts | RCU init 실행이 어느 단계에서 멈추는지 확인 |
| rcu_cpu_stall | RCU init 실행이 어느 단계에서 멈추는지 확인 |
| ftrace:call_rcu | RCU init 실행이 어느 단계에서 멈추는지 확인 |
# 예시: tracefs가 켜진 보드에서 토픽별 event를 좁혀 본다.
mount -t tracefs nodev /sys/kernel/tracing
echo function_graph > /sys/kernel/tracing/current_tracer
echo ':mod:*' > /sys/kernel/tracing/set_ftrace_filter
cat /sys/kernel/tracing/trace_pipe추가 확인 사항
- RCU init 의 state machine을 네 단계로 줄였을 때, 실제 코드에서 빠지는 intermediate state는 무엇인가?
- RCU init 의 fast path가 생략한 검사는 어느 init path 또는 slow path에서 보증되는가?
- 실험으로 확인한다면 'RCU read lock을 mutual exclusion으로 오해함' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?
- 실험으로 확인한다면 'pointer publish에 rcu_assign_pointer를 빼먹음' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?