← Kernel Series DUJINLABS.COM

Process / Syscall · Linux 6.18.37 LTS · source + diagram note

signal

최신 LTS 기준: kernel.org longterm 6.18.37 기준으로 파일 위치와 링크를 맞춘 원본 코드 분석 노트입니다. signal delivery, sigframe, return trampoline.

전체 흐름

process/syscall 코드는 user/kernel boundary와 task lifetime transaction이다. clone, exec, exit, signal은 모두 task_struct 주변 객체의 reference, namespace, credentials, mm을 재배치한다.

핵심 확인 사항

함수 이름보다 입력 객체와 출력 객체를 먼저 본다. 이 토픽에서 어떤 구조체가 생성, 연결, publish, retire되는지 표시한다.

오류 처리 확인

정상 경로와 실패 경로를 함께 확인한다. 성공 경로뿐 아니라 오류 복구, hotplug, 해제 과정에서 상태가 올바르게 정리되는지 점검한다.

그림 1. signal 이 kernel 안에서 놓이는 위치
EL0 / syscallpt_regs, ABI, user pointer
task_structstate, credentials, signal, files
mm / fs / filesaddress space and descriptor tables
scheduler / waitrunnable, zombie, reparent, wakeup

왼쪽에서 오른쪽으로 갈수록 실제 상태 변경이 커진다. 각 코드 조각이 어느 단계에 해당하는지 대조한다.

소스 코드 위치

먼저 확인할 Linux 6.18.37 LTS 소스 파일

원본 코드:
Linux 6.18.37 LTS: kernel/signal.c
Linux 6.18.37 LTS: arch/arm64/kernel/signal.c
Linux 6.18.37 LTS: include/linux/signal.h

설명: 첫 파일은 보통 진입 함수가 있는 곳이고, 나머지는 구조체 정의, architecture glue, callback 구현을 확인할 때 같이 연다. 파일을 여러 개 놓고 봐야 이 토픽의 boundary가 보인다.

대표 코드

do_signal

원본 코드: kernel/signal.c, 379행 부근
	if (!WARN_ON_ONCE(sig->group_stop_count == 0))
		sig->group_stop_count--;

	/*
	 * Tell the caller to notify completion iff we are entering into a
	 * fresh group stop.  Read comment in do_signal_stop() for details.
	 */
	if (!sig->group_stop_count && !(sig->flags & SIGNAL_STOP_STOPPED)) {
		signal_set_stop_flags(sig, SIGNAL_STOP_STOPPED);
		return true;
	}
	return false;
}

void task_join_group_stop(struct task_struct *task)
{
	unsigned long mask = current->jobctl & JOBCTL_STOP_SIGMASK;
	struct signal_struct *sig = current->signal;

	if (sig->group_stop_count) {
		sig->group_stop_count++;
		mask |= JOBCTL_STOP_CONSUME;
	} else if (!(sig->flags & SIGNAL_STOP_STOPPED))
		return;

	/* Have the new thread join an on-going signal group stop */
	task_set_jobctl_pending(task, mask | JOBCTL_STOP_PENDING);
}

/*
 * allocate a new signal queue record
 * - this may be called without locks if and only if t == current, otherwise an
 *   appropriate lock must be held to stop the target task from exiting
 */
static struct sigqueue *
__sigqueue_alloc(int sig, struct task_struct *t, gfp_t gfp_flags,
		 int override_rlimit, const unsigned int sigqueue_flags)
{
	struct sigqueue *q = NULL;
	struct ucounts *ucounts = NULL;

확인 사항: 이 코드에서는 반환값보다 상태 변경을 먼저 확인한다. 어느 잠금을 획득한 뒤 어떤 필드를 바꾸는지, 실패 시 어느 레이블로 분기하는지, 변경된 상태를 다음 호출자가 어떤 전제로 사용하는지 추적한다.

get_signal

원본 코드: kernel/signal.c, 963행 부근

		if (why) {
			/*
			 * The first thread which returns from do_signal_stop()
			 * will take ->siglock, notice SIGNAL_CLD_MASK, and
			 * notify its parent. See get_signal().
			 */
			signal_set_stop_flags(signal, why | SIGNAL_STOP_CONTINUED);
			signal->group_stop_count = 0;
			signal->group_exit_code = 0;
		}
	}

	return !sig_ignored(p, sig, force);
}

/*
 * Test if P wants to take SIG.  After we've checked all threads with this,
 * it's equivalent to finding no threads not blocking SIG.  Any threads not
 * blocking SIG were ruled out because they are not running and already
 * have pending signals.  Such threads will dequeue from the shared queue
 * as soon as they're available, so putting the signal on the shared queue
 * will be equivalent to sending it to one such thread.
 */
static inline bool wants_signal(int sig, struct task_struct *p)
{
	if (sigismember(&p->blocked, sig))
		return false;

	if (p->flags & PF_EXITING)
		return false;

	if (sig == SIGKILL)
		return true;

	if (task_is_stopped_or_traced(p))
		return false;

	return task_curr(p) || !task_sigpending(p);
}

확인 사항: 이 코드에서는 반환값보다 상태 변경을 먼저 확인한다. 어느 잠금을 획득한 뒤 어떤 필드를 바꾸는지, 실패 시 어느 레이블로 분기하는지, 변경된 상태를 다음 호출자가 어떤 전제로 사용하는지 추적한다.

함수별 분석

pending signal을 task return-to-user 경계에서 sigframe으로 구성하고 handler 또는 default action으로 연결한다.

이 섹션은 원본 코드 발췌를 함수 이름 단위로 끊어, 각 함수가 어떤 전제 조건을 만들고 다음 함수가 무엇을 소비하는지 추적한다.

그림 2. signal 함수 체인과 관찰 지점
entrycaller가 넘기는 객체와 context를 확정
do_signalpending queue 삽입
get_signalselected signal 결정
observable statetracepoint, counter, sysfs/proc에서 확인되는 결과

각 노드는 독립 함수가 아니라 전제 조건을 생산하고 소비하는 연결점이다. 코드를 읽을 때는 노드 사이에서 어떤 필드가 바뀌는지 표시한다.

1. do_signal

do_signal 주변에서는 pending queues를 중심으로 본다. 이 필드는 private/shared signal queue 역할을 하므로, 함수가 끝날 때 signal generated 상태가 실제로 성립했는지 확인해야 한다.

원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 pending queue 삽입을 전제로 삼을 수 있다.

자주 틀리는 해석: signal delivery를 interrupt처럼 즉시 실행한다고 봄

2. get_signal

get_signal 주변에서는 sighand를 중심으로 본다. 이 필드는 handler table 역할을 하므로, 함수가 끝날 때 get_signal 상태가 실제로 성립했는지 확인해야 한다.

원본 코드에서 볼 순서는 입력 범위 검증, 중심 필드 갱신, 다른 계층에 보이는 publish 지점, 실패 시 되돌림 순서다. 이 네 칸이 맞아야 다음 함수가 selected signal 결정을 전제로 삼을 수 있다.

자주 틀리는 해석: blocked mask와 ignored/default action을 섞음

함수입력상태 변경검증 질문
do_signalpending queues, caller context, subsystem 전제 조건signal generated: pending queue 삽입signal delivery를 interrupt처럼 즉시 실행한다고 봄 문제를 코드상 어느 조건문 또는 error label에서 분리하는가
get_signalsighand, caller context, subsystem 전제 조건get_signal: selected signal 결정blocked mask와 ignored/default action을 섞음 문제를 코드상 어느 조건문 또는 error label에서 분리하는가

구조체와 필드

여기서는 “어떤 구조체가 있다”가 아니라 그 필드가 어느 단계에서 쓰기 가능하고 어느 단계부터 관찰 가능한지를 본다. 필드의 뜻보다 보호 규칙이 먼저다.

그림 3. signal 핵심 필드 연결
pending queuesprivate/shared signal queue
sighandhandler table
sigframeuser stack frame
blocked maskdelivery filtering

필드는 구조체 안에 흩어져 있지만, 실제 실행에서는 위 순서로 의미가 이어진다.

필드읽는 법확인
pending queuesprivate/shared signal queue누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
sighandhandler table누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
sigframeuser stack frame누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인
blocked maskdelivery filtering누가 쓰고, 누가 보호하고, 언제 lifetime이 끝나는지 원본 코드에서 확인

실행 단계와 상태 변화

실행 단계를 따로 정리하면 정상 경로와 실패 경로를 나란히 비교할 수 있다. 커널 문제는 최종 결과보다 준비가 덜 된 중간 상태를 다른 코드에 공개한 뒤, 실패 시 제대로 정리하지 못할 때 자주 발생한다.

그림 4. signal 실행 단계
signal generatedpending queue 삽입
get_signalselected signal 결정
frame setupuser stack에 context 저장
sigreturnkernel context 복원

화살표는 정상 진행 방향을 나타낸다. 중간 단계에서 실패하면 각 단계의 오류 처리 또는 대체 경로로 이동한다.

상태의미진입 조건깨지는 지점
signal generatedpending queue 삽입앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
get_signalselected signal 결정앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
frame setupuser stack에 context 저장앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
sigreturnkernel context 복원앞 단계 함수가 전제 조건을 만들고 error path가 정리된 뒤다음 단계가 이 상태를 너무 일찍 소비하거나 늦게 정리할 때
signal 검토 기준 = 상태 변화 + 소유권 변화 + 외부 공개 시점

불변 조건과 실패 사례

lifetime

signal의 핵심 객체가 외부에 공개된 뒤에는 마지막 참조가 사라질 때까지 해제 경로가 callback, timer, IRQ, worker와 경합하지 않아야 한다.

ordering

상태 필드를 바꾼 뒤 다른 CPU나 하위 계층이 관찰할 수 있다면 lock, barrier, refcount, RCU 중 어느 장치가 visibility를 보장하는지 확인한다.

오류 복구

중간 단계 실패는 성공 단계의 역순으로 되돌아가야 한다. goto label이 많은 코드는 label 이름보다 어느 resource가 이미 획득됐는지를 표로 적는다.

bring-up symptom

embedded bring-up에서는 panic보다 silence, timeout, deferred probe, interrupt flood처럼 간접 증상으로 드러나는 경우가 많다.

주의

signal delivery를 interrupt처럼 즉시 실행한다고 봄

주의

blocked mask와 ignored/default action을 섞음

주의

sigframe ABI를 일반 kernel stack으로 착각함

계측과 검증

계측은 printk 위치 경쟁이 아니라 가설 검증이다. 먼저 위 상태표에서 멈춘 state를 정하고, 그 state를 바꾸는 함수와 그 결과를 소비하는 함수를 동시에 본다.

도구보는 것해석
signal_generate/signal_deliversignal 실행이 어느 단계에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
strace -e signalsignal 실행이 어느 단계에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
ftrace:get_signalsignal 실행이 어느 단계에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
cat /proc/<pid>/statussignal 실행이 어느 단계에서 멈추는지 확인로그가 찍힌 위치를 완료 시점으로 단정하지 말고, 바로 앞뒤 필드 변경을 원본에서 확인
기본 추적 경로:
# 예시: tracefs가 켜진 보드에서 토픽별 event를 좁혀 본다.
mount -t tracefs nodev /sys/kernel/tracing
echo function_graph > /sys/kernel/tracing/current_tracer
echo ':mod:*' > /sys/kernel/tracing/set_ftrace_filter
cat /sys/kernel/tracing/trace_pipe

추가 확인 사항

  • signal 의 state machine을 네 단계로 줄였을 때, 실제 코드에서 빠지는 intermediate state는 무엇인가?
  • signal 의 fast path가 생략한 검사는 어느 init path 또는 slow path에서 보증되는가?
  • 실험으로 확인한다면 'signal delivery를 interrupt처럼 즉시 실행한다고 봄' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?
  • 실험으로 확인한다면 'blocked mask와 ignored/default action을 섞음' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?