전체 흐름
network stack은 sk_buff가 driver, NAPI, protocol stack, socket, qdisc 사이를 이동하는 data-plane이다. throughput만 보면 안 되고, drop attribution과 CPU affinity를 같이 봐야 한다.
함수의 입력과 처리 결과를 먼저 확인한다. 구조체를 생성하고 연결하는 시점, 다른 코드에서 사용할 수 있게 하는 시점, 더 이상 사용하지 않아 회수하는 시점을 구분한다.
정상 처리와 오류 처리를 함께 확인한다. 오류 복구, 장치의 실행 중 연결·분리(hotplug), 자원 해제 과정에서도 상태가 올바르게 정리되는지 점검한다.
왼쪽부터 처리 단계를 나열했다. 각 코드 조각에서 바뀌는 상태를 해당 단계와 대조한다.
소스 코드 위치
먼저 확인할 Linux 6.18.37 LTS 소스 파일
Linux 6.18.37 LTS: net/core/net_namespace.c
Linux 6.18.37 LTS: net/core/dev.c
Linux 6.18.37 LTS: include/net/net_namespace.h
설명: 진입 함수가 있는 파일과 구조체 정의, 아키텍처별 연결 코드, 콜백 구현을 함께 확인한다. 여러 파일을 대조해야 호출 관계와 각 코드의 역할을 알 수 있다.
대표 코드
net_ns_init
void __init net_ns_init(void)
{
struct net_generic *ng;
#ifdef CONFIG_NET_NS
netns_ipv4_struct_check();
net_cachep = kmem_cache_create("net_namespace", sizeof(struct net),
SMP_CACHE_BYTES,
SLAB_PANIC|SLAB_ACCOUNT, NULL);
/* Create workqueue for cleanup */
netns_wq = create_singlethread_workqueue("netns");
if (!netns_wq)
panic("Could not create netns workq");
#endif
ng = net_alloc_generic();
if (!ng)
panic("Could not allocate generic netns");
rcu_assign_pointer(init_net.gen, ng);
#ifdef CONFIG_KEYS
init_net.key_domain = &init_net_key_domain;
#endif
/*
* This currently cannot fail as the initial network namespace
* has a static inode number.
*/
if (preinit_net(&init_net, &init_user_ns))
panic("Could not preinitialize the initial network namespace");
down_write(&pernet_ops_rwsem);
if (setup_net(&init_net))
panic("Could not setup the initial network namespace");
init_net_initialized = true;
up_write(&pernet_ops_rwsem);
if (register_pernet_subsys(&net_ns_ops))
panic("Could not register network namespace subsystems");
rtnl_register_many(net_ns_rtnl_msg_handlers);
}
초기 network namespace용 기반을 준비하고 init_net을 설정한다. CONFIG_NET_NS 등의 전처리 조건에 따라 cache와 cleanup workqueue 준비가 달라진다. setup_net()과 pernet subsystem 등록의 실패는 초기 부팅 중 panic 경로로 이어지며, 일반적인 namespace 생성 요청의 반환 오류와 다르다.
setup_net
static __net_init int setup_net(struct net *net)
{
/* Must be called with pernet_ops_rwsem held */
const struct pernet_operations *ops;
LIST_HEAD(net_exit_list);
int error = 0;
net->net_cookie = ns_tree_gen_id(&net->ns);
list_for_each_entry(ops, &pernet_list, list) {
error = ops_init(ops, net);
if (error < 0)
goto out_undo;
}
down_write(&net_rwsem);
list_add_tail_rcu(&net->list, &net_namespace_list);
up_write(&net_rwsem);
ns_tree_add_raw(net);
out:
return error;
out_undo:
/* Walk through the list backwards calling the exit functions
* for the pernet modules whose init functions did not fail.
*/
list_add(&net->exit_list, &net_exit_list);
ops_undo_list(&pernet_list, ops, &net_exit_list, false);
rcu_barrier();
goto out;
}
확인 사항: 이 코드에서는 반환값보다 상태 변경을 먼저 확인한다. 어느 잠금을 획득한 뒤 어떤 필드를 바꾸는지, 실패 시 어느 레이블로 분기하는지, 변경된 상태를 다음 호출자가 어떤 전제로 사용하는지 추적한다.
함수별 분석
network namespace 기반 전역 상태를 만들고 loopback, pernet operations가 독립된 network stack instance를 가질 수 있게 한다.
원본 코드를 함수별로 나누어 살펴본다. 각 함수가 준비하는 값과 다음 함수가 그 값을 사용하는 방식을 확인한다.
각 단계의 입력과 처리 결과를 연결해 본다. 다음 단계로 넘어가기 전에 바뀌는 필드를 코드에서 확인한다.
1. net_ns_init
net_ns_init 주변에서는 struct net를 중심으로 본다. 이 필드는 namespace root 역할을 하므로, 함수가 끝날 때 init_net created 상태가 실제로 성립했는지 확인해야 한다.
원본 코드에서 입력 범위 검사, 주요 필드 변경, 다른 계층에서 사용할 수 있게 하는 시점, 실패 시 복구 순서를 확인한다. 이 조건을 만족해야 다음 함수가 기본 namespace 준비을 전제로 삼을 수 있다.
자주 틀리는 해석: network namespace를 process namespace와 같은 lifetime으로 단순화함
2. setup_net
setup_net 주변에서는 pernet_operations를 중심으로 본다. 이 필드는 namespace init/exit callbacks 역할을 하므로, 함수가 끝날 때 pernet registered 상태가 실제로 성립했는지 확인해야 한다.
원본 코드에서 입력 범위 검사, 주요 필드 변경, 다른 계층에서 사용할 수 있게 하는 시점, 실패 시 복구 순서를 확인한다. 이 조건을 만족해야 다음 함수가 subsystem callback 순서 확정을 전제로 삼을 수 있다.
자주 틀리는 해석: pernet exit ordering을 무시함
| 함수 | 입력 | 상태 변경 | 확인할 사항 |
|---|---|---|---|
| net_ns_init | struct net, 호출 시 실행 문맥, 하위 시스템의 준비 조건 | init_net created: 기본 namespace 준비 | network namespace를 process namespace와 같은 lifetime으로 단순화함 문제를 코드상 어느 조건문 또는 error label에서 분리하는가 |
| setup_net | pernet_operations, 호출 시 실행 문맥, 하위 시스템의 준비 조건 | pernet registered: subsystem callback 순서 확정 | pernet exit ordering을 무시함 문제를 코드상 어느 조건문 또는 error label에서 분리하는가 |
구조체와 필드
구조체의 필드를 언제 바꿀 수 있고 다른 코드가 언제 읽을 수 있는지 확인한다. 필드의 의미와 함께 잠금 등 접근을 보호하는 규칙을 살펴본다.
각 단계에서 읽고 쓰는 필드를 구조체 정의와 대조한다.
어떤 코드가 필드를 변경하고 어떤 방식으로 접근을 보호하는지, 객체를 언제 해제하는지 원본 코드에서 확인한다.
| 필드 | 읽는 법 |
|---|---|
| struct net | namespace root |
| pernet_operations | namespace init/exit callbacks |
| init_net | initial namespace |
| netns id | namespace visibility |
실행 단계와 상태 변화
실행 단계를 따로 정리하면 정상 경로와 실패 경로를 나란히 비교할 수 있다. 커널 문제는 최종 결과보다 준비가 덜 된 중간 상태를 다른 코드에 공개한 뒤, 실패 시 제대로 정리하지 못할 때 자주 발생한다.
화살표는 정상 진행 방향을 나타낸다. 중간 단계에서 실패하면 각 단계의 오류 처리 또는 대체 경로로 이동한다.
| 상태 | 의미 | 진입 조건 | 깨지는 지점 |
|---|---|---|---|
| init_net created | 기본 namespace 준비 | 앞 단계의 준비와 오류 처리가 끝난 뒤 | 다음 단계가 준비되지 않은 상태를 사용하거나 필요한 정리를 늦출 때 |
| pernet registered | subsystem callback 순서 확정 | 앞 단계의 준비와 오류 처리가 끝난 뒤 | 다음 단계가 준비되지 않은 상태를 사용하거나 필요한 정리를 늦출 때 |
| loopback up | 기본 device 준비 | 앞 단계의 준비와 오류 처리가 끝난 뒤 | 다음 단계가 준비되지 않은 상태를 사용하거나 필요한 정리를 늦출 때 |
| copy_net_ns | clone 시 새 namespace 생성 | 앞 단계의 준비와 오류 처리가 끝난 뒤 | 다음 단계가 준비되지 않은 상태를 사용하거나 필요한 정리를 늦출 때 |
불변 조건과 실패 사례
net_ns_init의 핵심 객체가 외부에 공개된 뒤에는 마지막 참조가 사라질 때까지 해제 경로가 callback, timer, IRQ, worker와 경합하지 않아야 한다.
다른 CPU나 하위 계층이 변경된 필드를 읽는다면 잠금과 메모리 배리어가 접근 순서를 어떻게 보장하는지 확인한다. 참조 횟수와 RCU로 관리하는 객체 수명도 별도로 확인한다.
중간 단계에서 실패하면 이미 확보한 자원을 의존 관계에 맞춰 해제해야 한다. goto 레이블이 많다면 각 분기에 도달했을 때 확보한 자원을 표로 정리한다.
임베디드 보드를 처음 구동할 때는 패닉 대신 로그 중단, 시간 초과, 장치 초기화 지연, 과도한 인터럽트 같은 증상으로 문제가 드러날 수 있다.
network namespace를 process namespace와 같은 lifetime으로 단순화함
pernet exit ordering을 무시함
init_net 전역 접근을 namespace-safe로 착각함
계측과 검증
로그를 무작정 추가하지 말고 확인할 가설을 먼저 세운다. 상태표에서 처리가 멈춘 단계를 찾은 뒤, 상태를 바꾸는 함수와 그 결과를 사용하는 함수를 함께 살펴본다.
로그가 출력되었다고 처리가 끝난 것으로 판단하지 않는다. 원본 코드에서 로그 앞뒤의 필드 변경을 확인한다.
| 도구 | 보는 것 |
|---|---|
| net:* tracepoints | net_ns_init 실행이 어느 단계에서 멈추는지 확인 |
| ip netns | net_ns_init 실행이 어느 단계에서 멈추는지 확인 |
| ftrace:setup_net | net_ns_init 실행이 어느 단계에서 멈추는지 확인 |
| cat /proc/net/dev | net_ns_init 실행이 어느 단계에서 멈추는지 확인 |
# 예시: tracefs가 켜진 보드에서 토픽별 event를 좁혀 본다.
mount -t tracefs nodev /sys/kernel/tracing
echo function_graph > /sys/kernel/tracing/current_tracer
echo ':mod:*' > /sys/kernel/tracing/set_ftrace_filter
cat /sys/kernel/tracing/trace_pipe
추가 확인 사항
- net_ns_init 의 state machine을 네 단계로 줄였을 때, 실제 코드에서 빠지는 intermediate state는 무엇인가?
- net_ns_init 의 fast path가 생략한 검사는 어느 init path 또는 slow path에서 보증되는가?
- 실험으로 확인한다면 'network namespace를 process namespace와 같은 lifetime으로 단순화함' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?
- 실험으로 확인한다면 'pernet exit ordering을 무시함' 문제를 어떤 tracepoint와 counter로 분리할 수 있는가?