#本机没有wireshark 所以会报错,有的话会自动打开读取
[root@node2-dev ~]# kubectl sniff nfs-provisioner-01-8657688f5d-9mvfg -n kube-system
INFO[0000] using tcpdump path at: '/root/.krew/store/sniff/v1.6.2/static-tcpdump'
INFO[0000] no container specified, taking first container we found in pod.
INFO[0000] selected container: 'nfs-client-provisioner'
INFO[0000] sniffing method: upload static tcpdump
INFO[0000] sniffing on pod: 'nfs-provisioner-01-8657688f5d-9mvfg' [namespace: 'kube-system', container: 'nfs-client-provisioner', filter: '', interface: 'any']
INFO[0000] uploading static tcpdump binary from: '/root/.krew/store/sniff/v1.6.2/static-tcpdump' to: '/tmp/static-tcpdump'
INFO[0000] uploading file: '/root/.krew/store/sniff/v1.6.2/static-tcpdump' to '/tmp/static-tcpdump' on container: 'nfs-client-provisioner'
INFO[0000] executing command: '[/bin/sh -c test -f /tmp/static-tcpdump]' on container: 'nfs-client-provisioner', pod: 'nfs-provisioner-01-8657688f5d-9mvfg', namespace: 'kube-system'
INFO[0000] command: '[/bin/sh -c test -f /tmp/static-tcpdump]' executing successfully exitCode: '1', stdErr :''
INFO[0000] file not found on: '/tmp/static-tcpdump', starting to upload
INFO[0000] verifying file uploaded successfully
INFO[0000] executing command: '[/bin/sh -c test -f /tmp/static-tcpdump]' on container: 'nfs-client-provisioner', pod: 'nfs-provisioner-01-8657688f5d-9mvfg', namespace: 'kube-system'
INFO[0000] command: '[/bin/sh -c test -f /tmp/static-tcpdump]' executing successfully exitCode: '0', stdErr :''
INFO[0000] file found: ''
INFO[0000] file uploaded successfully
INFO[0000] tcpdump uploaded successfully
INFO[0000] spawning wireshark!
INFO[0000] starting sniffer cleanup
INFO[0000] sniffer cleanup completed successfully
Error: exec: "wireshark": executable file not found in $PATH
#导出抓包日志,可以导入别的wireshark中进行查看
[root@node2-dev ~]# kubectl sniff nfs-provisioner-01-8657688f5d-9mvfg -n kube-system -o test.pcap

ksniff 默认通过上传 tcpdump 二进制文件到目标 Pod 的一个容器里,然后执行二进制来实现抓包。但该方式依赖容器是以 root 用户启动的,如果不是就无法抓包。

这个时候我们可以加一个 -p 参数,表示会在 Pod 所在节点新起一个 privileged 的 Pod,然后该 Pod 会调用容器运行时 (dockerd 或 containerd 等),新起一个以 root 身份启动的 container,并 attach 到目标 Pod 的 netns,然后执行 container 中的 tcpdump 二进制来实现抓包。

[root@node2-dev ~]# kubectl sniff nfs-provisioner-01-8657688f5d-9mvfg -n kube-system -p

如果数据包内容很多都是明文 (比如 HTTP),只希望大概看下明文内容,可以指定 -o - 将抓包内容直接打印到标准输出

[root@node2-dev ~]# kubectl sniff nfs-provisioner-01-8657688f5d-9mvfg -n kube-system -o -

有时数据量很大,如果在抓取时不过滤,可能会对 apiserver 造成较大压力 (数据传输经过 apiserver),这种情况我们最好在抓取时就指定 tcpdump 过滤条件,屏蔽掉不需要的数据,避免数据量过大。

-f 参数即可指定过滤条件

[root@node2-dev ~]# kubectl sniff nfs-provisioner-01-8657688f5d-9mvfg -n kube-system -f "port 9000" -o -

wireshark 报 unknown

打开抓包文件时,报错 pcap: network type 276 unknown or unsupported:

通常是因为 wireshark 版本低导致的,升级到最新版就行。

抓包时报 No such file or directory

使用 kubectl sniff 抓包时,报错 ls: cannot access '/tmp/static-tcpdump': No such file or directory 然后退出:

这是笔者在 mac 上安装当时最新的 ksniff v1.6.0 版本遇到的问题。该问题明显是一个 bug,static-tcpdump 二进制没有上传成功就去执行导致的,考虑三种解决方案:

  • 手动使用 kubectl cp 将二进制拷到目标 Pod 再执行 kubectl sniff 抓包。
  • kubectl sniff 指定 -p 参数使用特权模式 (亲测有效)。
  • 编译最新的 ksniff,替换当前 kubectl-sniff 二进制,这也是笔者目前的使用方式。
  •