使用KGDB构建Linux内核调试环境

使用KGDB构建Linux内核调试环境
2010年06月27日
　　kgdb提供了一种使用 gdb调试 Linux 内核的机制。使用KGDB可以象调试普通的应用程序那样，在内核中进行设置断点、检查变量值、单步跟踪程序运行等操作。使用KGDB调试时需要两台机器，一台作为开发机（Development Machine）,另一台作为目标机（Target Machine），两台机器之间通过串口或者以太网口相连。串口连接线是一根RS-232接口的电缆，在其内部两端的第2脚（TXD）与第3脚（RXD）交叉相连，第7脚（接地脚）直接相连。调试过程中，被调试的内核运行在目标机上，gdb调试器运行在开发机上。
　　目前，kgdb发布支持i386、x86_64、32-bit PPC、SPARC等几种体系结构的调试器。有关kgdb补丁的下载地址见参考资料[4]。
　　2．1 kgdb的调试原理
　　安装kgdb调试环境需要为Linux内核应用kgdb补丁，补丁实现的gdb远程调试所需要的功能包括命令处理、陷阱处理及串口通讯3个主要的部分。kgdb补丁的主要作用是在Linux内核中添加了一个调试Stub。调试Stub是Linux内核中的一小段代码，提供了运行gdb的开发机和所调试内核之间的一个媒介。gdb和调试stub之间通过gdb串行协议进行通讯。gdb串行协议是一种基于消息的ASCII码协议，包含了各种调试命令。当设置断点时，kgdb负责在设置断点的指令前增加一条trap指令，当执行到断点时控制权就转移到调试stub中去。此时，调试stub的任务就是使用远程串行通信协议将当前环境传送给gdb，然后从gdb处接受命令。gdb命令告诉stub下一步该做什么，当stub收到继续执行的命令时，将恢复程序的运行环境，把对CPU的控制权重新交还给内核。
　　2．2 Kgdb的安装与设置
　　下面我们将以Linux 2.6.7内核为例详细介绍kgdb调试环境的建立过程。
　　2.2.1软硬件准备
　　以下软硬件配置取自笔者进行试验的系统配置情况：
　　kgdb补丁的版本遵循如下命名模式：Linux-A-kgdb-B，其中A表示Linux的内核版本号，B为kgdb的版本号。以试验使用的 kgdb补丁为例，linux内核的版本为linux-2.6.7，补丁版本为kgdb-2.2。
　　物理连接好串口线后，使用以下命令来测试两台机器之间串口连接情况，stty命令可以对串口参数进行设置：
　　在development机上执行：
　　stty ispeed 115200 ospeed 115200 -F /dev/ttyS0
　　在target机上执行：
　　stty ispeed 115200 ospeed 115200 -F /dev/ttyS0
　　在developement机上执行：
　　echo hello > /dev/ttyS0
　　在target机上执行：
　　cat /dev/ttyS0
　　如果串口连接没问题的话在将在target机的屏幕上显示"hello"。
　　2．2．2 安装与配置
　　下面我们需要应用kgdb补丁到Linux内核，设置内核选项并编译内核。这方面的资料相对较少，笔者这里给出详细的介绍。下面的工作在开发机（developement）上进行，以上面介绍的试验环境为例，某些具体步骤在实际的环境中可能要做适当的改动：
　　I、内核的配置与编译
　　[root@lisl tmp]# tar -jxvf linux-2.6.7.tar.bz2
　　[root@lisl tmp]#tar -jxvf linux-2.6.7-kgdb-2.2.tar.tar
　　[root@lisl tmp]#cd inux-2.6.7
　　请参照目录补丁包中文件README给出的说明，执行对应体系结构的补丁程序。由于试验在i386体系结构上完成，所以只需要安装一下补丁：core-lite.patch、i386-lite.patch、8250.patch、eth.patch、core.patch、 i386.patch。应用补丁文件时，请遵循kgdb软件包内series文件所指定的顺序，否则可能会带来预想不到的问题。eth.patch文件是选择以太网口作为调试的连接端口时需要运用的补丁
　　。
　　应用补丁的命令如下所示：
　　[root@lisl tmp]#patch -p1   
　　

KGDB: Thread analysis                                                                            

　　

KGDB: Console messages through gdb

　　[root@lisl tmp]#make
　　编译内核之前请注意Linux目录下Makefile中的优化选项，默认的Linux内核的编译都以-O2的优化级别进行。在这个优化级别之下，编译器要对内核中的某些代码的执行顺序进行改动，所以在调试时会出现程序运行与代码顺序不一致的情况。可以把Makefile中的-O2选项改为-O,但不可去掉-O，否则编译会出问题。为了使编译后的内核带有调试信息，注意在编译内核的时候需要加上-g选项。
　　不过，当选择"Kernel debugging->Compile the kernel with debug info"选项后配置系统将自动打开调试选项。另外，选择"kernel debugging with remote gdb"后，配置系统将自动打开"Compile the kernel with debug info"选项。
　　内核编译完成后，使用scp命令进行将相关文件拷贝到target机上(当然也可以使用其它的网络工具，如rcp)。
　　[root@lisl tmp]#scp arch/i386/boot/bzImage root@192.168.6.13:/boot/vmlinuz-2.6.7-kgdb
　　[root@lisl tmp]#scp System.map root@192.168.6.13:/boot/System.map-2.6.7-kgdb
　　如果系统启动使所需要的某些设备驱动没有编译进内核的情况下，那么还需要执行如下操作：
　　[root@lisl tmp]#mkinitrd /boot/initrd-2.6.7-kgdb 2.6.7
　　[root@lisl tmp]#scp initrd-2.6.7-kgdb root@192.168.6.13:/boot/ initrd-2.6.7-kgdb
　　II、kgdb的启动
　　在将编译出的内核拷贝的到target机器之后，需要配置系统引导程序，加入内核的启动选项。以下是kgdb内核引导参数的说明：
　　如表中所述，在kgdb 2.0版本之后内核的引导参数已经与以前的版本有所不同。使用grub引导程序时，直接将kgdb参数作为内核vmlinuz的引导参数。下面给出引导器的配置示例。
　　title 2.6.7 kgdb
　　root (hd0,0)
　　kernel /boot/vmlinuz-2.6.7-kgdb ro root=/dev/hda1 kgdbwait kgdb8250=1,115200
　　在使用lilo作为引导程序时，需要把kgdb参放在由append修饰的语句中。下面给出使用lilo作为引导器时的配置示例。
　　image=/boot/vmlinuz-2.6.7-kgdb
　　label=kgdb
　　read-only
　　root=/dev/hda3
　　append="gdb gdbttyS=1 gdbbaud=115200"
　　保存好以上配置后重新启动计算机，选择启动带调试信息的内核，内核将在短暂的运行后在创建init内核线程之前停下来，打印出以下信息，并等待开发机的连接。
　　Waiting for connection from remote gdb...
　　在开发机上执行：
　　gdb
　　file vmlinux
　　set remotebaud 115200
　　target remote /dev/ttyS0
　　其中vmlinux是指向源代码目录下编译出来的Linux内核文件的链接，它是没有经过压缩的内核文件，gdb程序从该文件中得到各种符号地址信息。
　　这样，就与目标机上的kgdb调试接口建立了联系。一旦建立联接之后，对Linux内的调试工作与对普通的运用程序的调试就没有什么区别了。任何时候都可以通过键入ctrl+c打断目标机的执行，进行具体的调试工作。
　　在kgdb 2.0之前的版本中，编译内核后在arch/i386/kernel目录下还会生成可执行文件gdbstart。将该文件拷贝到target机器的 /boot目录下，此时无需更改内核的启动配置文件，直接使用命令：
　　[root@lisl boot]#gdbstart -s 115200 -t /dev/ttyS0
　　可以在KGDB内核引导启动完成后建立开发机与目标机之间的调试联系。
　　2．2．3 通过网络接口进行调试
　　kgdb也支持使用以太网接口作为调试器的连接端口。在对Linux内核应用补丁包时，需应用eth.patch补丁文件。配置内核时在 Kernel hacking中选择kgdb调试项，配置kgdb调试端口为以太网接口，例如：
　　

KGDB: kernel debugging with remote gdb

　　Method for KGDB communication (KGDB: On ethernet)  ---> 
　　( ) KGDB: On generic serial port (8250)
　　(X) KGDB: On ethernet
　　另外使用eth0网口作为调试端口时，grub.list的配置如下：
　　title 2.6.7 kgdb
　　root (hd0,0)
　　kernel /boot/vmlinuz-2.6.7-kgdb ro root=/dev/hda1 kgdbwait kgdboe=@192.168.
　　5.13/,@192.168. 6.13/ 
　　其他的过程与使用串口作为连接端口时的设置过程相同。
　　注意：尽管可以使用以太网口作为kgdb的调试端口，使用串口作为连接端口更加简单易行，kgdb项目组推荐使用串口作为调试端口。
　　2．2．4 模块的调试方法
　　内核可加载模块的调试具有其特殊性。由于内核模块中各段的地址是在模块加载进内核的时候才最终确定的，所以develop机的gdb无法得到各种符号地址信息。所以，使用kgdb调试模块所需要解决的一个问题是，需要通过某种方法获得可加载模块的最终加载地址信息，并把这些信息加入到gdb环境中。
　　I、在Linux 2.4内核中的内核模块调试方法
　　在Linux2.4.x内核中，可以使用insmod -m命令输出模块的加载信息，例如：
　　[root@lisl tmp]# insmod -m hello.ko >modaddr
　　查看模块加载信息文件modaddr如下：
　　.this           00000060  c88d8000  2**2
　　.text           00000035  c88d8060  2**2
　　.rodata         00000069  c88d80a0  2**5
　　……
　　.data           00000000  c88d833c  2**2
　　.bss            00000000  c88d833c  2**2
　　……
　　在这些信息中，我们关心的只有4个段的地址:.text、.rodata、.data、.bss。在development机上将以上地址信息加入到gdb中,这样就可以进行模块功能的测试了。
　　(gdb) Add-symbol-file hello.o 0xc88d8060 -s .data 0xc88d80a0 -s 
　　.rodata 0xc88d80a0 -s .bss 0x c88d833c
　　这种方法也存在一定的不足，它不能调试模块初始化的代码，因为此时模块初始化代码已经执行过了。而如果不执行模块的加载又无法获得模块插入地址，更不可能在模块初始化之前设置断点了。对于这种调试要求可以采用以下替代方法。
　　在target机上用上述方法得到模块加载的地址信息，然后再用rmmod卸载模块。在development机上将得到的模块地址信息导入到 gdb环境中，在内核代码的调用初始化代码之前设置断点。这样，在target机上再次插入模块时，代码将在执行模块初始化之前停下来，这样就可以使用 gdb命令调试模块初始化代码了。
　　另外一种调试模块初始化函数的方法是：当插入内核模块时，内核模块机制将调用函数sys_init_module(kernel/modle.c) 执行对内核模块的初始化，该函数将调用所插入模块的初始化函数。程序代码片断如下：
　　…… ……
　　if (mod->init != NULL)
　　ret = mod->init();
　　…… ……
　　在该语句上设置断点，也能在执行模块初始化之前停下来。
　　II、在Linux 2.6.x内核中的内核模块调试方法
　　Linux 2.6之后的内核中，由于module-init-tools工具的更改，insmod命令不再支持-m参数，只有采取其他的方法来获取模块加载到内核的地址。通过分析ELF文件格式，我们知道程序中各段的意义如下：
　　.text（代码段）：用来存放可执行文件的操作指令，也就是说是它是可执行程序在内存种的镜像。
　　.data（数据段）：数据段用来存放可执行文件中已初始化全局变量，也就是存放程序静态分配的变量和全局变量。 .bss（BSS段）：BSS段包含了程序中未初始化全局变量，在内存中 bss段全部置零。
　　.rodata（只读段）：该段保存着只读数据，在进程映象中构造不可写的段。
　　通过在模块初始化函数中放置一下代码，我们可以很容易地获得模块加载到内存中的地址。
　　……
　　int bss_var;
　　static int hello_init(void)
　　{
　　printk(KERN_ALERT "Text location .text(Code Segment):%p\n",hello_init);
　　static int data_var=0;
　　printk(KERN_ALERT "Data Location .data(Data Segment):%p\n",&data_var);
　　printk(KERN_ALERT "BSS Location: .bss(BSS Segment):%p\n",&bss_var);
　　……
　　}
　　Module_init(hello_init);
　　这里，通过在模块的初始化函数中添加一段简单的程序，使模块在加载时打印出在内核中的加载地址。.rodata段的地址可以通过执行命令 readelf -e hello.ko，取得.rodata在文件中的偏移量并加上段的align值得出。
　　为了使读者能够更好地进行模块的调试，kgdb项目还发布了一些脚本程序能够自动探测模块的插入并自动更新gdb中模块的符号信息。这些脚本程序的工作原理与前面解释的工作过程相似，更多的信息请阅读参考资料[4]。
　　2．2．5 硬件断点
　　kgdb提供对硬件调试寄存器的支持。在kgdb中可以设置三种硬件断点：执行断点（Execution Breakpoint）、写断点（Write Breakpoint）、访问断点（Access Breakpoint）但不支持I/O访问的断点。目前，kgdb对硬件断点的支持是通过宏来实现的，最多可以设置4个硬件断点，这些宏的用法如下：
　　在有些情况下，硬件断点的使用对于内核的调试是非常方便的。有关硬件断点的定义和具体的使用说明见参考资料[4]。
　　2．3．在VMware中搭建调试环境
　　kgdb调试环境需要使用两台微机分别充当development机和target机，使用VMware后我们只使用一台计算机就可以顺利完成 kgdb调试环境的搭建。以windows下的环境为例，创建两台虚拟机，一台作为开发机，一台作为目标机。
　　2．3．1虚拟机之间的串口连接
　　虚拟机中的串口连接可以采用两种方法。一种是指定虚拟机的串口连接到实际的COM上，例如开发机连接到COM1，目标机连接到COM2，然后把两个串口通过串口线相连接。另一种更为简便的方法是：在较高一些版本的VMware中都支持把串口映射到命名管道，把两个虚拟机的串口映射到同一个命名管道。例如，在两个虚拟机中都选定同一个命名管道 \\.\pipe\com_1,指定target机的COM口为server端，并选择"The other end is a virtual machine"属性；指定development机的COM口端为client端，同样指定COM口的"The other end is a virtual machine"属性。对于IO mode属性，在target上选中"Yield CPU on poll"复选择框，development机不选。这样，可以无需附加任何硬件，利用虚拟机就可以搭建kgdb调试环境。即降低了使用kgdb进行调试的硬件要求，也简化了建立调试环境的过程。
　　2．3．2 VMware的使用技巧
　　VMware虚拟机是比较占用资源的，尤其是象上面那样在Windows中使用两台虚拟机。因此，最好为系统配备512M以上的内存，每台虚拟机至少分配128M的内存。这样的硬件要求，对目前主流配置的PC而言并不是过高的要求。出于系统性能的考虑，在VMware中尽量使用字符界面进行调试工作。同时，Linux系统默认情况下开启了sshd服务，建议使用SecureCRT登陆到Linux进行操作，这样可以有较好的用户使用界面。
　　2．3．3 在Linux下的虚拟机中使用kgdb
　　对于在Linux下面使用VMware虚拟机的情况，笔者没有做过实际的探索。从原理上而言，只需要在Linux下只要创建一台虚拟机作为 target机，开发机的工作可以在实际的Linux环境中进行，搭建调试环境的过程与上面所述的过程类似。由于只需要创建一台虚拟机，所以使用 Linux下的虚拟机搭建kgdb调试环境对系统性能的要求较低。（vmware已经推出了Linux下的版本）还可以在development机上配合使用一些其他的调试工具，例如功能更强大的cgdb、图形界面的DDD调试器等，以方便内核的调试工作。
　　2．4 kgdb的一些特点和不足
　　使用kgdb作为内核调试环境最大的不足在于对kgdb硬件环境的要求较高，必须使用两台计算机分别作为target和development机。尽管使用虚拟机的方法可以只用一台PC即能搭建调试环境，但是对系统其他方面的性能也提出了一定的要求，同时也增加了搭建调试环境时复杂程度。另外，kgdb内核的编译、配置也比较复杂，需要一定的技巧，笔者当时做的时候也是费了很多周折。当调试过程结束后时，还需要重新制作所要发布的内核。使用 kgdb并不能进行全程调试，也就是说kgdb并不能用于调试系统一开始的初始化引导过程。
　　不过，kgdb是一个不错的内核调试工具，使用它可以进行对内核的全面调试，甚至可以调试内核的中断处理程序。如果在一些图形化的开发工具的帮助下，对内核的调试将更方便。