Question

操作系统：GNU / Linux
发行：OpenSuSe 13.1
Arch：x86-64
GDB版本：7.6.50.20130731-cvs
程序语言：主要是带有少量汇编的C

想象一下，我有一个相当大的程序，有时无法打开文件。是否可以在open(2)系统调用返回-1之后停止在GDB中设置断点？

当然，我可以查看源代码并找到所有open(2)次调用，并缩小错误open()调用范围，但也许有更好的方法。

我尝试使用"catch syscall open"然后"condition N if $rax==-1"，但很明显它没有被击中。
顺便说一句，是否可以区分对系统调用（例如open(2)）的调用和从GDB中的系统调用（例如open(2)）返回？

作为当前的解决方法，我执行以下操作：

在GDB下运行相关程序

从另一个终端启动systemtap脚本：

stap -g -v -e 'probe process("PATH to the program run under GDB").syscall.return { if( $syscall == 2 && $return <0) raise(%{ SIGSTOP %}) }'

open(2)返回-1后，我在GDB会话中收到SIGSTOP，我可以调试该问题。

TIA。

最好的问候，
alexz。

UPD：即使我之前尝试过 n.m 建议的方法而且无法使其正常工作，我还是决定再试一次。 2小时后，它现在按预期工作。但有一些奇怪的解决方法：

我仍然无法区分调用和从syscall返回
如果我在finish中使用comm我无法使用continue，根据GDB文档，这是正常的即每次休息时，以下内容都会降至gdb提示符：
```
gdb> comm
gdb> finish
gdb> printf "rax is %d\n",$rax
gdb> cont
gdb> end
```
实际上，我可以避免使用finish并检查commands中的％rax，但在这种情况下，我必须检查 -errno 而不是 - 1 例如如果它＆＃34;许可被拒绝＆＃34;然后我必须检查＆＃34; -13＆＃34;如果没有这样的文件或目录＆＃34; - 然后为-2。它只是不正确

因此，让它适用于我的唯一方法是定义自定义函数并以下列方式使用它：

(gdb) catch syscall open
Catchpoint 1 (syscall 'open' [2]
(gdb) define mycheck
Type commands for definition of "mycheck".
End with a line saying just "end".
>finish
>finish
>if ($rax != -1)
 >cont
 >end
>printf "rax is %d\n",$rax
>end
(gdb) comm
Type commands for breakpoint(s) 1, one per line.
End with a line saying just "end".
>mycheck
>end
(gdb) r
The program being debugged has been started already.
Start it from the beginning? (y or n) y
Starting program: /home/alexz/gdb_syscall_test/main
.....
Catchpoint 1 (returned from syscall open), 0x00007ffff7b093f0 in __open_nocancel () from /lib64/libc.so.6
0x0000000000400756 in main (argc=1, argv=0x7fffffffdb18) at main.c:24
24                      fd = open(filenames[i], O_RDONLY);
Opening test1
fd = 3 (0x3)
Successfully opened test1

Catchpoint 1 (call to syscall open), 0x00007ffff7b093f0 in __open_nocancel () from /lib64/libc.so.6
rax is -38

Catchpoint 1 (returned from syscall open), 0x00007ffff7b093f0 in __open_nocancel () from /lib64/libc.so.6
0x0000000000400756 in main (argc=1, argv=0x7fffffffdb18) at main.c:24
---Type <return> to continue, or q <return> to quit---
24                      fd = open(filenames[i], O_RDONLY);
rax is -1
(gdb) bt
#0  0x0000000000400756 in main (argc=1, argv=0x7fffffffdb18) at main.c:24
(gdb) step
26                      printf("Opening %s\n", filenames[i]);
(gdb) info locals
i = 1
fd = -1

Answer 1

此gdb脚本执行所请求的内容：

set $outside = 1
catch syscall open
commands
  silent
  set $outside = ! $outside
  if ( $outside && $rax >= 0)
    continue
  end
  if ( !$outside )
    continue
  end
  echo `open' returned a negative value\n
end

需要$outside变量，因为gdb在syscall enter和syscall exit处都停止。我们需要忽略输入事件并仅在退出时检查$rax。

Answer 2

是否可以在开放式（2）系统调用返回-1后停止在GDB中设置断点？

对于此狭窄的问题，我很难做出n.m.的答案，但我认为这个问题的定位不正确。

当然，我可以浏览源代码并找到所有open（2）调用

这是您混淆的一部分：当您在C程序中调用open时，您实际上正在执行open(2)系统调用。相反，您正在调用open(3)＆＃34;存根＆＃34;从您的libc，该存根将为您执行open(2)系统调用。

如果你想在存根即将返回-1时设置一个断点，这很容易。

示例：

/* t.c */
#include <sys/stat.h>
#include <fcntl.h>

int main()
{
  int fd = open("/no/such/file", O_RDONLY);
  return fd == -1 ? 0 : 1;
}

$ gcc -g t.c; gdb -q ./a.out
(gdb) start
Temporary breakpoint 1 at 0x4004fc: file t.c, line 6.
Starting program: /tmp/a.out

Temporary breakpoint 1, main () at t.c:6
6     int fd = open("/no/such/file", O_RDONLY);
(gdb) s
open64 () at ../sysdeps/unix/syscall-template.S:82
82  ../sysdeps/unix/syscall-template.S: No such file or directory.

我们已经到达了glibc系统调用存根。让我们把它拆开：

(gdb) disas
Dump of assembler code for function open64:
=> 0x00007ffff7b01d00 <+0>: cmpl   $0x0,0x2d74ad(%rip)        # 0x7ffff7dd91b4 <__libc_multiple_threads>
   0x00007ffff7b01d07 <+7>: jne    0x7ffff7b01d19 <open64+25>
   0x00007ffff7b01d09 <+0>: mov    $0x2,%eax
   0x00007ffff7b01d0e <+5>: syscall
   0x00007ffff7b01d10 <+7>: cmp    $0xfffffffffffff001,%rax
   0x00007ffff7b01d16 <+13>:    jae    0x7ffff7b01d49 <open64+73>
   0x00007ffff7b01d18 <+15>:    retq
   0x00007ffff7b01d19 <+25>:    sub    $0x8,%rsp
   0x00007ffff7b01d1d <+29>:    callq  0x7ffff7b1d050 <__libc_enable_asynccancel>
   0x00007ffff7b01d22 <+34>:    mov    %rax,(%rsp)
   0x00007ffff7b01d26 <+38>:    mov    $0x2,%eax
   0x00007ffff7b01d2b <+43>:    syscall
   0x00007ffff7b01d2d <+45>:    mov    (%rsp),%rdi
   0x00007ffff7b01d31 <+49>:    mov    %rax,%rdx
   0x00007ffff7b01d34 <+52>:    callq  0x7ffff7b1d0b0 <__libc_disable_asynccancel>
   0x00007ffff7b01d39 <+57>:    mov    %rdx,%rax
   0x00007ffff7b01d3c <+60>:    add    $0x8,%rsp
   0x00007ffff7b01d40 <+64>:    cmp    $0xfffffffffffff001,%rax
   0x00007ffff7b01d46 <+70>:    jae    0x7ffff7b01d49 <open64+73>
   0x00007ffff7b01d48 <+72>:    retq
   0x00007ffff7b01d49 <+73>:    mov    0x2d10d0(%rip),%rcx        # 0x7ffff7dd2e20
   0x00007ffff7b01d50 <+80>:    xor    %edx,%edx
   0x00007ffff7b01d52 <+82>:    sub    %rax,%rdx
   0x00007ffff7b01d55 <+85>:    mov    %edx,%fs:(%rcx)
   0x00007ffff7b01d58 <+88>:    or     $0xffffffffffffffff,%rax
   0x00007ffff7b01d5c <+92>:    jmp    0x7ffff7b01d48 <open64+72>
End of assembler dump.

在这里，您可以看到存根的行为有所不同，具体取决于程序是否有多个线程。这与异步取消有关。

有两个系统调用指令，在一般情况下，我们需要在每个指令之后设置一个断点（但见下文）。

但是这个例子是单线程的，所以我可以设置一个条件断点：

(gdb) b *0x00007ffff7b01d10 if $rax < 0
Breakpoint 2 at 0x7ffff7b01d10: file ../sysdeps/unix/syscall-template.S, line 82.
(gdb) c
Continuing.

Breakpoint 2, 0x00007ffff7b01d10 in __open_nocancel () at ../sysdeps/unix/syscall-template.S:82
82  in ../sysdeps/unix/syscall-template.S
(gdb) p $rax
$1 = -2

Voila，open(2)系统调用已返回-2，存根将转换为将errno设置为ENOENT（此系统为2）并返回{{ 1}}。

如果-1成功，则条件open(2)将为false，GDB将继续运行。

这正是GDB在许多后续系统中寻找一个失败的系统调用时通常想要的行为。

<强>更新

正如克里斯·多德所指出的那样，有两个系统调用，但出错时，它们都会转移到相同的错误处理代码（设置$rax < 0的代码）。因此，我们可以在errno上设置非条件断点，并且该断点仅在失败时触发。

这要好得多，因为当条件为假时，条件断点会大大减慢执行速度（GDB必须停止下级，评估条件，如果条件为假则恢复劣势）。

如何在GDB中为open（2）syscall返回-1设置断点

2 个答案: