Question

作为使用自定义堆栈的实验的一部分，我想要一个函数来返回堆栈分配的char缓冲区的地址。

// return pointer to stack variable
void *foo(void)
{
    char sz[10] = "hello";
    return sz;
}

我知道在C中执行此操作是违法的，gcc也会发出警告。

gcc -Wall -Wextra -pedantic -std=gnu99 -fomit-frame-pointer -O0 -c foo.c 

foo.c:8:12: warning: function returns address of local variable [-Wreturn-local-addr]
     return sz;

尽管如此，由于这是实验的一部分，我希望代码保持原样。有趣的是生成的代码返回0而不是sz的堆栈地址：

boa@localhost:~/tmp$ objdump -dMintel foo.o
0000000000000000 <foo>:
   0:   48 b8 68 65 6c 6c 6f    movabs rax,0x6f6c6c6568
   7:   00 00 00 
   a:   48 89 44 24 f0          mov    QWORD PTR [rsp-0x10],rax
   f:   66 c7 44 24 f8 00 00    mov    WORD PTR [rsp-0x8],0x0
  16:   b8 00 00 00 00          mov    eax,0x0
  1b:   c3                      ret

正如人们所看到的，0x0被移动到eax，这让我很困惑。为什么gcc这样做？

这是一个包含另一个函数bar（）的完整源文件，以及一个main函数。 bar（）按预期返回地址。

#include <stdint.h>
#include <stdio.h>

// return pointer to stack variable
void *foo(void)
{
    char sz[10] = "hello";
    return sz;
}

void *bar(void)
{
    char sz[10] = "hello";
    intptr_t i = (intptr_t)sz;
    return (void*)i;
}

int main(void)
{
    printf("foo: %p\n", foo());
    printf("bar: %p\n", bar());
    return 0;
}

boa@localhost:~/tmp$ make foo && ./foo
cc   foo.o   -o foo
foo: (nil)
bar: 0x7ffce518a268

这对我来说是一个谜。 gcc选择背后的逻辑可能是什么？

Answer 1

在这种情况下，GCC故意返回NULL，如code所示：

tree zero = build_zero_cst (TREE_TYPE (val));
gimple_return_set_retval (return_stmt, zero);
update_stmt (stmt);

较新版本的GCC和Clang会更积极地利用未定义的行为，因此此检查并不令人惊讶。它还使代码快速失败，这在大多数情况下是一件好事（显然，不是您的情况）。

为什么gcc返回0而不是堆栈分配变量的地址？

1 个答案: