Question

我正在编写一个FastCGI，用于为Web提供商提供静态内容的zlib压缩，但我在NetBSD上遇到mmap()问题。

#include <magic.h>
#ifndef MADV_DONTFORK
#define MADV_DONTFORK 0
#endif
#ifndef MADV_MERGEABLE
#define MADV_MERGEABLE 0
#endif
#ifndef MADV_HUGEPAGE
#define MADV_HUGEPAGE 0
#endif
#ifndef MADV_DONTDUMP
#define MADV_DONTDUMP 0
#endif

struct stat sb;
int fd=strcatn_open((char *)REQUEST_URI,"index.html")?:strcatn_open((char *)REQUEST_URI,"index.htm")?:open(REQUEST_URI, O_RDONLY);
if (fd==0)
    HTTP_Return_Code("Status: 404 Not Found");
if(!strcmp(HTTP_CACHE_CONTROL?:"ch","no-cache")) { //avoid to compare with a NULL pointer
    if(IfModifiedSince)
        if(tdate_parse((char *)IfModifiedSince)==sb.st_mtime) // UNIX : can compare directly
            HTTP_Return_Code("Status: 304 Not Modified\nCache-Control: public; max-age=2678400");
    if(IfUnmodifiedSince)
        if(tdate_parse((char *)IfUnmodifiedSince)==sb.st_mtime) // UNIX : can compare directly
            HTTP_Return_Code("Status: 304 Not Modified\nCache-Control: public; max-age=2678400");
}
strftime(LastModified, sizeof(char)*30, "%a, %d %b %Y %H:%M:%S GMT", gmtime(&(sb.st_mtime)) ); // RFC1123 format : "%a, %d %b %Y %H:%M:%S GMT"
magic_t mime_type=magic_open(MAGIC_PRESERVE_ATIME|MAGIC_DEVICES|MAGIC_SYMLINK|MAGIC_MIME|MAGIC_COMPRESS);
magic_load(mime_type,NULL); // load default magic database
posix_fadvise(fd,0,sb.st_size,POSIX_FADV_SEQUENTIAL | POSIX_FADV_NOREUSE | POSIX_FADV_WILLNEED);
send_HTTP_Headers("Content-encoding: gzip\nContent-Type: %s\nLast-Modified: %s\n",magic_descriptor(mime_type,fd),LastModified);
magic_close(mime_type);

//the problem is here
void * HTTP_file=mmap(NULL,sb.st_size,PROT_READ,MAP_SHARED|MAP_FILE,fd,0);
if(HTTP_file==(void *)-1)
    err(1,"errno=%d",errno);
uLong maxCompressLen=compressBound(sb.st_size);
Bytef* destbuffer=(Bytef *)malloc((size_t)maxCompressLen);
compress2(destbuffer,&maxCompressLen,(const Bytef *)HTTP_file,sb.st_size,Z_BEST_COMPRESSION);
munmap(HTTP_file,sb.st_size);
close(fd);
madvise(destbuffer,(size_t)maxCompressLen,MADV_SEQUENTIAL | MADV_WILLNEED | MADV_DONTFORK | MADV_MERGEABLE | MADV_HUGEPAGE | MADV_DONTDUMP);
write(STDOUT_FILENO, destbuffer, (size_t)maxCompressLen);

当我将fastCGI函数转换为printf（）/ scanf（）进行调试时，我在NetBSD上得到了这个：

Content-encoding: gzip
Content-Type: text/html; charset=utf-8
Last-Modified: Wed, 27 May 2015 01:15:28 GMT

压缩器：errno = 9：错误的文件描述符对应于mmap手册页描述为fd is not a valid open file descriptor的EBADF。我不明白，因为文件描述符似乎对我有用，因为它适用于fstat和libmagic。当我通过sshfs挂载NetBSD文件系统并编译/运行Linux的代码时，我得到了：

Content-encoding: gzip
Content-Type: text/html; charset=utf-8
Last-Modified: Wed, 27 May 2015 01:15:28 GMT

xڭW_o�6/���d�I�8��4��+4-0��E�,������(Я����3�a�&��
;R�#�v�
       �X�����~w��Ͽ��%��▒(��wd@���,%,�ڀ�Mã�5�Y[����a�k��4<SyI�H$���B�
                                                                     �=C{iAs▒S�Riې�     n�!��`��"
a��aT°�Mô(�PEC�6IZ�L�mBR��9

�cb�S:u+"���j��0:�c ��ϿSƠr��BwÐ<^jE�4���?��`�����SyL
                                        �-۾m��̘x�9E�_�ũ�\��l����2V夞%���f�
�� F�k}7A��Q���0b                                                        y)�����▒!����ހ�h�ߗCR�Ǣ▒��ҥ2`"�D�[B����s������1p�ajz#R"-y���
a*$��ZML0▒ĵ����H߶�&?�z��1��     -8y�Uq\��S�.ΉJ� !��3^8.(y_����G�?����
                                                                     �M����L���.�Цi�0zu����n�W�Nw������n��-��X v^bJZ���qc%9��   ����^V
                                                                                                                                      ��ݾ%:e[
?5Q▒�+▒$��=�9�*�&1�����0�ƺ5�:▒"�*q5��4                                                                                                       L�;D٦U46��H��j�rw�|��PH6���O9�q�U5��k���ޏ���2U6��Y����R    ��iS��'��K9)��m�(��V���qf����9՘*���
����y�����@VqɌ)��ո�������%�s��WLo��j�ǯ.p��nW_l���X
P�nK��F0���m.*�k$*$~a���9W�&                      �s%�6�ö�A�▒�� �.G��oc���
                            �(���}@▒��L
'K�����z��@�D���l6�$
         �0▒�E=@VtB�FW�������:�r�%E�M��mw�)i���;_�^0z   �AG+RRYgg˖[)�i�*BFW�I���v��3m���)�駖��i�r.)Cz��+�-������Q~\b\b%V▒u)b۠�-��N�e4Vj��Z
S�`�VW����s�(�.֪z���ܤ���h���Wm�^a0;U9�;�K�`���bR�������a��뇗A�UpMuc6
                                                                   0<�K�>��Q��pB<��NyyB�*�$<�Ǎ|��'�7XԌ��C(
�}r�|N▒٠�       0[��N�$��y���!�y���4<>L���������|�ݧNQ[�:v���Ng/Xض▒�8
^�h�s���L���Z�����Ѐ�����?ꌲ
1������R�J8���.IL��f���Wv�N��w�&c���-d����%>�_�/��4R®�S�C6a��-�1C��
                                                                   ���^�G�k~q}���Ӎ�V�@� Y�$uo▒Ĺf�4q��
                                                                                                     �Ȓ�k���
                                                                                                            Xn�'>kn�>[�WO���(P�l�[jZ�R0#�
                                                                                                                                         �>��ͨ�׸-�>�ƶ�H)+����z�S����x,�������p�▒j���ǹ���7Rg]�k~���b��֯[o�[��_���_�F^F

这意味着相同的代码在没有任何修改的情况下在Linux上运行。

其他信息：

NetBSD上的uname -a返回NetBSD odin 6.1.2 NetBSD 6.1.2 (GENERIC) amd64
uname -a返回Linux localhost.localdomain 3.16.0-rc7-ck2 #1 SMP Fri May 1 13:38:34 CEST 2015 x86_64 GNU/Linux
gcc-4.5.3是NetBSD上的编译器版本
gcc-4.9.2是Linux上的编译器版本
两种体系结构都是相同的，并且两个编译器都使用相同的通用标志，并禁用所有优化。

更新

似乎原因不明magic_descriptor()正在关闭NetBSD上的文件描述符，实际上以下简单代码不起作用：

// test case for a libmagic bug. Libmagic is part of NetBSD packages and is used with the file command
#include <errno.h>
#include <err.h>
#include <magic.h>
#include <sys/types.h>
#include <sys/mman.h>
#include <fcntl.h>
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
/* gcc test.c -o test
./test a_regular_file_with read permissions*/
int main(int argc,char * argv[]) {
        int fd=open(argv[1],O_RDONLY); // set fd to 8
        struct stat sb;
        fstat(fd, &sb);

        magic_t mime_type=magic_open(MAGIC_PRESERVE_ATIME|MAGIC_DEVICES|MAGIC_SYMLINK|MAGIC_MIME|MAGIC_COMPRESS);
        magic_load(mime_type,NULL); // load default libmagic database
        printf("Content-encoding: gzip\nContent-Type: %s\n\r\n",magic_descriptor(mime_type,fd)); // after this fd still ==8 but the file is closed whereas it shouldn’t. And indeed it doesn’t on SUA and Linux distros.
        //magic_close(mime_type);

        void * HTTP_file=mmap(NULL,sb.st_size,PROT_READ,MAP_SHARED|MAP_FILE,fd,0); // always returns -1
        if(HTTP_file==(void *)-1)
                err(1,"errno=%d",errno); // errno is equal to 9 which mean the file descriptor is invalid
        write(STDOUT_FILENO, HTTP_file, sb.st_size);
}

Answer 1

正如谷歌本可以告诉你的那样，这是原始资料来源中的错误/错误：

0000276: magic_descriptor() closes underlying file descriptor (fd) when it finishes

在5.18之前的magic_descriptor()和file的所有版本中，您应该将此视为libmagic的已知行为。即除非您知道您正在使用更新的版本，否则请不要期望描述符在该通话后保持打开状态。

file的固定版本将包含在NetBSD 7.0中 - 在适当的NetBSD邮件列表上轻轻推动，要求提供当前版本分支，也可能将其包含在下一版本的NetBSD-6中.X。

NetBSD上的libmagic close文件描述符

更新

1 个答案: