Question

我能做到这一点;我只是不知道它为什么会起作用。使用我从http://yann.lecun.com/exdb/mnist/下载的MNIST数据库，以及该页面底部的指南，我编写了（尚未完成的）方法

// TRAINING SET IMAGE FILE (train-images-idx3-ubyte):
// [offset] [type]          [value]          [description] 
// 0000     32 bit integer  0x00000803(2051) magic number 
// 0004     32 bit integer  60000            number of images 
// 0008     32 bit integer  28               number of rows 
// 0012     32 bit integer  28               number of columns 
// 0016     unsigned byte   ??               pixel 
// 0017     unsigned byte   ??               pixel 
// ........ 
// xxxx     unsigned byte   ??               pixel

// TEST SET IMAGE FILE (t10k-images-idx3-ubyte):
// [offset] [type]          [value]          [description] 
// 0000     32 bit integer  0x00000803(2051) magic number 
// 0004     32 bit integer  10000            number of images 
// 0008     32 bit integer  28               number of rows 
// 0012     32 bit integer  28               number of columns 
// 0016     unsigned byte   ??               pixel 
// 0017     unsigned byte   ??               pixel 
// ........ 
// xxxx     unsigned byte   ??               pixel
let loadMnistImage file =
    use stream = File.Open(file, FileMode.Open)
    use reader = new BinaryReader(stream)
    let magicNumber = readInt(reader)
    let nImages = readInt(reader)
    let nRows = readInt(reader)
    let nColumns = readInt(reader)
    (magicNumber, nImages, nRows, nColumns);;

这很容易。困难的部分是readInt函数的形式。我不能只使用BitConverter.ToInt();我在此页面找到了答案：https://code.google.com/p/aguaviva-libs/source/browse/c%23/NeuronalNetwork/sets/HandWriting.cs?spec=svn9ffdf444c6317be049572cea59170602c8f28bea&r=9ffdf444c6317be049572cea59170602c8f28bea。

翻译方法

int Read(BinaryReader b, int i)
{
   int res = 0;

   while (i-- > 0)
   {
      res <<= 8;
      res |= b.ReadByte()
   }
   return res;
}

进入F＃给出

let readInt (b : BinaryReader) =
    [1..4] |> List.fold (fun res item -> (res <<< 8) ||| (int)(b.ReadByte())) 0

（假设i = 4）。这有效：在F＃interactive中，行

loadMnistImage @"Data\t10k-images.idx3-ubyte"
loadMnistImage @"Data\train-images.idx3-ubyte"

分别给出(2051, 10000, 28, 28)和(2051, 60000, 28, 28)的结果，这些结果与第一个代码段的注释中的值一致。

我不明白为什么它有效。按位或运算符上的所有这些位移和折叠是什么？为什么我不能只使用BitConverter.ToInt()？

Answer 1

标准库方法IPAddress.NetworkToHostOrder(Int32)在从网络订单转换int时考虑了执行平台的字节顺序。后者按标准惯例是big-endian。由于MNIST文件遵循惯例并且是big-endian，因此以下一对标准库方法将作为您的readInt函数的endian-nonnostic替代：

let readInt (reader: System.IO.BinaryReader) =
    reader.ReadInt32() |> System.Net.IPAddress.NetworkToHostOrder

涉及BitConverter的等效但更详细的变体将是

let readInt (reader: System.IO.BinaryReader) =
    (reader.ReadBytes(4),0)
    |> System.BitCoverter.ToInt32
    |> System.Net.IPAddress.NetworkToHostOrder

Answer 2

发表评论作为答案

如上所述，无论代码运行的机器的字节顺序如何，该方法都将起作用。

标准库方法将返回结果，具体取决于运行代码的机器的字节顺序。这可能会产生与您期望的结果不同的结果（相对字节顺序相反）。

使用F＃读取MNIST数据集

2 个答案: