F#,FParsec和递归调用流解析器

时间:2014-11-10 21:55:45

标签: f# multipart fparsec

我正在使用F#和FParsec开发一个多部分的MIME解析器。我正在迭代地开发,所以这是高度未精炼的,脆弱的代码 - 它只解决了我的第一个直接问题。红色,绿色,重构。

我需要解析一个流而不是一个字符串,这实际上是在抛出一个循环。鉴于这种约束,据我所知,我需要递归地调用解析器。如何做到这一点超出了我的意愿,至少从我到目前为止的方式来看。

namespace MultipartMIMEParser

open FParsec
open System.IO

type private Post = { contentType : string
                    ; boundary    : string
                    ; subtype     : string
                    ; content     : string }

type MParser (s:Stream) =
  let ($) f x = f x
  let ascii = System.Text.Encoding.ASCII
  let str cs = System.String.Concat (cs:char list)
  let q = "\""
  let qP = pstring q
  let pSemicolon = pstring ";"
  let manyNoDoubleQuote = many $ noneOf q
  let enquoted = between qP qP manyNoDoubleQuote |>> str
  let skip = skipStringCI
  let pContentType = skip "content-type: "
                     >>. manyTill anyChar (attempt $ preturn () .>> pSemicolon)
                     |>> str
  let pBoundary = skip " boundary=" >>. enquoted
  let pSubtype = opt $ pSemicolon >>. skip " type=" >>. enquoted
  let pContent = many anyChar |>> str // TODO: The content parser needs to recurse on the stream.
  let pStream = pipe4 pContentType pBoundary pSubtype pContent
                      $ fun c b t s -> { contentType=c; boundary=b; subtype=t; content=s }
  let result s = match runParserOnStream pStream () "" s ascii with
                 | Success (r,_,_) -> r
                 | Failure (e,_,_) -> failwith (sprintf "%A" e)
  let r = result s
  member p.ContentType = r.contentType
  member p.Boundary = r.boundary
  member p.ContentSubtype = r.subtype
  member p.Content = r.content

示例POST的第一行如下:

content-type: Multipart/related; boundary="RN-Http-Body-Boundary"; type="multipart/related"

它跨越文件中的一行。内容中的其他子部分包含跨越多行的content-type值,因此我知道如果要重用它们,我将不得不优化我的解析器。

不知何故,我必须使用pContent的(字符串?)结果调用pBoundary,以便我可以在适当的边界上拆分流的其余部分,然后以某种方式返回多个部分帖子的内容,每个帖子都是一个单独的帖子,带有标题和内容(显然必须是字符串以外的东西)。我的头在旋转。此代码似乎已经过于复杂,无法解析单行。

非常感谢洞察力和智慧!

1 个答案:

答案 0 :(得分:2)

这是一个片段,可能会让你朝着正确的方向前进。

让你的解析器吐出具有相同基类型的东西。为此,我更喜欢使用F#的歧视联盟。如果您确实需要将值推送到Post类型,那么请返回返回的AST树。这就是我接近它的方式。

#if INTERACTIVE
#r"""..\..\FParsecCS.dll"""    // ... edit path as appropriate to bin/debug, etc.
#r"""..\..\FParsec.dll"""
#endif

let packet = @"content-type: Multipart/related; boundary=""RN-Http-Body-Boundary""; type=""multipart/related""

--RN-Http-Body-Boundary
Message-ID: <25845033.1160080657073.JavaMail.webmethods@exshaw>
Mime-Version: 1.0
Content-Type: multipart/related; type=""application/xml"";
  boundary=""----=_Part_235_11184805.1160080657052""

------=_Part_235_11184805.1160080657052
Content-Type: Application/XML
Content-Transfer-Encoding: binary
Content-Location: RN-Preamble
Content-ID: <1430586.1160080657050.JavaMail.webmethods@exshaw>"

//XML document begins here...

type AST =
| Document of AST list
| Header of AST list
/// ie. Content-Type is the tag, and it consists of a list of key value pairs
| Tag of string * AST list  
| KeyValue of string * string
| Body of string

上面的AST DU可能代表您在其他问题中发布的示例数据的第一遍。它可以比它更精细,但更简单通常更好。我的意思是,你的例子中的最终目的地是Post类型,你可以用一些简单的模式匹配来实现。