我想将字节的无限流解析为Haskell数据的无限流。每个字节都是从网络读取的,因此被包装到IO monad中。
更具体地说,我有[IO(ByteString)]
类型的无限流。另一方面,我有一个纯解析函数parse :: [ByteString] -> [Object]
(其中Object
是Haskell数据类型)
是否可以将无限的monad流插入解析函数中?
例如,是否可以编写类型为[IO(ByteString)] -> IO [ByteString]
的函数,以便我在monad中使用函数parse
?
答案 0 :(得分:8)
通常来说,为了正确地排列IO操作并使其具有可预测的行为,每个操作都需要在运行下一个操作之前完全完成。在do-block中,这意味着它起作用:
main = do
sequence (map putStrLn ["This","action","will","complete"])
putStrLn "before we get here"
但不幸的是,如果最终的IO操作很重要,则此操作将无效:
dontRunMe = do
putStrLn "This is a problem when an action is"
sequence (repeat (putStrLn "infinite"))
putStrLn "<not printed>"
因此,即使sequence
可以专用于正确的类型签名:
sequence :: [IO a] -> IO [a]
在无限的IO操作列表上无法正常工作。 定义这样的序列将毫无问题:
badSeq :: IO [Char]
badSeq = sequence (repeat (return '+'))
但是执行IO操作的任何尝试(例如,尝试打印结果列表的开头)都将挂起:
main = (head <$> badSeq) >>= print
只需要结果的 part 就没关系。在整个sequence
完成之前,您将不会从IO monad中得到任何东西(如果列表是无限的,那么就“永远”)。
如果要从部分完成的IO操作中获取数据,则需要对其进行明确说明,并使用听起来吓人的Haskell逃生舱口unsafeInterleaveIO
。此功能执行IO操作并“延迟”它,以便直到需要该值时才真正执行。
通常这是不安全的原因是,现在有意义的IO操作,如果实际上在以后的时间点执行,可能意味着不同。举一个简单的例子,截断/删除文件的IO操作如果在写入更新文件内容之前 与之后执行,则效果会大不相同!
无论如何,您在这里想要做的是编写sequence
的惰性版本:
import System.IO.Unsafe (unsafeInterleaveIO)
lazySequence :: [IO a] -> IO [a]
lazySequence [] = return [] -- oops, not infinite after all
lazySequence (m:ms) = do
x <- m
xs <- unsafeInterleaveIO (lazySequence ms)
return (x:xs)
关键是,当执行lazySequence infstream
动作时,它实际上只会执行 第一个动作;其余的操作将包装在一个延迟的IO操作中,直到需要返回列表的第二个和后续元素时,该操作才真正执行。
这适用于虚假的IO操作:
> take 5 <$> lazySequence (repeat (return ('+'))
"+++++"
>
(如果将lazySequence
替换为sequence
,它将挂起)。它也适用于实际的IO操作:
> lns <- lazySequence (repeat getLine)
<waits for first line of input, then returns to prompt>
> print (head lns)
<prints whatever you entered>
> length (head (tail lns)) -- force next element
<waits for second line of input>
<then shows length of your second line before prompt>
>
无论如何,使用lazySequence
的定义和类型:
parse :: [ByteString] -> [Object]
input :: [IO ByteString]
您应该毫不费力地写:
outputs :: IO [Object]
outputs = parse <$> lazySequence inputs
然后随便使用它:
main = do
objs <- outputs
mapM_ doSomethingWithObj objs
即使上面的惰性IO机制非常简单明了,但由于资源管理问题,空间泄漏的脆弱性(代码的微小更改会炸毁存储器),惰性IO仍不适合生产代码。内存占用)以及异常处理问题。
一种解决方案是conduit
库。另一个是pipes
。两者都是经过精心设计的流媒体库,可以支持无限流。
对于conduit
,如果您有一个解析函数,每个字节字符串创建一个对象,例如:
parse1 :: ByteString -> Object
parse1 = ...
然后给出:
inputs :: [IO ByteString]
inputs = ...
useObject :: Object -> IO ()
useObject = ...
导管看起来像:
import Conduit
main :: IO ()
main = runConduit $ mapM_ yieldM inputs
.| mapC parse1
.| mapM_C useObject
鉴于您的解析函数具有签名:
parse :: [ByteString] -> [Object]
我非常确定您不能将其直接与管道集成在一起(或者至少不能以不会放弃使用管道的所有好处的任何方式)。您需要对其进行重写以使其在使用字节字符串和产生对象方面更加友好。