将Scala中的CSV读入具有错误处理的案例类实例

时间:2015-01-05 13:55:09

标签: scala csv

我想在Scala中读取CSV字符串/文件,以便给定案例类C和错误类型Error,解析器填充Iterable[Either[Error,C]]。是否有任何库可以执行此操作或类似的操作?

例如,给定一个类和错误

case class Person(name: String, age: Int)

type Error = String

和CSV字符串

Foo,19
Ro
Bar,24

解析器将输出

Stream(Right(Person("Foo",1)), Left("Cannot read 'Ro'"), Right(Person("Bar", 24)))

更新:

我认为我的问题不明确,所以让我澄清一下:有没有办法在Scala中读取CSV而不定义样板?鉴于任何案例类,有没有办法自动加载它?我想以这种方式使用它:

val iter = csvParserFor[Person].parseLines(lines)

4 个答案:

答案 0 :(得分:18)

这是一个无形实现,采用与your proposed example中略有不同的方法。这基于我过去编写的一些代码,与您的实现的主要区别在于,这个代码更为通用 - 例如,实际的CSV解析部分已被考虑在内,以便它能够实现。易于使用专用库。

首先是一个通用的Read类型类(还没有Shapeless):

import scala.util.{ Failure, Success, Try }

trait Read[A] { def reads(s: String): Try[A] }

object Read {
  def apply[A](implicit readA: Read[A]): Read[A] = readA

  implicit object stringRead extends Read[String] {
    def reads(s: String): Try[String] = Success(s)
  }

  implicit object intRead extends Read[Int] {
    def reads(s: String) = Try(s.toInt)
  }

  // And so on...
}

然后是有趣的部分:一个类型类,它提供从字符串列表到HList的转换(可能失败):

import shapeless._

trait FromRow[L <: HList] { def apply(row: List[String]): Try[L] }

object FromRow {
  import HList.ListCompat._

  def apply[L <: HList](implicit fromRow: FromRow[L]): FromRow[L] = fromRow

  def fromFunc[L <: HList](f: List[String] => Try[L]) = new FromRow[L] {
    def apply(row: List[String]) = f(row)
  }

  implicit val hnilFromRow: FromRow[HNil] = fromFunc {
    case Nil => Success(HNil)
    case _ => Failure(new RuntimeException("No more rows expected"))
  }

  implicit def hconsFromRow[H: Read, T <: HList: FromRow]: FromRow[H :: T] =
    fromFunc {
      case h :: t => for {
        hv <- Read[H].reads(h)
        tv <- FromRow[T].apply(t)
      } yield hv :: tv
      case Nil => Failure(new RuntimeException("Expected more cells"))
    }
}

最后让它适用于案例类:

trait RowParser[A] {
  def apply[L <: HList](row: List[String])(implicit
    gen: Generic.Aux[A, L],
    fromRow: FromRow[L]
  ): Try[A] = fromRow(row).map(gen. from)
}

def rowParserFor[A] = new RowParser[A] {}

现在我们可以编写以下内容,例如,使用OpenCSV

case class Foo(s: String, i: Int)

import au.com.bytecode.opencsv._
import scala.collection.JavaConverters._

val reader = new CSVReader(new java.io.FileReader("foos.csv"))

val foos = reader.readAll.asScala.map(row => rowParserFor[Foo](row.toList))

如果我们有这样的输入文件:

first,10
second,11
third,twelve

我们将获得以下内容:

scala> foos.foreach(println)
Success(Foo(first,10))
Success(Foo(second,11))
Failure(java.lang.NumberFormatException: For input string: "twelve")

(请注意,这会让每一行产生GenericFromRow个实例,但如果需要考虑性能,则很容易改变它。)

答案 1 :(得分:13)

kantan.csv似乎就是你想要的。如果你想要0样板,你可以使用它的shapeless模块并写:

    <activity android:name=".com.tabs.activity.Comments"
        android:label="View Post"
        android:theme="@style/AppTheme.NoActionBar"
        android:configChanges="keyboardHidden"
        android:windowSoftInputMode="adjustResize|stateAlwaysHidden">
        <meta-data
            android:name="android.support.PARENT_ACTIVITY"
            android:value=".com.tabs.activity.news_feed"/>
    </activity>

根据您的意见,将产生:

import kantan.csv.ops._
import kantan.csv.generic.codecs._

new File("path/to/csv").asCsvRows[Person](',', false).toList

请注意,实际的返回类型是一个迭代器,因此您实际上不必将整个CSV文件保存在内存中,就像您使用res2: List[kantan.csv.DecodeResult[Person]] = List(Success(Person(Foo,19)), DecodeFailure, Success(Person(Bar,24))) 一样。

如果无形依赖关系太多,你可以删除它并提供你自己的case类类型,其中包含最少的样板:

Stream

完全披露:我是kantan.csv的作者。

答案 2 :(得分:3)

这是使用product-collections

的解决方案
import com.github.marklister.collections.io._
import scala.util.Try
case class Person(name: String, age: Int)
val csv="""Foo,19
          |Ro
          |Bar,24""".stripMargin

class TryIterator[T] (it:Iterator[T]) extends Iterator[Try[T]]{
      def next = Try(it.next)
      def hasNext=it.hasNext
}

new TryIterator(CsvParser(Person).iterator(new java.io.StringReader(csv))).toList
res14: List[scala.util.Try[Person]] =
List(Success(Person(Foo,19)), Failure(java.lang.IllegalArgumentException: 1 at line 2 => Ro), Success(Person(Bar,24)))

除了错误处理之外,这非常接近您所寻找的内容:val iter = csvParserFor[Person].parseLines(lines)

val iter = CsvParser(Person).iterator(reader)

答案 3 :(得分:1)

Scala 2.13开始,可以按unapplying a string interpolator模式匹配String s:

// case class Person(name: String, age: Int)
val csv = "Foo,19\nRo\nBar,24".split("\n")
csv.map {
  case s"$name,$age" => Right(Person(name, age.toInt))
  case line          => Left(s"Cannot read '$line'")
}
// Array(Right(Person("Foo", 19)), Left("Cannot read 'Ro'"), Right(Person("Bar", 24)))

请注意,您也可以在提取器中使用regex es。

如果年龄不是整数,则在我们的案例中可以认为行无效:

// val csv = "Foo,19\nRo\nBar,2R".split("\n")

val Age = "(\\d+)".r

csv.map {
  case s"$name,${Age(age)}" => Right(Person(name, age.toInt))
  case line @ s"$name,$age" => Left(s"Age is not an integer in '$line'")
  case line                 => Left(s"Cannot read '$line'")
}
//Array(Right(Person("Foo", 19)), Left("Cannot read 'Ro'"), Left("Age is not an integer in 'Bar,2R'"))