我有一些代码可以处理来自(不是rails应用程序)的Web请求,并且使用以下几行,
str.encode!(::Encoding::ASCII, :undef => :replace, :invalid => :replace, :replace => '')
str.gsub(/[\\\%\']/, '')
str.gsub
调用获得异常"ArgumentError - invalid byte sequence in US-ASCII"
。
我的印象是,如果我用encode!
调用::Encoding::ASCII
方法,它会处理这个,但显然不是;我正在尝试处理的字符在我的文本日志文件中显示为‘
或%91
。任何人都知道为什么encode!
电话没有达到我预期的效果?
我不知道字符串之前是什么样的 - 这只发生在生产环境中,而我正在从日志文件进行调试,其中的值可能是以原始方式以外的某种方式编码的。我将尝试使用Marshal.dump'ing对象来保存它并在下次发生时在本地重现它。
答案 0 :(得分:1)
请注意,从编码
enc
到相同编码enc
的转换是无操作的,即返回的接收器没有任何更改,并且即使存在无效也不会引发异常字节。
在您的情况下,如果str
已经具有ASCII编码,则encode
调用将不会执行任何操作,因此任何无效字节将保留并导致后续gsub
调用中的错误。
Ruby 2.1不会发生这种情况,它还引入了scrub
method作为删除无效字节的简单方法。
如果您无法升级您的Ruby版本,您可以通过更改为不同的编码并返回来解决此问题,例如:
str.encode(::Encoding::UTF_8, :undef => :replace, :invalid => :replace, :replace => '').encode(::Encoding::ASCII)
更好的解决方案是确保您正确处理进入应用程序的所有文本数据的字符编码,并在进入时根据需要进行转换(通常为UTF8)。如何执行此操作取决于数据的来源。
在您的示例中,看起来数据正在CP-1252 encoding中提交(字符U+2018 LEFT SINGLE QUOTATION MARK
使用该编码中的字节0x91
进行编码)。如果您确定数据始终采用此编码,则可以通过以下方式解决此问题:
str.force_encoding(Encoding::Windows_1252).encode(Encoding::UTF_8)