今天我尝试重构这段代码,它从目录中的文件中读取ID
Set<Long> ids = new HashSet<>();
for (String fileName : fileSystem.list("my-directory")) {
InputStream stream = fileSystem.openInputStream(fileName);
BufferedReader br = new BufferedReader(new InputStreamReader(stream));
String line;
while ((line = br.readLine()) != null) {
ids.add(Long.valueOf(line.trim()));
}
br.close();
}
使用stream api
Set<Long> ids = fileSystem.list("my-directory").stream()
.map(fileName -> fileSystem::openInputStream)
.map(is -> new BufferedReader(new InputStreamReader(is)))
.flatMap(BufferedReader::lines)
.map(String::trim)
.map(Long::valueOf)
.collect(Collectors.toSet());
然后我发现IO流不会被关闭,我没有看到一种简单的方法来关闭它们,因为它们是在管道内创建的。
有什么想法吗?
upd:示例中的FileSystem是HDFS,Files#lines
并且不能使用类似的方法。
答案 0 :(得分:17)
一旦消耗了流的所有元素,就可以挂钩到流中以“关闭”资源。因此,可以在读取所有行之后关闭阅读器,并进行以下修改:
.flatMap(reader -> reader.lines().onClose(() -> close(reader)))
close(AutoClosable)
处理IOException的地方。
作为概念证明,以下代码和输出已经过测试:
import java.util.stream.Stream;
class Test {
public static void main(String[] args) {
Stream.of(1, 2, 3).flatMap(i ->
Stream.of(i, i * 2).onClose(() ->
System.out.println("Closed!")
)
).forEach(System.out::println);
}
}
1
2
Closed!
2
4
Closed!
3
6
Closed!
答案 1 :(得分:4)
为什么不通过Files.lines
:
try (Stream<String> s = Files.lines(Paths.get("yourpath" + fileName))) {
s.map(String::trim)
.map(Long::valueOf)
.collect(Collectors.toSet());
}
答案 2 :(得分:1)
我还没有测试过实际的代码,但是可能还有这些内容?
Set<Long> ids = fileSystem.list("my-directory").stream()
.map(fileName -> fileSystem::openInputStream)
.flatMap(is -> {
try (BufferedReader br = new BufferedReader(new InputStreamReader(is))) {
return is.lines().map(String::trim).map(Long::valueOf);
}
})
.collect(Collectors.toSet());
当然不像你的那么漂亮,但我相信它是最接近你的。