CURL在74个字符后切断URL

时间:2015-05-28 13:54:24

标签: macos bash shell curl download

我正在编写一个脚本,其中包含约300个URL列表作为输入,其格式如下: http://long.domain.prefix/folder/subfolder/filename.html

在该网址中,我想将filename.html保存在./folder/subfolder/中 - 如果该文件夹结构不存在,则必须创建该文件夹结构。这样可以正常将文件夹写入磁盘,但不会下载任何文件。

我的脚本如下所示:

#!/bin/bash

for line in `cat list.txt`; do

  # strips the URL prefix and trailing slash
  name=${line#http://long.domain.prefix\/}
  /usr/bin/curl -m 10 -f -o $name --create-dirs $fullname

done;

出于某种原因,$name变量在<74>字符之后被切断,这显然会导致HTTP错误代码。我无法提供确切的网址,但请确保它们是正确的,只要使用完整的网址。

如何防止这种奇怪的切断行为?

1 个答案:

答案 0 :(得分:0)

感谢Etan Reisner,解决方案是将文件转换为Unix-Style行结尾。