Question

我在PowerShell中解析文件。我有这部分代码（带有调试写入）

$max_file_size = 0
$max_file_size = $value
Write-Host $max_file_size # DEBUG
$max_file_size = Convert-to-Bytes $max_file_size
Write-Host $max_file_size # DEBUG
[string]$max_file_size = [math]::round($max_file_size, 0)
Write-Host $max_file_size # DEBUG

我看到两条不同的行具有相同的数据。第一遍返回此结果：

8192.00000P
9223372036854775808.00000
9223372036854775808

第二遍返回此结果：

8192.00000P
9223372036854775808.00000
9.22337203685478E+18

笏？

Function Convert-to-Bytes
{
    #Pass in a value and convert to bytes.
    param ($value)

    If ($value -eq $Null)
    {
        $value = 0
    }

    #Convert case to upper.
    [string]$value = $value.ToString().ToUpper()

    #Strip off 'B' if in string.
    [string]$value = $value.TrimEnd("B")

    [decimal]$output = 0

    If ($value.Contains("K"))
    {
        $value = $value.TrimEnd("K")
        [decimal]$output = $value
        [decimal]$output = $output * 1KB
    }
    If ($value.Contains("M"))
    {
        $value = $value.TrimEnd("M")
        [decimal]$output = $value
        [decimal]$output = $output * 1MB
    }
    If ($value.Contains("G"))
    {
        $value = $value.TrimEnd("G")
        [decimal]$output = $value
        [decimal]$output = $output * 1GB
    }
    If ($value.Contains("T"))
    {
        $value = $value.TrimEnd("T")
        [decimal]$output = $value
        [decimal]$output = $output * 1TB
    }
    If ($value.Contains("P"))
    {
        $value = $value.TrimEnd("P")
        [decimal]$output = $value
        [decimal]$output = $output * 1PB
    }
    If ($value.Contains("yte"))
    {
        $value = $value.TrimEnd("yte")
        [decimal]$output = $value
        [decimal]$output = $output
    }
    Return $output
}

Answer 1

当您声明类型变量时，PowerShell会向其添加ArgumentTypeConverterAttribute，因此对该变量的所有后续分配都将转换为此类型。

PS> $Var1=$null
PS> [string]$Var2=$null
PS> Get-Variable Var?|ft Name,Attributes -AutoSize

Name Attributes
---- ----------
Var1 {}
Var2 {System.Management.Automation.ArgumentTypeConverterAttribute}


PS> $Var1=1
PS> $Var2=1
PS> $Var1.GetType().FullName
System.Int32
PS> $Var2.GetType().FullName
System.String

在第一次通过结束时，您声明max_file_size键入为string：

[string]$max_file_size = [math]::round($max_file_size, 0)

因此，在第二次传递中，您分配给它的任何内容都转换为string。

Answer 2

我在每个Write-Host步骤中放置了行，如下所示添加一些类型信息：

$max_file_size.GetType().FullName

这样我每次都会知道这种类型。在第一关

0 : System.Int32
8192.00000P : System.String
9223372036854775808.00000 : System.Decimal
9223372036854775808 : System.String

在同一会话中的第二次

0 : System.String  
#^^^ String here makes sense since last it was cast to string in the previous run.
8192.00000P : System.String
9223372036854775808.00000 : System.String 
#^^^ Here is does not make sense since it should be a decimal returned from the function like before
9.22337203685478E+18 : System.String

仍在处理它，但[math]::round($max_file_size, 0)在第二遍传递了不同的数据，而不是小数。正是为什么要努力。您也可以通过这种方式看到差异

PS C:\users\Cameron\Downloads> [math]::round("9223372036854775808.00000", 0)
9.22337203685478E+18

PS C:\users\Cameron\Downloads> [math]::round([decimal]"9223372036854775808.00000", 0)
9223372036854775808

解决方法

我知道将此行添加到代码的开头可以解决问题。这样每次都会执行相同的操作。

Remove-Variable max_file_size

还可以强制从函数返回小数。

[decimal]$max_file_size = Convert-to-Bytes $max_file_size

Answer 3

这个问题比答案更多，但如果没有其他人帮忙，我可以尽我所能来解决这个问题。

肉类和土豆

现在只想暂时保留这个答案，因为这可能只是这个问题的工作空间，除非其他人在没有考虑的情况下得到答案。所以我试图用Trace-Command来看看我是否能弄清楚发生了什么。有很多的信息可以解析，但为了让它变得简单，我就这样做了。

使用您的函数创建了一个ps1脚本，并将以下代码放置了两次

Trace-Command -name TypeConversion -Expression { $value = "8192.00000P" $max_file_size = 0 $max_file_size = $value $max_file_size = Convert-to-Bytes $max_file_size [string]$max_file_size = [math]::round($max_file_size, 0) } -PSHost

放入一行，这样我就知道第一遍完成的地方和第二遍的开始。考虑从TypeConversion开始，因为这似乎与问题相同。我有以下发现（我将仅显示差异。）请注意，所有代码行都以DEBUG: TypeConversion Information为前缀，但为了简洁和可读性，此处将其删除

第一遍有关于数学装配的一些信息，只有一次才有意义

: 0 : Conversion to System.Type : 0 : Found "System.Math" in the loaded assemblies.

在$max_file_size = 0和$max_file_size = $value的代码出现之后不久，我只在第二个传递中看到了这个

: 0 : Converting "0" to "System.String". : 0 : Converting numeric to string. : 0 : Converting "8192.00000P" to "System.String". : 0 : Result type is assignable from value to convert's type

真正的问题到底是看起来像函数和相关字符串赋值[string]$max_file_size = [math]::round($max_file_size, 0)的返回。

1.st Pass

: 0 : Converting "9223372036854775808.00000" to "System.Decimal". : 0 : Result type is assignable from value to convert's type : 0 : Converting "9223372036854775808" to "System.String". : 0 : Converting numeric to string.

2.nd传递

: 0 : Converting "9223372036854775808.00000" to "System.Decimal". : 0 : Result type is assignable from value to convert's type : 0 : Converting "9223372036854775808.00000" to "System.String". : 0 : Converting numeric to string. : 0 : Converting to double or single. : 0 : Converting "9.22337203685478E+18" to "System.String". : 0 : Converting numeric to string.

看起来数据会使您的自定义函数与“9223372036854775808.00000”相同，但在第二遍中返回$max_file_size的分配正在将值转换为double，因为您可以使用此代码进行复制。

[double]"9223372036854775808.00000" 9.22337203685478E+18

我不是故意浪费任何时间，但这是解决这个问题的最佳地点。

感觉Trace-Command可能无法获取我需要的信息，因为它无法从方法round获取调试信息

情节变浓

如果我将返回变量更改为类似$another_max_file_size的内容，然后在相应的多次传递后检查$another_max_file_size和$max_file_size的类型，我会看到$max_file_size转换为[System.String]就像我们已经确定的那样$another_max_file_size仍然是[System.Decimal]

所以我们现在知道问题的根源是从这一行分配函数的输出。再次，不要认为返回而是赋值操作本身。

$max_file_size = Convert-to-Bytes $max_file_size # ^ something is happening here.

[math] :: round的相同输入会返回不同的结果

3 个答案: