文字列リテラルの構文仕様を見るかぎり、

function ConvertTo-StringLiteral ([string] $s) {
　'"{0}"' -f ($s -replace '[$"\u201C-\u201E`]', '`$&')
}

でいいのでは。

function x {
　$s = Get-Content a.txt
　'$a = ' + (ConvertTo-StringLiteral $s)
}

みたいに使う。