ホームディレクトリの dollar.txt に、1行で「$HOME」という文字列そのもの(5文字)を書き込んでください。ホームディレクトリのパスに置き換わってはいけません。
echo '$HOME' > dollar.txt
シェルは、ダブルクォート(")の中では $HOME のような変数を展開しますが、シングルクォート(')の中ではすべてをそのままの文字として扱います。ここでは展開させたくないので、シングルクォートを使います。
ダブルクォートの中でも、\$HOME のようにバックスラッシュを付ければ展開を止められます。クォートなしでも、空白や * などの特殊文字はシェルに解釈されるので、意味を持たせたくない文字は必ず引用符で囲みます。