ホームディレクトリの site ディレクトリを、gzip で圧縮した tar アーカイブにまとめ、ホームディレクトリに site.tar.gz という名前で作ってください。site は削除しません。
tar czf site.tar.gz site
tar のオプションは、c(作成)、z(gzip で圧縮)、f(ファイル名を指定)の組み合わせです。f の直後にアーカイブ名を書きます。bzip2 なら j(.tar.bz2)、xz なら J(.tar.xz)です。
z を付け忘れた tar cf site.tar.gz site は、拡張子が .gz でも圧縮されない普通の tar になります。gzip 単体はディレクトリを圧縮できません。中身を確かめるには tar tzf site.tar.gz、展開は tar xzf です。