エラーメッセージにあるとおり、Windowsでは解釈できない文字がファイル内に混入しているのだと思います。
ファイルの中に、そのOSでは読めない文字があれば、特定する関数がRにあったと思うのですが、残念ながら、いま、思い出せません。
多少手間ですが、ファイルを部分に分けて読み込むなどして、問題になっている文字を特定し、削除して構わないものであれば削除するなどの対処が必要かと思います。
あるいは、Rのiconv() で文字コードを CP932に変換する処理を行えば、その種の文字は?に置き換わってしまいます。また、Macが使えるのであれば、Macで実行してみるのも方法かと思います。