str_replaceで引用符をエスケープするにはどうすれば良いんでしょうか？

$hoge = str_replace("<html lang="ja">", "<html>", $hoge);
でエラーが出たので、
$hoge = str_replace("<html lang=\"ja\">", "<html>", $hoge);
で試してみたのですがダメでして。