こうするしかないんですね、自己解決しました。

$sql = "SELECT * FROM shain_table WHERE shain_id IN ( ?, ?, ? )";
$sth = $dbh->prepare($sql);
$sth->execute(array("A0000", "A0001", "A0002"));