M-Gen持ちですが、変態氏の仰るように過修正によるハンチングではないでしょうか。

ガイドの修正量はtor(Tolerance：不感帯の設定)とaggr(Agressivity：修正量の強さ)で調整するのですが、
協栄産業の日本語マニュアルによれば、100mmガイド鏡の場合はtorを0.1〜0.4、aggrを70%〜80%に設定すると良いと書かれています。
＃図入りで結構わかりやすく書かれているのでどこかにうpしたいぐらいですが、やっちゃまずいでしょうから(苦笑)

あと、ガイド中にdrift表示でガイドグラフが見られるのですが、グラフが±両方向にふれている場合はハンチング状態なので
振れが小さくなるようにtorを大きくするかaggrを小さくすると改善できます。

ちなみに協栄さんのマニュアルには、こんなことも書かれています。(aggr設定の項)
・赤道儀の構造上、1秒以下でガイド星が動くシーイングを制御できるものではありません。特に赤緯側は頻繁な修正は意味がないばかりかハンチングを引き起こします。
・極軸のズレによる一方向への修正を、10秒に1度発する程度に調整されることをお薦めします。
・赤緯が秒単位で両方向に駆動パルスを出さない程度が設定の目安です。

私のところではM-Genに250mmガイド鏡を付けて3000mmまでガイドできているので、100mmガイド鏡に1200mm鏡筒なら問題なくガイドできると思います。