アンチエイリアシングのある画像をカラーキーで抜くと、ゲームの背景色によっては逆にギザギザが目立っちゃう

回避法としては、
@アンチエイリアシングを使用しない
Aキャラクタ作成時に背景色を、ゲームの背景色と同色にすれば、カラーキーで抜いてもあまり目立たない
B色によるアンチエイリアシングではなく、αチャネルマップの輪郭をグラデーション化する
が良いみたい