ゲームにおいて学習というのは、学習する機能を持っていることで
必ず学習することで予測可能になる。

例えば相手に学習する為のネタを見せておくだけで相手の行動は
学習内容(最適解、定石)に束縛され他の可能性の探索をしなくなる。
その純粋な学習と探索は同時にはありえない。学習をすることはつまり
愚かな行為をしなくなるってこと。愚かな行為ほど先を予測するのは困難
ということです。

チャットBOTはチャット以外の入出力を持たない、故にチャットの行動原理は
常に入力されたことに対する反応であってパターン応答になってしまう。
それでいいのでは?