じゃあ /usr/local がgem install時に使われない状態なんだろうね。

$ gem install sqlite3-ruby -- --with-sqlite3-dir=/usr/local
かな。
--with-sqlite3-lib とか --with-sqlite3-include もあるらしい。