Octaneではやったことはないので、うまくいくかどうかわからないが、
そおいう場合には
0. 電源ケーブルを抜く
1. キーボードを抜く
2. シリアルポートの0だか1(番号の小さいほう)にクロスケーブルでPC(等)をつなぐ
3. PC(等)でターミナルソフトを立ち上げる
4. 電源をつないでOctaneを起動する
シリアルポートがコンソールになっているはずなので
何かエラーメッセージが出ているかも
diagが実行できれば何か原因がわかるかもしれない

メモリやボードは一度差し直すと、よいかもしれん