全文検索エンジン Hyper Estraier 2
■ このスレッドは過去ログ倉庫に格納されています
0001名無しさん@お腹いっぱい。
2007/04/17(火) 19:56:12http://hyperestraier.sourceforge.net/index.ja.html
0002名無しさん@お腹いっぱい。
2007/04/17(火) 19:57:06http://pc11.2ch.net/test/read.cgi/unix/1100221699/
0003名無しさん@お腹いっぱい。
2007/04/17(火) 21:59:350004名無しさん@お腹いっぱい。
2007/04/17(火) 22:08:40もっとも最近は、もっとダイレクトにcockらしいですが。
0005名無しさん@お腹いっぱい。
2007/04/18(水) 00:12:47乙
0006名無しさん@お腹いっぱい。
2007/04/18(水) 22:59:590007名無しさん@お腹いっぱい。
2007/04/19(木) 08:50:05「イサキ 大漁」で検索
0008名無しさん@お腹いっぱい。
2007/04/19(木) 17:49:02↓
↓
0009名無しさん@お腹いっぱい。
2007/04/19(木) 18:58:110010名無しさん@お腹いっぱい。
2007/04/22(日) 17:16:55ってひとのため。
http://green.ribbon.to/~ikazuhiro/lookup/ndest.html
0011名無しさん@お腹いっぱい。
2007/04/22(日) 20:12:080012774
2007/04/23(月) 01:14:13http://athlon64.fsij.org/~mikio/wikipedia/estseek.cgi?clip=8
こちらのサイトでtestを検索
http://athlon64.fsij.org/~mikio/wikipedia/estseek.cgi?phrase=text&perpage=10&clip=8&navi=0&attr=&order=
すると関連キーワードとして
Related terms: text, rowspan, style, align, center, color, background, key
というふうに出てきますが、これって配布されているCGI、estseek.cgiでも出すようにできますか??
いろいろ調べているんですが、方法が一向に分からず。
ご存知の方いらしたら改造のしかた教えて下さい。
0013名無しさん@お腹いっぱい。
2007/04/24(火) 22:20:44estseek.confのindexname: 部分では複数の記述ができませんでした。
001413
2007/04/24(火) 22:22:080015名無しさん@お腹いっぱい。
2007/05/02(水) 19:49:280016名無しさん@お腹いっぱい。
2007/05/02(水) 20:50:020017名無しさん@お腹いっぱい。
2007/05/02(水) 21:16:15http://athlon64.fsij.org:8080/wikipedia/relwords.tsv.bz2
は
http://athlon64.fsij.org/wikipedia/relwords.tsv.bz2
のようですが、not found なのです。
wikipediaのデータを使っているようなので、GNU FDL に基づいて
作者に直接請求しなければならないのでしょうかね。
001816
2007/05/02(水) 22:17:48ところでGNU FDLに基づいて公開義務が生じる根拠って何かあるの?
0019名無しさん@お腹いっぱい。
2007/05/03(木) 13:45:41http://athlon64.fsij.org/~mikio/wikipedia/relwords.cgi
0020名無しさん@お腹いっぱい。
2007/05/06(日) 11:58:48http://athlon64.fsij.org/~mikio/wikipedia/relwords.qdb
0021名無しさん@お腹いっぱい。
2007/05/07(月) 11:24:34多謝です。
0022名無しさん@お腹いっぱい。
2007/06/12(火) 00:07:480023名無しさん@お腹いっぱい。
2007/06/12(火) 15:08:13作者さんはずっとあっちの人だ
0024名無しさん@お腹いっぱい。
2007/06/20(水) 03:25:39rubyの二つの bindingもどういう得失があるんだろう..
やっぱり purerubyだとちょっと遅いとか??
ちょっとソースに diveしてくる。
0025名無しさん@お腹いっぱい。
2007/07/02(月) 22:06:30http://japan.cnet.com/news/media/story/0,2000056023,20352009,00.htm
Hyper Estraier あげ
0026名無しさん@お腹いっぱい。
2007/07/03(火) 09:54:120027名無しさん@お腹いっぱい。
2007/07/04(水) 20:56:32上にあったlookupじゃ使いにくいです。
リターン一発で編集したいです。
0028名無しさん@お腹いっぱい。
2007/08/26(日) 14:16:34そのままレン鯖にうpしても動かないですかね?
試用段階なのだけど、なにか違うんだろうか。
002928
2007/08/26(日) 15:33:46そっちをテストしたらうまくいきました。
付属CGIが動かない理由はまだわからないけど、
自分でもいまいち整理できてないですし、
estseek.cgiは使わないので質問は取り下げます。
ごめりんこですm(_ _)m
0030名無しさん@お腹いっぱい。
2007/09/04(火) 21:14:26流れてるが、作者はマージせんのか。
中華、作者はメンテしてんのか?
0031名無しさん@お腹いっぱい。
2007/09/05(水) 02:18:45mixi移籍後社内業務で手一杯なのか開発速度が大幅に落ちた希ガス
0032名無しさん@お腹いっぱい。
2007/09/05(水) 11:32:08http://tokyocabinet.sourceforge.net/
つーか代わりにメンテナに立候補する香具師はおらんかなあと思う今日このごろ。
0033名無しさん@お腹いっぱい。
2007/10/28(日) 19:54:12開発スピードが遅くなるのはいいんだけど、放置プレイだけが心配だなぁ。
Tokyo Cabinet で QDBM の不満点を解消したとかいってるし、QDBM 放置 → H.E. も放置な流れの気配が…
0034名無しさん@お腹いっぱい。
2007/11/05(月) 14:51:27mysqlのエラーで止まります。何かいい方法ありますか?
0035名無しさん@お腹いっぱい。
2007/11/06(火) 00:03:34どういう使い方をしているのか、それを説明したまえ
003634
2007/11/06(火) 19:34:03レスありがとうございます。
hyperestraierとacts_as_searchableというrailsのプラグインを使って、全文検索を行いたいと考えています。
acts_as_searchableに備わっているreindex!というメソッドを実行すると、インデックスが構築される仕様になっているのですが、
これを実行すると、だんだん処理が重くなり、最終的にはMysql::Error: Lost connection to MySQL server during queryというエラーが出てしまいます。
reindex!というメソッドはデフォルトでは対象になるレコードを一気にメモリにのせてしまうので、
そのあたりは負荷を減らすようなコードに修正して実行しています。
(このような感じです。ttp://d.hatena.ne.jp/yune_kotomi/20070912/1189617411)
hyperestraierのメーリングリストで、mysqlのLost Connectionを改善する
mysql_retry_lost_connectionというrailsのプラグインを教えて頂いたのですが、
インストールしても効果がなく、どうも、接続が切れる前の段階でつまずいているような気がします。
対象レコード数は100万弱で、途中で止まってしまいましたが、
#docs => 22897、#words => 196666まではいけました。
なにかアドバイスいただければ幸いです。
よろしくお願いします。
0037名無しさん@お腹いっぱい。
2007/11/07(水) 11:56:45単にタイムアウトしているだけのような気が...
0038名無しさん@お腹いっぱい。
2007/11/08(木) 01:02:450039名無しさん@お腹いっぱい。
2007/11/08(木) 08:42:090040名無しさん@お腹いっぱい。
2007/11/08(木) 22:48:10残念ながら俺は MySQL と組み合わせたことも Rails も使ったことがないからよくわからん。
つか普通 MySQL で全文検索するんだったら Senna じゃね?
0041名無しさん@お腹いっぱい。
2007/11/11(日) 18:28:540042名無しさん@お腹いっぱい。
2007/11/12(月) 00:50:42のがダメな点だな。
作者の手を煩わせてはいかんよ。
0043名無しさん@お腹いっぱい。
2007/11/12(月) 08:59:50著作権保持者を維持してるので、開発コミュニティの形成はforkでもしないと
無理だよ。
0044名無しさん@お腹いっぱい。
2007/11/12(月) 10:29:240045名無しさん@お腹いっぱい。
2007/11/12(月) 10:59:560046名無しさん@お腹いっぱい。
2007/11/12(月) 19:53:490047名無しさん@お腹いっぱい。
2007/11/21(水) 14:39:17[UVSET]してるけどなー
0048名無しさん@お腹いっぱい。
2007/11/21(水) 14:44:41属性検索で速く検索する方法ありますか
0049名無しさん@お腹いっぱい。
2007/11/21(水) 18:22:16それ属性インデクス追加のオプションだっけ?
おれは
estcmd create -attr @uri str idx
とかやって属性インデクス付けたよ.
1000万件位のレコード数だったけど,URI検索は体感できるほど
速くなった.
0050名無しさん@お腹いっぱい。
2007/11/29(木) 10:43:00で、いざ新バージョンが出たら沈黙ってなんだよ。
0051名無しさん@お腹いっぱい。
2007/11/29(木) 13:26:34> 最新のソースパッケージ(バージョン1.4.12)
あれ、いつの間に。
ML 入ってるけどリリース情報なかったぞ。
何にせよ復活age.
ただ、ChangeLog 見る限り、
2007-11-18 Mikio Hirabayashi <mikio@users.sourceforge.net>
* estraier.c: code clean-up.
- Bugs related to type casting of perl binding were fixed.
- Release: 1.4.12
2006-11-11 Mikio Hirabayashi <mikio@users.sourceforge.net>
* estraier.c (est_resmap_add): "method" argument was added.
* estraier.c (est_inode): a bug related to overflow was fixed.
* estraier.c (est_narrow_score): a bug related to attribute distinction was fixed.
* estraier.c (est_search_union): search accuracy with trailing uni-gram was improved.
* estmaster.c (searchlocal): a bug related to scanning with regular expressions was fixed.
* estscout.c (realmain): "union", "score", and "idsuffix" attributes were added.
* estsupt.c (realmain): "score" attribute was added.
* estsupt.c (procsearch): accuracy of hint was improved.
* estsupt.c (realmain): "logmsg" parameter was added.
* estscout.c (realmain): "distinct" parameter was added.
* estscout.c (showresult): cache clear at random was added.
- Release: 1.4.11
ここのところ精力的に ML に投げられてたパッチはマージされてなさげ?
0052名無しさん@お腹いっぱい。
2007/12/05(水) 19:46:42なんとかならんですかね。
0053名無しさん@お腹いっぱい。
2007/12/06(木) 19:59:56http://www.osstech.co.jp/product/chimera
> 構築コンポーネントに以下のOSS(オープンソースソフトウェア)を利用
> しているため、安価に導入できるのに高性能・高機能を発揮します。
> * プログラム言語: Rubyおよび Ruby On Rails
> * 全文検索システム : Hyper Estraier
0054名無しさん@お腹いっぱい。
2007/12/22(土) 14:50:01會→会
懷→懐
みたいに異体・旧字体・繁体・簡体をまとめてくれるといいのに。
estraier.c のなかの canonize なんとか関数に誰かちょっちょっと書き加えてくれ。
0055名無しさん@お腹いっぱい。
2007/12/22(土) 15:24:27こういう製品って虚しいよね。
だって、導入60万、年12万だったらGoogle MINIの方が
安いし、ハードウェア込みの提供だからメンテフリーだし。
実際,うちの会社はWWW用はGoogleMINI にした。
部内サーバは自分でHyper Estraierをいれた。
0056名無しさん@お腹いっぱい。
2007/12/22(土) 17:12:45それはそうなんだが、Google MINIってちっとも社内のニーズに合わせてくれなくて不満がでるんだよな。
ページの計算もなんか適当に丸められちゃうし。
0057名無しさん@お腹いっぱい。
2007/12/24(月) 16:00:59acts_as_searchableの未完成具合に泣いたけどww
Rails系のエンジニアに聞くと皆使ってるし、
結構いろんなサービスでも使ってるみたい。
0058名無しさん@お腹いっぱい。
2007/12/27(木) 04:43:210059名無しさん@お腹いっぱい。
2007/12/27(木) 21:52:280060名無しさん@お腹いっぱい。
2008/01/06(日) 02:53:55(  ̄0 ̄)Ψ 誰かぁぁ PHP-nativ binding を作ってぇ〜
0061名無しさん@お腹いっぱい。
2008/01/29(火) 14:23:57http://*****:1978/node/***/search_ui の形式で検索には成功しました。
次ステップで
estraierpure.rb を PHP に移植したという 「EstraierPure for PHP 4.3」を使用し、ClassNodeを利用しましたが、検索結果に同じサイトばかり表示されてしまいます。
1:Pure版には 類似隠匿機能はないのでしょうか。
Ruby、Javaにもないようですし..
2:Binding版(Perl等)には、類似隠匿機能(set_eclipse)があるのですが、classNode がありません。
Binding版で、P2P(ノード)利用した検索をシステムって可能なのでしょうか。
CPAN(Search-Estraier)を観ましたが、classNodeがあったのですが、set_eclipseがありませんでした
3:そもそもBinding版とPure版の違いってなんでしょうか。(汗
全く、的外れな質問でしたらお許しください
やりたいのは、「P2P+クローラーでの検索サーバーの構築」です。
0062名無しさん@お腹いっぱい。
2008/01/29(火) 18:32:53Pureには、実装されてないようです。
>そりゃ俺がやるから使う側は楽なんだけどさ、面倒くせーことこの上ない。
ttp://qdbm.sourceforge.net/mikio/rbbs.cgi?id=RA11306060711414945086
0063名無しさん@お腹いっぱい。
2008/01/30(水) 00:08:190064名無しさん@お腹いっぱい。
2008/01/30(水) 01:19:120065名無しさん@お腹いっぱい。
2008/01/30(水) 02:18:18006661
2008/01/30(水) 14:55:510067名無しさん@お腹いっぱい。
2008/01/30(水) 20:11:19検索漏れ大杉でとても使う木になれん
0068名無しさん@お腹いっぱい。
2008/01/31(木) 10:15:31ヒント Mecab
0069名無しさん@お腹いっぱい。
2008/01/31(木) 14:10:210070名無しさん@お腹いっぱい。
2008/02/01(金) 10:36:19Cで組むならQDBMの使いこなしが必要。
関数になれましょう
0071名無しさん@お腹いっぱい。
2008/02/07(木) 15:54:15Windows版バイナリパッケージのverは1.4.10で止まったままなんでしょうか.
どなたかビルドしておられたらありがたいですが
0072名無しさん@お腹いっぱい。
2008/02/09(土) 17:52:060073名無しさん@お腹いっぱい。
2008/02/10(日) 09:18:20辞書データ変換ツール一般についてと
(製品版のデータを全部持った)体験版のデータ変換についての話が
入り乱れてないか?
0074名無しさん@お腹いっぱい。
2008/02/10(日) 09:19:500075名無しさん@お腹いっぱい。
2008/02/20(水) 02:24:28DBが開いた状態で、プロセスが落ちると100%ぶっ飛ぶ
速いらしいが、こんなん怖くて使えないわ。
どうでもいいような、無くなってもいいデータしか扱えないわ。
さてと、1000万件のデータ、ゼロから収集だわ(鬱
なんとかならんでしょうかね
0076名無しさん@お腹いっぱい。
2008/02/20(水) 02:34:440077名無しさん@お腹いっぱい。
2008/02/20(水) 08:56:250078名無しさん@お腹いっぱい。
2008/02/20(水) 10:37:590079名無しさん@お腹いっぱい。
2008/02/20(水) 15:07:56よかったな! sdbmの方が圧倒的に速いぞ。
0080名無しさん@お腹いっぱい。
2008/02/21(木) 13:32:05ノーヘルどころか、頭蓋骨すらない脳味噌丸出しのバイク便の差。
高速道路で同じ荷物を運んで どっちの運ちゃんが逝くかは明白。
シートベルト程度の防御は欲しいけど、速さと安全は成り立たないだろね。
RAMにカキコされたキャッシュ程度のモンよ
0081名無しさん@お腹いっぱい。
2008/02/21(木) 18:56:31お前喩えのセンスあるな
0082名無しさん@お腹いっぱい。
2008/02/23(土) 11:56:390083名無しさん@お腹いっぱい。
2008/02/23(土) 13:45:46安全性上がるのか?
008483
2008/02/23(土) 13:52:41http://alpha.mixi.co.jp/blog/?p=90
> 耐障害性の向上 : データベースファイルが壊れにくい
って書いてあるな。
速度だけでなく安全性も向上するのか。
0085名無しさん@お腹いっぱい。
2008/02/23(土) 14:11:07> QDBMにおいては、データベースを開いているアプリケーションが異常終了した場合、
> もしくはデータベースを適切に閉じずに終了した場合は、データベースが壊れるように
> していました。それらは明白なバグであり、アプリケーションの作者やそれを使うことを
> 選択したユーザに何らかの意識的な対処を求めることが適切であると考えたからです。
> (中略)
> しかし、上記のような理想主義と「上から目線」では現実の問題に対処できないことを
> 近ごろ感じはじめました。マナーを守らない/守れないユーザやユースケースも結構な
> 割合で存在するのが現実なのです。したがって、TCは、マナーを守らないアプリケー
> ションやそのユーザにも宥和する戦略に転換しました。
突然の停電とか当たり前に起こりうる事態なんだから、
バグとかマナーとかそういう問題じゃないと思うんだよな…
アプリにバグが無くても OS の不具合で落ちることなんかしょっちゅうだしな。
0086名無しさん@お腹いっぱい。
2008/02/23(土) 16:37:48能力的に対処できないということはなさそうだから、
実世界の面倒くさいことから逃避するための言い訳か。
> アプリにバグが無くても OS の不具合で落ちることなんかしょっちゅうだしな。
そんな事がしょっちゅうあるようなOSは使わないのが普通。
開発者がアレだとユーザもアレなのが集まるというのを実感しないでもない。
0087名無しさん@お腹いっぱい。
2008/02/23(土) 16:53:57おまえは Windows を使ったことがないのか?
0088名無しさん@お腹いっぱい。
2008/02/24(日) 05:10:28サーバールートdirの _pid と _stop の削除
●DBの復旧
estcmd repair index_path
0089名無しさん@お腹いっぱい。
2008/02/24(日) 14:10:33「out of memory」で止まってしまいました。( p_q)エ-ン
クローラールートディレクトリ(rootdir)内が飛んだようで
以後、
estwaver crawl rootdir で 「could not open」となり起動できません。
メモリが少ないのはわかるのですが、先日までは正常に動作してました。
rootdirの復活方法など対処方法を教えてください (o*。_。)oペコッ
0090名無しさん@お腹いっぱい。
2008/02/24(日) 15:35:470091名無しさん@お腹いっぱい。
2008/02/24(日) 15:57:550092名無しさん@お腹いっぱい。
2008/02/24(日) 19:53:33耐障害性の確保は上位層でやれってことだろ。
オーバーヘッドを減らすためには妥当な技術選択だ。
あんたらが考えてるくらいのことはとっくに考えてるはずだよ。
その例としてTokyo Tyrantでちゃんと耐障害性を確保しているしな。
http://alpha.mixi.co.jp/blog/?p=147
これベースでHEを作ってくれないかなぁ。
0093名無しさん@お腹いっぱい。
2008/02/24(日) 21:47:330094名無しさん@お腹いっぱい。
2008/02/24(日) 22:47:010095名無しさん@お腹いっぱい。
2008/02/25(月) 06:44:00中見てないけどtokyoestraierってのがそうじゃないの?
0096名無しさん@お腹いっぱい。
2008/02/26(火) 12:43:58選択肢の一つではあるが、技術的に妥当な選択だとは思わないな。
用途が制約される(上位層やユーザがその要求を履行するのは難しい)という点で。
0097名無しさん@お腹いっぱい。
2008/02/26(火) 22:43:32consistencyを真面目に考えたらそれこそスタンドアロンでは実現できないし。
0098名無しさん@お腹いっぱい。
2008/02/27(水) 17:41:29後継は、tokyoestraier(TE)でしょう。
http://hyperestraier.sourceforge.net/past/?M=A
0099名無しさん@お腹いっぱい。
2008/02/28(木) 13:12:040100名無しさん@お腹いっぱい。
2008/03/21(金) 04:12:020101名無しさん@お腹いっぱい。
2008/04/03(木) 20:14:51別のHEシステムにインポートできないかな。
独立したサーバAで作ったインデックスを
別の独立したサーバBにrsyncで飛ばして してクローン作るとか・・・
0102名無しさん@お腹いっぱい。
2008/04/03(木) 21:54:36多分動くでしょ。AとBのアーキテクチャが同じなら
0103名無しさん@お腹いっぱい。
2008/04/03(木) 23:58:23A. はい。どちらでも動作します。ただし、双方でインデックスを
共有することはできません。
そうでない場合は共有できるんじゃないの?
0104名無しさん@お腹いっぱい。
2008/04/04(金) 10:03:10私やってますよ
サーバAでestwaverで集めて、サーバBにrsyncで飛ばして、検索はBで
ってシステム構築してます
AもBも同じPC同じOSですが
0105名無しさん@お腹いっぱい。
2008/04/04(金) 11:20:55レスd
バックアップとしても使えそうね
てか過疎で誰も居ないかと思ってたけど
人がまだ居て嬉しかった(´;ω;`)ブワッ
0106名無しさん@お腹いっぱい。
2008/04/04(金) 11:21:29>>102-104
0107名無しさん@お腹いっぱい。
2008/04/09(水) 23:28:580108名無しさん@お腹いっぱい。
2008/04/10(木) 07:40:41Q. : Windowsで利用できませんか?
A. : 残念ながらできません。今のところ対応予定もありません。
0109名無しさん@お腹いっぱい。
2008/04/10(木) 10:05:57期待age
011052
2008/04/17(木) 18:25:17>pthreadsライブラリのないシステムで動かしたいんですが
Hyper Estraierの前身の Estraierが pthreadsを必要としてなかったのでそっちを入れました。
0111名無しさん@お腹いっぱい。
2008/04/17(木) 23:37:000112名無しさん@お腹いっぱい。
2008/04/18(金) 10:46:20「初期導入の効率化」を参考にデータベースを作成したのですが、検索が上手くいきません。
FreeBSD側に持っていっても、estsmdでは正常に検索できるのですが、サーバを立ち上げて
estcallを使うと、検索結果のヘッダ(ヒット数など)は表示される物の、それに続くはずの
文書一覧が表示されません。
どなたか原因分かる方見えませんか?
0113名無しさん@お腹いっぱい。
2008/04/18(金) 17:38:32GNU pth というのがあったとですか。勉強になりました。
でも本当の UNIX系OSではなくて UNIXエミュレーション環境なので pth では無理かも。
ともかく調べてみます。ありがとね。
0114名無しさん@お腹いっぱい。
2008/04/24(木) 09:09:51物理メモリ1GB、仮想メモリ1.4GB使い切る・・・
-ftなんか使う物じゃないんだろうか
javaとかのソースコードも見たいんだけどなぁ・・・
0115名無しさん@お腹いっぱい。
2008/04/24(木) 23:32:59Excel のせいでメモリ不足になってるならこういう話がある
http://pmakino.jp/tdiary/20070501.html#p01
0116名無しさん@お腹いっぱい。
2008/04/25(金) 00:03:50大学の研究室のファイルサーバ(約600GB)の検索用に導入しようと試みているんですが
実験のログやそれをとりまとめたxls、論文のdocやpdf、プレゼン用のppt(x)に
実験プログラムなどなど混沌としているため目的のファイルを探すのが容易になればと・・・
-ftじゃなくて.javaなどもテキストファイルとして認識するようにどこか変更すればいいんだろうか。
がんばっていろいろいじってみます
0117名無しさん@お腹いっぱい。
2008/05/05(月) 21:20:24H.E単体で、できないものであれば、あきらめようと思っていますが。
0118名無しさん@お腹いっぱい。
2008/05/12(月) 02:11:46デフォルトの検索インターフェイスやコマンドラインからメタ検索をしているのですが、
似た内容のファイルが複数ヒットすると数件しかスニペット表示されません。
(例えば、5件のファイルがヒットしてもスニペット表示されるのは1件だけとか)
何かオプションを指定するなどしてヒットしたすべてのファイル、
あるいは上位何件かのファイルのスニペットを表示させる、
ということはできないのでしょうか?
0119名無しさん@お腹いっぱい。
2008/06/15(日) 02:36:39てさ、0.0.1とかいうバージョン番号のせいで内容を見る気になってなかったんだけど、
実際見てみたら HE 1.4.13 で Tokyo Cabinet を使えるようにしたものなんだね。
今まではQDBMが壊れやすいせいでHEを敬遠してたのだけど、これは良いかも。
これで実運用してる人とかいるかな?
まあ本命は Tokyo Dystopia なんだけどさ。Rubyバインディングとかつくってほしいなあ。
http://tokyocabinet.sourceforge.net/dystopiadoc/
0120名無しさん@お腹いっぱい。
2008/06/15(日) 18:21:12問題なのは壊れたのに気づかないという・・・
リペアしてもリペア出来てないという・・・
0121名無しさん@お腹いっぱい。
2008/06/16(月) 18:24:460122名無しさん@お腹いっぱい。
2008/06/16(月) 18:35:51-vxを付けると、属性情報とスニペットをXML形式にして結果を出力します。
ってマニュアルに書いてあるよ。
それ以外は自分でAPI使ってXML返すプログラムを作るってのが
本来の使い方だろうね。
0123名無しさん@お腹いっぱい。
2008/06/16(月) 18:54:390124名無しさん@お腹いっぱい。
2008/06/22(日) 17:24:43検索時はメモリオーバーになるらしく、プロセスがKILLされまくります。
どれくらいのメモリがあれば使えるものですか?
0125名無しさん@お腹いっぱい。
2008/06/22(日) 23:17:58なんか使い方おかしいんじゃね?
0126名無しさん@お腹いっぱい。
2008/06/23(月) 00:00:57バーチャルサーバのスワップはちゃんととってます?
0127名無しさん@お腹いっぱい。
2008/06/23(月) 06:32:14.javaとかをテキストとして処理するようにしたいんだが・・・
0128124
2008/06/23(月) 16:57:29どうやって取るんだろ。。( p_q)ワカンネっす PLASKサーバーです
_conf の設定が悪いのでしょうか。。P2P(estmaster)で使ってます。
_confにメモリ周辺の設定ってありましたっけ?
0129名無しさん@お腹いっぱい。
2008/06/24(火) 02:03:12が、検索のAPIがDLL内でmallocしたものを返す仕様になっており、
メモリ解放ができません。
内部で完結するよう関数追加してビルドしなおししかないでしょうか?
0130名無しさん@お腹いっぱい。
2008/06/24(火) 21:40:22デフォルトのファイルを書き換えるだけ?
0131名無しさん@お腹いっぱい。
2008/06/24(火) 22:14:59どうしたいのか分からんが、間にラッパーを
かませればいいんじゃないの?
0132名無しさん@お腹いっぱい。
2008/06/24(火) 23:50:56はい、ラッパー作った方がいいと思います。
ラッパーのビルドもcygwin入れて本体と同じライプラリつかってやるんですよね。きっと。
UNIX系はさっぱりで、makeファイルすらよくわからず、相当時間がかかりそうです。
とり急ぎ直近はSearch系だけestcmdでやっちまおうと思います。
ギャザラはDLL使うのでなんとも不格好なんですが。
0133名無しさん@お腹いっぱい。
2008/06/25(水) 10:35:070134名無しさん@お腹いっぱい。
2008/06/26(木) 01:02:03どうもありがとうございました。
0135名無しさん@お腹いっぱい。
2008/07/08(火) 20:51:02windows環境でRailsの開発をしててHyper Estraierを使いたいんですが、
配布されているバイナリパッケージにRubyバインディングが見当たりません。
Cygwinでソースをmakeしても、Hyper Estraier本体は入るんですが、
Rubyバインディングのmakeでコケます。
windowsでは無理?
0136名無しさん@お腹いっぱい。
2008/07/12(土) 09:15:520137名無しさん@お腹いっぱい。
2008/07/12(土) 17:24:10お前にゃ無理だ。
0138名無しさん@お腹いっぱい。
2008/07/24(木) 13:28:58pdfをインデックス化したいんですけど、30MB超えるpdfだと、
文章の途中までしかインデックス化してくれません。。
特にエラーとか出てないんですけどなんでだろ?
$ estcmd gather -cl -fx ".pdf" "H@estfxpdftohtml" -fz -ic UTF-8 -il ja -lf -1 -lt -1 -sd -cm casket ./
一応、-lf -1 -lt -1で、ファイルサイズ制限無しとかにしてみるんだけど、
マニュアルとかGoogle先生とか聞いても対処方法もわかんなくて、、
こんなバカ助かるかな?
0139fumiyas
2008/07/25(金) 12:27:12estfxpdftohtml スクリプト中に「ulimit -v 262144 -t 10 2> "/dev/null"」ってのがあるから
「262144」の部分を適当に多くしてみるとどう?
0140fumiyas
2008/07/25(金) 12:55:11うちの estmaster もインデックスにデータを投入するごとに肥大化しているような。
お客さんのところでメモリ使用量 1GB 越えも発生したので、調査する予定。(;_;)
… その前に Tokyo Estraier を試してみようかしら?
0141名無しさん@お腹いっぱい。
2008/07/25(金) 15:21:53うぅ、バカに救いの手をありがとうございます。orz
少しインデックス化できた文章が増えたので、イケルか!と思ったんですが、
値を倍位に変更しても、それ以上は増えなくて、やっぱり途中で切れちゃってる。_| ̄|○|||
( -t 10 => 500とかもしてみたけどダメだった…)
なにげに、
$ pdftotext -enc UTF-8 -htmlmeta "pdfファイル"
これでやってみると、きちんとオワリまで文章がテキスト化されているみたい。
新たに発覚したんだけど、どうもpdf文章の途中でたまたま出てくる「<<」の記号から、
「>>」の所まで、ごっそり文書がインデックス化されてないっぽい。(゚ロ゚;))((;゚ロ゚)オロオロ
すまん、かえって混乱させてるかも。。
というか、自分混乱してる。
0142fumiyas
2008/07/26(土) 02:26:06ああ、わかった…。(たぶん)
pdftotext のバグですね。
pdftotext -enc UTF-8 -htmlmeta "$infile" - 2> "/dev/null" | output
の部分を:
pdftotext -enc UTF-8 -htmlmeta "$infile" - 2> "/dev/null" \
|sed '/<pre>/,/<\/pre>/{s/&/\&/g;s/</\</g;s/>/\>/g}' \
| output
とでも書き換えてみてください。(これだと「pre」が単語として登録されてしまうが…。)
# sed 's/ -htmlmeta / -raw -nopgbrk /' /usr/bin/estfxpdftohtml > /usr/bin/estfxpdftotext
# chmod 755 /usr/bin/estfxpdftotext
とでもして、
$ estcmd gather -cl -fx ".pdf" "T@estfxpdftotext" -fz -ic UTF-8 -il ja -lf -1 -lt -1 -sd -cm casket ./
とするとか。
0143名無しさん@お腹いっぱい。
2008/07/26(土) 11:00:18あんただれ?
0144名無しさん@お腹いっぱい。
2008/07/28(月) 14:06:44ホントすいません、付き合って頂いちゃってありがとうございます。
pdftotext のバグですか!?
だとすると、こんなド素人に使いこなすのは難しくなっちゃうかも。。現状で満足せなあかんですかね(;´ー`)
スクリプトありがとうございます(人-)
ただかなり初歩的な部分で分からないところが…(滝汗) そもそも sed がイマイチ分かってないしょっぱい自分…
> # sed 's/ -htmlmeta / -raw -nopgbrk /' /usr/bin/estfxpdftohtml > /usr/bin/estfxpdftotext
> # chmod 755 /usr/bin/estfxpdftotext
estfxpdftohtml や estfxpdftotextは /usr/local/share/hyperestraier/filter にあって
/usr/bin には無かったりするんですが、その辺は読み替えろよこんちくしょう的な感じでしょうか…?(゚Д゚;)アワワ
それともそのままやっちゃっても大丈夫的な感じでしょうか?
0145fumiyas
2008/07/29(火) 13:53:59まずは pdftotext のバグについて。
pdftotext は -htmlmeta オプションを付けると PDF に含まれる
本文のテキストを簡単な HTML にして、プラス文書情報 (Adobe Reader なら
[File] - [Properties] で表示される情報) を HTML の <meta> に
含めてくれますが、PDF 本文のテキストは <pre> で囲まれるだけで
その中に含まれる <, >, & を <, >, & に変換してくれません(バグ)。
なので PDF に「<HTMLのタグではない適当な文字列>」という文が含まれていると、
estcmd がそれを HTML のタグと認識してしまい、削除してしまいます。
sed がやっていることですが、<pre>〜</pre> の間の <, >, & を
<, >, & に変換しているだけです。
最後に estfxpdftohtml(text) の置き場所ですが、私の手元の Debian の
hyperestraier パッケージでは /usr/bin に置かれているというだけで、
そっちの環境で /usr/local/share/hyperestraier/filter なら、
そっちに合わせて ↑ に置くのがいいと思います。
# sed 's/ -htmlmeta / -raw -nopgbrk /' \
/usr/local/share/hyperestraier/filter/estfxpdftohtml \
>/usr/local/share/hyperestraier/filter/estfxpdftotext
>>143
ハンドル(?)をググると出てくるので、そっちをどうぞ。:-)
0146fumiyas
2008/07/29(火) 13:57:46どうしたらいいの? ま、いいか。
0147fumiyas
2008/07/29(火) 15:56:25pdftotext -enc UTF-8 -htmlmeta "$infile" - 2> "/dev/null" \
|sed '/<pre>/,/<\/pre>/{s/&/\&/g;s/</\</g;s/>/\>/g}' \
|output
その中に含まれる <, >, & を <, >, & に変換してくれません(バグ)。
0148名無しさん@お腹いっぱい。
2008/07/30(水) 18:50:03す・すすごい!!できたできました!!(・∀・∀・)
ごっそり抜けちゃってた文章も、タグだと誤解されてしまってたんですね。
きちんとインデックスに戻ってきました、戻ってきましたよ!!щ(゜ロ゜щ) カモ-ン
天才ですかfumiyasさま… (シ_ _)シ ネ申 >>147
ほんにありがとうございます。
確かにインデックスの方には <pre> が単語化されているようですが、
これはもう、しょうがないですよ…ね…?
はぁぁ、感動しちゃいました。(;∀; )
0149fumiyas
2008/08/01(金) 01:35:58解決されたようでなによりです。
「pre」が気になるようなら、上で書いたように estfxpdftohtml
の代わりに estfxpdftotext でもどうぞ。estcmd の -fx オプションの
値を変更するのを忘れないように。
0150HE@SHE
2008/09/27(土) 02:48:360151名無しさん@お腹いっぱい。
2008/10/02(木) 13:47:11ファイルサーバ(Xとか入れてません)として使っているetchにHyper Estraierを入れてわりと経つのですが、
pdfの日本語がインデックスに入っていないことに気付きました。
いろいろ調べて、ひとまずpdftotextが日本語を変換してくれてないのだ、と分かりました。
degas@debian:~$ pdftotext 日本語入りのpdf.pdf
Error: Unknown character collection 'Adobe-Japan1'
:
Error: Unknown character collection 'Adobe-Japan1'
ってな状況ですorz。xpdfはapt-getでhyperestraierをインストールするときに
推奨パッケージでxpdf-utilsを入れたので、大丈夫だと思っているのですが…。
念のためいまxpdfも入れてみましたが、同じエラーが出ます。
指針が有ればお願いしますm(_ _)m。
0152名無しさん@お腹いっぱい。
2008/10/02(木) 14:23:09xpdf-japanese とやらを入れてる?
0153名無しさん@お腹いっぱい。
2008/10/02(木) 14:29:43にある
xpdf-japanese.tar.gz
は入れた?
0154名無しさん@お腹いっぱい。
2008/10/02(木) 15:11:58xpdf-japaneseはapt-getだと入らないのですよ…何でか分からないけど。
0155名無しさん@お腹いっぱい。
2008/10/02(木) 15:19:290156151,153
2008/10/02(木) 16:59:34xpdf-commonをapt-getでインストール、
cmap-adobe-japan1を取ってきてdpkgでインストール、
さらに/etc/xpdf/xpdfrcに
include /etc/xpdf/xpdfrc-japanese.dpkg-new
を書き加えればOKでした。
apt-getしか使えない男にお付き合いいただきありがとうございました。
お邪魔しました。
0157名無しさん@お腹いっぱい。
2008/10/02(木) 17:05:15DLしてtar xvfzしてREADMEだかINSTALLだか読めば分かると思う。
0158名無しさん@お腹いっぱい。
2008/10/20(月) 15:21:23商用、あるいは公用の検索システムに勝手に使っちゃっていいんだろうか
0159fumiyas
2008/10/27(月) 11:44:33GPL と LGPL だし、問題ないでしょ。(たぶん :-)
で、tokyo estraier どんなくらい試しました?
0160名無しさん@お腹いっぱい。
2008/10/28(火) 18:27:33>>158じゃないけれど
普通にインデックスして普通に検索出来て普通に遊べて…
これ、本当にインデックス時にTokyoCabinet使ってるのか不安になってきた
0161名無しさん@お腹いっぱい。
2008/10/28(火) 18:40:310162名無しさん@お腹いっぱい。
2008/10/28(火) 21:50:58う…_attrフォルダの中に「depot」ファイルがあるんだが
0163名無しさん@お腹いっぱい。
2008/10/29(水) 10:07:46UNIX板でアレだけどWin版の1.4.10持ってる人だれか上げてくれないかな…
0164名無しさん@お腹いっぱい。
2008/10/29(水) 11:16:02ttp://www2.uploda.org/uporg1754116.zip.html
0165名無しさん@お腹いっぱい。
2008/10/29(水) 11:38:31正確なファイル名が分かるとか、検索サイト等のキャッシュから手繰るとかで
落とせますよ。
ttp://hyperestraier.sourceforge.net/win/hyperestraier-1.4.10-win32.zip
0166名無しさん@お腹いっぱい。
2008/10/29(水) 11:47:50>>165
ディレクトリ一覧が表示されないだけだったのか。
ありがとう、助かりました。
お早いレスで俺涙目。
0167名無しさん@お腹いっぱい。
2008/10/29(水) 18:47:280168名無しさん@お腹いっぱい。
2008/10/30(木) 00:44:04試した手順は、下記になります。
前提:WindowsXP、Cygwin環境
1、Mecab0.97と辞書のビルド
2、下記サイトを参考にし、qdbmとHyperEstraierのビルド
ttp://www.shinonon.dyndns.org/diary/20071212.html
HyperEstraierのビルドで--enable-mecabとしましたが、
その後のmakeでエラーとなります。
0169名無しさん@お腹いっぱい。
2008/10/30(木) 14:21:13ttp://hyperestraier.sourceforge.net/past/tokyoestraier-0.0.1.tar.gz
ベースはHyper Estraier1.4.13
ソース見ると確かにTokyo Cabinetのincludeが入ってるんだが
実際に使われてるのかちと分からん
QDBMも一緒に入ってないとエラー出るし
ところで100万以上の文書を対象にインデックス作ると想像以上に遅いんだな…
1秒以下でパパッと結果が表示されるのは何件くらいが限度なんだろ
0170fumiyas
2008/10/30(木) 18:22:25>>162
_idx 以外は QDBM を使ってるんで、_idx だけ見てごらん。
$ /usr/local/tokyoestraier/bin/estcmd crete db
$ strings db/_idx/0001
ToKyO CaBiNeT
1.0:510
>>169
HE ソースとの diff とってみればわかるけど、一部のみ TC, ほかは QDBM。
ちなみに、`estcmd repair db` 時に _idx 以下は何もしないようになっている。
いいのか? いまのところ DB の構成を把握していないのでよくわからんが、
_idx が転置インデックス? ほかは? 知っている人、教えて…。
あと 100万以上の文書は試したことないんでアレなんだけど、
参考までにハードウェアの構成とか、estcmd create に
指定したオプション (estcmd を使っているなら。-xh 付けたの?)、
estmaster の _conf の設定等を教えてもらえると嬉しいです。
0171名無しさん@お腹いっぱい。
2008/12/08(月) 22:30:47Windowsで一回動かしたんですが、cygwinのパスで結果が表示されてしまうので、
うれしくないと思い、VMware2.5.1 build-126130 でUbuntu7.10を動かし、
そちらでestcmd gather を走らせました。Hyper Estraier1.4.9です。
Apacheはxamppを使いました。http://localhost/xampp/ は正常に表示されてると
思います。1.6.8aと出ています。あとphp5もスタートさせました。
でも、http://localhost/cgi-bin/estseek.cgi にアクセスすると、
Error: the configration file is misshing.とか出ます。
/opt/lampp/cgi-bin/estseek.cgi と同じフォルダに estseek.confは置いてます。
estcmd search casket 'ほげほげ'
とかはちゃんとHITして結果が出てきます。
Errorが出てくる原因は何でしょうか。分かる方教えてください。
0172171
2008/12/09(火) 22:34:48estseek.conf
estseek.tmpl
estseek.top
をchmod 744 したら動きました。失礼しました。
0173名無しさん@お腹いっぱい。
2008/12/12(金) 00:50:50すげー遅レス失礼。
HEの情報収集中→WikipediaのHEのエントリ→ >>53 の製品ページ
って感じでその製品を知ったんだけど、GPLって書いてるくせに
ソースコードダウンロードのリンクをたどってもソースコードがないんだけど、
これってどうなの?
ttp://www.osstech.co.jp/product/chimera#%E3%83%80%E3%82%A6%E3%83%B3%E3%83%AD%E3%83%BC%E3%83%89
つーか、会社概要見たけど、中の人がこのスレにいるのか。
0174名無しさん@お腹いっぱい。
2008/12/12(金) 01:21:53別に公開する必要は無い。
会社側からするとChimera Searchのバイナリとあわせてソースコードを提供する、
もしくはバイナリにソースコードの入手方法が明記された文書を添えておけばいい。
GPLv2での3-aと3-bね。
0175173
2008/12/12(金) 19:40:13そうなんだ。どうもありがと。
Webページ見たけど個人お断りみたいな事書いてあったな。
関係ないけどGPL v2日本語訳の原文へのリンクが間違ってるね(v3にリンクされてる)。
0176名無しさん@お腹いっぱい。
2008/12/12(金) 20:12:53批判するんだったらちゃんと読んで理解してからにした方がいい。
0177名無しさん@お腹いっぱい。
2008/12/16(火) 17:55:27これ読むといいよ。
http://web.archive.org/web/20041024013051/http://home.catv.ne.jp/pp/ginoue/memo/gpl.html
0178名無しさん@お腹いっぱい。
2009/02/01(日) 02:03:25Wikipediaの全文検索デモページで試してみたけど効果なし...
0179名無しさん@お腹いっぱい。
2009/02/08(日) 23:47:35通常のノードマスタみたいにユーザとパスを設定できないの?
0180名無しさん@お腹いっぱい。
2009/02/09(月) 01:33:220181名無しさん@お腹いっぱい。
2009/02/13(金) 23:47:32JavaのAPI使ってファイル検索や全文検索を行うサンプルコードが載って
いるサイトとかってないですかね?
web環境ないのでSwingから直で操作したいのですがAPIの使い方がよくわかりません・・
初歩的な質問ですいません。
0182名無しさん@お腹いっぱい。
2009/02/23(月) 06:47:28mecabを組み込みたかったのでソースからビルドしましたが、ライブラリとしてregexp.hだけ認識されないのでビルドできません。
32bitの時も同様だったのですが、こちらはネットでダウンロードしたライブラリをつっこんでインストール迄無事に成功しました。
aptitude search lib | grep -i regexp などで見つけたものを次々インストールしてみましたが全くお手上げです。
必要なライブラリについてご存知の方いませんか?
0183名無しさん@お腹いっぱい。
2009/02/23(月) 09:04:47やったの去年だからよく覚えてないけど
ふつーのUbuntuならソフトウェアの一覧に普通に入っていた気がする
0184名無しさん@お腹いっぱい。
2009/02/23(月) 17:49:550185182
2009/02/24(火) 06:22:35レス有難うございます、結局手順を忘れていただけで、32bit版でと同様の事をすればいいだけですんなりビルド成功。
aptでlibc-dev(これですよね?)を入れてもlibregex.aがないので、http://arglist.com/regex/からregex3.8a.tar.gzを落してビルドし~/lib ~/includeに放り込む。
似たような事で困っている方は試してみて下さい。
どうもお騒がせしました。
0186名無しさん@お腹いっぱい。
2009/08/28(金) 12:40:080187名無しさん@お腹いっぱい。
2009/08/28(金) 13:43:19> Last-Modified: Tue, 25 Dec 2007 01:47:27 GMT
だし。
0188名無しさん@お腹いっぱい。
2009/08/28(金) 20:25:53ソースみてみ。アクセスしたタイミングで表示されるものが変わるようになってる。
しかし作者タソはmixiに就職してからH.E.のほうには全然顔出さなくなったな。
0189名無しさん@お腹いっぱい。
2009/08/28(金) 22:37:54> case 59: name = "ちょwwwおまwwwいごww"; break;
> case 61: name = "どう見ても超迷子です本当にありがとうございました"; break;
0190名無しさん@お腹いっぱい。
2009/08/31(月) 10:17:50> Date: 2006/09/17(日) 07:52:41
>
> case 59: name = "ちょwwwおまwwwいごww"; break;
> case 61: name = "どう見ても超迷子です本当にありがとうございました"; break;
0191名無しさん@お腹いっぱい。
2009/11/09(月) 16:22:46登録文書に検索語句は確実にあるし、DBも壊れていない・・・
0192名無しさん@お腹いっぱい。
2009/11/09(月) 18:02:45estcmd inform で壊れてるかどうかわかんないんだよなあ・・・
0193名無しさん@お腹いっぱい。
2009/11/15(日) 00:49:32そうなの?おれもestcmd inform で情報出てきたら平気だと思ってた。
どうやって壊れてる判定したの?
0194名無しさん@お腹いっぱい。
2009/11/15(日) 01:54:04絶対に登録文書にある文字列を検索しても出てこなかったので。
再構築で直りました。
インデックスが壊れているかどうか調べるコマンドが欲しい。
0195名無しさん@お腹いっぱい。
2009/11/18(水) 06:15:41(-_-;ウーン たまに治らないときもあるし..
-- 追記お願いします m(_ _"m)ペコリ---------
【テク1】ノードマスタが再起動しない・・正常に停止しないとこうなる
サーバールートDirの _pid _stop の削除
【テク2】DBがdでるっぽい
#estcmd repair index_path
ex.ノードサーバー利用時は(サーバールートをcasketなら)
#estcmd repair casket/_node/ノード名
【テク3】estwaver crawl時の「could not open」エラーの解決法
クローラールートディレクトリを crawl_dir と仮定して Code:
#cd crawl_dir
#estcmd repair _index
#dpmgr repair _trace/0001/depot
#dpmgr repair _trace/0002/depot
#dpmgr repair _trace/0003/depot
0196名無しさん@お腹いっぱい。
2009/11/18(水) 16:56:39>>estcmd repair を、時々やらないと駄目ってことですかね。
repairを一回やってみたんだ。直ったかなと思って、それでも念の為に
もう一回repairしてみたんだ。登録文書がごっそり減ったんだ。
repairを繰り返す度に減っていくんだ・・・
あきらめて再構築したよ。
0197名無しさん@お腹いっぱい。
2009/11/19(木) 05:41:03((( ;゚Д゚)))ガクガクブルブル
「特定のキーワードにヒットしたを、DBから削除する」 なんてことできますか?
「特定のキーワードにヒットさせない」でもいいかなー
0198名無しさん@お腹いっぱい。
2009/11/20(金) 08:54:17DATファイルを全文検索に入れるだけじゃなくて、名前やスレタイで絞り込めれば最高なのですが。
DesktopHEで利用しようとしております。
0199名無しさん@お腹いっぱい。
2009/11/20(金) 14:16:19私も探してみたけど、そのものは無いみたい。
よくやる作業ならcgiとか作るんじゃないかな。
コマンドから手作業するときは、例えばこんな感じ。
消したいやつを検索して
estcmd search -vu -attr '@uri STRINC /path/to/del/' _index BadWord
OKなら上のコマンドに以下を追加
|awk '$1 ~ /^[0-9]+/{print $1}' |while read id; do estcmd out -cl _index $id; done
0200名無しさん@お腹いっぱい。
2009/11/20(金) 16:26:25出来ないことはないと思うけど、面倒くさいかもね。dat2htmlのフィルタ作って読みこませて、
DesktopHEの関連付けはjaneにすればいいみたいな。
私はhtmlに変換してブラウザで全文検索してる。そういう人の方が多いと思うけど。
0201名無しさん@お腹いっぱい。
2009/11/20(金) 22:49:29速レスありがとう。
htmlに変換してって毎日巡回するたびにdat2html走らせてるの?
それとも真夜中にバッチ処理?
いずれにせよ、HDD容量が倍必要ですよね?
0202名無しさん@お腹いっぱい。
2009/11/21(土) 12:31:28>>毎日巡回するたびにdat2html走らせてるの?
そうだよ。1時間ごとにdat2htmlを走らせてる。ロードアベレージを見て負荷が大きいときは処理しないようにしている。
ログは8GBくらいある。datファイルは定期的に削除している。
ウェブブラウザから検索できるので、LAN内で利用出来て重宝している。
0203名無しさん@お腹いっぱい。
2009/11/21(土) 23:28:31うちもログは6Gぐらいあります。
全部変換するとなると15gぐらいいきそうですよねorz
Windowsだからロードアベレージ監視できないのと、指定したコテハンがNASDAQについて
レスした発言とかを知りたくても特定がとてつもなく難しいのがネックになりそう。
Threadsearchと併用しないと駄目ですかね。
0204名無しさん@お腹いっぱい。
2009/11/27(金) 00:40:30cannot find -liconvとかでてきてるし・・・
libiconvの入れ方に問題があるのかなぁ・・・。
0205名無しさん@お腹いっぱい。
2010/01/07(木) 21:28:29クローラーの設定seeddepthを50にしたら、5時間かかっても1つもインデックスできなかった...
種文書を全部吸い上げてからインデックスするとは知らんかった。
seeddepth1〜2でよさそうね。
0206名無しさん@お腹いっぱい。
2010/01/15(金) 16:12:43当方初心者。
インストール、インデックス作成まではできました。なんとか。
しかし、estseek.confの内容変更の段で(だと思ってるんですが・・・)つまづいています。
replaceの行の変更はどのようにしたらよろしいのか教えていただけないでしょうか?
何卒よろしくお願いいたします。
0207名無しさん@お腹いっぱい。
2010/01/16(土) 02:43:00win版も使ったことはありますが、それだけでは何がなんだか分かりません。
estcmd inform casket は通りますか?
Hyper Estraier の画面は出るのですか?
表示のどこかに不満があるのですか?
どうなって欲しくて、現状どうなっているのか書いてください。
0208名無しさん@お腹いっぱい。
2010/01/18(月) 15:45:09はらしょー
0209名無しさん@お腹いっぱい。
2010/02/05(金) 14:01:07ブラウザの検索結果画面のリンクをクリックしてもジャンプしないという経験をした方はいないでしょうか?
今、その状態です。
検索結果画面のソースを丸々コピーしたhtmlファイルを作成し、それをブラウザに表示し、リンクをクリックすれば目的の文書にジャンプします。
すごく不思議な感じです。ブラウザはIE、sleipnirで確認しました。
どのようにすればジャンプするようになるかおわかりの方、教えていただけないでしょうか?
これは、もうhtmlの問題に過ぎないような気もしますが、よろしくお願いいたします。
0210名無しさん@お腹いっぱい。
2010/02/05(金) 22:04:050211名無しさん@お腹いっぱい。
2010/02/07(日) 17:19:490212209
2010/02/08(月) 08:11:35ブラウザは、他にオペラも試しました。同じ結果でした。
クライアントも4人分のLAN接続しているPCから試しました。同じ結果でした。
>>210
仮に文字コードの問題なら、対処法はありますでしょうか?
何卒よろしくお願いいたします。
0213名無しさん@お腹いっぱい。
2010/02/08(月) 20:12:30フォルダ名からファイル名まで完全に英数文字だけのファイルをわざと検索結果として出して
それをブラウザから開くことができれば、文字コードの問題だと思います
0214209,212
2010/02/09(火) 08:13:55>フォルダ名からファイル名まで完全に英数文字だけのファイルをわざと検索結果として出し
やってみました。ダメでした。相変わらずジャンプしてくれません。
考えるに、estseek.conf の replace設定なのかな、と。
これについては、自分でも自信がなかったので、下記に示します。
当方の場合、c:\の直下に「server」のフォルダを作成し、そこに「estseek.cgi」、「casket」等を入れております。
−−−−−−−−−−−−−−−−−−−−−−−−−−−
replace: ^file:///c:\server\{{!}}http://127.0.0.1/
replace: /index\.html?${{!}}/
−−−−−−−−−−−−−−−−−−−−−−−−−−−
このような記載でよろしいのでしょうか?
0215209,212,214
2010/02/09(火) 16:47:54estseek.conf のreplace設定を見直してみました。
試行錯誤の結果、
−−−−−−−−−−−−−−−−−−−−−−−−−−−
replace: file:///c|/server/{{!}}http://サーバPCのIPアドレス/
replace: /index\.html?${{!}}/
−−−−−−−−−−−−−−−−−−−−−−−−−−−
とすることによりまして、
検索結果の画面に緑色で表示される、ヒットした文書ファイルの所在の表示が、
http://サーバPCのIPアドレス/|http://サーバPCのIPアドレス/・・・・・
となりました。
この、「|」を挟んで繰り返される「http://サーバPCのIPアドレス/」の最初の方、および「|」が消えるようになれば、正常動作するような気がします。
これらを消す、なにか良い方法がありましたら教えていただければ助かります。
0216名無しさん@お腹いっぱい。
2010/02/09(火) 20:47:05むしろ、showlrealの設定が falseの設定になっていると、
当該現象が発生するように思われます。こちらでも、
同様の現象を確認しました。unix で 1.4.13ですが。
0217名無しさん@お腹いっぱい。
2010/02/09(火) 21:38:12replace行を拝見すると、C:\server\ 部分のエスケープがされてないようです。
正しくは、C:\\server\\ではないでしょうか?
そして、C:\\server\\の配下に、実際の検索したいデータが存在する必要があります。estseek.cgiや indexファイルではありません。
showlrealの変更で、ジャンプの可否が確認できたら、この行を修正する必要があります。
以下マニュアルより
-------------
replaceは正規表現によってURIを変換するのに使います。複数回指定できます。
先頭にマッチする「^」を駆使すれば接頭辞(ディレクトリ)の変換ができますし、末尾にマッチする
「$」を駆使すれば接尾辞(拡張子)の変換ができます。例えば、「\.htm${{!}}.html」とすると、末尾の「.htm」を「.html」に変換できます。
「{{!}}」の前の部分は正規表現なので、「\」や「.」にはエスケープ文字「\」を前置する必要があることに注意してください。「{{!}}」の後の置換文字列は正規表現ではないので、エスケープは必要ありません。
--------------
0218209,212,214,215
2010/02/10(水) 07:57:47showlreal を「true」にしてみましたが、状況は変わりませんでした。
ジャンプする、しないの問題でいえば、pdfの文書ファイルはジャンプすることが確認されました。
.htmがなぜかジャンプしないのです。
>>217
C:\\server\\と記載し、やってみました。
すると、検索結果の画面に緑色で表示される、ヒットした文書ファイルの所在の表示が、
c:\server\search\・・・・・
となりました。
htmの文書へは、ジャンプしてくれません。
仮にジャンプしてくれても、LAN内のPCからアクセスした場合、当該文書にアクセスできません。
やはり、http://サーバPCのIPアドレス/・・・のように表示されなくてはならないと思います。
まだまだ試行錯誤中・・・
0219名無しさん@お腹いっぱい。
2010/02/10(水) 08:56:54別に「そうしないと君のためにならないよ」なんてくだらない説教をしたいからではなく、
何が分かって何が分からなかったのかを言ってくれないと、どこから説明すればいいのか、
どこを質問すればいいのかを、こっちは全部エスパーしなくちゃならないんだよ。
困ってるのは分かってるから、せめて情報の出し惜しみはしないでくれ。
# 素直に読むと、何も分かってない、replace行の動作の意味や正規表現とはなんぞやを
# すべて説明しなくちゃならないように思えるんだけど..... もしかしてそうなの?
0220名無しさん@お腹いっぱい。
2010/02/23(火) 20:50:400221名無しさん@お腹いっぱい。
2010/02/24(水) 00:09:09そういうのを引っかけるようにするにはワイルドカードを使うなど工夫しなくてはなりません
0222名無しさん@お腹いっぱい。
2010/02/24(水) 12:18:43英語で使うだけならこっちの方が速かったりする?
0223名無しさん@お腹いっぱい。
2010/02/24(水) 12:50:030224名無しさん@お腹いっぱい。
2010/02/24(水) 16:57:45英語で最速なのがどれなにか知りたかったんだ
0225名無しさん@お腹いっぱい。
2010/03/08(月) 21:40:20>>198
Datファイル全文検索ソフト
http://frozenlib.net/DatE/
>DatEはHyperEstraierを使用してJaneのログを高速に検索するソフトです。
0226名無しさん@お腹いっぱい。
2010/03/16(火) 22:31:58システムによって2Gとかのファイル制限あるから、
logファイルの大きさには注意しましょ。
ログの記録レベルを煽りましょう〜
0227名無しさん@お腹いっぱい。
2010/03/25(木) 00:58:26あと書庫内検索。重要度順位は入らんから不足無しで出るのが良い。
web用途ではなくデスクトップで使うには
書庫内と不足なしが大事。
順位は無くて良い。開いてみれば済むからな。
これはそういう使い方出来る?
0228名無しさん@お腹いっぱい。
2010/03/25(木) 01:06:28Grepの手助け程度で良い。
書庫に対応する。
いいやつ無いですか?
0229名無しさん@お腹いっぱい。
2010/03/25(木) 02:01:510230名無しさん@お腹いっぱい。
2010/03/25(木) 07:11:50UTF8や16では、全角のアルファベットは世界共通の配置になってますか。
言語ごとに異なる位置にありますか。
統一した方が良いと思いますが。コード位置がわかりません、
0231名無しさん@お腹いっぱい。
2010/03/25(木) 07:29:47このソフトはどっちですか。
日本語だと一文字で2バイトか3バイトになります。英語は1バイトにります。
文字単位では日本語一文字と英語一文字の価値が同等になりますが
実際の情報量は日本語の方が大きいです。
英語の2文字か3文字くらいの情報量がありそう。
バイト単位にすると、N=2の時に英字一文字の検索がしにくくなります。
0232名無しさん@お腹いっぱい。
2010/03/25(木) 07:31:23# 思いついた単語を羅列してるだけみたいだけど在日?
0233名無しさん@お腹いっぱい。
2010/03/25(木) 10:19:590234名無しさん@お腹いっぱい。
2010/03/26(金) 11:17:220235名無しさん@お腹いっぱい。
2010/03/26(金) 12:04:400236名無しさん@お腹いっぱい。
2010/03/26(金) 13:35:200237名無しさん@お腹いっぱい。
2010/03/26(金) 13:56:040238名無しさん@お腹いっぱい。
2010/03/26(金) 14:41:05http://hyperestraier.sourceforge.net/uguide-ja.html#wordextraction
バイト単位ではなく文字単位2-gram
ただし英語はデフォルトで空白区切り、インデックス作成時に英語も文字単位2-gram指定可能
また英語空白区切りでインデックスを作ってもアルファベット一文字の検索は可能、2文字は不可
こんぐらい教えてやれよ、無能なやつばっかだな
0239名無しさん@お腹いっぱい。
2010/03/26(金) 15:22:12という煽りは置いといて、元々の問いは本当にその答えを望んでいたのか?
もしそうだとしても、たぶんその答えの前に「HE内部では全ての文字はUTF-8で扱う」という大前提が必要では?
元々の問い(かどうかも分からない)は、N-gramのアルゴリズムには詳しそうなんだけど、それでいて「日本語は
英語の2文字か3文字くらいの情報量がありそう」とか言い出すし、UTF-8のことを知ってそうだけど知らなそうだし、
N-gramのアルゴリズムにそれだけ詳しいんならユーザガイドをちらっと読めば>>238の答えはすぐに分かるはずだし
ほんと、よく何を言ってるのか分かったね、すごいよあんた >>238
0240名無しさん@お腹いっぱい。
2010/03/26(金) 20:42:39いまローカルでgrep手助け用検索開発してる
もれないようにUTF8をバイナリとみてすべての2バイトを記録してみる。
0241名無しさん@お腹いっぱい。
2010/03/26(金) 23:42:38漏れなしバイナリ検索ならgrepで十分だろ
インデックス化するメリットないぞ
0242名無しさん@お腹いっぱい。
2010/03/26(金) 23:58:550243名無しさん@お腹いっぱい。
2010/03/27(土) 00:22:500244名無しさん@お腹いっぱい。
2010/04/14(水) 09:33:15とかいう奴はこれの上位版?
0245名無しさん@お腹いっぱい。
2010/04/14(水) 11:36:000246名無しさん@お腹いっぱい。
2010/05/01(土) 16:32:06転置インデックスだけの速さじゃないよね
0247名無しさん@お腹いっぱい。
2010/05/19(水) 20:34:25予想外に研究が進んで、凶授どもが俺のことを
天才と勘違いしてやがるw
こんなダメ人間に希望を与えてくれた作者氏に
頭が下がる思いです。
0248名無しさん@お腹いっぱい。
2010/05/21(金) 21:40:15若干過疎気味なので、こちらで質問させてください。
windows開発環境で、ドキュメントファイル(doc,xls,ppt,pdf)は
インデックスを作成し、検索できるようになりました。
後は掲示板のデータベースの検索が残っています。
SQLという言語で読み書きしてるらしいのですが、
hyper estraierでデータベースのインデックスを
作成するにはどうすればよいのでしょうか?
検索してみたのですが、windows環境での方法は
見つかりませんでした。
windows環境でインデックスを作成する方法の伝授、
もしくは説明してるサイトがありましたら、教示願います。
当方、組み込み系のプログラムの経験はありますが、
windowsプログラム、webアプリ、SQLは素人状態です。
要領を得ない、質問をした本人がいまいちわかってない
自覚がある質問で申し訳ありませんが、よろしくお願いします。
0249名無しさん@お腹いっぱい。
2010/05/24(月) 12:53:33ttp://hyperestraier.sourceforge.net/cguide-ja.html
うまく行かないようであればスクリプトとかでインデックス追加スクリプトを自作
いろんな方法があってC,Java,Rubu,Perl,Pythonとか
ざっくり言うとプログラム中で @uri,@title,@mdate,本文を作って検索インデックスに追加。
頑張ればcsvデータ→シェルスクリプト+estcmdでもできなくはないと思う。
0250名無しさん@お腹いっぱい。
2010/05/26(水) 02:11:25248です。
ありがとうございました。
まだわかっていない部分があるので、
まずはwebクローラーを使って試行してみます。
0251名無しさん@お腹いっぱい。
2010/06/01(火) 20:00:23解決方法ありますか。
0252名無しさん@お腹いっぱい。
2010/06/02(水) 19:06:560253名無しさん@お腹いっぱい。
2010/06/03(木) 13:20:31書庫の中身をドラフト形式で渡すフィルタ書けばいいんじゃないかな。
0254名無しさん@お腹いっぱい。
2010/06/03(木) 16:48:100255名無しさん@お腹いっぱい。
2010/06/04(金) 20:57:30【岩波書店】 Google問題の核心
―― 開かれた検索システムのために ――
牧野 二郎
http://www.iwanami.co.jp/shinkan/index.html
世界の出版界に衝撃が走った.Googleが新しいブックサービスを開始したのだ.
Googleなどの検索システムがなぜ興隆し,そこで起こっている収集の限界や偏向問
題など深刻化する問題を各国の事例などを踏まえ徹底的に検証する.それらを解決
するため,著者を軸にさまざまの分野の研究者が集結し,新しい検索システムを提
案する.
0256名無しさん@お腹いっぱい。
2010/06/05(土) 22:13:46結局、SQLコマンドでデータを取ってきて、
インデックス作成するプログラムを作りました。
ありがとうございました。
0257名無しさん@お腹いっぱい。
2010/06/14(月) 16:45:12Hyper Estraierを使い始めましたが、
Hyper Estraierで文章の中身だけでなく、
ファイル名やファイルパスも検索のキーワードに
同時にヒットさせたいです。
インデックスの作成や、検索時になにか
オプションで指定するなど、なにか方法がありますか。
よろしくお願いします。
0258名無しさん@お腹いっぱい。
2010/06/28(月) 10:43:43他に
0259名無しさん@お腹いっぱい。
2010/08/05(木) 03:31:58低スキルなので、私はだめだけど..
0260名無しさん@お腹いっぱい。
2010/08/05(木) 04:16:09なんか問題あるっけ?
TCに移行すればいいじゃない。
0261名無しさん@お腹いっぱい。
2010/08/05(木) 17:19:590262名無しさん@お腹いっぱい。
2010/08/15(日) 12:35:460263名無しさん@お腹いっぱい。
2010/09/22(水) 22:13:39簡便書式で検索した場合、
例えば、「a*」とした場合と「ab*」とした場合に
なぜか「ab*」の方がヒット件数が多くなります。
一応、公式サイト見てきましたが、
それらしいことは書いてありませんでした。
なにか心当たりがある方がいれば、
教えてください。
よろしくお願いします。
0264名無しさん@お腹いっぱい。
2010/09/22(水) 22:16:16データ量多くなるとまともに使えなくなるけどなw
0265名無しさん@お腹いっぱい。
2010/09/23(木) 01:38:18mixiの全データ検索に使用されているからそれはないのでは?
なにか運用間違えているとか?
0266名無しさん@お腹いっぱい。
2010/09/23(木) 02:49:10データ量増えるとホント糞みたいに重くなって使い物にならんぞ。
0267名無しさん@お腹いっぱい。
2010/09/23(木) 19:36:400268265
2010/09/23(木) 20:30:000269名無しさん@お腹いっぱい。
2010/10/07(木) 04:14:16N-gramのN=2とかが関係してるんじゃない?
わかち書きを変えてみると違う結果になると思う。
0270名無しさん@お腹いっぱい。
2010/10/09(土) 17:47:15レス、ありがとうございました。
とりあえず、est_cond_set_optionsのオプションをESTCONDSUREで
検索してみましたが、結果の数は変わりませんでした。
なんにしろ、N-gram関連を勉強してみます。
0271名無しさん@お腹いっぱい。
2010/10/11(月) 12:23:08wildmax の設定でいくらか調整できると思う。
けれど一文字で検索する場合には、N-gramインデックスでは
あまり良い結果出せないんじゃないかな。
269が書いた通り、2-gramに対し一文字で検索するため、
「ab」を含む文書を取得する
「a」で始まる2-gramをwildmax個拾って、それらを含む文書を
取得する(2gramの出現頻度とかは見てない)
という内部動作なんだろうなと、前に思った。
0272名無しさん@お腹いっぱい。
2010/10/27(水) 20:48:38遅レスすいません。さっき、気づきました。
詳細な情報ありがとうございました。
とりあえず、ソースを読んでみましたが、
QDBMの中身も把握してないと理解
できなさそうなので、時間のあるときに
見てみます。
0273名無しさん@お腹いっぱい。
2010/10/30(土) 15:19:33ttp://uinyan.com/windows7_critical_bug/
0274名無しさん@お腹いっぱい。
2010/11/16(火) 15:09:15もしくはどなたか改造されていたり。
フォルダ順ができるだけでも楽になるのですが・・・
0275名無しさん@お腹いっぱい。
2011/02/10(木) 08:37:50全文だとインデックスがすごい容量になりそうなので、できるだけ少ないクロールをしたいのですが。
0276名無しさん@お腹いっぱい。
2011/02/10(木) 09:36:59だとしたら杞憂だと思うんだけど、もしかして組込み系?
0277名無しさん@お腹いっぱい。
2011/02/10(木) 13:07:41いえ、普通のLinuxマシンで、1TBほどのファイルサーバーをクロールしようと考えています。インデックスの容量とクロール時間を気にしています。
なので、とりあえずはファイル名と最初の数行だけをクロールしたいと考えていました。
0278名無しさん@お腹いっぱい。
2011/02/10(木) 13:47:37インデックスの容量 -> テキスト情報量に依存
クロール時間 -> クロール方法に依存
マニュアルをちゃんと読んでから検討したほうがいいよ。
0279名無しさん@お腹いっぱい。
2011/02/10(木) 23:56:21ライブラリ名が変更されてるのを修正すればコンパイルは通るのですが、
実行すると異郷終了します
そもそもqdbmのmake checkでvtestが失敗するようで、
コンパイルできないのが正しいんでしょうか?
一応バイナリ版のqdbmを持ってきて実行しても
やはりインデックス作成で異常終了してしまいました
なにかポインタがあれば教えてください
0280名無しさん@お腹いっぱい。
2011/04/14(木) 21:08:55.940281名無しさん@お腹いっぱい。
2011/04/17(日) 12:28:30.18回避する方法ありますか?
0282281
2011/04/17(日) 12:31:21.73解決策見つからず。
0283名無しさん@お腹いっぱい。
2011/05/07(土) 18:02:40.44この遅くなるって、
c:\hyperestraier\estcmd: INFO: flushing index words: name=index ...
ってでてディスク凄いアクセスするようになって遅くなって感じですか?
自分は上記のような感じで
ファイル数12500、総サイズ1.33G程度のHTMLファイルを
スキャンし終わるまで14分位かかってしまいます。
オプションとしては次のようにしているのですが・・・
gather -il ja -lt -1 -lf -1 -pc CP932 -sd -cm -cs 400
0284名無しさん@お腹いっぱい。
2011/05/11(水) 20:07:25.330285名無しさん@お腹いっぱい。
2011/05/11(水) 20:21:05.250286名無しさん@お腹いっぱい。
2011/05/12(木) 05:31:56.980287名無しさん@お腹いっぱい。
2011/05/13(金) 19:03:09.08使える全文検索は。
0288名無しさん@お腹いっぱい。
2011/07/13(水) 06:07:12.290289名無しさん@お腹いっぱい。
2011/07/13(水) 16:35:33.19全部Webに乗っけてしまって、site:付きでググってもらうのは他人に説明不要で楽なんだけど。
何一つ知らないので、どなたか詳しい方や使った経験ある人は紹介してくれませんか。
query文法を調整したり、著者名は特別扱いしたり、順位付けをカスタマイズしたり(それか不要な
結果をフィルタリングしたり)、出力のフォーマットを調整できればとかいう希望をもってます。
0290名無しさん@お腹いっぱい。
2011/07/19(火) 00:44:48.880291名無しさん@お腹いっぱい。
2011/07/19(火) 12:55:07.650292名無しさん@お腹いっぱい。
2011/07/19(火) 14:38:11.73へえ、ついに検索の総本山へか
0293名無しさん@お腹いっぱい。
2011/08/13(土) 15:26:49.800294名無しさん@お腹いっぱい。
2011/08/15(月) 10:45:08.180295名無しさん@お腹いっぱい。
2011/08/28(日) 22:41:21.12Windows用バイナリをWindowsサーバに入れて、ファイルサーバの検索用に
使用しています。ファイルサーバのパスに「−」(全角マイナス)が含ま
れている場合、検索結果のリンクの「−」の部分がunicodeの「-」になっ
てしまい、リンクからファイルを開くことができません。
unicode→Shift-JISの変換がうまくいっていないのかと思いますが、どの
ようにすれば解決するのか教えてください。また、この問題はLinuxでは
そもそも発生しない問題でしょうか。
Windows用バイナリ
http://hyperestraier.sourceforge.net/win/
0296名無しさん@お腹いっぱい。
2011/09/18(日) 23:41:27.20特定のURLがインデックスされるかを知るにはどうすればよろしいのでしょうか?
0297296
2011/09/18(日) 23:42:18.240298192.774
2011/11/26(土) 01:02:16.43■ このスレッドは過去ログ倉庫に格納されています