最近写了个数据报告的搜索引擎,发现全文检索2G大小pdf文档效率很低。
业务逻辑:
解析pdf文档,获取文本流。
lucene索引title/content等内容,生成索引文件。
lucene query方法,全文检索。
结果:执行速率不高,内存占用也不小。
我做的优化:
使用停用词stopwords词典过滤content,压缩content文本大小。
将content流式读取改为内存static存储。
请教优化方案?
最近写了个数据报告的搜索引擎,发现全文检索2G大小pdf文档效率很低。
业务逻辑:
解析pdf文档,获取文本流。
lucene索引title/content等内容,生成索引文件。
lucene query方法,全文检索。
结果:执行速率不高,内存占用也不小。
我做的优化:
使用停用词stopwords词典过滤content,压缩content文本大小。
将content流式读取改为内存static存储。
请教优化方案?
15 回答8.4k 阅读
8 回答6.2k 阅读
1 回答4k 阅读✓ 已解决
3 回答2.2k 阅读✓ 已解决
2 回答3.1k 阅读
2 回答3.8k 阅读
3 回答1.7k 阅读✓ 已解决