收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

主题爬虫穿越隧道算法研究与设计

常旭  
【摘要】:伴随着互联网及应用和服务的普及,网上信息量以带宽的指数级增长,互联网用户信息检索的难度和复杂度也不断提高。因此,搜索引擎越来越引起人们的重视和关注。Google曾宣称它们索引的网页数目已达到10000亿,中国的网页规模也超过了100亿,并且仍在以指数的增长方式急剧猛增,面对如此浩瀚的信息资源,如何有效的提取并利用这些海量信息成为搜索引擎面临的一个巨大挑战。 为了提高搜索效率和满足人们日益增长的个性化服务的需求,适应特定领域、特定人群的特定需求的主题搜索引擎(也称专业搜索引擎和垂直搜索引擎)应运而生,并且越来越受到人们的青睐。主题搜索引擎只专注于与主题相关的高质量网页,保证了对主题相关信息的完全收录和及时更新,具备“专,精,深”的特点,成为新一代搜索引擎的发展趋势。搜索引擎爬取网页是以网络爬虫技术来实现的,而主题爬虫以何种策略高效爬取web信息,成为近年来爬虫研究地焦点之一 本文着眼于提高主题爬虫的爬取效率,通过对VSM网页分类算法分析,从特征提取、特征值计算和类核心词汇生成三方面改进了VSM网页分类算法,其中对于特征值计算,本文从词语的出现语义角度来考虑,给出了混合因素加权的特征项的权值计算方法,提高了文本相似度计算的精度。并结合"Better Parent Have Better Children"思想,提出了运用相似度预测值动态调整主题爬虫的爬行步数,通过灵活设置相似度预测的K值,引导爬虫穿越隧道,即动态调整主题爬虫穿越隧道算法。该算法消除了K值设置过大引起的低爬准率或过小导致低爬全率的缺陷。基于本文提出的主题相关度的计算算法来动态决定主题无关页面是否丢弃,在很大程度上扩大了主题爬虫的有效搜索范围。使众多独立的网络社区互相连接起来,形成一个相对完整的主题群,引导主题爬虫高效的穿越网络隧道,提高主题爬虫的爬全率和爬准率。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 钟世通;;C++Builder编程访问网页信息的方法[J];科技资讯;2007年19期
2 吴鹏飞;马凤娟;;基于Boost.Regex的网页信息抽取[J];电脑编程技巧与维护;2009年15期
3 徐明;;轻松破解网页右键屏蔽六招[J];电脑校园;2002年12期
4 杜翠茹;;浅析网页布局方法在教学中的优化[J];大众科技;2010年05期
5 孟涛,闫宏飞,王继民;Web网页信息变化的时间局部性规律及其验证[J];情报学报;2005年04期
6 ;和朋友看同一个网页的幸福生活[J];计算机与网络;2005年18期
7 张晓彦;张晓明;;一种基于表格属性的网页信息隐藏算法[J];北京石油化工学院学报;2009年01期
8 郭利伟;王家兵;;Web信息自动标引方法比较[J];内蒙古科技与经济;2009年07期
9 胡少荣;孟嗣仪;刘云;张彦超;丁飞;;网页信息自动抽取技术的研究[J];铁路计算机应用;2010年09期
10 张莉,曾致远;Windows下网页信息实时监听程序的设计与实现[J];微计算机信息;2005年03期
11 于满泉,陈铁睿,许洪波;基于分块的网页信息解析器的研究与设计[J];计算机应用;2005年04期
12 xingyunMe;剪剪贴贴~好精彩——网页信息剪贴收集专家eNotebook[J];电脑校园;2003年11期
13 王少宇,杜娟,秦前清;基于内容的网页信息处理方法[J];计算机应用;2005年04期
14 周庆;;知识管理背景下网页信息档案化管理的思考[J];兰台世界;2011年15期
15 火善栋;;FORM表单反馈网页信息抽取的研究与实现[J];电脑知识与技术;2009年09期
16 丁艳;曹倩;王超;潘金贵;;基于Ontology和EM方法的网页分类研究[J];计算机科学;2003年11期
17 JACK;JONES;;搜索结果也能即指即看[J];电脑迷;2005年09期
18 何芷砚;;让更多的人从互联网获益——HBIS在网页信息无障碍领域的探索[J];互联网天地;2007年10期
19 小鲜;织网酷软——网页中不再有秘密[J];网络与信息;2004年12期
20 张健,欧红;应用正则式抽取Google网页内容[J];现代图书情报技术;2005年09期
中国重要会议论文全文数据库 前10条
1 韩近强;赵静;杨冬青;唐世渭;姚小波;;基于领域知识的网页筛选系统[A];第十九届全国数据库学术会议论文集(技术报告篇)[C];2002年
2 王晓峰;刘惟一;;从用户需求到网页集团的模糊变换[A];第二十届全国数据库学术会议论文集(技术报告篇)[C];2003年
3 吴倩;杨逍;张兆心;;基于视觉特征的网页信息提取[A];第六届全国信息检索学术会议论文集[C];2010年
4 罗阳;季铎;张桂平;王莹莹;;面向单一网页的双语资源挖掘方法[A];第六届全国信息检索学术会议论文集[C];2010年
5 张贯虹;乌达巴拉;巩政;;基于向量空间模型的网页文本句子对齐方法研究[A];第十一届全国人机语音通讯学术会议论文集(一)[C];2011年
6 赵玉芳;张一鸣;;基于网页信息的印象形成的初步研究[A];第十届全国心理学学术大会论文摘要集[C];2005年
7 张阳;李战怀;近藤广幸;;WEB PAGE的自动分类[A];第十六届全国数据库学术会议论文集[C];1999年
8 甘卫东;郭宏骞;曾令奇;;泌尿外科病人使用因特网情况及相关专业网页质量调查[A];第十五届全国泌尿外科学术会议论文集[C];2008年
9 何平;李锦;;基于Web挖掘技术的用户模糊偏好分析[A];第二十二届中国数据库学术会议论文集(技术报告篇)[C];2005年
10 黄华军;王保卫;孙星明;;基于CSS类选择符重复引入的网页信息隐藏算法[A];第八届全国信息隐藏与多媒体安全学术大会湖南省计算机学会第十一届学术年会论文集[C];2009年
中国博士学位论文全文数据库 前10条
1 陈洁;基于概念融合的网页筛选技术研究[D];北京邮电大学;2013年
2 焦斌星;用于搜索的网页可视化摘要技术研究[D];中国科学技术大学;2012年
3 孟宪军;互联网文本聚类与检索技术研究[D];哈尔滨工业大学;2009年
4 张长利;面向特定领域的互联网舆情分析技术研究[D];吉林大学;2011年
5 王镠璞;基于用户体验的互联网搜索引擎医学信息检索可用性评估研究[D];吉林大学;2010年
6 刘守群;海量网络视频快速检索关键技术研究[D];中国科学技术大学;2010年
7 黄河;农业复杂自适应搜索模型研究及实现[D];中国科学技术大学;2010年
8 段瑞雪;基于依存关系的用户意图的研究[D];北京邮电大学;2011年
9 张勇实;基于链接相似性分析的WEB结构挖掘方法研究[D];哈尔滨工程大学;2012年
10 曹鲁慧;Web个人信息集成问题研究[D];山东大学;2012年
中国硕士学位论文全文数据库 前10条
1 于洪波;中文网页自动采集与分类系统设计与实现[D];北京邮电大学;2010年
2 钟鸿鹏;基于时态信息的网页排序系统的研究与实现[D];华南理工大学;2010年
3 张航;主题爬虫的实现及其关键技术研究[D];武汉理工大学;2010年
4 冯明远;深度网络信息爬取关键技术研究与实现[D];浙江大学;2010年
5 邓科;智能搜索中的中文网页分类研究[D];兰州理工大学;2011年
6 党春辉;网页消重和聚类算法在高校搜索引擎中的研究与应用[D];东华大学;2010年
7 马伟瑜;基于改进的PageRank的网页信息可信度评估方法研究[D];河北大学;2011年
8 任斌;基于本体的主动学习主题爬行的研究与实现[D];吉林大学;2010年
9 任兰鹏;基于代表样本的中文网页分类研究[D];山东大学;2010年
10 李霞;文本过滤防火墙技术研究[D];北方工业大学;2011年
中国重要报纸全文数据库 前10条
1 壮壮;批量保存网页信息[N];电脑报;2004年
2 东方早报记者 李伟;要名还是要利,这是个问题[N];东方早报;2011年
3 金山软件副总裁 杨桓;着力“三大系统” 构筑网络安全屏障[N];中国电子报;2009年
4 郭京霞;枫叶之都状告百度恶意排名一审败诉[N];中国知识产权报;2007年
5 路人甲;请个专家来贴图[N];电脑报;2005年
6 夏凌;搜索引擎排名纠纷百度胜出[N];中华工商时报;2007年
7 钱鹏;网尽Web页中的好东东[N];电脑报;2004年
8 郭京霞;百度胜诉搜索引擎排名纠纷案[N];中国企业报;2007年
9 任一鸣;垂直搜索:抓住细分需求[N];计算机世界;2007年
10 章森 王伟;搜索引擎的工作机制[N];计算机世界;2006年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978