一種基于主題特征和內(nèi)容語義的新型網(wǎng)頁去重方法

基本信息

申請?zhí)?/td> CN202110073759.2 申請日 -
公開(公告)號(hào) CN112765940A 公開(公告)日 2021-05-07
申請公布號(hào) CN112765940A 申請公布日 2021-05-07
分類號(hào) G06K9/62(2006.01)I;G06F40/30(2020.01)I;G06F40/14(2020.01)I;G06F16/35(2019.01)I 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 朱海峰;顏小君;趙立為 申請(專利權(quán))人 南京萬得資訊科技有限公司
代理機(jī)構(gòu) 上海申匯專利代理有限公司 代理人 徐俊
地址 210019江蘇省南京市建鄴區(qū)泰山路199號(hào)萬得大廈
法律狀態(tài) -

摘要

摘要 本發(fā)明提供了一種基于主題特征和內(nèi)容語義的新型網(wǎng)頁去重方法,其特征在于,包括:利用HTML網(wǎng)頁標(biāo)簽分類模型自動(dòng)抽取目標(biāo)網(wǎng)頁的網(wǎng)頁正文;基于網(wǎng)頁正文進(jìn)行主題計(jì)算和限定;網(wǎng)頁相似度計(jì)算。本發(fā)明提供的方法能夠一定程度地解決相關(guān)技術(shù)中存在的問題,應(yīng)用于互聯(lián)網(wǎng)中不同來源、不同風(fēng)格、不同內(nèi)容的全網(wǎng)網(wǎng)頁,并在執(zhí)行效率、計(jì)算準(zhǔn)確性等方面顯著地優(yōu)于現(xiàn)有的技術(shù)方法。??