一種基于主題特征和內(nèi)容語義的新型網(wǎng)頁去重方法
基本信息
申請?zhí)?/td> | CN202110073759.2 | 申請日 | - |
公開(公告)號(hào) | CN112765940A | 公開(公告)日 | 2021-05-07 |
申請公布號(hào) | CN112765940A | 申請公布日 | 2021-05-07 |
分類號(hào) | G06K9/62(2006.01)I;G06F40/30(2020.01)I;G06F40/14(2020.01)I;G06F16/35(2019.01)I | 分類 | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 朱海峰;顏小君;趙立為 | 申請(專利權(quán))人 | 南京萬得資訊科技有限公司 |
代理機(jī)構(gòu) | 上海申匯專利代理有限公司 | 代理人 | 徐俊 |
地址 | 210019江蘇省南京市建鄴區(qū)泰山路199號(hào)萬得大廈 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明提供了一種基于主題特征和內(nèi)容語義的新型網(wǎng)頁去重方法,其特征在于,包括:利用HTML網(wǎng)頁標(biāo)簽分類模型自動(dòng)抽取目標(biāo)網(wǎng)頁的網(wǎng)頁正文;基于網(wǎng)頁正文進(jìn)行主題計(jì)算和限定;網(wǎng)頁相似度計(jì)算。本發(fā)明提供的方法能夠一定程度地解決相關(guān)技術(shù)中存在的問題,應(yīng)用于互聯(lián)網(wǎng)中不同來源、不同風(fēng)格、不同內(nèi)容的全網(wǎng)網(wǎng)頁,并在執(zhí)行效率、計(jì)算準(zhǔn)確性等方面顯著地優(yōu)于現(xiàn)有的技術(shù)方法。?? |
