優(yōu)惠活動 - 12周年慶本月新客福利
優(yōu)惠活動 - 12周年慶本月新客福利
優(yōu)惠活動 - 12周年慶本月新客福利

企業(yè)建網(wǎng)站藏文網(wǎng)頁倒排索引(上)

日期 : 2020-10-21 18:43:13
        藏文網(wǎng)頁倒排索引

        第一步:抽取網(wǎng)頁正文。網(wǎng)頁正文是相對網(wǎng)頁噪聲而言。當(dāng)今的互聯(lián)網(wǎng)網(wǎng)頁上, 頁面的很多篇幅用在廣告、搜索推薦和其他鏈接上。網(wǎng)頁搜索工具關(guān)注的是網(wǎng)頁本身要表達(dá)的信息, 所以在通過爬蟲獲取到頁面源碼之后, 要去除那些與本文無關(guān)的噪聲, 抽取到網(wǎng)頁正文。

        第二步:分字。藏文文字區(qū)別于漢文, 漢文是一個字使用一個編碼, 而藏文是對組成字的基字編碼, 一個完整的藏文字可能存在多個編碼, 這些編碼按組成藏文字的方法順序排列。
        第三步:對全文以字建索引。以字建索引, 雖然檢索過程的匹配計算量會更大, 但考慮到目前藏文網(wǎng)頁總體數(shù)量不大, 應(yīng)該是一種可行的提高查全率的辦法。根據(jù)上一步得到的字, 記錄每個字在文中出現(xiàn)的位置, 計算每個字出現(xiàn)的次數(shù), 建立鏈表。位置用于檢索時的準(zhǔn)確定位, 次數(shù)用于計算字對文檔的重要性, 也用于相關(guān)性排序計算。

相關(guān)文章