主頁 > 知識庫 > SQL Server 全文搜索功能介紹

SQL Server 全文搜索功能介紹

熱門標(biāo)簽:AI電銷 百度競價排名 網(wǎng)站排名優(yōu)化 Linux服務(wù)器 鐵路電話系統(tǒng) 地方門戶網(wǎng)站 服務(wù)外包 呼叫中心市場需求

SQL Server 的全文搜索(Full-Text Search)是基于分詞的文本檢索功能,依賴于全文索引。全文索引不同于傳統(tǒng)的平衡樹(B-Tree)索引和列存儲索引,它是由數(shù)據(jù)表構(gòu)成的,稱作倒轉(zhuǎn)索引(Invert Index),存儲分詞和行的唯一鍵的映射關(guān)系。倒轉(zhuǎn)索引是在創(chuàng)建全文索引或更新全文索引時,由SQL Server自動創(chuàng)建和維護(hù)的。全文索引主要包含三種分析器:分詞器(Word Breaker)、詞干分析器(stemmer)和同義詞分析器。全文索引中存儲的數(shù)據(jù)是分詞及其位置等信息,分詞是基于特定語言的語法規(guī)則,按照特定的符號尋找詞語的邊界,把文本分解為“單詞”,每一個單詞叫做一個分詞(term);全文索引有時會提取分詞的詞干,把詞干的多種派生形式存儲為單一詞干,這個過程叫做提取詞干;根據(jù)用戶提供的自定義同義詞列表,把相關(guān)的單詞轉(zhuǎn)換為同義詞,這個過程叫做提取同義詞。

生成全文索引是把用戶表中的文本數(shù)據(jù)進(jìn)行分詞(Word breaker)和提取詞干(Stemmer),并轉(zhuǎn)換同義詞(Thesaurus),過濾掉分詞中的停用詞(Stopword),最后把處理之后的數(shù)據(jù)存儲到全文索引中。把數(shù)據(jù)存儲到全文數(shù)據(jù)的過程叫做填充(Populate)或爬蟲(Crawl)進(jìn)程,全文索引的更新方式可以手動填充,自動填充,或增量填充。

一,創(chuàng)建全文目錄和唯一索引

創(chuàng)建全文索引之前,必須創(chuàng)建全文目錄(Full-Text Catalog),全文目錄用于組織全文索引,是全文索引的容器。每一個全文索引必須屬于一個全文目錄。全文目錄是個邏輯結(jié)構(gòu),跟數(shù)據(jù)庫的架構(gòu)(Schema)相同,根據(jù)全文索引的存儲位置無關(guān)。

create fulltext catalog catalog_test
as default;

為了創(chuàng)建全文索引,基礎(chǔ)表上必須存在一個唯一的(unique)、單列的(single-column)、非空的(non-nullable)的索引,全文引擎使用該索引把基礎(chǔ)表上的每行數(shù)據(jù)映射唯一索引鍵上,倒轉(zhuǎn)索引存儲的就是該索引鍵和分詞之間的映射關(guān)系。

create unique index uidx_dbLogID 
on [dbo].[DatabaseLog]
([DatabaseLogID]);

二,創(chuàng)建全文索引

每個表只能創(chuàng)建一個全文索引,創(chuàng)建全文索引時,必須考慮全文索引存儲的文件組,全文索引關(guān)聯(lián)的停用詞列表,全文索引的更新方式,以及跟文本關(guān)聯(lián)的語言,全文索引列必須是文本字段,例如:

create fulltext index 
on [dbo].[DatabaseLog]
(
[tsql] language 1033
)
key index ui_dbLogID
on (catalog_test,filegroup [primary]) 
with(change_tracking=off ,no population ,stoplist=system);

1,語言(language)

選項 language 是可選的,用于指定列級別的語言,該選項的值可以是語言的名稱或LCID,如果沒有指定language選項,那么使用SQL Server實例的默認(rèn)語言。從系統(tǒng)視圖 sys.fulltext_languages (Transact-SQL)中查看系統(tǒng)支持的語言及其對應(yīng)的LCID 和名稱。

2,全文目錄(fulltext_catalog)

選項fulltext_catalog_name 用于指定全文索引的分組,

3,文件組(filegroup)

選項 filegroup filegroup_name 用于指定全文索引存儲的文件組,如果沒有指定文件組,那么全文索引和基礎(chǔ)表存儲在相同的文件組中。由于更新全文索引是IO密集型操作,因此,為了更快的更新全文索引,最好把全文索引存儲在不同于基礎(chǔ)表的的物理硬盤或文件組上,以達(dá)到最大的IO并發(fā)。

4,填充全文索引的方式

和普通的索引相同,當(dāng)基礎(chǔ)表數(shù)據(jù)更新時,全文索引必須自動更新,這是系統(tǒng)默認(rèn)的行為,也可以配置手動更新全文索引,或者間隔特定的時間點自動更新全文索引。

選項CHANGE_TRACKING 用于指定跟全文索引列相關(guān)的數(shù)據(jù)更新(Update,Delete,或Insert)是否需要同步到全文索引,
•CHANGE_TRACKING = MANUAL :手動更新
•CHANGE_TRACKING =AUTO:自動更新,默認(rèn)設(shè)置,當(dāng)基礎(chǔ)表數(shù)據(jù)變化時,全文索引自動更新,
•CHANGE_TRACKING =OFF , NO POPULATION:不更新,指定選項NO POPULATION,表明在創(chuàng)建全文索引之后,SQL Server不會更新(populate)全文索引;如果未指定選項NO POPULATION,在創(chuàng)建全文索引之后,SQL Server更新全文索引。

5,停用詞(STOPLIST)

停用詞(StopWord)也稱作噪音詞,每一個全文索引都會關(guān)聯(lián)一個停用詞列表,默認(rèn)情況下,全文索引關(guān)聯(lián)的是系統(tǒng)停用詞(system stoplist)。全文引擎把停用詞從分詞中刪除,使全文索引不會包含停用詞。

STOPLIST [ = ] { OFF | SYSTEM | stoplist_name } 

三,填充全文索引

填充全文索引也叫做爬蟲(crawl)進(jìn)程,或填充(Population)進(jìn)程。由于創(chuàng)建或填充全文索引會消耗大量的系統(tǒng)(IO、內(nèi)存)資源,因此盡量選擇在系統(tǒng)空閑時對全文索引進(jìn)行填充。在創(chuàng)建全文索引時,通過指定選項 CHANGE_TRACKING= MANUAL,或 CHANGE_TRACKING= OFF, NO POPULATION,新建的全文索引不會立即填充,用戶可以選擇在系統(tǒng)空閑時,使用 alter fulltext index 語句執(zhí)行填充操作。只有填充全文索引之后,全文索引才包含基礎(chǔ)表的分詞數(shù)據(jù)。

alter fulltext index 
on table_name
start { full | incremental | update } population;

更新全文索引有三種方式:

•FULL POPULATION:全部填充,從基礎(chǔ)表中獲取每一行,重新編入全文索引;
•INCREMENTAL POPULATION:增量填充,前提是基礎(chǔ)表中包含timestamp字段,從上一次填充之后,只把更新之后的數(shù)據(jù)編入全文索引;
•UPDATE POPULATION:更新填充,從上一次填充之后執(zhí)行更新(insert、update、或delete)操作的數(shù)據(jù)行重新編入索引;

在創(chuàng)建全文索引時,如果指定CHANGE_TRACKING=AUTO   或   CHANGE_TRACKING=  OFF , 那么新建的全文索引會立即開始填充進(jìn)程。

四,使用 contains 謂詞查詢?nèi)乃饕?/strong>

如果想要在查詢中使用全文索引,通常使用CONTAINS謂詞來調(diào)用全文索引,實現(xiàn)比LIKE關(guān)鍵字更復(fù)雜的文本匹配查詢,而LIKE關(guān)鍵字是模糊匹配,不會調(diào)用全文索引。

例如,利用contains謂詞執(zhí)行單個分詞的完全匹配查詢:

select [tsql] 
from [dbo].[DatabaseLog] 
where contains([tsql], 'searchword', language 1033);

全文查詢跟Like相比,速度更快,支持的搜索功能更復(fù)雜,使用contains謂詞,不僅能夠執(zhí)行分詞的完全匹配或分詞的前綴匹配查詢,還能夠執(zhí)行基于詞根的查詢,基于自定義同義詞的查詢,基于距離和順序的相鄰分詞查詢。但是,和Like 相比,contains謂詞不能進(jìn)行后綴匹配查詢。

contains謂詞返回的結(jié)果是布爾值,如果全文索引列中包含指定的關(guān)鍵字或查找模式(pattern),返回TRUE;否則,返回FALSE。

contains謂詞支持word查詢和短語查詢,word是指單個分詞,短語(phrase)是由多個word和間隔的空格組成的,對于短語,必須使用雙引號,將多個word組成一個短語。

1,邏輯組合查詢

使用and ,and not, 或 or 邏輯運(yùn)算符 匹配多個word 或 多個phrase

CONTAINS(Name, '"Mountain" OR "Road" ')
CONTAINS(Name, ' Mountain OR Road ')

2,前綴查詢

使用contains謂詞進(jìn)行前綴匹配,和like 'prefix%'功能相同,只不過contains謂詞使用“*”作為通配符,“*”匹配0,1或多個字符,前綴匹配的寫法是:'"prefix*"',全文索引只能執(zhí)行前綴匹配。

CONTAINS(Name, ' "Chain*" ')
CONTAINS(Name, '"chain*" OR "full*"')

3,查詢同義詞(thesaurus)或詞干(stemmer)

Stemmer(詞干),例如,根據(jù)語法規(guī)程,英語的動詞 根據(jù)數(shù)(單數(shù),復(fù)數(shù)),人稱,時態(tài)的不同而存在不同的變化形式,這些單詞都是同源的。

CONTAINS(Description, ' FORMSOF (INFLECTIONAL, ride) ')

THESAURUS (同義詞),需要導(dǎo)入XML進(jìn)行配置,SQL Server 提供一個默認(rèn)的Thesaurus file,是Empty的。如果在Thesaurus file 配置“Author”,“Writer”,“journalist” 是同義詞,在使用fulltext index查詢時,只要滿足任意一個同義詞,都匹配成功。

CONTAINS(Description, ' FORMSOF (THESAURUS, author) ')

4,距離查詢

使用 near 函數(shù),查詢匹配相鄰分詞的數(shù)據(jù)行,near函數(shù)的定義如下,用于需要在查詢模式中指定距離查詢的查詢模式:

NEAR ( ( { simple_term> | prefix_term> } [ ,…n ] ) [, maximum_distance> ] [, match_order> ] ) 

例如:使用Near 函數(shù)指定相鄰分詞的距離和匹配順序,near((term1,term2,term3),5)表示任意兩個term之間的距離不能超過5, near((term1,term2,term3),5,true),表示任意兩個term的距離不能超過5,并且按照 term1,term2,term3的順序存在于字符串中。

--regardless of the intervening distance and regardless of order
CONTAINS(column_name, 'NEAR(term1,"term3 term4")')
--searches for "AA" and "BB", in either order, within a maximum distance of five
CONTAINS(column_name, 'NEAR((AA,BB),5)')
--in the specified order with regardless of the distance
CONTAINS(column_name, 'NEAR ((Monday, Tuesday, Wednesday), MAX, TRUE)')

對于 near((term1,term2,term3),5,true),term1 和 term5之間最多存在5個term,不包括內(nèi)部的搜索分詞,“term2”,例如:

CONTAINS(column_name, 'NEAR((AA,BB,CC),5)')

這個查詢會匹配下面的文本,注意,內(nèi)部的搜索分詞CC沒有計算距離:

BB one two CC three four five AA

例如,在原文本中,分詞bike和control的最大距離不能超過10,分詞bike必須出現(xiàn)在分詞control的前面:

CONTAINS(Comments , 'NEAR((bike,control), 10, TRUE)')

SQL Server提供的全文搜索功能,比LIKE關(guān)鍵字豐富,具備初級的全文搜索功能,速度快,維護(hù)簡單,缺點是,全文搜索功能非常有限,在實際的開發(fā)中,可以配合開源的全文搜索引擎,例如,Solr,Elasticsearch等來開發(fā)功能更強(qiáng)大的全文搜索功能。

總結(jié)

以上所述是小編給大家介紹的SQL Server 全文搜索功能介紹,希望對大家有所幫助,如果大家有任何疑問歡迎給我留言,小編會及時回復(fù)大家的!

您可能感興趣的文章:
  • SQLServer地址搜索性能優(yōu)化
  • 在SQL Server 2005所有表中搜索某個指定列的方法
  • 在SQL Server中實現(xiàn)最短路徑搜索的解決方法
  • sqlserver中在指定數(shù)據(jù)庫的所有表的所有列中搜索給定的值

標(biāo)簽:黃山 崇左 衡水 湘潭 銅川 湖南 仙桃 蘭州

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《SQL Server 全文搜索功能介紹》,本文關(guān)鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P(guān)信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無關(guān)。
  • 相關(guān)文章
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266