久久精品人人爽,华人av在线,亚洲性视频网站,欧美专区一二三

為什么查詢ElasticSearch用SQL代替DSL

147次閱讀
沒有評論

共計 6867 個字符,預計需要花費 18 分鐘才能閱讀完成。

這篇文章主要講解了“為什么查詢 ElasticSearch 用 SQL 代替 DSL”,文中的講解內(nèi)容簡單清晰,易于學習與理解,下面請大家跟著丸趣 TV 小編的思路慢慢深入,一起來研究和學習“為什么查詢 ElasticSearch 用 SQL 代替 DSL”吧!

SQL REST API

在 Kibana Console 中輸入:

POST /_sql?format=txt {  query :  SELECT * FROM library ORDER BY page_count DESC LIMIT 5  }

將上述 SQL 替換為你自己的 SQL 語句,即可。返回格式如下:

 author | name | page_count | release_date -----------------+--------------------+---------------+------------------------ Peter F. Hamilton|Pandora s Star |768 |2004-03-02T00:00:00.000Z Vernor Vinge |A Fire Upon the Deep|613 |1992-06-01T00:00:00.000Z Frank Herbert |Dune |604 |1965-06-01T00:00:00.000Z

SQL CLI

elasticsearch-sql-cli 是安裝 ES 時 bin 目錄的一個腳本文件,也可單獨下載。我們在 ES 目錄運行

./bin/elasticsearch-sql-cli https://some.server:9200

輸入 sql 即可查詢

sql  SELECT * FROM library WHERE page_count   500 ORDER BY page_count DESC; author | name | page_count | release_date -----------------+--------------------+---------------+--------------- Peter F. Hamilton|Pandora s Star |768 |1078185600000 Vernor Vinge |A Fire Upon the Deep|613 |707356800000 Frank Herbert |Dune |604 |-144720000000

SQL To DSL

在 Kibana 輸入:

POST /_sql/translate {  query :  SELECT * FROM library ORDER BY page_count DESC ,  fetch_size : 10 }

即可得到轉化后的 DSL query:

{  size : 10,  docvalue_fields : [ {  field :  release_date ,  format :  epoch_millis  } ],  _source : {  includes : [  author ,  name ,  page_count  ],  excludes : [] },  sort : [ {  page_count : {  order :  desc ,  missing :  _first ,  unmapped_type :  short  } } ] }

因為查詢相關的語句已經(jīng)生成,我們只需要在這個基礎上適當修改或不修改就可以愉快使用 DSL 了。

下面我們詳細介紹下 ES SQL 支持的 SQL 語句 和 如何避免錯誤使用。

首先需要了解下 ES SQL 支持的 SQL 語句中,SQL 術語和 ES 術語的對應關系:

ES SQL 的語法支持大多遵循 ANSI SQL 標準,支持的 SQL 語句有 DML 查詢和部分 DDL 查詢。

DDL 查詢?nèi)纾篋ESCRIBE table,SHOW COLUMNS IN  table 略顯雞肋,我們主要看下對 SELECT,Function 的 DML 查詢支持。

SELECT

語法結構如下:

SELECT [TOP [ count ] ] select_expr [, ...] [ FROM table_name ] [ WHERE condition ] [ GROUP BY grouping_element [, ...] ] [ HAVING condition] [ ORDER BY expression [ ASC | DESC ] [, ...] ] [ LIMIT [ count ] ] [ PIVOT ( aggregation_expr FOR column IN ( value [ [ AS ] alias ] [, ...] ) ) ]

表示從 0 - N 個表中獲取行數(shù)據(jù)。SQL 的執(zhí)行順序為:

鴻蒙官方戰(zhàn)略合作共建——HarmonyOS 技術社區(qū)

獲取所有 FROM 中的關鍵詞,確定表名。

如果有 WHERE 條件,過濾掉所有不符合的行。

如果有 GROUP BY 條件,則分組聚合; 如果有 HAVING 條件,則過濾聚合的結果。

上一步得到的結果經(jīng)過 select_expr 運算,確定具體返回的數(shù)據(jù)。

如果有 ORDER BY 條件,會對返回的數(shù)據(jù)排序。

如果有 LIMIT or TOP 條件,會返回上一步結果的子集。

與常用的 SQL 有兩點不同,ES SQL 支持 TOP [count]和 PIVOT (aggregation_expr FOR column IN (  value [ [ AS] alias ] [, …] ) )子句。

TOP [count]:如 SELECT TOP 2 first_name FROM emp 表示最多返回兩條數(shù)據(jù),不可與 LIMIT 條件共用。

PIVOT 子句會對其聚合條件得到的結果進行行轉列,進一步運算。這個我是沒用過,不做介紹。

FUNCTION

基于上面的 SQL 我們其實已經(jīng)能有過濾,聚合,排序,分頁功能的 SQL 了。但是我們需要進一步了解 ES  SQL 中 FUNCTION 的支持,才能寫出豐富的具有全文搜索,聚合,分組功能的 SQL。

使用 SHOW FUNCTIONS 可列舉出支持的函數(shù)名稱和所屬類型。

SHOW FUNCTIONS; name | type -----------------+--------------- AVG |AGGREGATE COUNT |AGGREGATE FIRST |AGGREGATE FIRST_VALUE |AGGREGATE LAST |AGGREGATE LAST_VALUE |AGGREGATE MAX |AGGREGATE MIN |AGGREGATE SUM |AGGREGATE ........

我們主要看下聚合,分組,全文搜索相關的常用函數(shù)。

全文匹配函數(shù)

MATCH:相當于 DSL 中的 match and multi_match 查詢。

MATCH( field_exp, -- 字段名稱  constant_exp, -- 字段的匹配值  [, options]) -- 可選項

使用舉例:

SELECT author, name FROM library WHERE MATCH(author,  frank  author | name ---------------+------------------- Frank Herbert |Dune Frank Herbert |Dune Messiah SELECT author, name, SCORE() FROM library WHERE MATCH(author^2,name^5 ,  frank dune  author | name | SCORE() ---------------+-------------------+--------------- Frank Herbert |Dune |11.443176 Frank Herbert |Dune Messiah |9.446629

QUERY:相當于 DSL 中的 query_string 查詢。

QUERY( constant_exp -- 匹配值表達式  [, options]) -- 可選項

使用舉例:

SELECT author, name, page_count, SCORE() FROM library WHERE QUERY( _exists_: author  AND page_count: 200 AND (name:/star.*/ OR name:duna~)  author | name | page_count | SCORE() ------------------+-------------------+---------------+--------------- Frank Herbert |Dune |604 |3.7164764 Frank Herbert |Dune Messiah |331 |3.4169943

SCORE():返回輸入數(shù)據(jù)和返回數(shù)據(jù)的相關度 relevance.

使用舉例:

SELECT SCORE(), * FROM library WHERE MATCH(name,  dune) ORDER BY SCORE() DESC; SCORE() | author | name | page_count | release_date ---------------+---------------+-------------------+---------------+-------------------- 2.2886353 |Frank Herbert |Dune |604 |1965-06-01T00:00:00Z 1.8893257 |Frank Herbert |Dune Messiah |331 |1969-10-15T00:00:00Z

聚合函數(shù)

AVG(numeric_field):計算數(shù)字類型的字段的平均值。

SELECT AVG(salary) AS avg FROM emp;

COUNT(expression):返回輸入數(shù)據(jù)的總數(shù),包括 COUNT()時 field_name 對應的值為 null 的數(shù)據(jù)。

COUNT(ALL field_name):返回輸入數(shù)據(jù)的總數(shù),不包括 field_name 對應的值為 null 的數(shù)據(jù)。

COUNT(DISTINCT field_name):返回輸入數(shù)據(jù)中 field_name 對應的值不為 null 的總數(shù)。

SUM(field_name):返回輸入數(shù)據(jù)中數(shù)字字段 field_name 對應的值的總和。

MIN(field_name):返回輸入數(shù)據(jù)中數(shù)字字段 field_name 對應的值的最小值。

MAX(field_name):返回輸入數(shù)據(jù)中數(shù)字字段 field_name 對應的值的最大值。

分組函數(shù)

這里的分組函數(shù)是對應 DSL 中的 bucket 分組。

HISTOGRAM:語法如下:

HISTOGRAM( numeric_exp, -- 數(shù)字表達式,通常是一個 field_name numeric_interval -- 數(shù)字的區(qū)間值  ) HISTOGRAM( date_exp, --date/time 表達式,通常是一個 field_name date_time_interval --date/time 的區(qū)間值  )

如下返回每年 1 月 1 號凌晨出生的數(shù)據(jù):

ELECT HISTOGRAM(birth_date, INTERVAL 1 YEAR) AS h, COUNT(*) AS c FROM emp GROUP BY h; h | c ------------------------+--------------- null |10 1952-01-01T00:00:00.000Z|8 1953-01-01T00:00:00.000Z|11 1954-01-01T00:00:00.000Z|8 1955-01-01T00:00:00.000Z|4 1956-01-01T00:00:00.000Z|5 1957-01-01T00:00:00.000Z|4 1958-01-01T00:00:00.000Z|7 1959-01-01T00:00:00.000Z|9 1960-01-01T00:00:00.000Z|8 1961-01-01T00:00:00.000Z|8 1962-01-01T00:00:00.000Z|6 1963-01-01T00:00:00.000Z|7 1964-01-01T00:00:00.000Z|4 1965-01-01T00:00:00.000Z|1

ES SQL 局限性

因為 ES SQL 和 ES DSL 在功能上并非完全匹配,官方文檔提到的 SQL 局限性有:

大的查詢可能拋 ParsingException

在解析階段,極大的查詢會占用過多的內(nèi)存,在這種情況下,Elasticsearch SQL 引擎將中止解析并拋出錯誤。

nested 類型字段的表示方法

SQL 中不支持 nested 類型的字段,只能使用

[nested_field_name].[sub_field_name]

這種形式來引用內(nèi)嵌子字段。

使用舉例:

SELECT dep.dep_name.keyword FROM test_emp GROUP BY languages;

nested 類型字段不能用在 where 和 order by 的 Scalar 函數(shù)上

如以下 SQL 都是錯誤的

SELECT * FROM test_emp WHERE LENGTH(dep.dep_name.keyword)   5; SELECT * FROM test_emp ORDER BY YEAR(dep.start_date);

不支持多個 nested 字段的同時查詢

如嵌套字段 nested_A 和 nested_B 無法同時使用。

nested 內(nèi)層字段分頁限制

當分頁查詢有 nested 字段時,分頁結果可能不正確。這是因為:ES 中的分頁查詢發(fā)生在 Root nested  document 上,而不是它的內(nèi)層字段上。

keyword 類型的字段不支持 normalizer

不支持數(shù)組類型的字段

這是因為在 SQL 中一個 field 只對應一個值,這種情況下我們可以使用上面介紹的 SQL To DSL 的 API   轉化為 DSL 語句,用 DSL 查詢就好了。

聚合排序的限制

排序字段必須是聚合桶中的字段,ES SQL  CLI 突破了這種限制,但上限不能超過 512 行,否則在 sorting 階段會拋異常。推薦搭配 Limit 子句使用,如:

SELECT * FROM test GROUP BY age ORDER BY COUNT(*) LIMIT 100;

聚合排序的排序條件不支持 Scalar 函數(shù)或者簡單的操作符運算。聚合后的復雜字段 (比如包含聚合函數(shù)) 也是不能用在排序條件上的。

以下是錯誤例子:

SELECT age, ROUND(AVG(salary)) AS avg FROM test GROUP BY age ORDER BY avg; SELECT age, MAX(salary) - MIN(salary) AS diff FROM test GROUP BY age ORDER BY diff;

子查詢的限制

子查詢中包含 GROUP BY or HAVING 或者比 SELECT X FROM (SELECT …) WHERE  [simple_condition]這種結構復雜,都是可能執(zhí)行不成功的。

TIME 數(shù)據(jù)類型的字段不支持 GROUP BY 條件和 HISTOGRAM 函數(shù)

如以下查詢是錯誤的:

SELECT count(*) FROM test GROUP BY CAST(date_created AS TIME); SELECT HISTOGRAM(CAST(birth_date AS TIME), INTERVAL  10  MINUTES) as h, COUNT(*) FROM t GROUP BY h

但是將 TIME 類型的字段包裝為 Scalar 函數(shù)返回是支持 GROUP BY 的,如:

SELECT count(*) FROM test GROUP BY MINUTE((CAST(date_created AS TIME));

返回字段的限制

如果一個字段不在 source 中存儲,是無法查詢到的。keyword, date, scaled_float, geo_point,  geo_shape 這些類型的字段不受這種限制,因為他們不是從_source 中返回,而是從 docvalue_fields 中返回。

感謝各位的閱讀,以上就是“為什么查詢 ElasticSearch 用 SQL 代替 DSL”的內(nèi)容了,經(jīng)過本文的學習后,相信大家對為什么查詢 ElasticSearch 用 SQL 代替 DSL 這一問題有了更深刻的體會,具體使用情況還需要大家實踐驗證。這里是丸趣 TV,丸趣 TV 小編將為大家推送更多相關知識點的文章,歡迎關注!

正文完
 
丸趣
版權聲明:本站原創(chuàng)文章,由 丸趣 2023-07-27發(fā)表,共計6867字。
轉載說明:除特殊說明外本站除技術相關以外文章皆由網(wǎng)絡搜集發(fā)布,轉載請注明出處。
評論(沒有評論)
主站蜘蛛池模板: 会理县| 栖霞市| 宣汉县| 泽库县| 缙云县| 宕昌县| 郴州市| 洞口县| 西乡县| 阜宁县| 噶尔县| 长乐市| 铜川市| 思南县| 文水县| 苍溪县| 阿克苏市| 惠东县| 元氏县| 菏泽市| 双鸭山市| 永顺县| 武冈市| 平果县| 高碑店市| 淳安县| 阜阳市| 平舆县| 上蔡县| 五华县| 凤阳县| 新竹县| 江门市| 新营市| 东辽县| 浦江县| 鹤岗市| 手游| 庆城县| 满洲里市| 新巴尔虎左旗|