Elasticsearch?在地理信息空間索引的探索和演進(jìn)問題分析

更新時間：2022年06月27日 10:35:58 作者：vivo互聯(lián)網(wǎng)技術(shù)

本文梳理了Elasticsearch對于數(shù)值索引實(shí)現(xiàn)方案的升級和優(yōu)化思考，從2015年至今數(shù)值索引的方案經(jīng)歷了多個版本的迭代，實(shí)現(xiàn)思路從最初的字符串模擬到KD-Tree，技術(shù)越來越復(fù)雜，能力越來越強(qiáng)大，應(yīng)用場景也越來越豐富，感興趣的朋友跟隨小編一起看看吧

一、業(yè)務(wù)背景

LBS服務(wù)是當(dāng)前互聯(lián)網(wǎng)重要的一環(huán)，涉及餐飲、娛樂、打車、零售等場景。在這些場景中，有很重要的一項(xiàng)基礎(chǔ)能力：搜索附近的POI。比如搜索附近的美食，搜索附近的電影院，搜索附近的專車，搜索附近的門店。例如：以某個坐標(biāo)點(diǎn)為中心查詢出1km半徑范圍的POI坐標(biāo)，如下圖所示：

Elasticsearch在地理位置信息檢索上具備了毫秒級響應(yīng)的能力，而毫秒級響應(yīng)對于用戶體驗(yàn)至關(guān)重要。上面的問題使用Elasticsearch，只需用到geo_distance查詢就可以解決業(yè)務(wù)問題。使用Elasticsearch的查詢語法如下：

GET /my_locations/_search
{
  "query": {
    "bool": {
      "must": {
        "match_all": {}
      },
      "filter": {
        "geo_distance": {
          "distance": "1km",
          "pin.location": {
            "lat": 40,
            "lon": 116
          }
        }
      }
    }
  }
}

工具的使用是一個非常簡單的事情，更有意思在于工具解決問題背后的思想。理解了處理問題的思想，就可以超然于工具本身，做到舉一反三。本文基于在海量數(shù)據(jù)背景下，如何實(shí)現(xiàn)毫秒級搜索附近的POI這個問題，探討了Elasticsearch的實(shí)現(xiàn)方案，以及實(shí)現(xiàn)地理位置索引技術(shù)的演進(jìn)過程。

二、背景知識

在介紹Elasticsearch的處理方案前，我們首先需要介紹一些背景知識，主要是3個問題。

1. 如何精確定位一個地址？

由經(jīng)度、緯度和相對高度組成的地理坐標(biāo)系，能夠明確標(biāo)示出地球上的任何一個位置。地球上的經(jīng)度范圍[-180， 180]，緯度范圍[-90，90]。通常以本初子午線(經(jīng)度為0)、赤道(緯度為0)為分界線。對于大多數(shù)業(yè)務(wù)場景，由經(jīng)緯度組成的二維坐標(biāo)已經(jīng)足以應(yīng)對業(yè)務(wù)問題，可能重慶山城會有些例外。

2. 如何計算兩個地址距離？

對于平面坐標(biāo)系，由勾股定理可以方便計算出兩個點(diǎn)的距離。但是由于地球是一個不完美球體，且不同位置有不同海拔高度，所以精確計算兩個距離位置是一個非常復(fù)雜的問題。在不考慮高度的情況下，二維坐標(biāo)距離通常使用Haversine公式。

這個公式非常簡單，只需用到arcsin和cos兩個高中數(shù)學(xué)公式。其中φ和λ表示兩個點(diǎn)緯度和經(jīng)度的弧度制度量。其中d即為所求兩個點(diǎn)的距離，對應(yīng)的數(shù)學(xué)公式如下(參考維基百科)：

程序員更喜歡看代碼，對照代碼理解公式更簡單。相應(yīng)的代碼如下：

// 代碼摘自lucene-core-8.2.0， SloppyMath工具類
 
 /**
  * Returns the Haversine distance in meters between two points
  * given the previous result from {@link #haversinSortKey(double, double, double, double)}
  * @return distance in meters.
  */
 public static double haversinMeters(double sortKey) {
   return TO_METERS * 2 * asin(Math.min(1, Math.sqrt(sortKey * 0.5)));
 }
 
 /**
  * Returns a sort key for distance. This is less expensive to compute than
  * {@link #haversinMeters(double, double, double, double)}, but it always compares the same.
  * This can be converted into an actual distance with {@link #haversinMeters(double)}, which
  * effectively does the second half of the computation.
  */
 public static double haversinSortKey(double lat1, double lon1, double lat2, double lon2) {
   double x1 = lat1 * TO_RADIANS;
   double x2 = lat2 * TO_RADIANS;
   double h2 = 1 - cos(x1 - x2);
   double h3 = 1 - cos((lon1 - lon2) * TO_RADIANS);
   double h = h2 + cos(x1) * cos(x2) * h3;
   // clobber crazy precision so subsequent rounding does not create ties.
   return Double.longBitsToDouble(Double.doubleToRawLongBits(h) & 0xFFFFFFFFFFFFFFF8L);
 }
 // haversin
 // TODO: remove these for java 9, they fixed Math.toDegrees()/toRadians() to work just like this.
 public static final double TO_RADIANS = Math.PI / 180D;
 public static final double TO_DEGREES = 180D / Math.PI;
 
 // Earth's mean radius, in meters and kilometers; see http://earth-info.nga.mil/GandG/publications/tr8350.2/wgs84fin.pdf
 private static final double TO_METERS = 6_371_008.7714D; // equatorial radius
 private static final double TO_KILOMETERS = 6_371.0087714D; // equatorial radius
 
/**
  * Returns the Haversine distance in meters between two points
  * specified in decimal degrees (latitude/longitude).  This works correctly
  * even if the dateline is between the two points.
  * <p>
  * Error is at most 4E-1 (40cm) from the actual haversine distance, but is typically
  * much smaller for reasonable distances: around 1E-5 (0.01mm) for distances less than
  * 1000km.
  *
  * @param lat1 Latitude of the first point.
  * @param lon1 Longitude of the first point.
  * @param lat2 Latitude of the second point.
  * @param lon2 Longitude of the second point.
  * @return distance in meters.
  */
 public static double haversinMeters(double lat1, double lon1, double lat2, double lon2) {
   return haversinMeters(haversinSortKey(lat1, lon1, lat2, lon2));
 }

3. 如何方便在互聯(lián)網(wǎng)分享經(jīng)緯度坐標(biāo)？

Geohash是2008-02-26由Gustavo Niemeyer在自己的個人博客上公布的算法服務(wù)。其初衷在于通過對經(jīng)緯度的編碼對外提供簡短的URL標(biāo)識地圖位置，方便在電子郵件、論壇和網(wǎng)站中使用。

實(shí)際上Geohash的價值不僅僅是提供簡短的URL，它更大的價值在于：

Geohash給地圖上每個坐標(biāo)提供了獨(dú)一無二的ID，這個唯一ID就相當(dāng)于給每個地理位置提供了一個身份證。唯一ID在數(shù)據(jù)庫中應(yīng)用場景非常豐富。

在數(shù)據(jù)庫中給坐標(biāo)點(diǎn)提供了另一種存儲方式，將二維的坐標(biāo)點(diǎn)轉(zhuǎn)化成為一維的字符串，對于一維數(shù)據(jù)就可以借助B樹等索引來加速查詢。

Geohash是一種前綴編碼，位置相近的坐標(biāo)點(diǎn)前綴相同。通過前綴提供了高性能的鄰近位置POI查詢，而鄰近位置POI查詢是LBS服務(wù)的核心能力。

關(guān)于Geohash的編碼規(guī)則，這里不展開。這里最關(guān)鍵的點(diǎn)在于：

Geohash是一種前綴編碼，位置相近的坐標(biāo)點(diǎn)前綴相同。Geohash編碼長度不同，所覆蓋區(qū)域范圍不同。

在前面知識的鋪墊下，最簡單的求一個坐標(biāo)點(diǎn)指定半徑范圍內(nèi)的坐標(biāo)集合的方案就出爐了。

暴力算法

中心坐標(biāo)點(diǎn)依次跟集合中每個坐標(biāo)點(diǎn)計算距離，篩選出符合半徑條件的坐標(biāo)點(diǎn)。

這個算法大家太熟悉了，就是最常見的暴力(Brute Force)算法。這個算法在海量數(shù)據(jù)背景下是沒法滿足毫秒級響應(yīng)時間要求的，所以多用于離線計算。對于毫秒級響應(yīng)的業(yè)務(wù)訴求，這個算法可以基于geohash進(jìn)行改造。

二次篩選

基于坐標(biāo)中心點(diǎn)計算出geohash, 基于半徑確定geohash前綴。

通過Geohash前綴初篩出大致符合要求的坐標(biāo)點(diǎn)(需要將中心點(diǎn)所在Geohash塊周圍8個Geohash塊納入初篩范圍)。

對于初篩結(jié)果使用Haversine公式進(jìn)行二次篩選。

除了上述方案，Elasticsearch在地理信息處理上有哪些奇思妙想呢？

三、方案演進(jìn)

Elasticsearch從2.0版本開始支持geo_distance查詢，到當(dāng)前已更新到7.14版本。

從2015年至今已經(jīng)經(jīng)歷了6年的發(fā)展，建設(shè)了如下的能力：

技術(shù)迭代大致可以分為3個階段：

發(fā)展的成效顯著，從性能測試的結(jié)果可以略窺一二：

總的來說，資源消耗降低的前提下搜索和寫入數(shù)據(jù)效率都有大幅度提升。下面就詳細(xì)介紹Elasticsearch對地理信息索引的思路。

3.1 史前時代

Elasticsearch是基于Lucene構(gòu)建的搜索引擎。Lucene最開始的設(shè)想是一個全文檢索工具箱，即支持字符串檢索，并沒有考慮數(shù)值類型的處理。其核心思想非常簡單，將文檔分詞后，為每個詞構(gòu)建一個term => array[docIds]的映射。

這樣用戶輸入關(guān)鍵詞只需要三步就可以獲得想要的結(jié)果：

第一步: 通過關(guān)鍵詞找到對應(yīng)的倒排表。這一步簡單來說就是查詞典。例如：TermQuery.TermWeight 獲取該term的倒排表，讀取docId+freq信息。

第二步: 根據(jù)倒排表得到的docId和詞頻信息對文檔進(jìn)行打分，返回給用戶分值最高的TopN結(jié)果。例如：TopScoreDocCollector -- collect()方法，基于小頂堆，保留分?jǐn)?shù)最大的TopN文檔。

第三步: 基于docId查詢正排表獲取文檔字段明細(xì)信息。

這三步看起來簡單，但簡直是數(shù)據(jù)結(jié)構(gòu)應(yīng)用最佳戰(zhàn)場，它需要綜合考慮磁盤、內(nèi)存、IO、數(shù)據(jù)結(jié)構(gòu)時間復(fù)雜度，非常具有挑戰(zhàn)性。

例如：查詞典可以用很多數(shù)據(jù)結(jié)構(gòu)實(shí)現(xiàn)，比如跳躍表，平衡樹、HashMap等，而Lucene的核心工程師Mike McCandless實(shí)現(xiàn)了一個只有他自己能懂的FST, 是綜合了有限自動機(jī)和前綴樹的一種數(shù)據(jù)結(jié)構(gòu)，用來平衡查詢復(fù)雜度和存儲空間，比HashMap慢，但是空間消耗低。文檔打分通常用小頂堆來維護(hù)分值最高的N個結(jié)果，如果有新的文檔打分超過堆頂，則替換堆頂元素即可。

**問題：**對于真實(shí)業(yè)務(wù)場景而言，只有字符串匹配查詢是不夠的，字符串和數(shù)值是應(yīng)用最廣泛的兩種數(shù)據(jù)類型。如果需要進(jìn)行區(qū)間查詢怎么辦呢？這是一個數(shù)據(jù)庫產(chǎn)品非?；A(chǔ)的能力。

Lucene提供了一種適配方案RangeQuery。就是用枚舉來模擬數(shù)值查詢。簡單來說：RangeQuery=BooleanQuery+TermQuery，所以限制查詢是整數(shù)且區(qū)間最大不能超過1024。這種實(shí)現(xiàn)是可以說是非常雞肋的，好在Lucene 2.9.0版本真正支持?jǐn)?shù)值查詢。

LUCENE-1470,LUCENE-1582,LUCENE-1602,LUCENE-1673,LUCENE-1701, LUCENE-1712

Added NumericRangeQuery and NumericRangeFilter, a fast alternative to RangeQuery/RangeFilter for numeric searches. They depend on a specific structure of terms in the index that can be created by indexing using the new NumericField or NumericTokenStream classes. NumericField can only be used for indexing and optionally stores the values as string representation in the doc store. Documents returned from IndexReader/IndexSearcher will return only the String value using the standard Fieldable interface. NumericFields can be sorted on and loaded into the FieldCache. (Uwe Schindler, Yonik Seeley, Mike McCandless)

這個實(shí)現(xiàn)很強(qiáng)大，支持了int/long/float/double/short/byte，也不限制查詢區(qū)間了。它的核心思路是將數(shù)值字節(jié)數(shù)組化，然后利用前綴分層管理區(qū)間。

如下圖所示：

本質(zhì)上還是RangeQuery=BooleanQuery+TermQuery，只不過在前面做了一層轉(zhuǎn)換：通過前綴樹管理一個區(qū)間實(shí)現(xiàn)了匹配詞數(shù)量的縮減，而這個縮減是非常有效的。所以這里就有一個專家參數(shù)：precisionStep。就是用來控制每個數(shù)值字段在分詞是生成term的數(shù)量，生成term數(shù)量越多，區(qū)間控制粒度越細(xì)，占用磁盤空間越大，查詢效率通常越高。

例如：如果precisionStep=8,則意味前綴樹葉子節(jié)點(diǎn)的上層控制著255個葉子。那么，當(dāng)查詢范圍在1511時，由于跨了相鄰的2個非葉子節(jié)點(diǎn)，所以需要遍歷511個term。但是假如查詢范圍在0512，又只需遍歷2個term即可。這樣的實(shí)現(xiàn)用起來真的有過山車的感覺。

綜上，Elasticsearch核心的Lucene倒排索引是一種經(jīng)典的以不變應(yīng)萬變：字符串和數(shù)值索引核心都是查倒排表。理解這個核心，對于后面理解地理位置數(shù)據(jù)存儲和查詢非常關(guān)鍵。接下來我們以geo_distance的實(shí)現(xiàn)思路為探索主線條，探索一下ES各個版本的實(shí)現(xiàn)思路。

3.2 Elasticsearch 2.0 版本

這個版本實(shí)現(xiàn)geo_distance查詢的思路非常樸素，是建立在數(shù)值區(qū)間查詢(NumericRangeQuery)的基礎(chǔ)上。它的geo_point類型字段其實(shí)是一個復(fù)合字段，或者說是一個結(jié)構(gòu)體。在底層實(shí)現(xiàn)時分別用兩個獨(dú)立字段索引來避免暴力掃描。即Elasticsearch的geo_point字段在實(shí)現(xiàn)上是lat,lon，加上編碼成的geohash綜合提供檢索聚合功能。

字段定義如下所示：

public static final class GeoPointFieldType extends MappedFieldType {

    private MappedFieldType geohashFieldType;
    private int geohashPrecision;
    private boolean geohashPrefixEnabled;

    private MappedFieldType latFieldType;
    private MappedFieldType lonFieldType;

    public GeoPointFieldType() {}
}

算法的執(zhí)行分為三個階段：

第一步：根據(jù)中心點(diǎn)以及半徑計算出一個大致符合需求的矩形區(qū)域，然后利用矩形區(qū)域的最小最大經(jīng)度得到一個數(shù)值區(qū)間查詢，利用矩形區(qū)域的最小最大緯度得到一個區(qū)間查詢。

核心代碼如下圖所示：

// 計算經(jīng)緯度坐標(biāo)+距離得到的矩形區(qū)域
// GeoDistance類
public static DistanceBoundingCheck distanceBoundingCheck(double sourceLatitude, double sourceLongitude, double distance, DistanceUnit unit) {
     // angular distance in radians on a great circle
     // assume worst-case: use the minor axis
     double radDist = unit.toMeters(distance) / GeoUtils.EARTH_SEMI_MINOR_AXIS;
 
     double radLat = Math.toRadians(sourceLatitude);
     double radLon = Math.toRadians(sourceLongitude);
 
     double minLat = radLat - radDist;
     double maxLat = radLat + radDist;
 
     double minLon, maxLon;
     if (minLat > MIN_LAT && maxLat < MAX_LAT) {
         double deltaLon = Math.asin(Math.sin(radDist) / Math.cos(radLat));
         minLon = radLon - deltaLon;
         if (minLon < MIN_LON) minLon += 2d * Math.PI;
         maxLon = radLon + deltaLon;
         if (maxLon > MAX_LON) maxLon -= 2d * Math.PI;
     } else {
         // a pole is within the distance
         minLat = Math.max(minLat, MIN_LAT);
         maxLat = Math.min(maxLat, MAX_LAT);
         minLon = MIN_LON;
         maxLon = MAX_LON;
     }
 
     GeoPoint topLeft = new GeoPoint(Math.toDegrees(maxLat), Math.toDegrees(minLon));
     GeoPoint bottomRight = new GeoPoint(Math.toDegrees(minLat), Math.toDegrees(maxLon));
     if (minLon > maxLon) {
         return new Meridian180DistanceBoundingCheck(topLeft, bottomRight);
     }
     return new SimpleDistanceBoundingCheck(topLeft, bottomRight);
 }

**第二步：**兩個查詢通過BooleanQuery組合成一個取交集的復(fù)合查詢，以實(shí)現(xiàn)初篩出在經(jīng)緯度所示矩形區(qū)域內(nèi)的docId集合。

核心代碼如下圖所示：

public class IndexedGeoBoundingBoxQuery {

public static Query create(GeoPoint topLeft, GeoPoint bottomRight, GeoPointFieldMapper.GeoPointFieldType fieldType) {
    if (!fieldType.isLatLonEnabled()) {
        throw new IllegalArgumentException("lat/lon is not enabled (indexed) for field [" + fieldType.names().fullName() + "], can't use indexed filter on it");
    }
    //checks to see if bounding box crosses 180 degrees
    if (topLeft.lon() > bottomRight.lon()) {
        return westGeoBoundingBoxFilter(topLeft, bottomRight, fieldType);
    } else {
        return eastGeoBoundingBoxFilter(topLeft, bottomRight, fieldType);
    }
}

private static Query westGeoBoundingBoxFilter(GeoPoint topLeft, GeoPoint bottomRight, GeoPointFieldMapper.GeoPointFieldType fieldType) {
    BooleanQuery.Builder filter = new BooleanQuery.Builder();
    filter.setMinimumNumberShouldMatch(1);
    filter.add(fieldType.lonFieldType().rangeQuery(null, bottomRight.lon(), true, true), Occur.SHOULD);
    filter.add(fieldType.lonFieldType().rangeQuery(topLeft.lon(), null, true, true), Occur.SHOULD);
    filter.add(fieldType.latFieldType().rangeQuery(bottomRight.lat(), topLeft.lat(), true, true), Occur.MUST);
    return new ConstantScoreQuery(filter.build());
}

private static Query eastGeoBoundingBoxFilter(GeoPoint topLeft, GeoPoint bottomRight, GeoPointFieldMapper.GeoPointFieldType fieldType) {
    BooleanQuery.Builder filter = new BooleanQuery.Builder();
    filter.add(fieldType.lonFieldType().rangeQuery(topLeft.lon(), bottomRight.lon(), true, true), Occur.MUST);
    filter.add(fieldType.latFieldType().rangeQuery(bottomRight.lat(), topLeft.lat(), true, true), Occur.MUST);
    return new ConstantScoreQuery(filter.build());
}
}

**第三步：**利用FieldData緩存(正向信息)根據(jù)docId獲取矩形區(qū)域中每個坐標(biāo)點(diǎn)的經(jīng)緯度，然后利用前面的Haversine公式計算跟中心坐標(biāo)點(diǎn)的距離，進(jìn)行精確篩選，得到符合條件的文檔集合。

核心代碼如下所示：

// GeoDistanceRangeQuery類的實(shí)現(xiàn)
 @Override
 public Weight createWeight(IndexSearcher searcher, boolean needsScores) throws IOException {
     final Weight boundingBoxWeight;
     if (boundingBoxFilter != null) {
         boundingBoxWeight = searcher.createNormalizedWeight(boundingBoxFilter, false);
     } else {
         boundingBoxWeight = null;
     }
     return new ConstantScoreWeight(this) {
         @Override
         public Scorer scorer(LeafReaderContext context) throws IOException {
             final DocIdSetIterator approximation;
             if (boundingBoxWeight != null) {
                 approximation = boundingBoxWeight.scorer(context);
             } else {
                 approximation = DocIdSetIterator.all(context.reader().maxDoc());
             }
             if (approximation == null) {
                 // if the approximation does not match anything, we're done
                 return null;
             }
             final MultiGeoPointValues values = indexFieldData.load(context).getGeoPointValues();
             final TwoPhaseIterator twoPhaseIterator = new TwoPhaseIterator(approximation) {
                 @Override
                 public boolean matches() throws IOException {
                     final int doc = approximation.docID();
                     values.setDocument(doc);
                     final int length = values.count();
                     for (int i = 0; i < length; i++) {
                         GeoPoint point = values.valueAt(i);
                         if (distanceBoundingCheck.isWithin(point.lat(), point.lon())) {
                             double d = fixedSourceDistance.calculate(point.lat(), point.lon());
                             if (d >= inclusiveLowerPoint && d <= inclusiveUpperPoint) {
                                 return true;
                             }
                         }
                     }
                     return false;
                 }
             };
             return new ConstantScoreScorer(this, score(), twoPhaseIterator);
         }
     };
 }

這是一種非常簡單且直觀的思路實(shí)現(xiàn)了中心點(diǎn)指定半徑范圍POI的搜索能力。

簡單總結(jié)一下要點(diǎn)：

利用中心點(diǎn)坐標(biāo)和半徑確定矩形區(qū)域邊界。

利用Bool查詢綜合兩個NumericRangeQuery查詢，實(shí)現(xiàn)矩形區(qū)域初篩。

利用Haversine公式計算中心點(diǎn)和矩形區(qū)域內(nèi)每個坐標(biāo)點(diǎn)距離，進(jìn)行第二階段過濾操作，篩選出最終符合條件的docId集合。

方案雖然簡單，但是畢竟實(shí)現(xiàn)了geo_distance的能力。又不是不能用，對吧？那么該方案有什么問題呢？

3.3 Elasticsearch 2.2 版本

ES2.0版本的實(shí)現(xiàn)有個問題，就是沒有很好解決二維組合條件查詢的數(shù)據(jù)篩選。它是分別獲取符合緯度范圍條件的文檔集合和符合經(jīng)度范圍條件的文檔集合然后進(jìn)行交集，初篩了太多無效的文檔集合。

它的處理思路用一張圖表示如下：

即選擇了那么多的記錄，最終只有經(jīng)緯度范圍交匯的紅色區(qū)域是初篩的范圍。

針對上面的問題，ES 2.2版本引入特性：基于四叉樹(Quadtree)的地理位置查詢(Lucene 5.3版本實(shí)現(xiàn))。

Quadtree并非什么復(fù)雜高深的數(shù)據(jù)結(jié)構(gòu)，相比二叉樹，多了兩個子節(jié)點(diǎn)。

作為一種基礎(chǔ)的數(shù)據(jù)結(jié)構(gòu)，Quadtree應(yīng)用場景非常廣泛，在圖像處理、空間索引、碰撞檢測、人生游戲模擬、分形圖像分析等領(lǐng)域都可以看到它的身影。

在Elasticsearch地理位置空間索引問題上，Quadtree用來表示區(qū)間，可以視為前綴樹的一種。

Region quadtree

The region quadtree represents a partition of space in two dimensions by decomposing the region into four equal quadrants, subquadrants, and so on with each leaf node containing data corresponding to a specific subregion. Each node in the tree either has exactly four children, or has no children (a leaf node). The height of quadtrees that follow this decomposition strategy (i.e. subdividing subquadrants as long as there is interesting data in the subquadrant for which more refinement is desired) is sensitive to and dependent on the spatial distribution of interesting areas in the space being decomposed. The region quadtree is a type of trie.

在區(qū)間劃分上，Quadtree跟geohash的處理思路有些相似。在一維世界，二分可以無限迭代。同理，在二維世界，四分也可以無限迭代。下面這個圖可以非常形象展示Quadtree的區(qū)間劃分過程。

ES 2.2是如何使用Quadtree來實(shí)現(xiàn)geo_distance查詢呢？

通常我們使用一種數(shù)據(jù)結(jié)構(gòu)，是先基于該數(shù)據(jù)結(jié)構(gòu)存儲數(shù)據(jù)，然后查詢這個數(shù)據(jù)結(jié)構(gòu)。ES這里使用Quadtree的做法非常巧妙：存儲的時候沒有感覺用到Quadtree，查詢時卻用其查詢方式。

**morton編碼：**在理解ES的處理思路前，需要科普一個知識點(diǎn)，那就是morton編碼。關(guān)于morton編碼，跟geohash類似，是一種將二維數(shù)據(jù)按二進(jìn)制位交叉編碼成一維數(shù)據(jù)的一種網(wǎng)格編碼，其用法和特點(diǎn)跟geohash也是類似的。對于64位的morton碼，其經(jīng)緯度定位精度范圍控制到了厘米級別，對于地理位置場景而言，是非常非常高的精度了。

**數(shù)據(jù)存儲：**ES2.2版本之前一個經(jīng)緯度坐標(biāo)需要三個字段存儲：lat,lon,geohash。有了Quadtree后，只需要一個字段存儲就可以了。具體的實(shí)現(xiàn)思路如下：將lat,lon坐標(biāo)進(jìn)行映射，使得經(jīng)緯度的取值范圍從[-180,180]/[-90,90]映射到[0,2147483520](整數(shù)好處理)，然后處理成一維的mortonHash數(shù)值。對于數(shù)值字段的處理思路，就又回到了前綴(trie)的思路，就又回到了熟悉的專家參數(shù)precisionStep。在這里的前綴該如何理解？對于一維數(shù)據(jù)，每個前綴管理一段區(qū)間，對于二維數(shù)據(jù)每個前綴管理一個二維網(wǎng)格區(qū)域。例如一個坐標(biāo)點(diǎn)利用precisionStep=9來劃分前綴，其可視化矩形區(qū)域如下：

(取shift=27,36)

(取shift=36,45)

**數(shù)據(jù)查詢：**在查詢時，首先將查詢中心點(diǎn)坐標(biāo)轉(zhuǎn)換成一個矩形。這個處理思路我們延續(xù)了ES 2.0的做法，不陌生了。

例如：對于坐標(biāo)為(116.433322,39.900255)，半徑為1km的點(diǎn)，生成的矩形如下所示：

double centerLon = 116.433322;
double centerLat = 39.900255;
double radiusMeters = 1000.0;
GeoRect geoRect = GeoUtils.circleToBBox(centerLon, centerLat, radiusMeters);
System.out.println( geoRect );

用高德API生成對應(yīng)的可視化圖形如下：

有了這個矩形后，后面的做法就跟ES 2.0有些不同了。ES 2.2版本的思路是利用Quadtree對整個世界地圖進(jìn)行網(wǎng)格化。具體的流程如下：

Quadtree處理流程

第一步: 以經(jīng)緯度(0,0)為起始中心點(diǎn)，將整個世界切分成4個區(qū)塊。并判斷參數(shù)生成的矩形在哪個區(qū)塊。

第二步: 對于矩形區(qū)域不在的區(qū)域，略過。對于矩形區(qū)域所在的區(qū)塊，繼續(xù)四分，切成4個區(qū)塊。

第三步： 當(dāng)滿足如下任一條件時，將相關(guān)的文檔集合收集起來，作為第一批粗篩的結(jié)果。

條件一：切分到正好跟前綴的precisionStep契合，并且quad-cell在矩形內(nèi)部時。
條件二：切分到最小層級(level=13)時且quad-cell跟矩形區(qū)域有交集時。

第四步: 利用lucene的doc_values緩存機(jī)制，獲取每個docId對應(yīng)的經(jīng)緯度，利用距離公式計算是否在半徑范圍內(nèi)，得到最終的結(jié)果。(這個操作也是常規(guī)思路了)

另外ES在處理時進(jìn)行了版本兼容。

例如：ES 2.2版本對于geo_distance的實(shí)現(xiàn)關(guān)鍵點(diǎn)，判斷索引版本是否是V_2_2_0版本以后創(chuàng)建，如果是則直接用Lucene的GeoPointDistanceQuery查詢類，否則沿用ES 2.0版本的GeoDistanceRangeQuery。

IndexGeoPointFieldData indexFieldData = parseContext.getForField(fieldType);
final Query query;
if (parseContext.indexVersionCreated().before(Version.V_2_2_0)) {
    query = new GeoDistanceRangeQuery(point, null, distance, true, false, geoDistance, geoFieldType, indexFieldData, optimizeBbox);
} else {
    distance = GeoUtils.maxRadialDistance(point, distance);
    query = new GeoPointDistanceQuery(indexFieldData.getFieldNames().indexName(), point.lon(), point.lat(), distance);
}
 
if (queryName != null) {
    parseContext.addNamedQuery(queryName, query);
}

**核心代碼參考：**GeoPointDistanceQuery、GeoPointRadiusTermsEnum

3.4 Elasticsearch 5.0 版本

方案優(yōu)化的探索是沒有沒有止境的，Lucene的核心工程師 Michael McCandless受到論文《Bkd-Tree: A Dynamic Scalable kd-Tree》啟發(fā)，基于BKD tree再次升級了地理位置數(shù)據(jù)索引建模和查詢功能。

這個數(shù)據(jù)結(jié)構(gòu)不僅僅是用于解決地理位置查詢問題，更是數(shù)值類數(shù)據(jù)索引建模的通用方案。它可以處理一維的數(shù)值，從byte到BigDecimal, IPv6地址等等；它也可以處理二維乃至于N維的數(shù)據(jù)檢索問題。

LUCENE-6825

This can be used for very fast 1D range filtering for numerics, removing the 8 byte (long/double) limit we have today, so e.g. we could efficiently support BigInteger, BigDecimal, IPv6 addresses, etc.

It can also be used for > 1D use cases, like 2D (lat/lon) and 3D (x/y/z with geo3d) geo shape intersection searches.

...

It should give sizable performance gains (smaller index, faster searching) over what we have today, and even over what auto-prefix with efficient numeric terms would do.

在前面的版本中，對于數(shù)值區(qū)間查詢的處理思路本質(zhì)上都是term匹配，通過前綴實(shí)現(xiàn)了一個term管理一個區(qū)間，從而降低了區(qū)間查詢需要遍歷的term數(shù)量。而從ES 5.0版本開始，徹底優(yōu)化了數(shù)值查詢(從一維到N維)，其底層是Lucene 6.0版本實(shí)現(xiàn)的BKD tree的獨(dú)立索引。其實(shí)現(xiàn)不僅降低了內(nèi)存開銷，而且提升了檢索和索引速度。

關(guān)于bkd-tree的原理，其大體思路如下。在面對數(shù)值查詢區(qū)間查詢的問題上，大體分為兩個層次：

【優(yōu)化內(nèi)存查詢】：BST(binary-search-tree) > Self-balanced BST > kd-tree。

【優(yōu)化外存(硬盤)查詢】：B-tree > K-D-B-tree > BKD tree。

kd-tree其實(shí)就是多維的BST。例如：

**【數(shù)據(jù)存儲】：**BKD tree的核心思路是非常簡單的，將N維點(diǎn)集合形成的矩形空間(southWest,northEast)遞歸分割成更小的矩形空間。跟常見的kd-tree不同，當(dāng)分割到網(wǎng)格區(qū)域里面坐標(biāo)點(diǎn)的數(shù)量小于一定數(shù)量(比如1024)就停止了。

例如：

通過區(qū)域的分割，確保每個區(qū)域POI的數(shù)量大致相等。

**【數(shù)據(jù)查詢】：**搜索的時候，就不再是像Quadtree從整個世界開始定位，而是基于當(dāng)前的點(diǎn)集合形成的空間來查找。例如以geo_distance查詢?yōu)槔?/p>

其流程如下：

第一步: 中心點(diǎn)坐標(biāo)+半徑生成一個矩形(shape boundary)。這一步是常規(guī)操作了，前面的版本也都是這么做的。

**第二步：**該矩形跟BKD tree 葉子節(jié)點(diǎn)形成的矩形(cell)進(jìn)行intersect運(yùn)算，所謂intersect運(yùn)算，就是計算兩個矩形的位置關(guān)系：相交、內(nèi)嵌還是不相關(guān)。query和bkd-tree形成的區(qū)域有三種關(guān)系。

對于CELL_CROSSES_QUERY，如果是葉子節(jié)點(diǎn)，則需要判斷cell中的每個POI是否符合query的查詢條件；否則查詢子區(qū)間；對于CELL_OUTSIDE_QUERY，直接略過；對于CELL_INSIDE_QUERY，整個cell中的POI都滿足查詢條件。

核心代碼：LatLonPoint/LatLonPointDistanceQuery

3.5 后續(xù)發(fā)展

Geo查詢能力的迭代和變遷，其實(shí)也是Elasticsearch作為一個數(shù)據(jù)庫對數(shù)值查詢能力的升級和優(yōu)化，擴(kuò)展產(chǎn)品的適用場景，讓使用者打破對Elasticsearch只能做全文檢索的偏見。從全文檢索數(shù)據(jù)庫擴(kuò)展到分析型數(shù)據(jù)庫，Elasticsearch還有很長的路要走。

按照 Michael McCandless的設(shè)想，當(dāng)前的多維數(shù)據(jù)只能是單個點(diǎn)，但是有些場景需要將形狀作為一個維度進(jìn)行索引。在這種需求下，需要通過一種更普適化的k-d tree ，即R-Tree來實(shí)現(xiàn)。

路漫漫其修遠(yuǎn)兮，ES從2.0版本支持geo-spatial開始經(jīng)歷6年的發(fā)展，已經(jīng)走了很遠(yuǎn)，然而依然有很多值得探索的領(lǐng)域和場景。

參考: