最近“全網(wǎng)域（Web Scale）”一詞被炒得火熱，人們也正在通過擴展他們的應(yīng)用程序架構(gòu)來使他們的系統(tǒng)變得更加“全網(wǎng)域”。但是究竟什么是全網(wǎng)域？或者說如何確保全網(wǎng)域？

擴展的不同方面

全網(wǎng)域被炒作的最多的是擴展負載（Scaling load），比如支持單個用戶訪問的系統(tǒng)也可以支持10 個、100個、甚至100萬個用戶訪問。在理想情況下，我們的系統(tǒng)應(yīng)該保持盡可能的“無狀態(tài)化（stateless）”。即使必須存在狀態(tài)，也可以在網(wǎng)絡(luò)的不同處理終端上轉(zhuǎn)化并進行傳輸。當負載成為瓶頸時候，可能就不會出現(xiàn)延遲。所以對于單個請求來說，耗費50到100毫秒也是可以接受的。這就是所謂的橫向擴展（Scaling out）。

擴展在全網(wǎng)域優(yōu)化中的表現(xiàn)則完全不同，比如確保成功處理一條數(shù)據(jù)的算法也可成功處理10條、100條甚至100萬條數(shù)據(jù)。無論這種度量類型是是否可行，事件復雜度（大O符號）是最佳描述。延遲是性能擴展殺手。你會想盡辦法將所有的運算處理在同一臺機器上進行。這就是所謂的縱向擴展（Scaling up）。

如果天上能掉餡餅的話（當然這是不可能的），我們或許能把橫向擴展和縱向擴展組合起來。但是，今天我們只打算介紹下面幾條提升效率的簡單方法。

大O符號

Java 7的 ForkJoinPool 和Java8 的并行數(shù)據(jù)流（parallel Stream） 都對并行處理有所幫助。當在多核處理器上部署Java程序時表現(xiàn)尤為明顯，因所有的處理器都可以訪問相同的內(nèi)存。

所以，這種并行處理較之在跨網(wǎng)絡(luò)的不同機器上進行擴展，根本的好處是幾乎可以完全消除延遲。

但不要被并行處理的效果所迷惑！請謹記下面兩點：

• 并行處理會吃光處理器資源。并行處理為批處理帶來了極大的好處，但同時也是非同步服務(wù)器（如HTTP）的噩夢。有很多原因可以解釋，為什么在過去的幾十年中我們一直在使用單線程的Servlet模型。并行處理僅在縱向擴展時才能帶來實際的好處。
• 并行處理對算法復雜度沒有影響。如果你的算法的時間復雜度為 O(nlogn)，讓算法在 c 個處理器上運行，事件復雜度仍然為 O(nlogn/c)， 因為 c 只是算法中的一個無關(guān)緊要的常量。你節(jié)省的僅僅是時鐘時間（wall-clock time），實際的算法復雜度并沒有降低。

降低算法復雜度毫無疑問是改善性能最行之有效的辦法。比如對于一個 HashMap 實例的 lookup() 方法來說，事件復雜度 O(1) 或者空間復雜度 O(1) 是最快的。但這種情況往往是不可能的，更別提輕易地實現(xiàn)。

如果你不能降低算法的復雜度，也可以通過找到算法中的關(guān)鍵點并加以改善的方法，來起到改善性能的作用。假設(shè)我們有下面這樣的算法示意圖：

該算法的整體時間復雜度為 O(N3)，如果按照單獨訪問順序計算也可得出復雜度為 O(N x O x P)。但是不管怎樣，在我們分析這段代碼時會發(fā)現(xiàn)一些奇怪的場景：

• 在開發(fā)環(huán)境中，通過測試數(shù)據(jù)可以看到：左分支（N->M->Heavy operation）的時間復雜度 M 的值要大于右邊的 O 和 P，所以在我們的分析器中僅僅看到了左分支。
• 在生產(chǎn)環(huán)境中，你的維護團隊可能會通過 AppDynamics、DynaTrace 或其它小工具發(fā)現(xiàn)，真正導致問題的罪魁禍首是右分支（N -> O -> P -> Easy operation or also N.O.P.E.）。

在沒有生產(chǎn)數(shù)據(jù)參照的情況下，我們可能會輕易的得出要優(yōu)化“高開銷操作”的結(jié)論。但我們做出的優(yōu)化對交付的產(chǎn)品沒有起到任何效果。

優(yōu)化的金科玉律不外乎以下內(nèi)容：

• 良好的設(shè)計將會使優(yōu)化變得更加容易。
• 過早的優(yōu)化并不能解決多有的性能問題，但是不良的設(shè)計將會導致優(yōu)化難度的增加。

理論就先談到這里。假設(shè)我們已經(jīng)發(fā)現(xiàn)了問題出現(xiàn)在了右分支上，很有可能是因產(chǎn)品中的簡單處理因耗費了大量的時間而失去響應(yīng)（假設(shè)N、O和 P 的值非常大）， 請注意文章中提及的左分支的時間復雜度為 O(N3)。這里所做出的努力并不能擴展，但可以為用戶節(jié)省時間，將困難的性能改善推遲到后面再進行。

這里有10條改善Java性能的小建議：

1、使用StringBuilder

StingBuilder 應(yīng)該是在我們的Java代碼中默認使用的，應(yīng)該避免使用 + 操作符?；蛟S你會對 StringBuilder 的語法糖（syntax sugar）持有不同意見，比如：

String x = "a" + args.length + "b";

將會被編譯為：

0  new java.lang.StringBuilder [16]
 3  dup
 4  ldc <String "a"> [18]
 6  invokespecial java.lang.StringBuilder(java.lang.String) [20]
 9  aload_0 [args]
10  arraylength
11  invokevirtual java.lang.StringBuilder.append(int) : java.lang.StringBuilder [23]
14  ldc <String "b"> [27]
16  invokevirtual java.lang.StringBuilder.append(java.lang.String) : java.lang.StringBuilder [29]
19  invokevirtual java.lang.StringBuilder.toString() : java.lang.String [32]
22  astore_1 [x]

但究竟發(fā)生了什么？接下來是否需要用下面的部分來對 String 進行改善呢？

String x = "a" + args.length + "b";
 
if (args.length == 1)
    x = x + args[0];

現(xiàn)在使用到了第二個 StringBuilder，這個 StringBuilder 不會消耗堆中額外的內(nèi)存，但卻給 GC 帶來了壓力。

StringBuilder x = new StringBuilder("a");
x.append(args.length);
x.append("b");
 
if (args.length == 1);
    x.append(args[0]);

小結(jié)

在上面的樣例中，如果你是依靠Java編譯器來隱式生成實例的話，那么編譯的效果幾乎和是否使用了 StringBuilder 實例毫無關(guān)系。請記?。涸?nbsp; N.O.P.E 分支中，每次CPU的循環(huán)的時間到白白的耗費在GC或者為 StringBuilder 分配默認空間上了，我們是在浪費 N x O x P 時間。

一般來說，使用 StringBuilder 的效果要優(yōu)于使用 + 操作符。如果可能的話請在需要跨多個方法傳遞引用的情況下選擇 StringBuilder，因為 String 要消耗額外的資源。JOOQ在生成復雜的SQL語句便使用了這樣的方式。在整個抽象語法樹（AST Abstract Syntax Tree）SQL傳遞過程中僅使用了一個 StringBuilder 。

更加悲劇的是，如果你仍在使用 StringBuffer 的話，那么用 StringBuilder 代替 StringBuffer 吧，畢竟需要同步字符串的情況真的不多。

2、避免使用正則表達式

正則表達式給人的印象是快捷簡便。但是在 N.O.P.E 分支中使用正則表達式將是最糟糕的決定。如果萬不得已非要在計算密集型代碼中使用正則表達式的話，至少要將 Pattern 緩存下來，避免反復編譯Pattern。

static final Pattern HEAVY_REGEX =
 Pattern.compile("(((X)*Y)*Z)*");

如果僅使用到了如下這樣簡單的正則表達式的話：

String[] parts = ipAddress.split("\\.");

這是最好還是用普通的 char[] 數(shù)組或者是基于索引的操作。比如下面這段可讀性比較差的代碼其實起到了相同的作用。

int length = ipAddress.length();
int offset = 0;
int part = 0;
for (int i = 0; i < length; i++) {
    if (i == length - 1 ||
            ipAddress.charAt(i + 1) == '.') {
        parts[part] =
            ipAddress.substring(offset, i + 1);
        part++;
        offset = i + 2;
    }
}

上面的代碼同時表明了過早的優(yōu)化是沒有意義的。雖然與 split() 方法相比較，這段代碼的可維護性比較差。

挑戰(zhàn)：聰明的小伙伴能想出更快的算法嗎？

小結(jié)

正則表達式是十分有用，但是在使用時也要付出代價。尤其是在 N.O.P.E 分支深處時，要不惜一切代碼避免使用正則表達式。還要小心各種使用到正則表達式的JDK字符串方法，比如 String.replaceAll() 或 String.split()。可以選擇用比較流行的開發(fā)庫，比如 Apache Commons Lang 來進行字符串操作。

3、不要使用iterator()方法

這條建議不適用于一般的場合，僅適用于在 N.O.P.E 分支深處的場景。盡管如此也應(yīng)該有所了解。Java 5格式的循環(huán)寫法非常的方便，以至于我們可以忘記內(nèi)部的循環(huán)方法，比如：

for (String value : strings) {
 // Do something useful here
}

當每次代碼運行到這個循環(huán)時，如果 strings 變量是一個 Iterable 的話，代碼將會自動創(chuàng)建一個Iterator 的實例。如果使用的是 ArrayList 的話，虛擬機會自動在堆上為對象分配3個整數(shù)類型大小的內(nèi)存。

private class Itr implements Iterator<E> {
 int cursor;
 int lastRet = -1;
 int expectedModCount = modCount;
 // ...

也可以用下面等價的循環(huán)方式來替代上面的 for 循環(huán)，僅僅是在棧上“浪費”了區(qū)區(qū)一個整形，相當劃算。

int size = strings.size();
for (int i = 0; i < size; i++) {
 String value : strings.get(i);
 // Do something useful here
}

如果循環(huán)中字符串的值是不怎么變化，也可用數(shù)組來實現(xiàn)循環(huán)。

for (String value : stringArray) {
 // Do something useful here
}

小結(jié)

無論是從易讀寫的角度來說，還是從API設(shè)計的角度來說迭代器、Iterable接口和 foreach 循環(huán)都是非常好用的。但代價是，使用它們時是會額外在堆上為每個循環(huán)子創(chuàng)建一個對象。如果循環(huán)要執(zhí)行很多很多遍，請注意避免生成無意義的實例，最好用基本的指針循環(huán)方式來代替上述迭代器、Iterable接口和 foreach 循環(huán)。

討論

一些與上述內(nèi)容持反對意見的看法（尤其是用指針操作替代迭代器）詳見Reddit上的討論。

4、不要調(diào)用高開銷方法

有些方法的開銷很大。以 N.O.P.E 分支為例，我們沒有提到葉子的相關(guān)方法，不過這個可以有。假設(shè)我們的JDBC驅(qū)動需要排除萬難去計算 ResultSet.wasNull() 方法的返回值。我們自己實現(xiàn)的SQL框架可能像下面這樣：

if (type == Integer.class) {
    result = (T) wasNull(rs,
        Integer.valueOf(rs.getInt(index)));
}
 
// And then...
static final <T> T wasNull(ResultSet rs, T value)
throws SQLException {
    return rs.wasNull() ? null : value;
}

在上面的邏輯中，每次從結(jié)果集中取得 int 值時都要調(diào)用 ResultSet.wasNull() 方法，但是 getInt() 的方法定義為：

返回類型：變量值；如果SQL查詢結(jié)果為NULL，則返回0。

所以一個簡單有效的改善方法如下：

static final <T extends Number> T wasNull(
    ResultSet rs, T value
)
throws SQLException {
    return (value == null ||
           (value.intValue() == 0 && rs.wasNull()))
        ? null : value;
}

這是輕而易舉的事情。

小結(jié)

將方法調(diào)用緩存起來替代在葉子節(jié)點的高開銷方法，或者在方法約定允許的情況下避免調(diào)用高開銷方法。

5、使用原始類型和棧

上面介紹了來自 jOOQ的例子中使用了大量的泛型，導致的結(jié)果是使用了 byte、 short、 int 和 long 的包裝類。但至少泛型在Java 10或者Valhalla項目中被專門化之前，不應(yīng)該成為代碼的限制。因為可以通過下面的方法來進行替換：

//存儲在堆上
Integer i = 817598;

……如果這樣寫的話：

// 存儲在棧上
int i = 817598;

在使用數(shù)組時情況可能會變得更加糟糕：

//在堆上生成了三個對象
Integer[] i = { 1337, 424242 };

……如果這樣寫的話：

// 僅在堆上生成了一個對象
int[] i = { 1337, 424242 };

小結(jié)

當我們處于 N.O.P.E. 分支的深處時，應(yīng)該極力避免使用包裝類。這樣做的壞處是給GC帶來了很大的壓力。GC將會為清除包裝類生成的對象而忙得不可開交。

所以一個有效的優(yōu)化方法是使用基本數(shù)據(jù)類型、定長數(shù)組，并用一系列分割變量來標識對象在數(shù)組中所處的位置。

遵循LGPL協(xié)議的 trove4j 是一個Java集合類庫，它為我們提供了優(yōu)于整形數(shù)組 int[] 更好的性能實現(xiàn)。

例外

下面的情況對這條規(guī)則例外：因為 boolean 和 byte 類型不足以讓JDK為其提供緩存方法。我們可以這樣寫：

Boolean a1 = true; // ... syntax sugar for:
Boolean a2 = Boolean.valueOf(true);
 
Byte b1 = (byte) 123; // ... syntax sugar for:
Byte b2 = Byte.valueOf((byte) 123);

其它整數(shù)基本類型也有類似情況，比如 char、short、int、long。

不要在調(diào)用構(gòu)造方法時將這些整型基本類型自動裝箱或者調(diào)用 TheType.valueOf() 方法。

也不要在包裝類上調(diào)用構(gòu)造方法，除非你想得到一個不在堆上創(chuàng)建的實例。這樣做的好處是為你為同事獻上一個巨坑的愚人節(jié)笑話。

非堆存儲

當然了，如果你還想體驗下堆外函數(shù)庫的話，盡管這可能參雜著不少戰(zhàn)略決策，而并非最樂觀的本地方案。一篇由Peter Lawrey和 Ben Cotton撰寫的關(guān)于非堆存儲的很有意思文章請點擊： OpenJDK與HashMap——讓老手安全地掌握（非堆存儲?。┬录记?/a>。

當我們想遍歷一個用鍵值對形式保存的 Map 時，必須要為下面的代碼找到一個很好的理由：

for (K key : map.keySet()) {
    V value : map.get(key);
}

更不用說下面的寫法：

for (Entry<K, V> entry : map.entrySet()) {
    K key = entry.getKey();
    V value = entry.getValue();
}

在我們使用 N.O.P.E. 分支應(yīng)該慎用map。因為很多看似時間復雜度為 O(1) 的訪問操作其實是由一系列的操作組成的。而且訪問本身也不是免費的。至少，如果不得不使用map的話，那么要用 entrySet() 方法去迭代！這樣的話，我們要訪問的就僅僅是Map.Entry的實例。

小結(jié)

在需要迭代鍵值對形式的Map時一定要用 entrySet() 方法。

8、使用EnumSet或EnumMap

在某些情況下，比如在使用配置map時，我們可能會預先知道保存在map中鍵值。如果這個鍵值非常小，我們就應(yīng)該考慮使用 EnumSet 或 EnumMap，而并非使用我們常用的 HashSet 或 HashMap。下面的代碼給出了很清楚的解釋：

private transient Object[] vals;
 
public V put(K key, V value) {
    // ...
    int index = key.ordinal();
    vals[index] = maskNull(value);
    // ...
}

上段代碼的關(guān)鍵實現(xiàn)在于，我們用數(shù)組代替了哈希表。尤其是向map中插入新值時，所要做的僅僅是獲得一個由編譯器為每個枚舉類型生成的常量序列號。如果有一個全局的map配置（例如只有一個實例），在增加訪問速度的壓力下，EnumMap 會獲得比 HashMap 更加杰出的表現(xiàn)。原因在于 EnumMap 使用的堆內(nèi)存比 HashMap 要少 一位（bit），而且 HashMap 要在每個鍵值上都要調(diào)用 hashCode() 方法和 equals() 方法。

小結(jié)

Enum 和 EnumMap 是親密的小伙伴。在我們用到類似枚舉（enum-like）結(jié)構(gòu)的鍵值時，就應(yīng)該考慮將這些鍵值用聲明為枚舉類型，并將之作為 EnumMap 鍵。

9、優(yōu)化自定義hasCode()方法和equals()方法

在不能使用EnumMap的情況下，至少也要優(yōu)化 hashCode() 和 equals() 方法。一個好的 hashCode() 方法是很有必要的，因為它能防止對高開銷 equals() 方法多余的調(diào)用。

在每個類的繼承結(jié)構(gòu)中，需要容易接受的簡單對象。讓我們看一下jOOQ的 org.jooq.Table 是如何實現(xiàn)的？

最簡單、快速的 hashCode() 實現(xiàn)方法如下：

// AbstractTable一個通用Table的基礎(chǔ)實現(xiàn)：
 
@Override
public int hashCode() {
 
    // [#1938] 與標準的QueryParts相比，這是一個更加高效的hashCode()實現(xiàn)
    return name.hashCode();
}

name即為表名。我們甚至不需要考慮schema或者其它表屬性，因為表名在數(shù)據(jù)庫中通常是唯一的。并且變量 name 是一個字符串，它本身早就已經(jīng)緩存了一個 hashCode() 值。

這段代碼中注釋十分重要，因繼承自 AbstractQueryPart 的 AbstractTable 是任意抽象語法樹元素的基本實現(xiàn)。普通抽象語法樹元素并沒有任何屬性，所以不能對優(yōu)化 hashCode() 方法實現(xiàn)抱有任何幻想。覆蓋后的 hashCode() 方法如下：

// AbstractQueryPart一個通用抽象語法樹基礎(chǔ)實現(xiàn)：
 
@Override
public int hashCode() {
    // 這是一個可工作的默認實現(xiàn)。
    // 具體實現(xiàn)的子類應(yīng)當覆蓋此方法以提高性能。
    return create().renderInlined(this).hashCode();
}

換句話說，要觸發(fā)整個SQL渲染工作流程（rendering workflow）來計算一個普通抽象語法樹元素的hash代碼。

equals() 方法則更加有趣：

// AbstractTable通用表的基礎(chǔ)實現(xiàn)：
 
@Override
public boolean equals(Object that) {
    if (this == that) {
        return true;
    }
 
    // [#2144] 在調(diào)用高開銷的AbstractQueryPart.equals()方法前，
    // 可以及早知道對象是否不相等。
    if (that instanceof AbstractTable) {
        if (StringUtils.equals(name,
            (((AbstractTable<?>) that).name))) {
            return super.equals(that);
        }
 
        return false;
    }
 
    return false;
}

首先，不要過早使用 equals() 方法（不僅在N.O.P.E.中），如果：

• this == argument
• this“不兼容：參數(shù)

注意：如果我們過早使用 instanceof 來檢驗兼容類型的話，后面的條件其實包含了argument == null。我在以前的博客中已經(jīng)對這一點進行了說明，請參考10個精妙的Java編碼最佳實踐。

在我們對以上幾種情況的比較結(jié)束后，應(yīng)該能得出部分結(jié)論。比如jOOQ的 Table.equals() 方法說明是，用來比較兩張表是否相同。不論具體實現(xiàn)類型如何，它們必須要有相同的字段名。比如下面兩個元素是不可能相同的：

• com.example.generated.Tables.MY_TABLE
• DSL.tableByName(“MY_OTHER_TABLE”)

如果我們能方便地判斷傳入?yún)?shù)是否等于實例本身（this），就可以在返回結(jié)果為 false 的情況下放棄操作。如果返回結(jié)果為 true，我們還可以進一步對父類（super）實現(xiàn)進行判斷。在比較過的大多數(shù)對象都不等的情況下，我們可以盡早結(jié)束方法來節(jié)省CPU的執(zhí)行時間。

一些對象的相似度比其它對象更高。

在jOOQ中，大多數(shù)的表實例是由jOOQ的代碼生成器生成的，這些實例的 equals() 方法都經(jīng)過了深度優(yōu)化。而數(shù)十種其它的表類型（衍生表 （derived tables）、表值函數(shù)（table-valued functions）、數(shù)組表（array tables）、連接表（joined tables）、數(shù)據(jù)透視表（pivot tables）、公用表表達式（common table expressions）等，則保持 equals() 方法的基本實現(xiàn)。

10、考慮使用set而并非單個元素

最后，還有一種情況可以適用于所有語言而并非僅僅同Java有關(guān)。除此以外，我們以前研究的 N.O.P.E. 分支也會對了解從 O(N3) 到 O(n log n)有所幫助。

不幸的是，很多程序員的用簡單的、本地算法來考慮問題。他們習慣按部就班地解決問題。這是命令式（imperative）的“是/或”形式的函數(shù)式編程風格。這種編程風格在由純粹命令式編程向面對象式編程向函數(shù)式編程轉(zhuǎn)換時，很容易將“更大的場景（bigger picture）”模型化，但是這些風格都缺少了只有在SQL和R語言中存在的：

聲明式編程。

在SQL中，我們可以在不考慮算法影響下聲明要求數(shù)據(jù)庫得到的效果。數(shù)據(jù)庫可以根據(jù)數(shù)據(jù)類型，比如約束（constraints）、鍵（key）、索引（indexes）等不同來采取最佳的算法。

在理論上，我們最初在SQL和關(guān)系演算（relational calculus）后就有了基本的想法。在實踐中，SQL的供應(yīng)商們在過去的幾十年中已經(jīng)實現(xiàn)了基于開銷的高效優(yōu)化器CBOs (Cost-Based Optimisers) 。然后到了2010版，我們才終于將SQL的所有潛力全部挖掘出來。

但是我們還不需要用set方式來實現(xiàn)SQL。所有的語言和庫都支持Sets、collections、bags、lists。使用set的主要好處是能使我們的代碼變的簡潔明了。比如下面的寫法：

SomeSet INTERSECT SomeOtherSet

而不是

// Java 8以前的寫法
Set result = new HashSet();
for (Object candidate : someSet)
    if (someOtherSet.contains(candidate))
        result.add(candidate);
 
// 即使采用Java 8也沒有很大幫助
someSet.stream()
       .filter(someOtherSet::contains)
       .collect(Collectors.toSet());

有些人可能會對函數(shù)式編程和Java 8能幫助我們寫出更加簡單、簡潔的算法持有不同的意見。但這種看法不一定是對的。我們可以把命令式的Java 7循環(huán)轉(zhuǎn)換成Java 8的Stream collection，但是我們還是采用了相同的算法。但SQL風格的表達式則是不同的：

SomeSet INTERSECT SomeOtherSet

總結(jié)

在這篇文章中，我們討論了關(guān)于N.O.P.E.分支的優(yōu)化。比如深入高復雜性的算法。作為jOOQ的開發(fā)者，我們很樂于對SQL的生成進行優(yōu)化。

• 每條查詢都用唯一的StringBuilder來生成。
• 模板引擎實際上處理的是字符而并非正則表達式。
• 選擇盡可能的使用數(shù)組，尤其是在對監(jiān)聽器進行迭代時。
• 對JDBC的方法敬而遠之。
• 等等。

jOOQ處在“食物鏈的底端”，因為它是在離開JVM進入到DBMS時，被我們電腦程序所調(diào)用的最后一個API。位于食物鏈的底端意味著任何一條線路在jOOQ中被執(zhí)行時都需要 N x O x P 的時間，所以我要盡早進行優(yōu)化。

我們的業(yè)務(wù)邏輯可能沒有N.O.P.E.分支那么復雜。但是基礎(chǔ)框架有可能十分復雜（本地SQL框架、本地庫等）。所以需要按照我們今天提到的原則，用Java Mission Control 或其它工具進行復查，確認是否有需要優(yōu)化的地方。

原文鏈接： jaxenter 翻譯： ImportNew.com - 一直在路上
譯文鏈接： http://www.importnew.com/16181.html