整合營銷服務商

          電腦端+手機端+微信端=數據同步管理

          免費咨詢熱線:

          超越最新視頻壓縮標準H.266,字節跳動編碼讓視頻縮小13%

          器之心發布

          機器之心編輯部

          聯合視頻專家組 JVET 官網顯示,字節跳動設立在美國的研發團隊于今年初發起了一項視頻壓縮技術提案,并命名為 DAM(Deep-filtering with Adaptive Model-selection)。相比 H.266/VVC 最新標準,DAM 能夠為視頻編碼性能帶來顯著提升,亮度信號 Y 可實現 10.28% 的性能增益。兩個色度信號 U 和 V 的性能增益也分別達到 28.22% 和 27.97%。這是業界公開的單個智能編碼工具的最佳性能增益。


          視頻編解碼是視頻應用的底層核心技術,作用是對圖像進行壓縮和數字編碼,以盡可能小的帶寬傳送盡可能高質量的視頻數據。H.264 是現在被廣泛使用的視頻編解碼標準,在同等視頻質量下,H.265/HEVC 標準可以讓視頻體積減小一半。H.265 尚未完全普及,新一代標準 H.266/VVC 比 H.265 讓視頻又減小一半。

          這并不是視頻編碼技術的盡頭。

          今年初,字節跳動先進視頻團隊(AVG)向聯合視頻專家組 JVET 發起了一項 JVET-U0068 技術提案,可以為視頻壓縮的三個顏色分量(Y, U, V)分別實現約 10%、28%、28% 的性能增益,這是業界公開的單個智能編碼工具的最佳性能增益。在優化壓縮質量的同時,視頻體積相比 H.266 最新標準至少還可以縮小 13%。就其實際效果而言,如果新技術得以應用,與現在主流的 H.264 標準相比,我們看同樣質量的視頻,大約只需要 22% 的帶寬和存儲空間。

          這項技術名為 DAM(Deep-filtering with Adaptive Model-selection),它是通過深度學習技術構建減少視頻壓縮失真的濾波器,主干是基于殘差單元堆疊的深度卷積神經網絡,輔以自適應模型選擇以最大程度適應特性復雜的自然視頻。該技術由字節跳動 AVG 的美國加州研發團隊實現,成員來自高通、英特爾、微軟等巨頭以及海內外多家頂級院校。

          我們先從下圖示例中對比 H.264 與 H.266+DAM 的視頻壓縮效果:

          可以看到,相同壓縮比條件下,H.266+DAM 編碼壓縮質量遠遠優于 H.264。

          除了視頻壓縮質量提升之外,應用 DAM 技術可以比H.266再縮小 13% 的數據體積,以下圖片來自國際標準組織的測試視頻。其中,圖(左)為原圖,每像素 12 字節;圖(中)使用 VTM11.0 壓縮(qp=42),每像素 0.00216字節,峰值信噪比 27.78dB;圖(右)使用 VTM11.0+DAM(qp=42),每像素 0.00184 字節,峰值信噪比 28.02dB。

          對比圖(中)和圖(右)可以看出,應用 DAM 技術后,圖(右)壓縮比更高,峰值信噪比(客觀質量)更好,主觀質量也相對更好。

          圖1. 左:原圖, 12bpp,中:VTM-11.0壓縮,QP42,0.00216bpp,27.78dB,右:VTM-11.0+DAM,QP42, 0.00184bpp,28.02dB

          技術細節

          DAM 的構建方法

          提案 JVET-U0068 所介紹的 DAM 是字節跳動 AVG 此前一項提案 JVET-T0088 的擴展版本。

          在具體實現上,為了減輕深度網絡的訓練難度,DAM 算法利用殘差單元作為基本模塊,并多次堆疊來構建最終網絡。所謂殘差單元是指通過引入跳層連接,允許網絡把注意力放在變化的殘差上。為了處理不同類型的內容,新技術針對不同類型的 slice 和質量級別訓練不同網絡。此外,還引入了一些新特性來提高編碼性能。

          圖 1:(a)是卷積神經網絡濾波器的架構,M 代表特征圖的數量,N 代表特征圖的空間分辨率;(b)是(a)中殘差塊的結構。

          DAM 濾波方法的主干如上圖 1 所示,為了增加感受野,降低復雜度,此方法包含一個步幅為 2 的卷積層,該層將特征圖的空間分辨率在水平方向和垂直方向都降低到輸入大小的一半,這一層輸出的特征圖會經過若干順序堆疊的殘差單元。最后一個卷積層以最后一個殘差單元的特征圖作為輸入,輸出 4 個子特征圖。最后,shuffle 層會生成空間分辨率與輸入相同的濾波圖像。

          與此架構相關的其他細節如下:

          • 對于所有卷積層,使用 3x3 的卷積核。對于內部卷積層,特征圖數量設置為 128。對于激活函數,使用 PReLU;
          • 針對不同 slice 類型訓練不同的模型;
          • 當為 intra slice 訓練卷積神經網絡濾波器時,預測和分塊信息也被輸入網絡。

          新特性:自適應模型選擇

          在 JVET-T0088 的卷積神經網絡結構基礎上,JVET-U0068 引入了以下幾種新特性:

          • 首先,每個 slice 或 CTU 單元可以決定是否使用基于卷積神經網絡的濾波器;
          • 其次,當某個 slice 或者 CTU 單元確定使用基于卷積神經網絡的濾波器時,可以進一步確定使用三個候選模型中的哪個模型。為此目的,使用 {17,22,27,32,37,42} 中的 QP 數值訓練不同模型。將編碼當前 slice 或 CTU 的 QP 記作 q,那么候選模型由針對 {q,q-5,q-10} 訓練的三個模型構成。選擇過程基于率失真代價函數,然后將相關模式表征信息寫入碼流;
          • 第三,基于卷積神經網絡的濾波器在所有層都被啟用;
          • 最后,現有濾波器中的去塊濾波和 SAO 被關掉,而 ALF(和 CCALF)則被置于基于卷積神經網絡濾波器后面。

          在線推斷及訓練

          推斷過程中使用 PyTorch 在 VTM 中執行 DAM 深度學習的在線推斷,下表 1 是根據 JVET 建議給出的網絡信息:

          表 1。

          訓練過程中以 PyTorch 為訓練平臺,采用 DIV2K 和 BVI-DVC 數據集,分別訓練針對 intra slice 和 inter slice 的卷積神經網絡濾波器,并且訓練不同的模型以適應不同的 QP 點,訓練階段的網絡信息根據 JVET 建議列于下表 2 中。

          注意,當訓練 inter slice 濾波器時,預測信息也被用作輸入,而在 JVET-T0088 中,它僅用于 intra slice。

          表 2。

          下圖 2 給出了訓練集和驗證集損失函數的一個示例。

          圖 2。

          實驗結果:三個顏色分量(亮度 Y 和色度 Cb、Cr)性能增益顯著

          考慮到 VTM-9.0 和 VTM-10.0 之間的微小差異,并根據 JVET 定義的常規測試條件,在 VTM-9.0 上測試了字節跳動 AVG 的 DAM 技術提案,測試結果如下表 3 和表 4 所示。

          結果顯示,在 RA 構型下,Y、Cb 和 Cr 的 BD-rate 節省分別為 10.28%、28.22% 和 27.97%;在 AI 配置下,對 Y、Cb 和 Cr 分別可帶來 8.33%、23.11% 和 23.55% 的 BD-rate 節省。

          表 3:AVG 提案在 VTM9.0(RA)上的性能表現。

          表 4:AVG 提案在 VTM9.0(AI)上的性能表現。

          總結

          實測證明,字節跳動 AVG 的這項視頻編碼技術創新,可以讓視頻的數據體積相比 H.266 最新國際標準再縮小 13%。對視頻服務商來說,存儲和帶寬成本將顯著降低;對用戶來說,在網速較慢的情況下也可以流暢觀看高清視頻。

          但正如前文所述,早在 2013年正式通過的 H.265,如今還沒有完全普及。一方面,高昂的專利授權費用導致生產硬件設備和生產內容的廠商無法承擔,用戶也只能買并不支持 H.265 標準的設備;另一方面,H.265 的專利收費很復雜,想要使用 H.265 得分別多次繳專利費。因此,目前最常見的還是 18 年前的 H.264 標準。

          盡管 H.266 新一代標準的推廣還有很長的路要走,字節跳動 AVG 的技術探索并不會停止,其研究成果也會通過自主研發的 BVC 編碼器投入應用,為抖音、西瓜視頻、等 App 的視頻類內容處理,以及云計算、云游戲等基礎架構領域創造更高清畫質、更流暢播放的視頻體驗。

          ue.js 的核心是一個響應的數據綁定系統,它允許我們在普通 HTML 模板中使用特殊的語法將 DOM “綁定”到底層數據。被綁定的DOM 將與數據保持同步,每當數據有改動,相應的DOM視圖也會更新。基于這種特性,通過vue.js動態綁定class就變得非常簡單。

          思路:以某一頁面樣式需要單獨適配iphonex為例

          方式一.對象的形式(第一個參數 類名, 第二個參數:boolean值) :class="{'footer':isIphoneX}"

          //某一頁面適配iPhone X
          <div class="bottom" :class="{'footer':isIphoneX}">
          </div>
           data () {
           return {
           isIphoneX:false
           }
           },
           mounted () {
           if(window.screen.width==375&&window.screen.height==812){
           this.isIphoneX = true
           }
          

          渲染后的

          渲染后的HTML:
          <div class="bottom footer">
          </div>
          

          如圖:

          image

          優點:以對象的形式可以寫多個,用逗號分開 <div :class="{'p1' : false, 'p': true}"></div>

          方式二.三元表達式(放在數組中,類名要用引號) :class="[isIphoneX ? 'bottom' : 'footer']"

          //某一頁面適配iPhone X
          <div :class="[isIphoneX ? 'bottom' : 'footer']">
          </div>
          

          渲染后:

          渲染后的HTML:
          <div class="footer">
          </div>
          

          image.gif

          如圖:

          image

          **方式三.動態數組里的變量 **:class="[isTrue, isFalse]"

          //某一頁面適配iPhone X
          <div :class="[{'footer':isIphoneX} , 'bottom']">
          </div>
          

          渲染后和方法一是一樣的。vue數據和class都符合雙向綁定的規則!

          omcat是什么?

          Tomcat是開源的 Java Web 應用服務器,實現了 Java EE 的部分技術規范,比如 Java Servlet、Java Server Page、JSTL、Java WebSocket。Java EE 是 Sun 公 司為企業級應用推出的標準平臺,定義了一系列用于企業級開發的技術規范。除了上述的之外,還有 EJB、Java Mail、JPA、JTA、JMS 等,而這些都依賴具體容器的實現。


          上圖對比了 Java EE 容器的實現情況,Tomcat 和 Jetty 都只提供了 Java Web 容器必需的 Servlet 和 JSP 規范,開發者要想實現其他的功能,需要自己依賴其他開源實現。

          Glassfish 是由 sun 公司推出,Java EE 最新規范出來之后,首先會在 Glassfish 上進行實現,所以是研究 Java EE 最新技術的首選。

          最常見的情況是使用 Tomcat 作為 Java Web 服務器,使用 Spring 提供的開箱即用的強大功能,并依賴其他開源庫來完成負責的業務功能實現。

          Servlet容器

          Tomcat 組成

          如下圖所示,主要有 Container 和 Connector 以及相關組件構成。


          • Server:指的就是整個 Tomcat 服 務器,包含多組服務,負責管理和 啟動各個 Service,同時監聽 8005 端口發過來的 shutdown 命令,用 于關閉整個容器 ;
          • Service:Tomcat 封裝的、對外提 供完整的、基于組件的 web 服務, 包含 Connectors、Container 兩個 核心組件,以及多個功能組件,各 個 Service 之間是獨立的,但是共享 同一 JVM 的資源 ;
          • Connector:Tomcat 與外部世界的連接器,監聽固定端口接收外部請求,傳遞給 Container,并 將 Container 處理的結果返回給外部
          • Container:Catalina,Servlet 容器,內部有多層容器組成,用于管理 Servlet 生命周期,調用 servlet 相關方法
          • Loader:封裝了 Java ClassLoader,用于 Container 加載類文件;Realm:Tomcat 中為 web 應用程序提供訪問認證和角色管理的機制;
          • JMX:Java SE 中定義技術規范,是一個為應用程序、設備、系統等植入管理功能的框架,通過 JMX 可以遠程監控 Tomcat 的運行狀態
          • Jasper:Tomcat 的 Jsp 解析引擎,用于將 Jsp 轉換成 Java 文件,并編譯成 class 文件。Session:負責管理和創建 session,以及 Session 的持久化(可自定義),支持 session 的集群。
          • Pipeline:在容器中充當管道的作用,管道中可以設置各種 valve(閥門),請求和響應在經由管 道中各個閥門處理,提供了一種靈活可配置的處理請求和響應的機制。
          • Naming:命名服務,JNDI, Java 命名和目錄接口,是一組在 Java 應用中訪問命名和目錄服務的 API。命名服務將名稱和對象聯系起來,使得我們可以用名稱訪問對象,目錄服務也是一種命名 服務,對象不但有名稱,還有屬性。Tomcat 中可以使用 JNDI 定義數據源、配置信息,用于開發 與部署的分離。


          Container組成


          • Engine:Servlet 的頂層容器,包含一 個或多個 Host 子容器;
          • Host:虛擬主機,負責 web 應用的部 署和 Context 的創建;
          • Context:Web 應用上下文,包含多個 Wrapper,負責 web 配置的解析、管 理所有的 Web 資源;
          • Wrapper:最底層的容器,是對 Servlet 的封裝,負責 Servlet 實例的創 建、執行和銷毀。


          生命周期管理

          Tomcat 為了方便管理組件和容器的生命周期,定義了從創建、啟動、到停止、銷毀共 12 種狀態

          tomcat 生命周期管理了內部狀態變化的規則控制,組件和容器只需實現相應的生命周期方法,即可完成各生命周期內的操作(initInternal、startInternal、stopInternal、 destroyInternal);

          比如執行初始化操作時,會判斷當前狀態是否 New,如果不是則拋出生命周期異常;是的話則設置當前狀態為 Initializing,并執行 initInternal 方法,由子類實現,方法執行成功則設置當前狀態為 Initialized,執行失敗則設置為 Failed 狀態;

          Tomcat 的生命周期管理引入了事件機制,在組件或容器的生命周期狀態發生變化時會通知事件監聽器,監聽器通過判斷事件的類型來進行相應的操作。事件監聽器的添加可以在 server.xml 文件中進行配置;

          Tomcat 各類容器的配置過程是通過添加 listener 的方式來進行的,從而達到配置邏輯與容器的解耦。如 EngineConfig、HostConfig、ContextConfig。

          • EngineConfig:主要打印啟動和停止日志
          • HostConfig:主要處理部署應用,解析應用 META-INF/context.xml 并創建應用
          • Context ContextConfig:主要解析并合并 web.xml,掃描應用的各類 web 資源 (filter、servlet、listener)


          Tomcat 的啟動過程

          啟動從 Tomcat 提供的 start.sh 腳本開始,shell 腳本會調用 Bootstrap 的 main 方法,實際調用了 Catalina 相應的 load、start 方法。

          load 方法會通過 Digester 進行 config/server.xml 的解析,在解析的過程中會根據 xml 中的關系 和配置信息來創建容器,并設置相關的屬性。

          接著 Catalina 會調用 StandardServer 的 init 和 start 方法進行容器的初始化和啟動。

          按照 xml 的配置關系,server 的子元素是 service,service 的子元素是頂層容器 Engine,每層容器都持有自己的子容器,而這些元素都實現了生命周期管理的各個方法,因此就很容易的完成整個容器的啟動、關閉等生命周期的管理。

          StandardServer 完成 init 和 start 方法調用后,會一直監聽來自 8005 端口(可配置)

          如果接收 到 shutdown 命令,則會退出循環監聽,執行后續的 stop 和 destroy 方法,完成 Tomcat 容器的關閉。

          同時也會調用 JVM 的 Runtime.getRuntime()?.addShutdownHook 方法,在虛擬機意外退出的時候來關閉容器。

          所有容器都是繼承自 ContainerBase,基類中封裝了容器中的重復工作,負責啟動容器相關的組件 Loader、Logger、Manager、Cluster、Pipeline,啟動子容器(線程池并發啟動子容器,通過線程池 submit 多個線程,調用后返回 Future 對象,線程內部啟動子容器,接著調用 Future 對象 的 get 方法來等待執行結果)。

          List<future> results = new ArrayList<future>();

          for (int i = 0; i < children.length; i++) {

          results.add(startStopExecutor.submit(new StartChild(children[i])));

          }

          boolean fail = false;

          for (Futureresult :results) {

          try {

          result.get();

          } catch (Exception e) {

          log.error(sm.getString("containerBase.threadedStartFailed"), e);

          fail = true;

          }

          }

          Web 應用的部署方式

          注:catalina.home:安裝目錄;catalina.base:工作目錄;默認值 user.dir

          • Server.xml 配置 Host 元素,指定 appBase 屬性,默認$catalina.base/webapps/
          • Server.xml 配置 Context 元素,指定 docBase,元素,指定 web 應用的路徑
          • 自定義配置:在$catalina.base/EngineName/HostName/XXX.xml 配置 Context 元素

          HostConfig 監聽了 StandardHost 容器的事件,在 start 方法中解析上述配置文件:

          • 掃描 appbase 路徑下的所有文件夾和 war 包,解析各個應用的 META-INF/context.xml,并 創建 StandardContext,并將 Context 加入到 Host 的子容器中。
          • 解析$catalina.base/EngineName/HostName/下的所有 Context 配置,找到相應 web 應 用的位置,解析各個應用的 META-INF/context.xml,并創建 StandardContext,并將 Context 加入到 Host 的子容器中。


          注:

          • HostConfig 并沒有實際解析 Context.xml,而是在 ContextConfig 中進行的。
          • HostConfig 中會定期檢查 watched 資源文件(context.xml 配置文件)

          ContextConfig 解析 context.xml 順序:

          • 先解析全局的配置 config/context.xml
          • 然后解析 Host 的默認配置 EngineName/HostName/context.xml.default
          • 最后解析應用的 META-INF/context.xml

          ContextConfig 解析 web.xml 順序:

          • 先解析全局的配置 config/web.xml
          • 然后解析 Host 的默認配置 EngineName/HostName/web.xml.default 接著解析應用的 MEB-INF/web.xml
          • 掃描應用 WEB-INF/lib/下的 jar 文件,解析其中的 META-INF/web-fragment.xml 最后合并 xml 封裝成 WebXml,并設置 Context


          注:

          • 掃描 web 應用和 jar 中的注解(Filter、Listener、Servlet)就是上述步驟中進行的。
          • 容器的定期執行:backgroundProcess,由 ContainerBase 來實現的,并且只有在頂層容器 中才會開啟線程。(backgroundProcessorDelay=10 標志位來控制)


          Servlet 生命周期


          Servlet 是用 Java 編寫的服務器端程序,其主要功能在于交互式地瀏覽和修改數據,生成動態 Web 內容。

          1. 請求到達 server 端,server 根據 url 映射到相應的 Servlet
          2. 判斷 Servlet 實例是否存在,不存在則加載和實例化 Servlet 并調用 init 方法
          3. Server 分別創建 Request 和 Response 對象,調用 Servlet 實例的 service 方法(service 方法 內部會根據 http 請求方法類型調用相應的 doXXX 方法)
          4. doXXX 方法內為業務邏輯實現,從 Request 對象獲取請求參數,處理完畢之后將結果通過 response 對象返回給調用方
          5. 當 Server 不再需要 Servlet 時(一般當 Server 關閉時),Server 調用 Servlet 的 destroy() 方 法。


          load on startup

          當值為 0 或者大于 0 時,表示容器在應用啟動時就加載這個 servlet; 當是一個負數時或者沒有指定時,則指示容器在該 servlet 被選擇時才加載; 正數的值越小,啟動該 servlet 的優先級越高;

          single thread model

          每次訪問 servlet,新建 servlet 實體對象,但并不能保證線程安全,同時 tomcat 會限制 servlet 的實例數目

          最佳實踐:不要使用該模型,servlet 中不要有全局變量

          請求處理過程


          1. 根據 server.xml 配置的指定的 connector 以及端口監聽 http、或者 ajp 請求
          2. 請求到來時建立連接,解析請求參數,創建 Request 和 Response 對象,調用頂層容器 pipeline 的 invoke 方法
          3. 容器之間層層調用,最終調用業務 servlet 的 service 方法
          4. Connector 將 response 流中的數據寫到 socket 中

          Pipeline 與 Valve

          Pipeline 可以理解為現實中的管道,Valve 為管道中的閥門,Request 和 Response 對象在管道中 經過各個閥門的處理和控制。

          每個容器的管道中都有一個必不可少的 basic valve,其他的都是可選的,basic valve 在管道中最 后調用,同時負責調用子容器的第一個 valve。

          Valve 中主要的三個方法:setNext、getNext、invoke;valve 之間的關系是單向鏈式結構,本身 invoke 方法中會調用下一個 valve 的 invoke 方法。

          各層容器對應的 basic valve 分別是 StandardEngineValve、StandardHostValve、 StandardContextValve、StandardWrapperValve。

          JSP引擎

          JSP 生命周期

          • 編譯階段:servlet 容器編譯 servlet 源文
          • 件,生成 servlet 類
          • 初始化階段:加載與 JSP 對應的 servlet 類, 創建其實例,并調用它的初始化方法
          • 執行階段:調用與 JSP 對應的 servlet 實例的 服務方法
          • 銷毀階段:調用與 JSP 對應的 servlet 實例的 銷毀方法,然后銷毀 servlet 實例


          JSP元素

          代碼片段:<%>

          JSP聲明:<%! ...="">

          JSP表達式:<%=>

          JSP注釋:<%-->

          JSP指令:<%@ directive="" attribute="“value”">

          JSP行為:

          HTML元素:html/head/body/div/p/…

          JSP隱式對象:request、response、out、session、application、config、pageContext、page、Exception

          JSP 元素說明

          • 代碼片段:包含任意量的 Java 語句、變量、方法或表達式;
          • JSP 聲明:一個聲明語句可以聲明一個或多個變量、方法,供后面的 Java 代碼使用;
          • JSP 表達式:輸出 Java 表達式的值,String 形式;
          • JSP 注釋:為代碼作注釋以及將某段代碼注釋掉
          • JSP 指令:用來設置與整個 JSP 頁面相關的屬性
          • <%@ page="" ...="">定義頁面的依賴屬性,比如 language、contentType、errorPage、 isErrorPage、import、isThreadSafe、session 等等
          • <%@ include="" ...="">包含其他的 JSP 文件、HTML 文件或文本文件,是該 JSP 文件的一部分,會被同時編譯執行
          • <%@ taglib="" ...="">引入標簽庫的定義,可以是自定義標簽

          • JSP 行為:jsp:include、jsp:useBean、jsp:setProperty、jsp:getProperty、jsp:forward

          Jsp 解析過程

          • 代碼片段:在_jspService()方法內直接輸出
          • JSP 聲明: 在 servlet 類中進行輸出
          • JSP 表達式:在_jspService()方法內直接輸出
          • JSP 注釋:直接忽略,不輸出
          • JSP 指令:根據不同指令進行區分,include:對引入的文件進行解析;page 相關的屬性會做為 JSP 的屬性,影響的是解析和請求處理時的行為
          • JSP 行為:不同的行為有不同的處理方式,jsp:useBean 為例,會從 pageContext 根據 scope 的 類別獲取 bean 對象,如果沒有會創建 bean,同時存到相應 scope 的 pageContext 中
          • HTML:在_jspService()方法內直接輸出
          • JSP 隱式對象:在_jspService()方法會進行聲明,只能在方法中使用;

          Connector

          Http:HTTP 是超文本傳輸協議,是客戶端瀏覽器或其他程序與 Web 服務器之間的應用層通信協 議

          AJP:Apache JServ 協議(AJP)是一種二進制協議,專門代理從 Web 服務器到位于后端的應用 程序服務器的入站請求

          阻塞 IO

          非阻塞 IO

          IO多路復用

          阻塞與非阻塞的區別在于進行讀操作和寫操作的系統調用時,如果此時內核態沒有數據可讀或者沒有緩沖空間可寫時,是否阻塞。

          IO多路復用的好處在于可同時監聽多個socket的可讀和可寫事件,這樣就能使得應用可以同時監聽多個socket,釋放了應用線程資源。

          Tomcat各類Connector對比


          Connector的實現模式有三種,分別是BIO、NIO、APR,可以在server.xml中指定。

          • JIO:用java.io編寫的TCP模塊,阻塞IO
          • NIO:用java.nio編寫的TCP模塊,非阻塞IO,(IO多路復用)
          • APR:全稱Apache Portable Runtime,使用JNI的方式來進行讀取文件以及進行網絡傳輸


          Apache Portable Runtime是一個高度可移植的庫,它是Apache HTTP Server 2.x的核心。

          APR具有許多用途,包括訪問高級IO功能(如sendfile,epoll和OpenSSL),操作系統級功能(隨機數生成,系統狀態等)和本地進程處理(共享內存,NT管道和Unix套接字)

          表格中字段含義說明:

          • Support Polling:是否支持基于IO多路復用的socket事件輪詢
          • Polling Size:輪詢的最大連接數
          • Wait for next Request:在等待下一個請求時,處理線程是否釋放,BIO是沒有釋放的,所以在keep-alive=true的情況下處理的并發連接數有限
          • Read Request Headers:由于request header數據較少,可以由容器提前解析完畢,不需要阻塞
          • Read Request Body:讀取request body的數據是應用業務邏輯的事情,同時Servlet的限制,是需要阻塞讀取的
          • Write Response:跟讀取request body的邏輯類似,同樣需要阻塞寫


          NIO處理相關類

          Acceptor線程負責接收連接,調用accept方法阻塞接收建立的連接,并對socket進行封裝成PollerEvent,指定注冊的事件為op_read,并放入到EventQueue隊列中,PollerEvent的run方法邏輯的是將Selector注冊到socket的指定事件;

          Poller線程從EventQueue獲取PollerEvent,并執行PollerEvent的run方法,調用Selector的select方法,如果有可讀的Socket則創建Http11NioProcessor,放入到線程池中執行

          CoyoteAdapter是Connector到Container的適配器,Http11NioProcessor調用其提供的service方法,內部創建Request和Response對象,并調用最頂層容器的Pipeline中的第一個Valve的invoke方法

          Mapper主要處理http url 到servlet的映射規則的解析,對外提供map方法

          NIO Connector主要參數

          Comet

          Comet是一種用于web的推送技術,能使服務器實時地將更新的信息傳送到客戶端,而無須客戶端發出請求

          在WebSocket出來之前,如果不適用comet,只能通過瀏覽器端輪詢Server來模擬實現服務器端推送。

          Comet支持servlet異步處理IO,當連接上數據可讀時觸發事件,并異步寫數據(阻塞)


          Tomcat要實現Comet,只需繼承HttpServlet同時,實現CometProcessor接口

          • Begin:新的請求連接接入調用,可進行與Request和Response相關的對象初始化操作,并保存response對象,用于后續寫入數據
          • Read:請求連接有數據可讀時調用
          • End:當數據可用時,如果讀取到文件結束或者response被關閉時則被調用
          • Error:在連接上發生異常時調用,數據讀取異常、連接斷開、處理異常、socket超時

          Note:

          • Read:在post請求有數據,但在begin事件中沒有處理,則會調用read,如果read沒有讀取數據,在會觸發Error回調,關閉socket
          • End:當socket超時,并且response被關閉時也會調用;server被關閉時調用
          • Error:除了socket超時不會關閉socket,其他都會關閉socket
          • End和Error時間觸發時應關閉當前comet會話,即調用CometEvent的close方法
          • Note:在事件觸發時要做好線程安全的操作


          異步Servlet

          傳統流程:

          • 首先,Servlet 接收到請求之后,request數據解析;
          • 接著,調用業務接口的某些方法,以完成業務處理;
          • 最后,根據處理的結果提交響應,Servlet 線程結束


          異步處理流程:

          • 客戶端發送一個請求
          • Servlet容器分配一個線程來處理容器中的一個servlet
          • servlet調用request.startAsync(),保存AsyncContext, 然后返回
          • 任何方式存在的容器線程都將退出,但是response仍然保持開放
          • 業務線程使用保存的AsyncContext來完成響應(線程池)
          • 客戶端收到響應


          Servlet 線程將請求轉交給一個異步線程來執行業務處理,線程本身返回至容器,此時 Servlet 還沒有生成響應數據,異步線程處理完業務以后,可以直接生成響應數據(異步線程擁有 ServletRequest 和 ServletResponse 對象的引用)

          為什么web應用中支持異步?

          推出異步,主要是針對那些比較耗時的請求:比如一次緩慢的數據庫查詢,一次外部REST API調用, 或者是其他一些I/O密集型操作。這種耗時的請求會很快的耗光Servlet容器的線程池,繼而影響可擴展性。

          Note:從客戶端的角度來看,request仍然像任何其他的HTTP的request-response交互一樣,只是耗費了更長的時間而已

          異步事件監聽

          • onStartAsync:Request調用startAsync方法時觸發
          • onComplete:syncContext調用complete方法時觸發
          • onError:處理請求的過程出現異常時觸發
          • onTimeout:socket超時觸發


          Note :

          onError/ onTimeout觸發后,會緊接著回調onComplete

          onComplete 執行后,就不可再操作request和response


          主站蜘蛛池模板: 国模大胆一区二区三区| 色婷婷一区二区三区四区成人网 | 夜夜精品无码一区二区三区| 久久国产高清一区二区三区| 精品国产一区二区三区色欲 | 色多多免费视频观看区一区| 99精品一区二区免费视频| 影院无码人妻精品一区二区| 91国偷自产一区二区三区| 久久精品国产一区二区三区日韩| 最新中文字幕一区| 国产一区在线mmai| 日韩精品视频一区二区三区 | 国产熟女一区二区三区五月婷| 国产一区二区电影| 成人无码AV一区二区| 一区二区三区www| www.亚洲一区| 成人精品视频一区二区三区| 男人免费视频一区二区在线观看| 欧洲精品一区二区三区| 日韩精品人妻一区二区三区四区| 亚欧在线精品免费观看一区| 久久无码AV一区二区三区 | 精品在线一区二区| 男人免费视频一区二区在线观看 | 无码人妻精品一区二区三区66 | 国产一区二区久久久| 无码av中文一区二区三区桃花岛| 51视频国产精品一区二区| 成人精品一区二区户外勾搭野战| 2018高清国产一区二区三区| 国产日本亚洲一区二区三区| 精品国产乱码一区二区三区| 日韩一区二区在线播放| 成人久久精品一区二区三区| 国产一区二区三区播放| 波多野结衣一区在线观看| 无码人妻精品一区二区三区99不卡| 一区二区在线视频免费观看| 亚洲中文字幕丝袜制服一区|