小新 編譯自 Insight Data Blog

量子位 出品 | 公眾號 QbitAI

寫個網頁能有多麻煩？在大多數公司里，這項工作分為三步：

1. 產品經理完成用戶調研任務后，列出一系列技術要求；

2. 設計師根據這些要求來設計低保真原型，逐漸修改得到高保真原型和UI設計圖；

3. 工程師將這些設計圖實現為代碼，最終變成用戶使用的產品。

這么多環節，任何地方出一點問題，都會拉長開發周期。因此，不少公司，比如Airbnb已經開始用機器學習來提高這個過程的效率。

△ Airbnb內部的AI工具，從圖紙到代碼一步到位

看起來很美好，但Airbnb還沒公開該模型中端到端訓練的細節，以及手工設計的圖像特征對該模型的貢獻度。這是該公司特有的閉源解決方案專利，可能不會進行公開。

好在，一個叫Ashwin Kumar的程序員創建了一個開源版本，讓開發者/設計師的工作變得更簡單。

以下內容翻譯自他的博客：

理想上，這個模型可以根據網站設計的簡單手繪原型，很快地生成一個可用的HTML網站：

△ SketchCode模型利用手繪線框圖來生成HTML網站

事實上，上面例子就是利用訓練好的模型在測試集上生成的一個實際網站，代碼請訪問：https://github.com/ashnkumar/sketch-code。

從圖像標注中獲取靈感

目前要解決的問題屬于一種更廣泛的任務，叫做程序綜合（program synthesis），即自動生成工作源代碼。盡管很多程序綜合研究通過自然語言規范或執行追蹤法來生成代碼，但在當前任務中，我會充分利用源圖像，即給出的手繪線框圖來展開工作。

在機器學習中有一個十分熱門的研究領域，稱為圖像標注（image caption），目的是構建一種把圖像和文本連接在一起的模型，特別是用于生成源圖像內容的描述。

△ 圖像標注模型生成源圖像的文本描述

我從一篇pix2code論文和另一個應用這種方法的相關項目中獲得靈感，決定把我的任務按照圖像標注方式來實現，把繪制的網站線框圖作為輸入圖像，并將其相應的HTML代碼作為其輸出內容。

注：上段提到的兩個參考項目分別是

pix2code論文：https://arxiv.org/abs/1705.07962

floydhub教程：https://blog.floydhub.com/turning-design-mockups-into-code-with-deep-learning/?source=techstories.org

獲取合適的數據集

確定圖像標注方法后，理想中使用的訓練數據集會包含成千上萬對手繪線框圖和對應的HTML輸出代碼。但是，目前還沒有我想要的相關數據集，我只好為這個任務來創建數據集。

最開始，我嘗試了pix2code論文給出的開源數據集，該數據集由1750張綜合生成網站的截圖及其相應源代碼組成。

△ pix2code數據集中的生成網站圖片和源代碼

這是一個很好的數據集，有幾個有趣的地方：

• 該數據集中的每個生成網站都包含幾個簡單的輔助程序元素，如按鈕、文本框和DIV對象。盡管這意味著這個模型受限于將這些少數元素作為它的輸出內容，但是這些元素可通過選擇生成網絡來修改和擴展。這種方法應該很容易地推廣到更大的元素詞匯表。

• 每個樣本的源代碼都是由領域專用語言（DSL）的令牌組成，這是該論文作者為該任務所創建的。每個令牌對應于HTML和CSS的一個片段，且加入編譯器把DSL轉換為運行的HTML代碼。

彩色網站圖像變手繪圖

為了修改我的任務數據集，我要讓網站圖像看起來像手工繪制出的。我嘗試使用Python中的OpenCV庫和PIL庫等工具對每張圖像進行修改，包括灰度轉換和輪廓檢測。

最終，我決定直接修改原始網站的CSS樣式表，通過執行以下操作：

1. 更改頁面上元素的邊框半徑來平滑按鈕和DIV對象的邊緣；

2. 模仿繪制的草圖來調整邊框的粗細，并添加陰影；

3. 將原有字體更改為類似手寫的字體；

最終實現的流程中還增加了一個步驟，通過添加傾斜、移動和旋轉來實現圖像增強，來模擬實際繪制草圖中的變化。

使用圖像標注模型架構

現在，我已經處理好數據集，接下來是構建模型。

我利用了圖像標注中使用的模型架構，該架構由三個主要部分組成：

1. 一種使用卷積神經網絡（CNN）的計算機視覺模型，從源圖像提取圖像特征；

2. 一種包含門控單元GRU的語言模型，對源代碼令牌序列進行編碼；

3. 一個解碼器模型，也屬于GRU單元，把前兩個步驟的輸出作為輸入，并預測序列中的下一個令牌。

△ 以令牌序列為輸入來訓練模型

為了訓練模型，我將源代碼拆分為令牌序列。模型的輸入為單個部分序列及它的源圖像，其標簽是文本中的下一個令牌。該模型使用交叉熵函數作為損失函數，將模型的下個預測令牌與實際的下個令牌進行比較。

在模型從頭開始生成代碼的過程中，該推理方式稍有不同。圖像仍然通過CNN網絡進行處理，但文本處理開始時僅采用一個啟動序列。在每個步驟中，模型對序列中輸出的下個預測令牌將會添加到當前輸入序列，并作為新的輸入序列送到模型中；重復此操作直到模型的預測令牌為，或該過程達到每個文本中令牌數目的預定義值。

當模型生成一組預測令牌后，編譯器就會將DSL令牌轉換為HTML代碼，這些HTML代碼可以在任何瀏覽器中運行。

用BLEU分數評估模型

我決定使用BLEU分數來評估模型。這是機器翻譯任務中常用的一種度量標準，通過在給定相同輸入的情況下，衡量機器生成的文本與人類可能產生內容的近似程度。

實際上，BLEU通過比較生成文本和參考文本的N元序列，以創建修改后的準確版本。它非常適用于這個項目，因為它會影響生成HTML代碼中的實際元素，以及它們之間的相互關系。

最棒的是，我還可以通過檢查生成的網站來比較當前的實際BLEU分數。

△ 觀察BLEU分數

當BLEU分數為1.0時，則說明給定源圖像后該模型能在正確位置設置合適的元素，而較低的BLEU分數這說明模型預測了錯誤元素或是把它們放在相對不合適的位置。我們最終模型在評估數據集上的BLEU分數為0.76。

福利：定制網頁風格

后來，我還想到，由于該模型只生成當前頁面的框架，即文本的令牌，因此我可以在編譯過程中添加一個定制的CSS層，并立刻得到不同風格的生成網站。

△ 一個手繪圖生成多種風格的網頁

把風格定制和模型生成兩個過程分開，在使用模型時帶來了很多好處：

1.如果想要將SketchCode模型應用到自己公司的產品中，前端工程師可以直接使用該模型，只需更改一個CSS文件來匹配該公司的網頁設計風格；

2. 該模型內置的可擴展性，即通過單一源圖像，模型可以迅速編譯出多種不同的預定義風格，因此用戶可以設想出多種可能的網站風格，并在瀏覽器中瀏覽這些生成網頁。

總結和展望

受到圖像標注研究的啟發，SketchCode模型能夠在幾秒鐘內將手繪網站線框圖轉換為可用的HTML網站。

但是，該模型還存在一些問題，這也是我接下來可能的工作方向：

1. 由于這個模型只使用了16個元素進行訓練，所以它不能預測這些數據以外的令牌。下一步方向可能是使用更多元素來生成更多的網站樣本，包括網站圖片，下拉菜單和窗體，可參考啟動程序組件（https://getbootstrap.com/docs/4.0/components/buttons/）來獲得思路；

2. 在實際網站構建中，存在很多變化。創建一個能更好反映這種變化的訓練集，是提高生成效果的一種好方法，可以通過獲取更多網站的HTML/CSS代碼以及內容截圖來提高；

3. 手繪圖紙也存在很多CSS修改技巧無法捕捉到的變化。解決這個問題的一種好方法是使用生成對抗網絡GAN來創建更逼真的繪制網站圖像。

相關地址

代碼：https://github.com/ashnkumar/sketch-code

原文：https://blog.insightdatascience.com/automated-front-end-development-using-deep-learning-3169dd086e82

— 完 —

誠摯招聘

量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復“招聘”兩個字。

量子位 QbitAI · 頭條號簽約作者

?'?' ? 追蹤AI技術和產品新動態

avaScript - Prototype

JavaScript是一門動態語言, 你可以在任何時候向對象上添加屬性,如下

function Student() {
 this.name = 'LeBron James';
 this.gender = 'Male';
 }
 var studObj1 = new Student();
 studObj1.age = 15;
 alert(studObj1.age); // 15
 var studObj2 = new Student();
 alert(studObj2.age); // undefined

正如上面的實例, age 屬性附加在 studObj1 實例上. 然而 studObj2 實例沒有這個屬性, 因為 age 屬性只在 studObj1 實例上定義了.

那么, 如果想在后期添加一個屬性且能被所有的實例所共享, 該怎么辦? 答案這就今天主角 Prototype.

Prototype 是一個對象, 默認情況下與JavaScript中的任何一個函數或對象有關, 只是唯一區別在于函數的prototype 屬性是可訪問和可修改的，而對象的prototype屬性是不可見的.

默認情況下任何一個函數包含 Prototype 對象, 如下圖:

prototype 對象是一種特殊類型的可枚舉對象, 可以將需要附加屬添加到其上，這些屬性將在其構造函數的所有實例之間共享。

我自己是一名從事了多年開發的web前端老程序員，目前辭職在做自己的web前端私人定制課程，今年年初我花了一個月整理了一份最適合2019年學習的web前端學習干貨，各種框架都有整理，送給每一位前端小伙伴，想要獲取的可以關注我的頭條號并在后臺私信我：前端，即可免費獲取。

因此, 把上面的示例中使用函數的 prototype 來添加屬性,以便于所有對象中都可以訪問到, 如下:

function Student() {
 this.name = 'LeBron James';
 this.gender = 'M';
 }
 Student.prototype.age = 15;
 var studObj1 = new Student();
 alert(studObj1.age); // 15
 var studObj2 = new Student();
 alert(studObj2.age); // 15

使用 字面量 或 通過 new關鍵字和構造函數 的方式創建的每一個對象都包含 __proto__ 屬性, 該屬性指向創建此對象的函數的 原型對象.

你可以在谷歌和火狐開發者調試工具中查看該屬性(__proto__) , 根據下面的示例:

function Student() {
 this.name = 'LeBron James';
 this.gender = 'M';
 }
 var studObj = new Student();
 console.log(Student.prototype); // object
 console.log(studObj.prototype); // undefined
 console.log(studObj.__proto__); // object
 console.log(typeof Student.prototype); // object
 console.log(typeof studObj.__proto__); // object
 console.log(Student.prototype === studObj.__proto__ ); // true

正如上面例子看到, 函數通過 [[函數名稱]].prototype 方式訪問到原型對象. 但是, 對象(實例)并沒有暴露出 prototype 屬性，而是使用 __proto__ 來訪問它.

Object 對象的原型

前面提及到, 原型對象在對象中是不可見. 使用 Object.getPrototypeOf(obj) 方法來訪問實例的原型對象. (這也是推薦方式, __proto__ 并不是標準屬性, 在IE11以下其它瀏覽器中沒有實現).

function Student() {
 this.name = 'LeBron James';
 this.gender = 'M';
 }
 var studObj = new Student();
 Student.prototype.sayHi= function(){
 alert("Hi");
 };
 var studObj1 = new Student();
 var proto = Object.getPrototypeOf(studObj1); 
 // returns Student's prototype object
 
 alert(proto.constructor); 
 // returns Student function 

Object 原型對象包含如下 屬性 和 方法

屬性描述constructor返回創建該實例的構造函數__proto__指向創建該實例的構造函數的原型對象.方法描述hasOwnProperty()返回一個布爾值，指示對象是否包含指定的屬性作為該對象的直接屬性，而不是通過原型鏈繼承。isPrototypeOf()返回一個布爾值，指示指定的對象是否位于調用此方法的對象的原型鏈中。propertyIsEnumerable()返回一個布爾值，該布爾值指示指定的屬性是否可枚舉。toLocaleString()返回本地格式的字符串.toString()返回對象字符串形式.valueOf()返回指定對象的原始值.

Chrome 和 Firfox 將對象的原型表示為 __proto__, 而內部引用為 [[Prototype]]. IE不支持,只有IE11包含它.

修改原型

如上所述, 每個對象都能鏈接到函數的原型對象. 如果您更改了函數的原型, 則只有新對象將鏈接到更改后的原型. 所有其他現有對象仍然鏈接到舊的函數原型. 下面實例來演示這個場景:

function Student() {
 this.name = 'LeBron James';
 this.gender = 'M';
 }
 Student.prototype.age = 15;
 var studObj1 = new Student();
 alert('studObj1.age = ' + studObj1.age); // 15
 var studObj2 = new Student();
 alert('studObj2.age = ' + studObj2.age); // 15
 Student.prototype = { age : 20 };
 var studObj3 = new Student();
 alert('studObj3.age = ' + studObj3.age); // 20
 alert('studObj1.age = ' + studObj1.age); // 15
 alert('studObj2.age = ' + studObj2.age); // 15

使用原型

原型對象被JavaScript引擎用來做兩件事:

• 查找對象的屬性和方法在JavaScript中實現繼承

function Student() {
 this.name = 'LeBron James';
 this.gender = 'M';
 }
 Student.prototype.sayHi = function(){
 alert("Hi");
 };
 var studObj = new Student();
 studObj.toString();

在上面的示例, toString() 方法在 Student 中沒有定義, 那么它是如何以及從哪里找到 toString() 的呢?

在這里，原型出現了. 首先, JavaScript 引擎檢查 studObj 是否存在 toString 方法?. 如果沒有找到,那么它使用 studObj 的 __proto__ 鏈接指向 Student函數 的 原型對象. 如果它仍然無法找到它那么它會在往上層并檢查 Object 函數的原型對象,因為所有對象都是從 JavaScript 中的 Object 派生的,并查找 toString() 方法. 因此, 它在Object函數的原型對象中找到 toString()方法，因此我們可以調用 studObj.toString().

查找方式,如下圖所示

上述就是原型基本知識點以及應用.

原作者姓名：任重道遠

原出處：SenmentFault

原文鏈接：人類身份驗證 - SegmentFault