谷歌的 AI 驅動的合規平臺 Checks by Google 現已正式發布。它檢查應用程序的實際行為是否與其預期行為一致。

譯自Checks by Google: AI-Powered for Apps and Code，作者 Loraine Lawson。

Google宣布推出其人工智能合規平臺Checks by Google，正式向公眾開放。該產品包含三個新產品，它們能檢查應用、代碼，以及人工智能模型的合規性問題，其中包括個人身份信息、政府監管要求，以及開發人員模型是否會提供有爭議或不恰當的回復以“越界”。

Checks by Google是從Google孵化器誕生的，Checks by Google的聯合創始人兼總經理Fergus Hurley說，它最初被用于內部測試Google自己的大型語言模型。

“我們向這些公司提供見解和工具，因為他們中的大多數人都沒有所需見解和工具。我們的部分客戶包括五大社交媒體應用、五大游戲、五大財務應用，這些公司資源非常豐富，但他們在完成自己的工作時缺乏所需的見解水平。我們彌合了開發團隊和合規團隊之間的差距。

Checks by Google 與 Vertex（Google Cloud 提供的用于生成式 AI 的產品）集成，但也可以配合使用其他主流模型提供商。Vertex 提供 150 多個生成式 AI 模型，包括 的 Claude 和 Mistral。

App 合規

Google Checks 提供三項服務：App （現已推出）、Code 和 AI Safety（目前處于封閉測試階段，有候補名單）。

App 會檢查應用、網站或服務是否遵守有關收集用戶數據的規則。例如，它可以檢查是否遵守歐洲的 GDPR、加州的 CCPA 以及巴西的 LGPD。

“我們會根據世界各地的不同法規了解應用需要做什么，”Hurley 說，“我們涵蓋這些規則，如果你在這些地區擁有用戶，我們便會開啟這些檢查。”

App 還可以針對公開使用的應用運行分析，以根據任何組織性隱私政策進行檢查。他說該分析依賴經微調以了解隱私政策的 LLM，將隱私政策與該應用或產品實際正在執行的活動進行比較，并執行動態和靜態分析。例如，Checks 在真實的物理設備上運行應用并監控來自這些應用的網絡流量以及用戶體驗。

“我們已讓一臺智能 AI 爬蟲去檢查該應用實際在做什么。它能夠玩游戲，如果向它提供了登錄憑證，它還可以登錄到該應用，但它只是一款智能 AI 爬蟲。”—— Google 旗下 Checks 的聯合創始人兼總經理 Fergus Hurley

“我們已經構建了自己的經過微調的模型以用來理解隱私政策，并且該模型現已在 Google 的許多團隊中使用，”他說。“我們能夠從合規角度發現產品可能存在的問題。我們有一個智能 AI 爬蟲正在查看應用程序的實際操作。它能夠玩游戲，如果向我們提供了登錄憑據，它還能夠登錄到應用程序，但它是一個智能 AI 爬蟲。”

Hurley 指出，聯合創始人 Nia Cross 是一位律師，盡管 Hurley 告誡說 AI 并未提供法律建議。

“她負責 Google Play 政策，開發人員會非常密切地遵守這些政策，以獲得數十億用戶的訪問權限，”他說。“所以我們確實有律師監督這些內容，但我們并未提供法律指導。這一點很重要。”他補充道，

相反，AI 只是提供見解和工具，從而彌合格局開發團隊與合規團隊之間的鴻溝。

Code

代碼合規處于封閉測試階段，使開發人員在應用程序發布前應對監管問題。Hurley 說，它可以集成到一個 IDE 中，以便開發人員在 IDE 中直接收到有關集成到其構建系統中的問題的警報。

代碼合規性提供有關關鍵問題的的信息，其中可能包括安全問題，但也可能檢測到例如過時的 SDK。

“我們還幫助人們在 Google Play 上創建、管理和維護他們的安全標簽，”他說。“那是圣杯，能夠成為人們需要去的地方，以獲得所有合規性見解。”

AI 安全

第三個產品正在封閉測試中，是 AI 安全。

Hurley 說，開發人員在 AI 和AI 驅動的應用程序中需要解決三個主要問題。首先，他們需要能夠設置自己的策略，他稱之為“對齊階段”。在此階段，他們確定哪些策略與他們及其網站或應用程序相關。

其次，他們需要進行評估，以確保這些策略符合他們最初的模型發布，反之亦然。第三，在實際發布 GenAI 產品后，開發人員需要確保它在野外正常運行。

“我們構建了一個產品來幫助解決這些部分中的每一個，作為這個 AI 安全產品的一部分，所以實際上，它試圖在這里建立治理指揮中心，”他說。“在第一階段，對齊，人們希望能夠配置他們的策略，而現在，我們支持每個通用產品真正需要的核心策略，圍繞暴力、仇恨言論和敏感數據——例如 PII（個人身份信息）。”

他說，評估階段幫助開發人員確定策略是否符合他們最初的模型發布，反之亦然。他說，在這個階段，該產品使用 Google 內部開發的提示進行紅隊攻擊和副詞測試。

Google 檢查框架的屏幕截圖

紅隊攻擊是一種安全測試技術，它涉及模擬對系統或組織的惡意攻擊，以識別漏洞并評估彈性。這個名字來自一個受控的戰爭游戲，其中一個紅色團隊試圖突破目標的安全性，而一個藍色團隊則進行防御。對抗性測試是一種軟件測試，它涉及故意嘗試通過引入意外或惡意輸入來破壞應用程序或系統。它有助于發現可能被惡意行為者利用的弱點。

“開發人員在構建完模型后會遇到一個難題，那就是想出這些對抗性提示，而我們擁有龐大的對抗性提示庫，這非常有價值，這也是我們利用 Gemini 和 Gemma 以及其他 Google 團隊所做的大量工作的地方，”他說，并補充說它還包含了這些團隊開發的最佳實踐。“我們將這些提示針對開發人員模型運行，并確保形成該模型的響應是開發人員想要的。”

這一步不容小覷。AI 模型不僅會產生可能在公眾面前令人尷尬的陳述，而且還會提供錯誤的信息，從而給公司造成經濟損失。

“人們有時會試圖讓模型做一些它們不應該做的事情，”他說。“最公開的案例之一是加拿大航空公司的一個案例，他們的代理人回復說這個人可以獲得退款。最終發生的事情是加拿大航空公司說，‘不，根據這些條件，你不能獲得退款。’”

他說，這導致了一場訴訟，最終加拿大航空公司不得不提供退款。

“現在已經設定了規則，公司對其 GenAI 代理所說和所做的事情負責，他們確實有這種責任，”他說。“確保代理人遵守公司的政策至關重要，但這是防止模型根據公司的政策進行微調以僅談論公司實際提供的服務的公開示例之一。”

“開發人員在構建完模型后會遇到一個難題，那就是想出這些對抗性提示，而我們擁有龐大的對抗性提示庫，這非常有價值，這也是我們利用 Gemini 和 Gemma 以及其他 Google 團隊所做的大量工作的地方。”

— Fergus Hurley

第三，一旦 GenAI 產品發布，開發人員需要能夠監控它在實際環境中的行為是否正確。例如，曾經有一家公司發布了一個通用 AI 代理來滿足特定用例，但人們發現他們可以“破解”它并免費訪問實際上使用起來非常昂貴的模型。

“最重要的是確保事情不會偏離軌道，并制定相應的保障措施，”他說。“我們有一個護欄產品，它會監控輸入提示和輸出提示，并檢測問題，例如不應該到達模型的輸入提示，比如有人試圖破解模型，然后在輸出方面，模型不應該暴露任何 PII，并且應該有許多保障措施來防止這種情況發生。”

他指出，如果開發人員不想自己進行微調，他們可以使用護欄來自動創建監控和保障措施。

“他們可以進入并選擇輸入護欄，[例如]我想開啟破解預防，”他說。“假設他們已經用不同的敏感度閾值配置了這些不同的護欄，那么他們就可以配置輸出閾值，然后將其作為模型的一部分部署到生產環境中。”

護欄充當模型的過濾器，而不是直接對其進行微調。他補充說，過濾器不會顯著影響性能。

可根據行業和重點定制

他補充說，谷歌提供的檢查也可以根據行業進行定制。例如，如果一個應用程序處理兒童數據，那么該應用程序必須遵循非常具體的規則。

“我們與一些最大的兒童游戲公司合作，”他說。“你可以想象醫療保健和金融或其他受嚴格監管的主要行業都有自己非常具體的需求，而目標是隨著時間的推移建立起這個檢查生態系統，讓人們能夠開啟與他們的業務最相關的檢查。”

Hurley 說，谷歌產品的檢查涵蓋了所有類型的開發人員；他們看到前端開發人員，以及后端和全棧開發人員都在使用這些工具。

目前，開始使用是免費的，盡管一些企業比較復雜，確實需要付費服務來幫助他們進行合規性，他說。

超過1000萬江蘇用戶都在用的寬帶，構建家庭生態體系！

今天，江蘇移動在南京舉辦了“點亮萬千光網開啟智慧生活”寬帶用戶超1000萬暨智慧家庭生態體系發布大會。江蘇省人民政府王志忠副秘書長出席，代表省政府充分肯定了江蘇移動打造“全光網省”的建設成果，稱贊江蘇移動為全省信息化快速發展做出的突出貢獻，及“品質寬帶”工程為百姓提供的滿意服務。

江蘇省經濟與信息化委員會、江蘇省通信管理局領導，家庭產業各方代表以及多方媒體出席了本次發布大會。讓小移帶你一起走進大會～

江蘇省人民政府王志忠副秘書長，中國移動江蘇公司總經理周毅先生，江蘇省經濟與信息化委員會 胡學同副主任，江蘇省通信管理局 王鵬副局長共同按下屏幕，點亮萬千光網，開啟智慧生活。

智慧光網覆蓋全省 “網絡強省”中流砥柱

從2009年起步寬帶建設，到2011年寬帶初具規模、融合語音拓展，再到2015年實現寬帶全面提速，2016年更推出“極光寬帶”、“全4K”及智能家庭業務，江蘇移動從無到有、從點到面，積極推動寬帶的普及應用與升級換代。十二五期間累計投入620億元，建成了一張覆蓋全江蘇的高標準、高品質的智慧光網。截至2016年12月，江蘇移動光寬帶信息點覆蓋3000萬家庭，出省帶寬達到15280G，光寬帶用戶超越1000萬戶，用戶平均速率達到25M，較上年翻一番。4G網絡覆蓋鄉鎮及發達農村以上區域，最高下載速率可達330M。

隨著產業的布局和發展，江蘇移動從最初的模擬電話運營，發展到涵蓋4G+高速移動網絡、千兆極光寬帶網絡的全業務通信運營，推出魔百和、和目、和有約、和路由等智慧家庭應用，產品實現質的飛躍。江蘇移動致力于為老百姓提供用得上、用得起、用得好的信息服務，助力全省信息化發展邁上了一條全光網絡高速路，讓“建設網絡強省、繁榮信息經濟”有了更堅實的基石。

服務渠道齊頭并進“極光寬帶”更上規模

江蘇移動光寬帶用戶突破1000萬規模，用短短7年時間完成了行業近二十年才達到的水平。為了讓用戶享受更加透明的服務，會上江蘇移動沈杰副總經理正式宣布了《家庭寬帶服務白皮書》的發布，白皮書詳盡介紹了江蘇移動全光寬帶網絡架構，闡述了寬帶服務質量關鍵要素，明確了寬帶服務標準，展現了寬帶服務的優勢和能力。白皮書幫助用戶更好地了解江蘇移動服務內容，促進廣大用戶明白消費和服務滿意提升。

在寬帶服務上，江蘇移動已在全省范圍內建成新型家庭寬帶服務站1200家，為全省用戶提供家門口服務的寬帶“好管家”。與此同時，江蘇移動鄭重向全社會承諾：辦理移動寬帶業務后，“兩天裝機，一天維修，超時賠付”。行業領先的服務標準，正得到越來越多用戶的認可與信賴。

江蘇移動第1000萬位用戶也來到了現場，中國移動江蘇公司張冬副總經理為獲得江蘇移動第1000萬位光寬帶用戶頒發榮譽證書，同時還送上了一份江蘇移動的驚喜大禮包～

積極拓展核心能力 打造智慧家庭生態體系

全光網絡是信息基礎設施建設的重大里程碑，全光網省的建成也意味著網絡有了更大的承載量。據了解，江蘇移動將打破行業與行業、硬件與硬件的邊界，打造智慧家庭“產品、內容、數據、平臺、服務、渠道”生態體系，以“產品為入口、內容為核心、數據為聯結、平臺為樞紐、服務為保障、渠道為支撐”，積極擴展六大核心能力。

目前，江蘇移動已打造了涵蓋家庭通信、家庭娛樂、智能應用在內的一站式智慧家庭體系，推出了智能網關、魔百和、和目、和有約、和路由、寵物項圈、智能手表、智能旅行箱等在內的智慧家庭全套產品，逐步構建了“連接+入口+平臺”的智慧家庭生態體系總布局，讓用戶足不出戶即可享受好玩、有趣、多彩的智能生活。

以魔百和為核心的家庭娛樂應用產品“魔百和”全4K互聯網電視產品，廣泛匯聚影視、游戲、音樂、電商、旅游等內容，全4K技術讓影像更清晰、層次感更強、色彩更豐富，原生VR給用戶帶來沉浸式觀影體驗，多窗口運行則為業務創新打開另一扇窗。

以智能家庭網關為核心的智能生活應用產品“和目”，借助其高清攝錄、事件偵測、雙向語音等功能，老百姓可以隨時隨地了解家中發生的一切，實現對老人的照顧和對小孩的看護。

以家庭寬帶為核心的通信社交應用產品“和有約”，實現家庭電視之間、家庭電視與VoLTE手機之間的互通，在家里實現家庭間的親情溝通，并享受醫療及教育等垂直行業的一對一視頻服務，為客戶提供豐富的家庭通信服務和完整的視頻生態體系。

現江蘇移動向省內征集五類家庭（有老人的家庭、有小朋友的家庭、無看護孩子需求的家庭、夫妻分居兩地的家庭、有寵物的家庭），免費進行家居軟裝改造及安裝智慧家庭產品，還有大流量紅包等你拿～

（識別下方二維碼，參與活動）

和我們一起制造智慧家庭吧～

此外，江蘇移動傾力打造的大數據平臺“和洞察”，涵蓋交通、旅游和金融等與用戶日常家庭生活息息相關的版塊，運用大數據能力實現互聯互通，不但能量身定制行業信息化解決方案、推動傳統與互聯網深度融合，還能促使生活方式產生深刻變革，智慧生活迎面而來。

本次大會上，江蘇移動還與部分地產行業達成合作意向，未來將展開緊密合作，把江蘇移動的智慧家庭產品運用到商業和住宅項目中，讓更多人充分享受到現代化的“智慧之家”。

4G改變生活，5G改變社會。在12月20日的全球移動合作伙伴大會上，中國移動表示，5G時代的移動通信可實現更少的時延、更高的速率、更好的業務體驗，真正實現移動信息化與各行各業的深度融合。5G將實現“萬物互聯”，而未來家庭產品能夠實現和人們生活的相互連通，將成為萬物互聯的一個縮影。江蘇移動此次發布的智慧家庭生態體系，能夠讓用戶在這個時代先行體驗到家庭產品互聯的新興生活方式。

活動具體規則請登錄江蘇移動掌上營業廳活動頁面或詳詢當地10086，具體優惠及辦理情況以系統為準。

·非實名制客戶、M-Free卡客戶、無線通、隨E行、移動總機、固話、商話、公話、快捷通和金卡快捷通及wap封頂套餐用戶無法參與活動。

·文中廣告活動時間以活動頁面顯示為準，若活動結束將無法參與，敬請諒解。

-廣告-