數據文摘出品

作者：Caleb

說到社交媒體的算法推薦，還真是讓人歡喜讓人憂。

事情是這樣的。

當時，我的一個朋友John正在申請麥吉爾大學的生物學博士，我也正在鉆研生物化學領域。我們因為在同一家制藥廠實習迅速熱絡起來，經常還在我家地下室打球、錄制視頻等。

但是一年后我發現，John變了。他開始狂熱地信仰宗教，總是和我爭論宗教知識應該是世界上唯一的科學，也是從那個時候開始，John把名字改成了Yahya，留起了胡子，說話也帶上了明顯的口音。

同時，John的Facebook賬號上開始涌現出大量的激進內容，其中一些視頻內還對美國和加拿大的所謂“異教徒”懷有明顯的仇恨與惡意。

最后一次與John交談的時候，我已經知道特勤局已經對他進行了長達數月的調查。

結合我在谷歌和DeepMind的實習經歷，以及我在算法推薦系統領域的學習，John的事件讓我開始思考如今風頭正盛的基于推薦算法的社交媒體。

在John這件事上，可以肯定的是，John逐漸激進的事實與Facebook的推薦算法有著密切的關系。但是，還無法確定的是，是怎樣的算法推薦讓John開始轉變信仰，當John的Facebook發帖變得越來越極端的時候，此時的新聞推送是根據怎樣的算法得出的？

當我們嘗盡了基于算法推薦的社交媒體的種種甜頭之后，如今，嚴重的負面效應開始顯現。這在最近美國所發生的一連串事件中都能得到印證，尤其是當平臺自動為你推薦一些激進內容或者是發布一些激進組織的相關信息時。

于是我也開始思考，當我在推特或者其他新聞推送中點開一些激進視頻時，我是否也在無形之中對其成型起到了推波助瀾的作用？

在社交媒體中使用機器學習的風險

隨著智能手機的普及，我們逐漸習慣于把虛擬助手、社交媒體等作為新聞來源來幫助我們了解這個世界。久而久之，平臺的傾向性也會影響我們自身的傾向，甚至是行為。

這些推薦機制的原理都是來源于機器學習。

機器學習算法就是一組指令，幫助機器從數據模式中進行學習，這些模式還能幫助人們進行決策。比如，新聞源就可以通過被稱為推薦系統的機器學習來創建。這在廣告領域的應用可能更為廣泛，廣告商想知道的是，用戶最可能點擊什么樣的廣告，從而更大程度地進行資源分配。

但在這種好處背后是難以撼動的激勵機制和權力結構，Facebook、蘋果和谷歌等公司仍然忙于利用會員制和廣告費來賺取收入，對于“房間里的大象”，所有人都選擇了視而不見。

2020年，六家FAANGM公司（Facebook,亞馬遜、蘋果、Netflix、谷歌和微軟）的商業模式組成一個季度標普指數和負責的大部分收益，這些公司的員工平均年薪為339,574美元。

當這種現象成為普遍的時候，社交媒體便能夠利用機器學習來放大現有的不平等，以及針對易受錯誤信息影響的人群發布更帶有偏激性的內容。

最大的證據便是Facebook成立了一支反恐團隊，但具有諷刺意味的是，其本身依賴于機器學習，也不乏相同的商業動機。換句話說，當屏蔽的內容越多，被禁的人就越多，公司的收入就會減少。

目前，Facebook已經承認其對緬甸的報道具有傾向性。同樣，推特、YouTube和Facebook也在近期美國的政治事件中發揮了作用，Facebook的舉報人承認，全球政治操縱能力部分是通過機器學習來創建的，這可能會增加地緣政治風險。

針對如John般這樣可能因為自己的經歷而受到社交媒體影響的人，我們更需要在社會層面上，與相對自由的道德和法律專家以及機器學習研究專家進行更具有針對性的討論。

如何減輕機器學習的社會風險

令人好奇的是，在算法社交媒體的有害影響已被記錄在案的前提下，有哪些法律途徑可以管理以機器學習為動力的企業。例如，在個人層面上，我們都會易受影響于某類新聞，這是受到法律保護，不能被歧視。也就是說，社交媒體利用我們的這些“弱點”進行攻擊其實是非法的。

那么問題來了，哪些途徑可以幫助保留機器學習的收益，同時保護弱勢群體免受有害影響？

假設科學家找到確鑿的證據，根據種族、性別或收入，有些人更容易沉迷于機器學習所推薦的內容，那么我們能否稱，歧視是發生了，從而降低公司的市值？畢竟，社交媒體沉迷對公司而言意味著更深的用戶粘度和參與度，但是在業務指標上好看的數字可能并不會使受其影響的人們變得更好。

除此之外，更直接的一種方式是降低廣告收入。建造AI的實驗室正面臨虧損，這意味著當營收下降到一定程度時，他們將首先離開。

同時，支撐谷歌、Facebook和其他大公司業務的機器學習工具順應的開源的趨勢，正變得更加易于訪問。隨著廣告收入持續下降，算法偏見將會成為主流公眾知識。

收入持續下降、用戶隱私意識覺醒和開放源代碼都可以成為推動社交媒體往良性發展的動力，而不是通過數據來利用用戶。學術實驗室還可以通過領導透明、開放源碼的努力來發揮作用，以幫助了解機器學習系統中的利益相關者如何為研究造福整個社會。

但是，當我們等待并希望有關掌權者創造變革時，作為個人，我們可以做很多事情，以了解和學習如何管理生活中許多方面的機器學習算法帶來的風險。

個人應該怎么做

正如上文所言，這些策略本身其實是告訴自己，代表自身及他人倡導與收集N=1數據，屆時可能會對大型社交平臺的動機產生更深刻的認識。

與受影響的人開始對話：參與工作環境。如果你正在構建機器學習工具，請實際使用它們。需要考慮到，這份工具可能會影響誰，并與這些人交談。交談中可以簡單描述所做的工作，以及驅動該技術的數據和商業利益。

例如，我從描述我的機器學習和心理健康研究中獲得了強烈的負面反饋，從而塑造了該研究并幫助改正了課程。與我們的朋友，家人和社區的這種非正式的民族志田野調查被低估了，并提供了一種低風險、高影響力的方式來告知我們學習的內容：與誰以及為誰學習。

注意到人們在工業界和學術界研究的是不同事物。工業往往是一條單向道，警惕金籠效應，即那些賺很多錢的人可能會不愿考慮或討論機器學習的風險，或者可能由于擔心被解雇而避免對其進行研究。

例如，算法公平性的領域得到關注是因為微軟禁止其研究人員對歧視性廣告的研究。類似的，谷歌人工智能與道德團隊因為在論文中強調了谷歌搜索模式的缺陷而被解雇。此類事件對相關人員而言代價高昂，這就是為什么在商業利益凌駕于公眾利益和學術自由之上的罕見情況下，他們能夠大聲疾呼，舉報或以其他方式告知公眾時，需要得到額外支持的原因。

阻止定位并清除隱私設置。如果要讓80億人選擇通過利用私人數據來個性化廣告，那么激勵錯誤信息的商業模式將很難發展。使用uBlock或其他瀏覽器擴展程序可以阻止所有新聞提要或HTML元素以及在YouTube等上使用機器學習創建的內容；在Facebook上取消關注所有人以清除新聞源。

通過啟用自動刪除位置、網絡和語音記錄的歷史記錄來刪除數據。我為私人利益犧牲的數據越少，我注意到的認知負荷就越少，這也許是因為對涉及我的數據的預期場景，可能應用的機器學習系統以及系統在世界范圍內產生的第二級和第三級影響的擔憂減少了。

希望通過本文為大家提供一個解決問題的思路，找到問題可能出現的地方，問題是如何發展起來的，以及我們應該采取怎樣的方法來解決。

當然，回到本文主題上，無論是對于激進態度本身，還是錯誤信息，我們都應該隨時保持警惕，以阻止那些無法很好地管理機器學習而做出不明智決定的商業動機。

相關報道：

https://www.reddit.com/r/MachineLearning/comments/l8n1ic/discussion_how_much_responsibility_do_people_who/

https://jaan.io/my-friend-radicalized-this-made-me-rethink-how-i-build-AI/

著投資虛擬貨幣幌子詐騙 宣稱“躺著賺錢”“只漲不跌”

“穩穩一個月30%收益”“躺著就能賺錢”……盡管很多投資人并不真正理解“區塊鏈”的原理和含義，但鑒于商家承諾的高額利潤回報，近年來，只要和“區塊鏈”沾邊的各種虛擬貨幣似乎都變得炙手可熱起來。鑒于上述原因，“區塊鏈”也逐漸變成了傳銷組織、龐氏騙局加以利用的工具。

7月16日，山西晚報記者從山西省公安廳獲悉：近日，大同警方破獲一起特大集資詐騙案，騙子打著投資“區塊鏈”“LCC光錐幣”的旗號，短短時間便詐騙100余萬人民幣。

2018年9月，大同市平城分局陸續接到群眾報案，一位名叫雒某的男子以投資“LCC光錐幣”為幌子騙取受害人錢財。對此，警方高度重視，迅速成立專案組開展偵查工作。經調查取證、分析研判，專案組掌握了犯罪嫌疑人雒某的犯罪事實，并成功鎖定其活動地點。

6月23日，專案民警在深圳公安機關的配合下，在深圳將犯罪嫌疑人雒某成功抓獲。經查，雒某打著投資“區塊鏈”“LCC光錐幣”的幌子，短短時間便詐騙100余萬人民幣。目前，犯罪嫌疑人雒某已被刑事拘留，案件正在進一步辦理中。

所謂的“LCC光錐幣”的全稱為light cone Coin。根據其推廣宣傳的資料顯示：“LCC，是由南非頂級區塊鏈技術團隊研發，是基于中本聰所創造的BTC底層程序上衍生出來的一種P2P電子加密數字經濟體”。如果你對這個名詞的含義不是太懂，宣傳詞中還有比較直接的推廣語：“只漲不跌”。鑒于如此的宣傳炒作，“LCC光錐幣”騙局迅速積累了大量錢財。

“不要看這個案件的涉案金額已經達到百萬余元，其實與廣州區域相關的‘LCC光錐幣’騙局相比，這個金額不算大的。”警方介紹，前不久，廣州警方以涉嫌詐騙罪刑事拘留了數名涉及光錐LCC的人員。經查，LCC及其衍生的多種“數字貨幣”投資者約為5萬人至8萬人，涉及的資金總額可能高達數十億元。

高回報的誘惑是極為重要的原因

“大量投資者之所以輕易陷入了虛擬貨幣的非法集資騙局，高回報的誘惑是極為重要的原因。”警方介紹，隨著相關反詐騙知識的不斷普及，如今很多投資者其實都懂得“天上不會掉餡餅”的道理，其中很多人也判斷出“LCC光錐幣”可能是泡沫，但依然選擇投資主要是抱著“早入手早脫身”，讓“后來人接盤”的心態參與。但殊不知，犯罪嫌疑人往往更加狡猾，大多數情況下，還沒等投資者察覺異樣，錢可能早就已經被轉移走了。

2018年8月24日，公安部、人民銀行、市場監管總局等多部門聯合發布了《關于防范以“虛擬貨幣”“區塊鏈”名義進行非法集資的風險提示》，提示一些不法分子打著“金融創新”“區塊鏈”的旗號，通過發行所謂“虛擬貨幣”“虛擬資產”“數字資產”等方式吸收資金，侵害公眾合法權益。此類活動并非真正基于區塊鏈技術，而是炒作區塊鏈概念行非法集資、傳銷、詐騙之實。

根據五部門發布提示，此類非法集資具有以下特點：

1、網絡化、跨境化明顯。一些不法分子通過租用境外服務器搭建網站，實質面向境內居民開展活動，并遠程控制實施違法活動。一些個人在聊天工具群組中聲稱獲得了境外優質區塊鏈項目投資額度，可以代為投資，極可能是詐騙活動。這些不法活動資金多流向境外，監管和追蹤難度很大。

2、欺騙性、誘惑性、隱蔽性較強。利用熱點概念進行炒作，宣稱“幣值只漲不跌”“投資周期短、收益高、風險低”，具有較強蠱惑性。實際操作中，不法分子通過幕后操縱所謂虛擬貨幣價格走勢、設置獲利和提現門檻等手段非法牟取暴利。

3、存在多種違法風險。不法分子通過公開宣傳，以“靜態收益”(炒幣升值獲利)和“動態收益”(發展下線獲利)為誘餌，吸引公眾投入資金，并利誘投資人發展人員加入，發展多級下線，并以下線的銷售業績為依據來計算報酬。他們往往以后來者的入門費填補“上線”的利潤，最后導致資金鏈斷裂。具有非法集資、傳銷、詐騙等違法行為特征。

五招辨別數字貨幣是否屬于傳銷幣

數字貨幣種類繁多，應接不暇，投資者稍不注意就可能就陷入非法集資的騙局，必須仔細辨別。投資者可以從以下5個方面判斷。

1、發行方式。數字貨幣依據特定算法，通過大量的計算產生，是去中心化的發行方式。每個不同的終端節點負責維護同一個賬本，而這個維護過程主要是算法對交易信息進行打包和加密。而傳銷幣則主要由某個機構發行，傳銷頭目在國內或國外注冊成立空殼公司并設立網站，通過微信、講座等形式大力度宣傳某種“虛擬貨幣”的價值，以多至百倍收益的“高額返利”為噱頭、不斷吸納會員會費達到斂財目的。

2、交易方式。數字貨幣是市場自發形成的零散交易，形成規模后逐漸由第三方建立交易所來完成交易。

而傳銷幣則受到機構或個人控盤，無法自由交易。此類平臺發行的假虛擬貨幣往往無法在交易所交易，因此多采用場外交易或自有交易所交易，同時價格被機構或個人高度控制。

3、實現方式。虛擬貨幣本身是開源程序，在Github社區維護。其總量限制的參數和方式，均顯示在開源代碼中。而傳銷幣的開源是完全抄襲別人的開源代碼，且沒有使用開源代碼來搭建程序，無法產生區塊或在區塊上運行，因此多采用人為拆分的方式進行代幣獎勵，通過在短期內不斷拆分，產生大量積分或代幣，造成財富“暴漲”的錯覺。

4、是否給出源代碼鏈接。去中心化數字貨幣都會在官網的顯要位置給出源代碼的鏈接，這樣做是為了公開透明地展示貨幣系統的運作機制。而傳銷幣重點宣傳的是充值購買交易流程，并不提及其運作機制，甚至網站都沒有源代碼的鏈接地址。舉例來說：比特幣是開放源碼且有限量，一共2100萬枚，每產生一個比特幣都是透明的，不受任何操縱。而傳銷幣不開放源碼，產生幣的速度、數量都由企業或平臺操縱，只要平臺開發者愿意，傳銷幣可以無限增發。

5、官網是否是https開頭。一般的去中心化數字貨幣的官網和交易網站地址都以https開頭，其目的是這類網址可以很好地保護用戶的數據不被非法竊取。但傳銷貨幣的官網、交易網站等在內的相關網站都沒有以https開頭。

文/觀察者網 楊蓉】

“這標志著美國互聯網史上最具影響力的一場法律戰的開始。”據美國《華盛頓郵報》6月20日報道，TikTok公司和八名TikTok創作者當天共同向美國法院提交首份法庭書狀（legal brief），指控美國政府涉TikTok“不賣就禁”法案是“政治蠱惑”的結果，其精神有違美國憲法，應當被推翻。

值得注意的是，在美媒看來，TikTok方面此次加大了對拜登政府的“進攻”，首次公布了TikTok與美國政府之間多年來秘密談判的內部文件。TikTok稱，該公司原本提出了一份可以解決美方所謂“國安擔憂”的和解方案，但美方仍一意孤行推動法案通過，表明政府并無誠意解決問題。美媒認為，這一點或影響法院裁決。

美國哥倫比亞特區巡回上訴法院此前決定合并審理TikTok以及一批TikTok創作者對美國政府提出的兩起上訴，6月20日是TikTok方提交法律文件的最后期限。

據報道，TikTok方面20日提交的書狀很大程度上重申了過去的論點，即拜登政府要求字節跳動于明年1月19日前出售TikTok美國業務的做法，“在技術上、商業上和法律上”都沒有可行性，相當于該短視頻App只能選擇被剝離或在美國市場被“封殺”，侵犯了美國憲法第一修正案中的言論自由權。

TikTok 20日稱，由于法案禁止TikTok達成數據共享協議，這實際阻止了TikTok向美國用戶展示國際內容，即使剝離，TikTok也將在美國“淪為一具空殼”，成為一座“阻止美國人與全球TikTok社區交流意見的孤島”。書狀認為，這開創了一個壓制言論自由的“危險先例”，允許政府對“不受歡迎的言論平臺”采取針對性行動，迫使其出售或關閉。

3月14日，美國華盛頓特區，TikTok CEO周受資在與賓夕法尼亞州民主黨參議員約翰·費特曼會面后接受媒體訪問（視覺中國）

TikTok此次還首度披露了一批內部文件，這些文件記錄了2021年1月至2022年8月間，TikTok與美國外國投資委員會（CFIUS）就其所謂“國家安全擔憂”進行秘密談判交涉但最終失敗的過程。TikTok認為，這表明美方并無誠意解決問題。

這些資料顯示，經過多年談判和數十次會面與電話溝通，TikTok最終向CFIUS提交了一份103頁的國家安全協議草案，可以在不實施潛在資產剝離或禁令的情況下實現拜登政府的要求。

這份名為“得克薩斯計劃”（Project Texas）的協議概述了TikTok將美國用戶數據與其全球業務隔離開來的計劃。根據文件，如果TikTok未能遵守十幾項要求中的任何一項，比如允許合格的檢查人員審查公司的源代碼，美國政府將有權暫時停止甚至關閉TikTok在全美的運營。

根據TikTok的說法，該協議從未簽署，但公司已開始實施“得克薩斯計劃”中概述的一些措施，并自愿為此投入了20多億美元。但CFIUS在TikTok方面2022年8月提交協議草案后就“停止了與公司的任何實質性談判”。

此后，CFIUS在2023年3月告知TikTok，有“高級政府官員”要求繼續進行剝離，但沒有解釋為什么協議不夠充分。TikTok說，公司隨后要求與美國高級官員會面，但“沒有收到任何有意義的答復”。美聯社提到，正是在2023年3月，美國《華爾街日報》報道了CFIUS威脅字節跳動剝離TikTok在美業務的消息。

《華爾街日報》報道截圖

TikTok方面20日也向法院提供了一封今年4月間發給美司法部的郵件，這是字節跳動律師團隊為解除禁令、恢復談判做出的最后努力。在信中，TikTok律師團隊表示，盡管該公司一直就此事保持沉默，以保護仍在談判中的協議，但潛在協議一再受到政府官員對外評論和媒體泄密的破壞。

TikTok說，美國政府對公司的擔憂只給出了“模糊和不成熟的回應”，顯示其立場似乎已經“脫離現實”。“面對……針對公司的非同尋常的公開運動，公司一直以負責任和建設性的態度對待這一進程，而這場運動越發由參與談判的美國政府官員主導。”信中寫道，“我們擔心……CFIUS已經受到政治蠱惑的影響。”

“拜登政府已經決定，寧愿嘗試在美國關閉TikTok，消除一個1.7億美國人使用的言論平臺，也不愿繼續制定一個實際、可行和有效的解決方案，通過與美國政府達成一項可執行的協議來保護美國用戶。”

CFIUS沒有立即回應美媒的置評請求。美國司法部拒絕對這封郵件發表評論，但該部上個月為涉TikTok法案辯護稱，該法案“以符合第一修正案和其他憲法限制的方式解決了關鍵的國家安全問題”。

根據目前公布的日程，美司法部須在7月26日前提交法律文件進行回應，而答辯書的提交截止日期為8月15日。美國哥倫比亞特區巡回上訴法院預計將在9月就此案組織口頭辯論。TikTok已敦促法院在12月6日前作出裁決，以便有充足時間向最高法院請求緊急審查，美司法部也支持這一要求。

美國有線電視新聞網（CNN）說，20日提交的書狀是TikTok在訴美司法部案件中打響的“頭炮”，不僅可能決定這款App的命運，還可能決定美國法院將如何解釋第一修正案以及第一修正案與網絡言論的關系。

《華盛頓郵報》和美國科技媒體The Verge都指出，美國法院在審理此類與第一修正案相關的案件時通常采用嚴格審查的標準，即政府必須有限制言論的迫切利益，而且限制必須是為實現其目的而嚴格定制的，以期產生“限制最少”的影響。CNN表示，此案中，拜登政府是否忽視了限制性較小的替代方案，可能成為檢驗涉TikTok法案是否違憲的一個因素。

4月15日，美國紐約，審理前總統特朗普封口費法庭前，一名男子高舉“自由TikTok”的標語（美聯社）

事實上，除了書狀以外，TikTok還向法院提交了包括專家意見在內的數百頁文件。這些專家認為，TikTok已經為解決美國政府關切做出最大程度努力，而美國政府似乎系刻意針對TikTok。

前CFIUS談判代表、美國司法部調查員克里斯托弗·西姆金斯（Christopher Simkins）表示，TikTok的提議是他20年來審查類似合同所見過的“最復雜、最徹底的緩解協議”，如果得以實施，TikTok的國家安全風險“將降至低水平”。

紐約大學法學教授蘭德爾·米爾奇（Randal Milch）認為，涉TikTok法案實際就是一項禁令，因為政府給出的強制出售選項“完全是虛幻的”。美方立法規定，字節跳動有9個月的時間將TikTok出售給美國買家，在禁令生效前還有3個月的寬限期。但潛在買家數量有限，而且中方法規不允許AI算法的出口。

加州大學伯克利分校教授史蒂文·韋伯（Steven Weber）則指出，美國政府對宣傳、虛假信息和數據安全的擔憂是“整個行業的問題，并非TikTok獨有”，TikTok收集的數據與谷歌、臉書和Snapchat收集的數據“沒有什么實質性的不同”。

“該法案特別關注TikTok，沒有明顯的國家安全理由。”韋伯寫道，“對于整個行業面臨的政策問題，（美國政府）選擇（針對）一個市場參與者是武斷的。”

美國白宮此前聲稱，希望以所謂“國家安全”為由終止中國企業對TikTok的所有權，而非封禁TikTok。但中方明確駁斥稱，如果所謂“國家安全”的理由可以用來任意打壓別國的優秀企業，那就毫無公平正義可言，看到別人的好東西就要想方設法據為己有，這完全是強盜邏輯。

彭博社早先分析認為，這場法律之爭將美國的“言論自由權”與“國家安全利益”對立起來，預計將曠日持久，最終或將訴諸美國聯邦最高法院。彭博情報分析師謝滕赫爾姆說，即使哥倫比亞特區上訴法院同意加快審理，最高法院也同意受理此案，也只可能會在2025年第二季度之前做出判決。

本文系觀察者網獨家稿件，未經授權，不得轉載。