真與假-武器級AI與論和川普的勝利

真與假-武器級AI與論和川普的勝利 1

2016年美國大選已然結束,但武器化的AI宣傳機器只是剛剛興起,它代表的是一個新的時代——誰能夠收集更多的數據、創造出更好的個性分析手段、快速開發互動型AI,以及組織起更龐大的寫手機器人,誰就能取勝。
「這簡直就是台政治傳播機器。它一個個地拉攏公眾,使他們擁護某個立場。如此程度的社會工程,我還是頭一次得見。他們用情緒作為韁繩,套住人們,然後就再也不松手了。」喬納森·奧爾布賴特(Jonathan Albright)教授說。

奧爾布賴特是美國伊隆大學的助理教授兼數據科學家。唐納·川普當選美國總統後,他開始探究假新聞網站氾濫的幕後真相。我們採訪了包括奧爾布賴特在內的業內專家,包括牛津大學電腦政治宣傳項目主任薩繆爾·沃利(Samuel Woolley),2016年美國大選已然結束,但武器化的AI宣傳機器只是剛剛興起,它代表的是一個新的時代——誰能夠收集更多的數據、創造出更好的個性分析手段、快速開發互動型AI,以及組織起更龐大的寫手機器人,誰就能取勝。
「這簡直就是台政治傳播機器。它一個個地拉攏公眾,使他們擁護某個立場。如此程度的社會工程,我還是頭一次得見。他們用情緒作為韁繩,套住人們,然後就再也不松手了。」喬納森·奧爾布賴特(Jonathan Albright)教授說。

奧爾布賴特是美國伊隆大學的助理教授兼數據科學家。唐納·川普當選美國總統後,他開始探究假新聞網站氾濫的幕後真相。我們採訪了包括奧爾布賴特在內的業內專家,包括牛津大學電腦政治宣傳項目主任薩繆爾·沃利(Samuel Woolley),以及英國國王學院的媒體、傳播與權力中心主任馬丁·摩爾(Martin Moore)。從中我們發現,事情不只幾篇假新聞這麼簡單。假新聞只是一小塊拼圖。它與其他拼圖一道,構成了一幅更大、更黑暗的圖景——人工智能變成武器,被用於操控我們的意見和行為,以推進特定的政治議程。

利用情緒操控AI程序、寫手機器人、Fecebook「暗帖」(dark post;定向投放給特定用戶的帖子)和A/B對照實驗,一家名為Cambrige Analytica的公司製造出了一台無形的機器,它抓住選民的不同個性,實現了輿論的大規模引導和轉向。在過去,這些技術都曾被單獨運用過,可一旦集結起來,它們就成了一台堅不可摧的選民操控機器。很快,它創造的這種機器就會大行其道,變成全球各國選舉中的決定性因素之一。

去年,Cambrige Analytica僅僅是小試牛刀便創造了輝煌的戰績。在它的輔佐下,唐納·川普登上美國權力巔峰;英國脫歐運動一錘定音;泰德·克魯茲(Ted Cruz)也曾在2016年短時崛起,一躍進入共和黨初選的第一陣營。
對於這家公司,目前我們只知道它是由保守派和「另類右派」政治勢力控制。這些勢力也與川普政府有著千絲萬縷的聯繫。比如,美國的默瑟(Mercer)家族既是Cambridge Analytica的大老闆之一,也是川普的大金主之一。史蒂芬·巴農(Steve Bannon)——川普的首席戰略師、白宮國家安全理事會的成員——又是Cambridge Analytica的董事會成員。此前,Cambridge Analytica首席技術官(CTO)一直擔任共和黨全國代表大會的代理CTO。

也許是出於這些關係,Cambridge Analytica拒絕服務於民主黨的競選活動——至少在美國國內。目前,該公司正全速挺進美國商業市場,也在與歐洲、亞洲和拉美的右翼政黨和政府討論合作事宜。

其實,擁有這個能耐的科技公司並不少,並不只有Cambridge Analytica一家,只不過,目前最炙手可熱的就數它了。這家公司浮出水面,代表著一個新時代的到來。今後無論你是想要在政治或商業上取得成功,又或者只是不想被玩弄於鼓掌之中,你就必須理解Cambridge Analytica的那套機制,以及理解它創造的那種AI宣傳機器。

在這個充斥著極化、孤立、噴子和暗帖的世界中,這家公司所代表的東西,亦即武器化的AI宣傳機器,已經成為政治和商業成功的新前提。

關於CambridgeAnalytica本身,以及這種機器的其中某些個方面——寫手機器人、假新聞、微定向——媒體的報導已經汗牛充棟。但如果聚合在一起,這些技術會變得多麼強大?在未來的競選和商業宣傳中,它們的影響力會達到何種程度?對於這個層面的問題,據我們所知,目前還沒有人進行過綜合的考察。

在過去的競選宣傳中,人們借助新聞媒體,將文字作為武器,在紙媒、電台和電視上相互討伐。而這種新武器所帶來的,是遠遠更加陰暗的東西—一因人而異、自我調整、致人上癮的宣傳活動。近十年來,硅谷致力於構建的種種平台,目的就是讓用戶對數字內容成癮,但還僅僅是停留在商業層面。2016年,川普及其盟友率先在政治層面將它用了起來。

我們步入了一個全新的時代。在未來,我們還能否實現文明的、建設性的對話,就看我們能否理解這個時代,並準確把握它的脈搏了。

歡迎進入AI宣傳變身政治武器的新時代。

第一部分:當大數據監視邂逅電腦心理學

這年頭,但凡是家像模像樣的公司都在收集並購買大數據,但Cambridge Analytica開發了一種模型,可將數據轉化為個性檔案,用於預測你的行為,並最終改變它們。這個模型是怎麼開發出來的呢?他們收買了劍橋大學的一位心理學教授。這位教授使用不正當的手段,抄襲了同事的突破性研究。

2013年,當時還在劍橋大學心理測量學中心讀博士的邁克爾·科辛斯基(Michal Kosinski)公佈了一項突破性的研究。它能夠將Facebook用戶的「點讚」記錄,與他們的「五大性格特質」(OCEAN;最常用的一種個性特質問卷)分數相匹配。然後,他們便可以僅靠一個人在Facebook上的點讚行為,判斷出此人的性別、性取向、政治傾向和個性特質。

這套模型僅憑某用戶在Facebook上的十個『讚』,它就能對一個人的個性特質作出判斷,準確率超過此人同事對他的瞭解;憑藉70個「讚」,就足以賽過其好友;150個讚賽過父母;300讚賽過另一半;再多一點,它甚至能賽過此人對自己的瞭解。

過了沒多久,劍橋大學的另一位教授亞歷山大·高根(Aleksandr Kogan)找到科辛斯基,撮合他將模型授權給SCL Elections——一家自稱專業操縱選舉的公司。對科辛斯基的實驗室來說,這筆授權費不是一個小數目,但由於不放心該公司的意圖,他最後還是回絕了。

為了開發這個模型,科辛斯基和同事們花了多年的心血,但這些方法和結果既已發佈,SCL Elections要複製起來也不難了。而且,他們似乎就是這樣做的。

根據英國《衛報》的調查,2014年初,就在科辛斯基拒絕邀約的幾個月後,SCL轉而與高根達成合作關係。高根通過眾包平台Amazon Mechanical Turk,向每位參與者支付1美元,讓他們做一份五大個性測試。不過,事情沒那麼簡單——參與者必須向高根開放所有Facebook數據的訪問權。他們被告知:數據將被用於研究。很多參與測試的人可能沒有意識到,他們的Facebook好友也在不知不覺中被拉進了測試,數據也被收集走了。
正是高根蒐集的這些「研究數據」催生了Cambridge Analytica。它很快就從SCL Elections中分拆了出來。

最早的這批數據固然寶貴,但僅僅是個開端——對Cambridge Analytica來說,它只是種子,用來孵化自己的模型,以便日後脫離五大個性測試,直接分析用戶個性。
Cambridge Analytica成功地驗證了這些概念。在保守派投資者的支持下,他們大舉收購年齡、購物習慣、土地所有權等各類數據,乃至你去哪個教堂、光顧哪些店面、訂閱什麼雜誌,通通收入囊中——這些都可以從各種數據中間商,以及兜售個人信息的第三方機構處買到。

Cambridge Analytica將這些數據與選民名冊、網絡公開數據——包括Facebook「讚」在內——聚合起來,一起投入個性預測模型。

Cambridge Analytica公司CEO亞歷山大·尼克斯(Alexander Nix)就曾經在一次演講中吹噓說,憑藉其個性模型,該公司足以給美國的所有成年人建立個性檔案。「Twitter和Facebook都被用來收集很多反饋數據,因為圍繞某個話題,光回覆、轉發還不算,人們一興奮,就把自己的論點和老底全發出來了。」奧爾布賴特解釋說。

第二部分:專挑情緒下手的自動化互動腳本

收集有關選民個性的海量數據還不是Cambridge Analytica的與眾不同之處,關鍵要看他們拿數據做什麼。
「行為是受個性驅動的。你越瞭解個性對行為的驅動作用,就越能理解人們為何做出某一決定,以及該決定是如何做出的。」尼克斯向彭博社的薩莎·艾森伯格(Sasha Issenburg)解釋說。「我們稱之為行為學微定向,這可是我們的秘密武器。」

利用這些個性檔案,Cambridge Analytica不僅能知道哪些選民最有可能改變立場,或改變支持對象;還能預測並改變他們未來的行為。

據Vice網站報導,科辛斯基最近正與一名同事合作開展新研究,探討這些方法的有效性。研究結果尚未發佈。但從早期研究結果看,他們發現:在Facebook上使用個性定向,點擊量最多可增加63%;由廣告帶來的諮詢或購買等行為最多可增加1400次。

圍繞CambridgeAnalytica的傳播策略,我們列出了一個詳細的問題清單,但該公司拒絕回答任何問題,或就其他任何策略予以置評。

在技術和媒體生態系統中,一些研究人員長期觀察著Cambridge Analytica的政治傳播活動,並發現了一個不斷膨脹的自適應型在線網絡,它正以政治傳播領域內前所未見的規模,進行著自動化的選民操控。

「他們(川普競選團隊)每天投放4到5萬條內容略有差異的廣告,然後反覆評估用戶的反饋,並依據這些反饋作出調整,」國王學院的馬丁·摩爾說,「這些操作都是完全不透明的,針對某個特殊的地理範圍,他們愛投多少錢,就投多少錢。這個範圍最小可以精確到五英里。」

傳統民調機構可能會直接問你:你打算把票投給誰?但Cambridge Analytica依據的不是言語,而是行動。它跟蹤人們在網絡上的舉動,以及表現出來的興趣,恰如其分地呈現出差異性的廣告,旨在利用每個人的個性特質,改變他們的行為。

該公司CEO尼克斯去年在一篇專欄文章中寫道:「舉個例子,我們的議題模型發現,愛荷華州存在那麼一小部分選民,他們強烈認為,公民在投票站投票時,應出示身份證件。」

「我們又借助另外的數據模型,給競選團隊給出建議,教他們如何抓住這個小眾議題,按照每個人的獨特個性,隨機應變地施加影響力,激勵人們行動起來,投票給克魯茲。有的人個性反覆無常,不喜歡從一而終,對這群人,我們可以說:投票時出示一下身份證件,『就跟買箱啤酒一樣簡單』。有的人傳統觀念根深蒂固,我們就可以說:投票時出示身份證件,難道不是我們生活在民主國家的眾多特權之一嗎?」

對CambridgeAnalytica而言,反饋是即時的,應對過程也是自動化的:這人是賓州的一個搖擺選民,他有沒有點擊關於希拉蕊郵件門的廣告?點擊了?那就顯示更多的內容,強調希拉蕊如何失責。沒有?讓自動腳本換個標題試試,也許換個切入點——比如針對此人容易聽信權威的特質。於是,標題就換成了:《情報部門最高官員一致認為:希拉蕊電郵門危及國家安全》。

以上很多都是靠Facebook暗帖來實現的,只有被定向投放的人才能看見。

基於用戶對這些帖子的反響,Cambridge Analytica就能知道,在川普的政治宣傳中,哪些訊息在哪個地方最能引起共鳴。川普競選路線的安排也參考了這些信息。如果在密歇根州肯特郡,你定向投放了三篇有關讓就業回歸美國的文章,而73%的定向選民都點擊了其中一篇——那還等什麼,趕緊在那兒安排一場川普競選集會!不講別的,就講經濟復甦。

希拉蕊的競選團隊採取了傳統的民調方法,當川普安排在「藍牆」州(歷來倒向民主黨的幾個州,包括密歇根、賓夕法尼亞和威斯康辛等)舉行集會時,希拉蕊陣營差點笑掉大牙。但根Facebook暗帖的互動情況,Cambridge Analytica察覺到其中有機可乘。川普最後當上總統,靠的正是他在密歇根、賓夕法尼亞和威斯康辛州的險勝。

從2012年大選到2016年大選,美國各州共和黨/民主黨獲勝比例的變化幅度:

Cambridge Analytica也把暗帖部署到了民主黨的關鍵選民群體中,用來降低這些人的投票率。「在這場大選中,暗帖被用來抑制黑人選民投票。」記者麥肯齊·芬克(McKenzie Funk)在《紐約時報》的社論中寫道。「據彭博社報導,川普團隊向特定黑人選民投放廣告,反覆提及希拉蕊把黑人稱為『超級掠奪者』。在邁阿密的小海地社區,它則定向投放2010年海地地震內容,突出當時克林頓基金會的醜事。」

暗帖只有特定用戶可見,除了CambridgeAnalytica和川普團隊,沒有人能追蹤這些廣告的內容,自然不用受到政府部門的監管和大眾的監督。只有那幾百萬個被定向的用戶看過它們,真正是做到了閱後即焚。

在臨近投票前幾週,一個競選團隊可以針對最關鍵的那些搖擺選民發起暗帖攻勢,未來大選中的「黑天鵝」就會是這樣誕生。

第三部分:幾分鐘就見效的宣傳網絡

2016年美國大選結果出爐後,奧爾布賴特開始探究「假新聞問題」。作為研究的一部分,他探究了306個假新聞網站,弄清了它們的相互關係,以及它們與主流新聞生態網絡的聯繫。他從中發現一個網絡:一個由2.3萬個網頁和130萬個超鏈接構成的網絡。

「假新聞和極度偏激的多頻道網絡內的站點,」奧爾布賴特寫道,「其節點規模非常之小——這意味著,它們嚴重依賴鏈接,這些鏈接指向主流媒體、社交網絡和信息來源(大多都處在網絡的『中央』),但這些網站相互之間的鏈接卻很少。」

這些網站並非由哪一個獨立實體擁有或運營,他說,但聯合起來,它們可以將搜索引擎優化(SEO)玩得遊刃有餘,誰只要搜索與大選相關的詞組——川普、希拉蕊、猶太裔、穆斯林,墮胎、歐巴馬醫保——他們就可以立刻提升假新聞和偏激新聞的可見度。

「這個網絡按需激活,以傳播各種虛假、極度偏激且夾帶政治私貨的信息。」奧爾布賴特寫道。

然而,更令他震驚的是,這個假新聞網絡形成了一個強大的基礎設施,使Cambridge Analytica這樣的網站得以追蹤選民,不斷完善其個性定向模型。

「我把這些網站上的追蹤器都找了出來,結果就震驚到無語了。每次你在Facebook上給這類帖子點一個讚或者訪問類似的網頁,你就被腳本盯上了。像Cambridge Analytica這種通過數據挖掘進行整治運作的公司,就可以準確定向個人,在網絡上貼身跟蹤著你,向你發送高度定製化的政治宣傳信息。」

在去年的美國大選中,假新聞和偏激新聞站點組成的地下網絡掀起了一股浩蕩的政治宣傳浪潮,而Cambridge Analytica正是其中的弄潮兒。用戶點擊查看的假新聞越多,它的個性互動算法就能把你纏得越緊。

虛假內容網站,自動化政治訊息測試,個性檔案……這些技術協同作用,並迅速傳播到其他數字媒介。奧爾布賴特的最近一項研究專注於這樣一種人工智能:它們能圍繞新聞和實事,自動創建Youtube影片。這種AI能響應Facebook和Twitter上的熱門話題,配上圖像和副標題,並附上電腦生成的配音。短短幾天之內,它們就通過19個不同的Youtube頻道,發佈了近8萬則這樣的影片。

考慮到這種技術的飛速發展,技術社群要做好心理準備:過不了多久,AI宣傳就會進入移動聊天app、虛擬現實和增強現實,操控人們的情感。

第四部分:監視公共辯論的「機器人蓋世太保」

如果說,在這台自動化政治宣傳機器的構建中,假新聞網絡為它搭建了基礎設施,那麼寫手機器人或社交媒體檔案就充當了它的軍隊。

文章開頭提到的牛津大學電腦政治宣傳項目的研究主任塞繆爾·沃利,過去幾年就一直在研究寫手機器人在線上政治宣傳中扮演的角色——它們由誰創造、如何運作,以及要達到何種目的。

在2016年的美國大選前夕,沃利和他在牛津大學的團隊發現,偏向川普的政治宣傳嚴重依賴寫手機器人。到大選日那天,相對於希拉蕊,川普的寫手機器人存在5:1的數量優勢。

「貫穿這場大選的,是機器人賬號的戰略性使用,其中尤以川普競選團隊最為明顯。在大選辯論期間,程式工程師們對內容呈現的時機進行精細微調,戰略性地佔領親希拉蕊的主題標籤,大選一結束,這些賬號就全都銷聲匿跡了。」沃利團隊在研究報告中稱。

至於這些機器人賬號是不是Cambridge Analytica動用的,我們無從得知。沃利說:「寫手機器人往往都是買來的,或是由外包出去,因為這些『外圍工人』跟競選團隊關係很遠,也就不受選舉委員會監管。」
在團隊主要研究員菲利普·霍華德(Philip Howard)的帶領下,沃利和同事們自2010年起,就開始追蹤這類機器人賬號的使用。這個過程中,他們接觸過黑客、寫手機器人製造者、政治活動者,試圖瞭解他們,理解他們的工作和動機。到最後,這些努力變成了一個由上百名機器人賬號製造者組成的線人網絡,讓沃利團隊能及時瞭解這個地下世界的新動向。

這其中就包括機器人賬號被用於政治宣傳運動的消息,來源正是這些賬號的製造者。隨著越來越多的國際政治領袖開始使用寫手機器人網絡,來作為他們的競選工具之一,沃利團隊開始追蹤事態進展。

這些線人讓我們看到這樣一個世界:由政府、諮詢公司(通常,這些公司的老闆或高管都處在政府官員最內層的人脈圈子)和個人組成的國際網絡,他們構建並維護巨大的寫手機器人網絡,放大宣傳效果,傳播與對手針鋒相對的訊息,誰要是對他們的服務對象構成威脅,就設法使之噤聲。

這些寫手機器人可以是受政治信仰驅動,也完全有可能認錢不認人,具體視其製造者所屬的範疇而定——看他們是政府、諮詢機構還是個人。

這些寫手機器人也分三六九等。最普通的Twitter機器人賬號就完全是個自動程序——專門轉發特定賬號的帖子,幫助推廣特定觀念或觀點。它們還經常鑑別出使用特定關鍵詞或主題標籤的Twitter用戶,自動回覆其推文,文案都是預先寫好的。

另一方面,比較高端的寫手機器人反而由真人運作的成份更高。他們扮成個性鮮明的路人甲,針對具體內容或話題,對其他用戶予以回應,旨在改變對方的觀點。在網絡上,他們也有好友和關注者。Facebook或Twitter很難找出並封殺這些賬號。

沃利估計,一個人獨立工作,最多可同時維護400個傳統的Twitter機器人賬號;相對而言Facebook對虛假賬號查得更嚴,所以一個人最多只能同時管理10到20個這樣的賬號。

因此,這些網路寫手網絡常同時服務於多個政治運動。在英國脫歐公投期間,牛津大學的團隊觀察發現,一個曾參與影響以巴衝突輿論的網路寫手網絡被重新激活,為脫歐陣營搖旗吶喊。那些個人頁面紛紛更新,反映最新的爭論焦點,個性簽名也紛紛更改,與最新的效忠對象保持一致——英國就這樣走上了脫歐之路。

AI宣傳機器的未來

2016年的美國大選已然結束,但武器化的AI政治宣傳機器只是剛剛興起,它代表的是一個新的時代——誰能夠收集更多的數據、創造出更好的個性分析手段、快速開發互動型AI,以及組織起更龐大的寫手機器人,誰就能取勝。
目前,川普和Cambridge Analytica將對手甩出了好幾條街。收集的個人數據越多,Cambridge Analytica和川普政府就越能從網絡效應中受益。

川普個人賬號@realDonaldTrump和美國總統官方賬號@POTUS發出的每一條推文,不論是宣佈還是捍衛他們採取的行動,都會迎來反對和爭論的聲浪。但哪怕是像這樣的負面互動,對川普政府來說,也是寶貴的資產,因為每一條一時衝動發出的推文,都可以作為心理特質實驗。

未來政治比的不是候選人,也不是財力,甚至都不是大數據。大數據誰都能獲取,就連2016年敗選的希拉蕊也不例外。

從今往後,一場大選誰勝誰負,決定性因素將是候選人如何運用這些數據,來完善其機器學習算法,以及自動化互動策略。到2018和2020年,大選所比的不再是觀點,而是看誰能自動化地改變人們的行為。

誰要想推行變革,就得理解這種新的現實。只有理解這一點,以及構建更加完善的自動化互動系統,放大真實的人類激情,而不是操控它們,全球各地的其他候選人和事業才有競爭的希望。

不久的將來,AI宣傳將如何在社會中傳播開來?對此,我們採訪了政治戰略師、技術專家,以及機器學習專家。我們希望聯手讀者,針對未來可能發生的場景展開一番設想。以下列出幾個潛在後果,算是拋磚引玉了。

後果1:輿情變成高頻交易

拜股票交易算法所賜,很多股市和大宗商品市場中的交易都不再依靠人類來定奪。一些人認為,這樣的交易系統也不再能充當價值的風向標。它們成了高頻交易算法的鬥法之所,這些算法試圖影響價格,或在不斷變動的價格中,尋找微小的獲利空間。

在不久的將來,類似的情況也可能發生在公共辯論之中。有關商業和政治的輿論不再是官方通告和意見之爭,而變成了算法之爭,其部署都以左右輿情為目的。眼下這種算法已經存在於金融市場,它們能實時分析數百萬條社交網絡發言和網絡新聞,並基於市場情緒,在幾毫秒的時間內,完成交易。算法交易和「算法輿論」已經緊密聯繫起來。日後,它們還會進一步整合。

後果2:專抓軟肋的個性化、自動化宣傳

假設2020年,川普在競選連任時,並不具備最有說服力的政治訊息,但這些政治訊息變身2.5億個算法版本,同步實時更新,經過個性化定製,精準契合政治宣傳對象的世界觀,同時攻擊他們的軟肋。過不了多久,信口雌黃的政客就會銷聲匿跡,滿嘴跑火車的政治和企業寫手機器人卻迎來寒武紀般的生命大爆發,它們操控人的手段也越來越高明。

後果3:困在自己的舒適區?試試困在寫手機器人營造的虛擬世界裡!

試想2020年,你發現,你在社交網絡上的意見群裡其實一個真人都沒有,只有幾千個寫手機器人,不斷印證你的觀點,讓你以為「找到了組織」,這將是怎樣一副景象?也許,你將永遠身在其中而不自知。

 

原文鏈接為:The Rise of the Weaponized AI Propaganda Machine由公眾號「造就」翻譯,twfunnews修正
分享文章:

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *