本文摘要：摘要網絡與人工智能技術的發展,以及流量經濟的運行機制,導致社交媒體中出現社交機器人。社交機器人的興起,并不一定傳播假新聞,也可能在不涉及真/假問題的意見表達方面體現出其顯著影響。通過社交機器人發表的言論,網絡與現實中對意見的認識都會受到干擾,并且可能產生作
摘要網絡與人工智能技術的發展,以及流量經濟的運行機制,導致社交媒體中出現社交機器人。社交機器人的興起,并不一定傳播假新聞,也可能在不涉及“真/假”問題的意見表達方面體現出其顯著影響。通過社交機器人發表的言論,網絡與現實中對意見的認識都會受到干擾,并且可能產生作用于物理空間的社會后果,從而形成對言論自由的挑戰。這種挑戰,更突出體現于試圖影響政治的政治機器人言論,由于國際政治領域的“信息戰”而成為國家安全問題。因此,對人工智能語境下社交媒體中的社交機器人言論,應當在總體國家安全觀指引下加以重視和規制,并在此基礎上更新理解言論自由的理論思維。
關鍵詞社交媒體算法社交機器人政治機器人言論自由
引言:流量支配的言論在當下這個信息爆炸的時代,所有人的注意力不可避免被具有流量的個人或事件所吸引,從而匯聚成為流量的一部分。流量經濟的模式,在智能互聯網時代表現出強大的優勢,構成了一種全新的經濟形態�！�1〕盡管公眾或許反感流量對自身注意力的支配,希望“流量為王”能夠向“內容為王”轉變;〔2〕然而面對這一強大的潮流,仍然無法抵擋。
流量經濟與智能互聯網緊密結合在一起,整體架構決定了其具有的絕對優勢。在網絡中被創造和分享的海量信息超出了人類的信息處理能力,造成信息的過載,因而人們更多依賴于一些具有信用品意義的符號來簡化自己的認知負擔,形成快捷的決策。因此,這些符號成為了流量的基礎,聚焦了人們的注意力。而算法的分析能夠更精確地將部分符號推送給受眾,使其認知的視野被有效的框定。同時,基于算法形成的排名,使公眾的認知進一步形成循環,從而導致贏家通吃的局面。
處于“頭部”的符號因為其流量規模更容易被公眾關注到,而公眾對其的關注又會進一步提升流量數據,從而不斷循環,使排名靠后者更難以獲得被認識到的機會。平臺獲得消費者的行為數據,以此對算法進行完善,再通過這樣的算法將消費者更緊密地綁定在平臺上。由此,消費者的行為數據成為了核心的生產資料,服務于掌握著平臺的資本。在這樣一個整體架構中,流量經濟得到了有效的運行,個人也難以從中脫離出來。
處于這樣一個流量時代,無論是社會還是個人都不可避免地深受影響。在當代智能互聯網場景中,公眾所發表的言論一旦成為大數據可以處理的信息,也就具有了資源的性質。公共言論中討論到的人物與事件獲得了流量,再將流量轉化為影響力,而沒有得到討論和表達的聲音,則會逐漸銷聲匿跡,進而失去對現實世界的影響力。因此,在經典的法學視角中具有重要地位的言論自由,在新的時代背景下就會體現出新的問題形態與實踐挑戰。本文的問題意識由此引出,但本文并不試圖面面俱到地討論言論自由問題,而是關注其中一個具體問題,即在智能互聯網與流量經濟的技術與政治經濟邏輯推動下,人工智能如何重塑了言論的生成與運作機制,并產生了怎樣的影響。這樣的研究視角,已經被運用于對“假新聞”的研究,形成了深刻的分析�！�3〕
而在新聞之外,公共言論包含了更大空間。因此,本文將超出新聞這一范疇,試圖關注與客觀事實“真/假”無涉的公共言論,提出主觀意見的“真/假”問題對言論自由的挑戰。更具體來說,這種主觀意見的“真/假”問題并不是指意見本身的不存在,而是指其通過人工智能的運用而得到新的表達效果,在當代互聯網中出現的社交機器人(socialbots),能夠基于算法的設計,以自動化的方式生成言論,并偽裝成人的言論進入思想市場。社交機器人及其影響在政治學和傳播學領域中已經得到了重視與討論,但法學界的研究尚處于空白狀態。〔4〕
圍繞這一問題,本文將首先討論信息技術變遷對網絡言論產生的影響,描述社交機器人出現的背景。文章第二部分描述社交機器人的運作機制,指出機器人言論通過什么樣的技術條件與社會基礎產生影響。接下來,第三部分指出社交機器人改變了傳統意義上的思想市場,從而形成對于言論自由的挑戰。文章第四部分將進一步分析機器人言論引發的政治后果,首先是對國內民主政治造成的損害,進而體現出對國家安全的威脅。第五部分從現象的描述轉入對策的分析,指出在中國語境中治理社交機器人,主要意義和關鍵難題都在于國際政治維度的信息戰,因此需要在總體國家安全觀的指引下探討規制對策。
一、誰的言論:社交機器人的興起
互聯網興起以來,其中的言論問題就始終備受關注。早期互聯網被視為一個高度開放的言論空間,讓不同個體獲得便捷渠道暢所欲言。當社交媒體成為重要的網絡平臺之后,廣大網民借助于社交媒體形成緊密鏈接來獲得各類信息并交流意見。在這樣的交流過程中,由于網絡中信息交流成本的大幅度降低,其中的言論表達較之于傳統社會中的線下交流產生了顯著變化。
其中被關注最多的現象,是網絡上的虛擬流瀑導致“群體極化”,幫助那些分散遙遠的人發現持有相同意識形態的伙伴,強化自己的觀點,使社會中形成更多持有極端意見的群體,而失去在共同經驗基礎上的社會粘性,從而造成社會分裂�！�5〕社交媒體平臺中的這種言論形態,一度引發關于“謠言”和“辟謠”的熱烈爭議,也引發了相應的理論討論�！�6〕隨著互聯網技術進一步發展,智能互聯網時代中的算法推薦,對言論表達產生了進一步的影響。在群體極化的基礎上,個體更進一步被封閉在由自己選擇愿意看到的信息所構成的“信息繭房”中�！�7〕
如果說在早期的社交媒體中,人們是基于自己主動的搜尋和交流形成了極化的群體,那么在智能互聯網時代的社交媒體中,人們實際上并非主動發現與自己同氣相求的群體,而是基于算法的個性化推薦被吸引到了一起。大數據分析使個體的興趣與偏好被更充分細致的分析,算法技術的發展形成了基于內容和網絡互動的推送方式,基于個體行為數據,算法對個體偏好進行用戶畫像分析,從而對個體進行更精準的信息投送,始終以符合其偏好的信息進行引導。于是“網絡共和國”被“標簽共和國”所取代,標簽共和國中的個人被算法推送的標簽更有力地支配,并與其他人形成了信息和聲譽上更強的虛擬流瀑。〔8〕
無論討論群體極化還是信息繭房,雖然體現出算法介入的影響,但言論的主體并未改變,仍然是互聯網中的“網民”。盡管在早期互聯網中曾有一個著名的說法“沒有人知道網絡對面是不是一條狗”,但這只是強調網絡賬號同線下身份的分離,而不會懷疑言論是否來自人類。前人工智能時代,對互聯網的言論問題關注重點在于言論如何得到更為自由的表達,以及表達的社會效果。而人工智能時代的信息技術演進,則在算法推薦的基礎上形成了社交機器人這種革命性的變革,導致了言論主體的改變,并進一步改變了互聯網中的言論生態。
社交機器人作為一種自動化的軟件,能夠控制社交網絡中的特定賬號,以類似于控制賬號的人類的行為方式在社交網絡中活動,包括主動發布文本、照片或表情包形態的信息,轉發或評論其他賬號發布的信息,訪問其他賬號主頁以及點贊或申請添加好友。更重要的是,社交機器人隱秘行動,同那些直接表明是自動化程序的賬號區分開來,冒充為人類行為,利用對人類社交關系網的分析,潛伏在社交網絡中獲得有影響力的地位。〔9〕
社交機器人的這些行動,重點在于抓住眼球,強化了人類用戶與其發布的信息的接觸,突出的是流量與“用戶粘性”,而不是全面和審慎的信息獲取與鑒別。在早期的網絡言論生態中,“水軍”就被視為一種干擾力量,對人們造成誤導,因而需要對其規制以保障網絡中的言論自由�！�10〕而社交機器人的興起,實際上就是“機器人水軍”取代了“人類水軍”。早期的機器人水軍技術水平較低,技術基礎是“群控系統”,即通過系統自動化控制集成技術,把多個手機操作界面直接映射到電腦顯示器,實現由一臺電腦來控制幾十臺甚至上百臺手機的效果,在此基礎上通過批量模擬腳本來模擬許多賬號的行為。〔11〕
如果只能按照事先設定的言論進行機械的重復,完成簡單功能,就很容易被發現,重復的言論也會被作為無效的信息被排除,難以影響人們的認知。而社交機器人的自組織,意味集群個體不依賴某一操控主體對其進行集中的組織管理,而依靠自身遵循一定的行為準則,通過觀察其所處的環境,與臨近的目標對象進行局部交互,在整體上協同配合達成集群所需要的目標,因此操縱者不需要如同水軍的操縱者那樣事無巨細地進行實時具體的指導,而可以事先在宏觀上制定機器人個體的行為規則,讓其依賴人工智能自動運行,涌現演化形成了所有個體相互配合的集群智能傳播模式,以達成所需的傳播效果�！�12〕早期的社交機器人非常幼稚,或是只能自動發布預先設定的文本,或是語無倫次因而毫無意義�！�13〕
因此,社交機器人的廣泛運用,其技術基礎在于機器學習能力的提升,能夠使其表現出類似于人類用戶所控制的賬號的行為模式。其通過抓取人類聊天中的關鍵詞進行學習,理解語言背后所表達的意圖,并由此不斷改進自身語言表達方式,與人類用戶在社交網絡中進行實質性互動。在人工智能不斷提升的過程中,除了對文本自然語言的理解,對圖像、表情等表達形式的理解和學習能力也在不斷提高。
社交機器人通過“情感計算”技術提升了互動能力,以及對人的共情能力和情緒表達能力�！�14〕通過這樣的技術手段,社交機器人所表達的觀點并非來自于事先擬就的文本,而是在交流語境中自動生成,更緊密地同話題聯系起來。而且,社交機器人還能夠識別出人類的社交關系圖譜,分析人類在社交網絡中的行為,設法同擁有大量關注對象的用戶建立起聯系,并利用共同好友關系繼續進行擴散。〔15〕
當這樣的社交機器人活躍于社交網絡中時,就不僅僅是作為一個靜態數字的“僵尸粉”,而是能夠形成實際的互動。社交機器人通過諸多接口可以接入社交網絡中,簡單的驗證碼并不能形成屏蔽,社交網絡對此的防御相當脆弱。〔16〕雖然檢測程序不斷發展,試圖更好識別出偽裝成人類的社交機器人,但機器人也在改進行為特征,使之更難以被檢測程序所發現。〔17〕由于社交機器人的設計本身就追求隱秘性,檢測程序的運用并不能像過濾垃圾郵件那樣輕松地將其在社交網絡中排除掉。
一系列實證考察都顯示了社交機器人在互聯網已經發展到一個較高的比例。2012年,Facebook的一份報告估計,所有賬戶中有5-6%是虛假或偽造的,這意味著大約有5000萬用戶是虛假的。〔18〕而研究者對推特中的社交機器人比例的估計則更高,系統檢測分類顯示53.2%的用戶是人類,36.2%是人機協同(cyborg),10.5%是機器人�！�19〕如果考慮到社交機器人完全可能比人類在社交網絡中更為積極地發布信息,那么來源于社交機器人的信息比例會比用戶數據的比例還要高得多,例如由DistilNetworks公司所發布的《2018惡意機器流量報告》指出,2017年42.2%的互聯網流量由機器產生。〔20〕
二、如何發言:社交機器人的運作邏輯
社交機器人的偽裝性,使其表現為像人類用戶一樣正常參與社交網絡活動:表達觀點、發布信息、關注其他用戶。當大量的社交機器人以這樣的方式在網絡中活動時,就構成了“僵尸網絡”(botnet)�！�21〕這樣的僵尸網絡沒有侵入人類用戶賬號或竊取隱私信息,也不同于傳統的垃圾郵件程序造成的侵擾,而是試圖表現為具有實質意義的社交活動,活動形態與人類高度相似。社交機器人只是在表達言論而已,只是這種言論的主體并非人類,而是人工智能。而基于這樣的特性,社交機器人的挑戰就更加凸顯出來。
我們必須正視新的言論生態:社交機器人不僅僅在轉發新聞,其發表的觀點是言論,轉發和點贊也是言論,網絡空間中存在著大量的機器人言論。有學者指出,社交媒體的生態正在從完全由“人”主導變為“人+社交機器人”的共生狀態,社交機器人已經成為社交媒體的一個有機組成部分,社交機器人產品的不斷迭代逐漸消解了人類用戶在社交媒體中的唯一主體地位,社交機器人也逐漸成為信息內容生產、觀念傳播和意義表達的重要參與者,社交媒體成為“人”與“社交機器人”的共生空間�！�22〕
如果從技術上很難清除所有的社交機器人,回到其出現之前的網絡空間的話,那么,人們就不能裝作看不見社交機器人的影響,而必須在這樣的共生狀態下理解社交網絡,理解網絡空間的言論自由。當言論的主體并非人類時,就不能運用對人類的言論自由觀念與制度去加以回應。而且,在社交機器人與人類共生的網絡空間中,社交機器人試圖模仿人類行為,但目標并不局限于模仿人類,而是要改變人類行為�！�23〕由于社交網絡已經成為人類社會的重要組成部分,這種大規模出現的新形態言論的作用不局限于虛擬空間,而是也影響到線下的物理世界,形成具有社會意義的后果。
當人類行為確實可能被改變時,這一問題的法學意義也就更為突出,必須加以高度關注。不同于計算機科學對社交機器人的研究更關心什么樣的言論,也不同于社會學的研究更關心人機關系,法學的研究必須重視這種社會后果。 社交機器人在網絡中的使用,不是個體性的,而是大規模的,通過相互分工合作結合成為機器人組成的僵尸網絡。也只有通過大規模的使用,才能形成一個復雜系統的“涌現行為”、形成其自組織,體現出更高的智能�！�24〕
也只有在達到一定規模的情形下,社交機器人問題才有必要進入法學的視野。對社交機器人言論所造成的社會后果,應當重點關注作為大規模群體的社交機器人的協同使用所產生的效果,而不是只考察作為個體的言論,同時也應當注意到協同使用大規模社交機器人的實際控制者。
當社交機器人被大規模協同使用時,也就在社交網絡中增加了大量的言論,顯著超出人類用戶言論的規模。當社交機器人能夠以類似于人的行為模式去進行互動時,這些言論生成的信息會進一步強化人們在網絡空間中的信息過載,因而導致對信息處理能力的干擾,并且影響到判斷和決策。而且,機器人言論相對人類并不僅具有數量上的影響,信息效率也至關重要。
當一篇文章首次在社交媒體上發布的最初幾秒,機器人可能比之后更大規模地使用,這種早期干預讓許多用戶更容易看到,增加了文章被病毒式傳播的機會。〔25〕但對人類用戶而言,其往往難以在第一時間注意到新的文章或標簽,也無法一天24小時在線,難以進行病毒式傳播。在病毒式傳播機制中,社交機器人作為社會傳染的傳染源,通過按需改變社交網絡的動態結構,能夠掌控目標受眾接觸傳染源的渠道,并且比人類之間的社會傳染具有更高的效率,形成了從社會傳染到社會擴散的高效驅動機制�！�26〕因此,當社交機器人被廣泛運用之后,人們在網絡空間中所看到的言論,大量來自于機器人。而且,社交機器人往往被用于傳播那些低可信度的言論�！�27〕
對這些低可信度的言論作為“謠言”或“假新聞”的討論已經較為充分,但是,不涉及真假的言論,同樣也會造成相應的社會后果。社交機器人的言論所造成的干擾,最直接的影響就是“社會流瀑效應”,即缺乏足夠信息處理能力的人們,因為某些信息相對其他信息更高強度地出現,因而選擇相信這些信息�！�28〕這種社會流瀑效應不僅僅針對關于事實的新聞,也會涉及對觀點的取舍,并無前見、未形成堅定立場的中立公眾,因為某些觀點似乎被更多人表達而作出選擇接受這些觀點。
由于人類認知固有的局限性,“三人成虎”的社會流瀑也并非新鮮現象。但當機器人言論這一變量加入之后,這一現象發生了進一步的變化:機器人言論能夠更有效率的增強人們接收到信息的強度,使人們更容易因為看到某些信息的反復出現而傾向于接受。人們過去是基于更多人表達出某種言論而被社會流瀑所影響,但當言論可能出自機器人時,人們更多看到的言論其實并非更普遍的言論,因而受到誤導,進入到原本不存在的社會流瀑中。
三、思想市場的異化:社交機器人對言論自由的挑戰
從對人類信息處理能力的干擾出發,社交機器人有力地強化了某些信息,同時也弱化了另一些信息。從客觀事實的角度來說,這些信息可能都是真實的,并不能將其判定為謠言。但即使是真實的信息,通過社交機器人的表達,因為其相對人類言論具有大規模、高效率、全天候、自組織等一系列優勢,從而挑戰了人類的言論自由。真實的人類言論因為被忽略或隱藏而無法得到有效的傳播,這種現象顛覆了思想自由市場這一理想形態。密爾(JohnStuartMill)指出,正是對自由言論和多樣性意見的保護使真理得以浮現出來,并獲得自我矯正功能,被壓制的言論可能是真理,即使不是真理,也可能包括了真理的成分或者通過交鋒而磨礪真理。〔33〕
當人們普遍接受真理是相對的并且不斷發展這一觀念,也就自然而然接受了密爾對言論自由價值的這一論證,認為自由進行表達和討論是接近與發展真理的重要保障�；裟匪�(OliverWendellHolmes)則進一步提出了著名的“思想的自由市場”的比喻�！�34〕習慣了市場經濟的人們形象地意識到思想的自由競爭類似于實體商品市場上的自由競爭,市場的自由競爭最終會實現優勝劣汰,因此,思想的優劣最終是由消費者的行動作出決定而非由單一的權威事先確定的。自由的思想市場可以與商品市場進行類比,兩個市場之間沒有本質性的差別。〔35〕
而在網絡時代,這個市場的“基礎設施”已經發生了根本變化�！�36〕如果在這個市場上,競爭的對手并非普通人,而是大規模有組織的社交機器人時,這就成為了嚴重不對等的競爭。普通人的言論自由面對社交機器人,處于壓倒性的劣勢地位。盡管人類的思想市場從來也不是平等的自由競爭的理想狀態,而是如同商品的自由市場的異化一樣,更好的商品在異化的市場中難以“優勝”,而劣質者也未必會“劣汰”�！�37〕
但社交機器人進入到這種競爭中來,就如同熱兵器對冷兵器的代差,造成了言論生態的根本性改變。社交機器人通過在網絡空間中對言論生態的改變,進一步影響線下社會。人類社會中許多行為決策都依賴于社會互動,對他人會如何決策所做出的預測決定個人決策,而這種預測又來自于他人表達的言論所提供的信息。在這種情況下,社交機器人言論就可能導致對他人的錯誤預測,進而形成錯誤決策,通過自我實現的預言,對人類預期和決策產生影響。
例如,在高度依賴于預期的金融市場當中,機器人言論使投資者認為某一家公司的股票確實得到了許多人的關注,從而大量交易該股票,而這就進一步驗證了預言,使市場朝著機器人的控制者所期望的方向波動�！�38〕當然,類似的這種預期也會在其他市場中體現出來,例如市場營銷中對社交機器人的使用,以機器人言論偽裝為消費者對商品或服務的評價,消費者對品牌的認知也可能以這種方式被掌控,從而影響市場格局。〔39〕而娛樂市場則是這種操縱的更極端體現,無論是“黑”還是“粉”,機器人言論都在制造流量,而流量決定了市場資源的分配,雖然許多消費者并不認同流量明星以及他們的作品,但在這樣的市場中卻別無選擇,離開了流量明星的作品可能根本就無法進入市場。
四、從自由到安全:社交機器人的深層挑戰
由于上述影響,社交機器人的運用就很容易超出商業范疇,不僅僅被用于制造流量和吸引用戶,還被用于政治目標。社交機器人傳播的低可信度信息,很大一部分就是政治信息�！�40〕因此,社交機器人又發展出了“政治機器人”(politicalbots)這一特定分類,在社交機器人中占據了很大的比例�！�41〕
政治機器人的運用機制與一般的社交機器人相同,但用途更為集中于政治領域。政治機器人并不只發表政治言論,而是通過類似于人類用戶的全面社交活動,形成政治影響。對政治機器人的關注始于2010年的美國中期選舉�！�42〕如同流量明星需要粉絲一樣,政治競選中的明星也同樣需要,而政治機器人首先就起到了這樣的功能,諸如羅姆尼(WillardMittRomney)、金里奇(NewtGingrich)、奧巴馬(BarackHusseinObama)等人都被質疑通過政治機器人來制造虛假粉絲獲得人氣。〔43〕在此之后,政治機器人的作用日益突出,2016年的美國總統大選使其更受到前所未有的關注,在選舉中政治機器人的運用導致了基于惡意目標的影響力再分配,強化了社會中的群體極化,也助長了假新聞的流行。〔44〕
以政治和法律為目標的機器人成為了政治戰略與通訊技術領域最流行的創新趨勢,在社交媒體中廣泛且活躍存在,政治機器人在美國的政治溝通中占據的角色雖然微小,但卻具有戰略意義�！�45〕政治機器人作用于競爭性選舉,不僅局限于美國,而是形成了更一般性的運作機制�！�46〕在競爭性選舉之外,政治機器人的影響也不容忽視,不僅通過虛假的人氣或假新聞干預選舉,更通過偽裝的人類觀點影響政治決策。同一般的社會話題相比,政治話題本身在社會中就具有更高的爭議性,有分歧的公眾更容易形成激進的對峙,也更容易形成抱團取暖的極化群體,因而體現出社交媒體更顯著的影響。盡管其結果好壞不一,但社交媒體已經成為了許多政治運動的協調工具。〔47〕
越是極端和激進的觀點更容易在社交媒體中吸引眼球,并且強化用戶的情感參與、加強互動,達成群體極化。相對于“理中客”的意見,“噴子”的聲音更容易在社交媒體中被放大。因此,政治機器人更有效的手段并非傳遞純粹虛假的新聞,而是去強化某些觀點的傳播。政治機器人表達出來的觀點可能本身是真實并合法的,但被放大了。當分裂的政治信息被強化時,既可能作為一種有組織的騷擾迫使人們自我審查,也可能作為煽動信息而引發更情緒化和更極端的意見。〔48〕通過政治機器人的參與,某些政治意見被高強度地在互聯網中展現出來,從而導致關于政治議題的網絡輿論被扭曲,使公眾與政治家都無法真實把握社會中的立場分化和不同立場的強弱比較。例如,在英國脫歐公投前后,推特上有一系列機器人高度活躍,之后又快速消失,通過機器人網絡迅速生成了社會流瀑,其轉發的并非嚴格意義上的假新聞,而是傾向性非常明顯的觀點�！�49〕
在互聯網導致政治參與更加普遍化和扁平化的背景下,草根的力量似乎變得更為強大,但政治機器人的運用使得人們不知道支持者究竟真是草根還是機器人,無法真實觀察什么是草根的聲音、誰代表著草根的力量,因此導致了對民主的破壞�！�50〕在這樣的運作過程中,政治團體通過將政治機器人打造成虛擬的意見領袖,與民眾建立起更為穩固的社交關系,借助算法的機器手段來實現政治傳播目的,“真人”意見領袖需要一定培育時間,不可復制而且其傳播效果還會受到個體行為的影響,但“機器”意見領袖可以實現量產,而且其形象不會受到現實生活影響,更容易塑造完美的意見領袖形象。
五、中國語境的規制:總體國家安全觀的視角
基于對社交機器人的分析可發現,即使其言論并不傳播客觀虛假的信息,但其在社交網絡中造成的負面影響仍然不容忽視,尤其是政治機器人,如誤導公共決策,扭曲民主過程,擾亂社會輿論,加強群體極化,甚至直接意味著一種新型戰爭手段發起的攻擊。隨著信息技術的不斷發展,社交機器人不會被徹底消滅,回到之前的狀態。社交媒體生態系統的未來可能已經指明了這樣一個方向:機器與機器之間的互動成為常態,人類將走向一個主要由機器人組成的世界�！�66〕
而且,由于機器人言論本身具有的合法特性,利用和人類用戶同樣的網絡架構發揮作用,因而無法僅僅通過網絡安全的技術手段加以處理。更好的網絡安全有助于降低對手發動網絡戰攻擊的能力,但卻無助于降低對手發起信息戰攻擊的能力�！�67〕因此,需要形成的是對社交機器人的規制,在其仍然被使用的前提下盡可能削弱負面影響。
六、結語
社交機器人并非獨立存在的現象,而是同各類人工智能技術結合,立足于社交媒體的全網絡覆蓋和流量經濟的基本市場結構發揮作用。而在目前的法學研究中,談起“機器人”更多還是實體化的想象,卻忽略了這種更真實的存在。然而,較之于討論機器人的民事主體地位或是刑事責任能力,從國家安全的視角思考社交機器人對言論自由的影響,則是更重要的問題。
不同于關注機器人傳播虛假事實的研究,本文更進一步討論了機器人言論中包含的不涉及客觀真偽判斷的主觀意見所產生的影響,并指出從國家安全的視角來看,對這種形式上符合言論自由的言論應當加以規制。在社交媒體深刻嵌入公眾生活的背景下,社交機器人興起,通過自動化程序掌控賬號,模仿人類用戶的行為模式,以發言、轉發、點贊、評論、添加好友、發布狀態等一系列行動共同構成“言論”。
人工智能技術的發展,使社交機器人能夠更好隱藏自己的身份,突破平臺的過濾,也不容易被普通用戶識別,從而使其言論在社交媒體中大量傳播,形成人類用戶與社交機器人共存的言論生態�；谶@種共存的背景,某些信息被機器人更多傳播,某些信息則相應被淡化了,導致社交媒體中的社會流瀑、群體極化等效應更進一步得到強化。社交機器人對信息交流更強有力的影響能力,使人類用戶被誤導,因此使社交媒體成為一個嚴重不對等的思想市場而非自由市場。社交媒體的這種變化,通過作用于人們的心理和預期進一步產生對線下社會的影響,包括經濟、文化、社會觀念,而更重要的則是政治影響。
機器人言論的政治影響,導致社交機器人發展出了政治機器人這一特定形態,其基于政治目的進入社交媒體,通過言論來形成政治影響。政治機器人通過干擾社會輿論,影響公共決策的議程安排,反映錯誤的社會群體分化,干擾競爭性選舉,制造社會矛盾乃至群體對立。由于網絡的全球性,這也成為一個國際政治問題,成為國家間信息戰的一種形式。
對我國而言,國際政治問題更為突出,對社交機器人的重視,關鍵點不是對言論自由和民主的損害,而是對國家安全與主權的挑戰。而對此采取的規制手段,其正當性依據和目標首先也立足于國家安全視角。因此,對社交機器人的規制,需要從總體國家安全觀的視角來加以思考。
從這一視角出發,不能只依賴于全球協同治理、平臺自治和用戶個人的算法素養來遏制社交機器人的負面影響,而是需要公權力更多發揮作用。公權力機構要通過技術手段追蹤社交機器人幕后的控制者加以規制,也要加強對個人數據跨境流動的保護和對跨平臺cookie的規制來改變信息戰攻守態勢,同時要求自身的算法素養提升,能夠運用總體國家安全觀來全面認識網絡言論,增強對輿情的認知能力,結合對傳統媒體的規制來統籌線上與線下治理�？偠灾�,本文強調的是觀察視角的更新。
國家安全論文：大數據時代國家安全面臨的挑戰及對策
對言論自由的理解,需要動態地放在社會歷史語境中,關注言論作為一種信息如何在社會中發揮作用,因此又如何受到信息的生產與傳遞的技術革命的影響。從人類的信息處理能力出發,不同的信息數量級也要求不同的制度。形成于農業社會的人類認知習慣,難以應對信息社會中的信息過載,這就為各種操控言論并進而影響社會的手段提供了前提。經典的言論自由理論,正如布蘭代斯大法官(LouisDembitzBrandeis)所指出的那樣,認為可以通過更多言論而不是沉默來解決言論中的危險,但由于當下公眾面對的信息的數量和速度都和此前的社會有了根本差異,因此已經很難以信息流動的多樣性來解決信息扭曲,思想自由市場的隱喻在現代信息技術的環境中已經失效。〔90〕
如果仍然從言論自由的傳統觀念來理解被機器人重塑的言論生態,那么就無法有效回應新的挑戰,可能會面臨一系列負面的社會與政治后果,甚至可能是對國家安全的嚴重威脅。正視社交機器人的出現,重視機器人言論對言論自由的挑戰,并且從總體國家安全觀思考對策,才能更好應對人工智能影響下的互聯網,整體上實現數字社會的治理。
作者：李晟
轉載請注明來自發表學術論文網：http://www.cnzjbx.cn/dzlw/29792.html
