要反互聯網壟斷,還得從算法共謀談起

(原標題:要反互聯網壟斷,還得從算法共謀談起)

本文轉載自中國社會科學網,作者李振利和李毅,李振利爲西南財經大學法學院博士,李毅爲西南財經大學法學院教授。

人工智能時代的到來,推動了世界數字經濟的迅猛發展。與此同時,人工智能的不當使用,特別是算法的廣泛使用對經濟、社會、法律等也造成了負面的影響,典型的案件包括順菜事件、Topkins案件、谷歌濫用市場支配地位案件等。

數據、算力、算法是人工智能不可或缺的三要素。2016年以來圍繞着人工智能大量宣傳達到了反壟斷法的範圍。關於反壟斷和人工智能出現的文獻中普遍的思路是,把市場中算法增長的使用描述爲遊戲的改變者[1]。

2015年牛津大學法學教授Ariel Ezrachi和美國田納西大學法學教授Maurice E.Stuckle提出了算法共謀[2]的理念。隨後在2016年出版的《算法驅動經濟的前景和風險》[3]詳細地介紹了計算機共謀是危險的,雖然傳統反壟斷法律阻止企業固定價格,數據驅動下的算法能迅速監控競爭對手的價格,並統一地調整價格。日益透明的價格看似對消費者有利,卻諷刺性地以傷害其而告終。

正在改變的市場現實是把市場的定價的權力移交到少數的企業手中去了。

這就促使我們提出了亟待解決的問題:仍舊保留看不見的手搖擺到什麼程度停下來?在人工智能和算法操縱的市場中,競爭定價是共謀嗎?

現行的法律能保護消費者嗎?

算法共謀的現狀和危害性

(一)算法共謀的特徵

共謀也叫有意識的平行行爲,沒有競爭者協議干預價格卻達到限制競爭的結果(壟斷高價)。算法共謀不會影響大多數市場,這樣的默示共謀呈現如下三個主要的特點:

首先,涉及同類產品的集中市場中,算法能在足夠程度上監控銷售價格和銷售的其他關鍵條件。在這樣的市場裡,極其容易引起算法共謀。當賣方很輕鬆地能監控到競爭者的競爭價格、銷售關鍵條件和其他任何偏離現行平衡的行爲時,大量的企業藉助在線定價促使和穩定形成有意識的平行行爲。在如此的環境中,算法價格能提供穩定和預測的工具,來執行對偏離者(競爭者)的可靠而有效的反擊。假使這種軟件來自超競爭或建議零售價格,在面臨價格偏離時,軟件可以用來報告和採取必要的報復行動。

第二個重要的市場條件是一旦價格偏離(打折),可信的威懾機制應運而生。快速的報復是算法環境的特色(執行威懾機制主義的速度與算法透明度爭議有關。如果公司在拖延幾天後才察覺競爭者的行爲,反擊也將拖延並影響到是否有足夠的能力制止偏離)。計算機能快速迅速地控制偏離,計算出數個行爲的牽連的利潤額,並採取抵抗行動來懲罰偏離者[4]。這是傳統壟斷協議所做不到的一系列行爲。計算迴應的速度有效地剝奪了打折競爭者的明顯的銷售行爲。速度意味着共謀能在幾秒鐘傳遞信號。初始的偏離者從打折獲利的否定率越大[5],共謀的可能性就越大,這樣一來,如果每個算法能快速地超過競爭者的打折,並減少起先打折者的激情,將來報復的威脅將促使協同行爲持續下去。

第三個條件是共謀所期望的結果不會威脅到包括客戶、不參與合謀的現在或將來的競爭者在內的共謀之外的局外人的反應。因而,在買方不能施加購買力量(或者慫恿賣方變節),銷售交易趨於頻率大、規律性強、規模相當小的集中市場裡最有可能形成共謀,一般情況下,這樣的市場具有高進入壁壘的障礙。

計算機算法不可能展示人類的偏見的事實加強了算法共謀的穩定性。當然,人類偏見也許反映在程序編碼上,但是偏見不會根據一個個的案件影響決定:計算機不會害怕被發覺,也不怕處以罰金和監禁,它也不會生氣。美國聯邦貿易委員會委員Terrrel McSweeny說:“我們正在談論不是真正由人決定的速度。所有的經濟模式建立在人類的動機和我們認爲人類將合理做的事情基礎之上。完全有可能存在這樣的情形:在一些市場上並不是所有的學習都是必須有應用價值的。”

以上的條件滿足時,將會出現算法的共謀。重要的是,電子商務市場的本質、數據的可用性、相似算法的發展以及算法培育的穩定性和透明性,可能推動共謀領域外的市場產生互相的依賴性。

(二)算法的分類

1、信使類共謀

所謂信使類共謀,指計算機被用來執行人類共謀限制競爭的意願,其身份類似人類的信使。在種情形中,人類共謀的目的是自願達成卡特爾(編者注:卡特爾對應英文爲Cartel,即一種壟斷集團,很容易發生在少數資源被數個企業完全掌握的情況下,爲了避免過度競爭導致的整體利益下跌,由一系列生產類似產品的企業組成的聯盟,是卡特爾壟斷組織的一種表現形式),利用計算機實施、監督和管理卡特爾,代替人類執行其命令。這種行爲可能符合共謀的傳統方式。人類藉助計算機暗中勾結,同樣也能達成協議或協同行爲。

在這類合謀中,人類是卡特爾的操縱者,是主人,計算機算法只不過充當了“信使”的角色,其按照人設計的程序來幫助實施、監督卡特爾並懲罰偏離行爲。在這類合謀中,證明存在反競爭協議的證據越充分,就越不需要證明存在合謀的意圖。當然,卡特爾成員的意圖在認定行爲的違法性上發揮着重要的作用。在特定的行爲中,法律會考慮行爲人的意圖。

2、軸輻類共謀

輻類共謀是指多家企業使用相同的計算機算法決定市場價格或對市場做出反應。此時,單一的縱向協議自身不可能產生限制競爭的效果,也未必折射出行爲人扭曲市場價格的意圖。但是,同行業衆多競爭者同時達成了類似的縱向協議,就可能導致經典的軸輻類共謀(hub-and-spoke),這時憑藉計算機算法研發者(作爲“軸”)的幫助,可能形成全行業的合謀,導致價格上漲。

因爲這些縱向協議競爭效果的證據相互交織在一起,有關合謀意圖的證據能幫助競爭主管機關去評估協議的目的及可能產生的競爭效果。在軸輻類合謀中,算法的開發者和使用者之間不是具有橫向競爭關係,因而他們之間的契約關係應定爲縱向協議的性質。當競爭對手使用相同的算法時,他們不見得同意固定網約車服務價格或其他價格。帶給反壟斷法困惑的是同一算法在不同企業的平行使用。這種算法對傳統的反壟斷法的挑戰是人們需要深入地研究此種算法的核心問題,並確認其設計意圖是否即將或可能導致價格剝削。假如這種算法被計劃用來促進使用者之間的共謀,競爭執法機關可以用典型的軸輻類合謀的理論。但如果算法缺乏如此的反競爭的意圖,執法當局只能適用相對溫和的合理原則,來分析算法使用中的縱向協議是否可能產生不利的結果。

3、預測類共謀

預測類共謀指計算機算法儘管由不同企業研發,但設計相似,其被用於監督市場活動,並能理性地實施價格跟隨行爲。這種情形下,缺乏足夠的證據證明協議的存在(無論是橫向協議還是縱向協議)。每個操縱者獨自地研發機器算法,但也清楚其競爭對手也研發類似的機器算法。由於全行業採用相似的算法,加強了企業之間的依賴性,這有可能導致產生反競爭的效果。雖然不存在書面或口頭的協議,但市場上存在默示共謀或有意識的平行行爲的形成條件。因爲默示共謀本身不屬於違法,改變市場條件的意圖證據在此類共謀尤爲重要。

這種情形給反壟斷法的執行帶來很多挑戰。本質上來說,有意識的平行行爲會在兩個層面上形成:首先,在設計計算機算法時,獨立而又未曾進行共謀的每一方明白這一點,只要有可能,計算機算法的優勢策略是跟隨別人的價格上漲而提價。

其次,每一方懂得,如果他方設置了相似的程序,就會建立超過競爭水平的市場平衡。這種根據行爲人標準劃分的有意識的平行行爲,會導致編程的計算機識別到市場上的有意識的平行行爲。因此,在無須鋌而走險達成協同行爲或默示共謀的情況下,人類操縱的計算機可以監督市場以及探尋建立相互行爲的可能性。同時,設計好程序的計算機也用來懲罰偏離默示協議的行爲和識別背離市場均衡的異己企業。計算機對市場動態做出理性反應本身並不違法。在缺乏溝通與合謀時,即便這種行爲導致了一種競爭水平之上的市場平衡,不一定引起反壟斷法的干預。畢竟,人們不能譴責企業在市場上從事理性和獨立的行爲。

問題是,人們能否譴責人爲創造出維繫默示共謀市場條件的行爲,這種市場條件主要指創造出利用計算機間實行的監督機制和懲罰機制的透明市場。通過運用高級的計算機算法人爲地促成了默示共謀條件形成的行爲,是否被認定爲非法?競爭主管機關會將競爭者之間的默示共謀或協議,加罪於使用相似算法去抑制脫離監管的競爭嗎?由於當事人不存在改變市場條件的協議,除集中控制外,大多數競爭主管機關缺乏其他的規制工具。集中控制可以有效處理通過計算機算法來改變市場條件進而達成默示共謀的行爲。某些情況下,也可以考慮不需要存在證明協議的替代性規則

4、自主類共謀

競爭者獨立開發和使用計算機算法去實現既定的目標如利潤最大化。通過自主學習和試驗,計算機算法能獨自地決定優化利潤的方式。明顯地,在這種共謀中,以意圖限定的法律思維和協議都難以適用。根據自我學習和從市場上收集數據的反饋,計算機能執行其認爲任何的最佳的策略。自主合謀對反壟斷規制是最棘手的。

預測共謀因爲不存在協議,限制了反壟斷法實施工具的適用。在可預測的數字環境中,被智能計算機實施的這類行爲是否應該受到法律的追究。與預測共謀不同的是,算法的使用者並未有意地促成有意識的平行行爲,企業僅僅依賴人工智能而已。

隨着計算機迅速調整以適應新的數據與競爭環境,算法的使用者和設計者也許知道這種行爲會增加市場透明度,以及超競爭水平的價格有可能發生,但他們無法事先預測到何時發生、持續多久以及達到何種程度,類似於刑法中的不可抗力。

必須承認,數字市場上存在複雜不同的計算機算法、不同的智能體和市場經營者。與預測共謀一樣,當市場上運行的智能體擁有類似的思維時,共謀的能力得到強化。自主學習機器很容易和其他相似的機器達成默示共謀,這些計算機也能更容易地預測和理解其他類似計算的行動。由於程序和計算機能輕而易舉被複制,所以由相似思維的智能體操縱的市場的現實社會應該會出現。

爲了清晰地識別以上四類共謀的區別,以便爲提出良策規制人工智能的共謀,我們總結它們的區別如下:

(三)算法共謀的行爲對競爭產生的危害性

1、共謀綜述

以人工智能爲手段的共謀,是默示壟斷協議的一種形式。根據達成壟斷協議主體意思表達形式來看,可以將壟斷協議劃分爲協議型壟斷協議和默契型壟斷協議[6]。這裡的協議型壟斷協議就是我們常說的明示壟斷協議,是指行爲主體相互間明顯地故意地從事了通關書面形式或口頭形式達成一致的協議以達到聯合到限制、排除競爭目的的行爲。

明示共謀是市場的經營者在市場經濟的競爭中爲了一部分羣體的利益所達成的妥協的協議,這種協議可以通關觀察經營者的行爲或者查處一些書面證據,可以比較容易地判斷行爲者故意的主觀意圖和結果行爲是否違反反壟斷法。這種壟斷協議對其參加壟斷協議的成員來說,有其先天的不足之處,那就是對其成員的約束力不強,不能及時發現一些成員的偏離行爲,以及隨之對偏離者採取果斷的反擊策略。

默示共謀,指行爲主體間未通過書面形式和口頭形式達成協議關係,但當事人通過彼此間的相互依賴關係和心照不宣的意思推理,採取相同或相似的行爲,達到實質限制競爭的目的。以人工智能爲手段的默示共謀爲壟斷者提供了十分可靠的輔助手段,表面上是計算機和算法在進行協商達成壟斷協議,實質上是反映背後操縱者不可告人的目的,機器會犯罪嗎?我們能懲罰機器嗎?這些可笑問題暗含的意味,值得學者和實務界進行深入的探索。

2、算法引起的默示共謀

反壟斷法實施的主要目標是企業,法律是鑑於屬人性去判定違法行爲的性質,也就是法律規制的是人作爲違法主體而實施的行爲,法律不能把機器作爲違法的主體。相應地,法律干預的重點是,相互勾結的企業之間是否達成了反映其一致意見的協議。當多個企業通過其僱員、董事、代理人、股東以及其他第三方,一致地限制或扭曲競爭時,便構成了違法行爲。

默示共謀,有的專家稱之爲協同公告,有的稱之爲企業間信息交換行爲。這種行爲是經營者單邊公告行爲,不需要對方的書面或口頭承諾。但單邊公告經營者公告的目的具有隱蔽的協同行動的意味,只要競爭者採取了與公告經營者長期且一致的行爲,單邊經營者就達到了不可告人的目的。

當計算機算法和機器取代了中間第三人的角色時,可能的違法行爲的範圍大大超出了傳統的共謀。計算機不僅通過協議或協同行爲來限制競爭,還可以通過更微妙的方式來反競爭。例如,相同的計算機算法,會導致市場環境趨於穩定,如此一來,他們就能對其他計算機的反應與優勢策略做出預判。這種數字化的市場更具有預測性,也更容易被控制。而且反壟斷執法機關的行爲控制措施很難對人工智能的共謀奏效,人工智能的共謀並不敏感反壟斷執法機關對其實施的產生威懾的反壟斷措施。

3、過度透明是算法共謀的環境條件

(1)透明度的優點

傳統上,高度透明性作爲驅使人類規制問責主要保護手段[7],受到人們的推崇。一般認爲,公衆詳細地懂得政府行使權力的具體程序可以抵制政府的濫用權力和政府失靈。法官Louis Braneis說:“陽光據說是最好的防腐劑,電燈是最有效的警察[8]。”

已卸任的美國前總統奧巴馬也這樣說“民主需要問責,問責需要透明[9],”即使當算法在執行行政責任代替人類判斷時,一些學者仍然宣稱作爲促進監督手段應加強透明性[10]。

(2)透明度的缺點

在現代民主社會裡作爲決定者最終的保護手段的透明度的普通思維模式持續不斷地受到了挑戰[11]。正如Mark Fenster所言,規制的透明度要花成本,阻礙了法律的執行和安全目標,抑制政府官員在缺乏伴隨公共審查的必然壓力下商討政策事務的能力[12]。

並且,許多問題尚未明確,如規範的透明度如何取得實際效果,什麼樣的規制信息應該公開,這種信息如何呈現,透明度潛在的缺點如何避免等[13]。結果,靠僅有的透明度來監督代理機構和引起代理機構改變行爲路線受到懷疑。

有四種原因來說明透明度不適合追究算法責任,一是閱讀、跟蹤和預測構成算法複雜的計算機編碼比較困難;二是透明要求與易受商業秘密影響的算法監管的許多私人執行無關;三是算法監管如此的艱難,如果沒有規範的透明度要求,要審查所有已經泄露的信息幾乎不可能;四是當算法用來代替人類做出自由裁量的決定時,關於算法的輸入(事實)和輸出(結果)的透明度不能充分受到適度的監督,因爲一個既定的法律判決結果不需要產生出判決結果背後關於推理的足夠信息。

4、算法共謀鋪平了接近完美的價格歧視的道路

如果透明度培育了默示共謀,秘密協議應該這些打破它的穩定性。我們所有很熟悉秘密協議(旅館僅向你打折)和目標顧客得到提升。這些措施確實提供了一條重新引進競爭到易受算法共謀影響市場的有益通道。即使秘密協議在市場上失勢,不會引起價格戰,他們不僅對共謀平衡打了折扣,消費者同樣也受益。確實,競爭代理機構也許青睞秘密打折、產品差異(因爲它在成本和數量上引入公司中的信息不對稱)和減弱的透明度。理想中一個持異議的公司提供秘密協議,這種協議削弱了協議價格,而後使默示平衡(共謀)產生動盪。

在不低估這些好處之時,政策制定者要當心兩個額外的反競爭結果,即幾乎完美的行爲歧視和隨之的混合歧視或混合共謀。在行爲歧視方面,我們關注兩個改變,一個是從三等價格歧視到一等價格歧視,另一個是使需求曲線向右改變,誘惑我們購買一般不需要的東西。

在數據驅動的經濟裡,動態定價和個性化服務繼續進化直至導致操縱消費者。賣家利用人工智能編輯的關於消費者的數據,他能估計出誘惑贊助者需要的折扣數目,更好地接近消費者的付款意願。

每個賣家的終極目標是把買家從競爭環境中移出(經常也稱兼併買家),慫恿買家對賣家忠誠和信任,以達到把買家的財富轉移至賣家的效果。我們稱這種現象爲杜魯門秀,即在編輯數據時由於信息不對稱和隱私保護下降創設一種競爭假象。買家沒有意識到賣家收集他們的數據進行統計分析,繼而賣家利用秘密協議給予買家價格歧視,買家仍舊認爲賣家分析後給予買家的折扣價是市場價。憑藉這種策略,動態的個性化價格在一定的市場下能持續上演,通過秘密協議增加買家福利的企圖也許應該遭到抵制。

5。 混合共謀的情況

迄今爲止我們設想兩種市場,一種是穩定的算法共謀市場,另一種是在算法共謀與行爲歧視之間變動的市場。重要的是,算法共謀與行爲歧視也會同時發生。在混合共謀中也會發生競爭,例如競爭者在低價值的客戶與低價值的客戶之間有所區別,一個公司的懶惰是另一個公司的獎勵。但是算法憑藉數量大、種類多的個人數據利用試錯方法來學習時,算法對每個客戶進行不同的誘惑來贏得潛在的投資回報率。除非當經常去賭場或加油站時低價值客戶的行爲改變,人們期望算法聚焦在可能是懶惰者的身上。如果是這樣的話,我們將會看到以忠實的沉睡者和低價值客戶爲基礎的市場和由推銷個性化服務策略吸引高價值客戶的差別化和非透明市場的形成。

現行反壟斷法規制的狀態及不足

(一)算法共謀對傳統反壟斷法的挑戰

1、消費者新的購買方式爲人工智能的共謀創造了條件

計算機協議自動化程度的增強和技術的迅速發展已經改變了我們交往、交流和交易的方式。購物者帶着買便宜貨的衝動進入網絡在線購物,手指輕輕一點就能找到許多種類不同的商品。電子商務、計算機、大數據、價格算法等方面的技術發展改變了我們的購物和交流方式。我們的購物選擇侷限在擺在貨架上的受控產品的零售者、雙方達成的協議和根據大量的信息做出決定的時代一去不復返了。在消費者從網絡在線購物中獲得極大好處的同時,個人數據在便利瀏覽網頁時被網絡平臺所收集,繼而通過複雜的算法和數據分析正在改變市場競爭的本質,並不總是對消費者有利。

2、算法的利弊分析

日益自動化和數字化的交易可以創造一個更加有效和透明的交易市場,在這個市場裡可以更加有效分配資源,最好的產品或服務也能以最低的價格進行交易。除了這些促進競爭的積極效果外,在以數字化算法爲基礎的市場中,賣家能跟蹤用戶行爲並收集行爲數據。在數字市場的環境裡,精明的參與者有能力監控客戶活動,並以前所未有的速度對市場變化做出反應。計算機算法可能被用於優化行爲廣告、個性化促銷和有針對性地實施差別定價。這也預示着數字卡特爾的到來。

20世紀90年代,美國司法部調查了幾個大型航空公司,他們被指控利用詳細的機票信息的數據庫公開宣稱重複的機票收費固定機制和快速的價格調整,卡特爾成員能利用第三方中心和複雜的信號機制秘密地達成一致的機票收費標準,以達到在線共謀的目的。然而,三年調查之後,這個案件以司法部和這些航空公司達成和解而告終,沒有形成司法判例。以人工智能爲手段的共謀使競爭執法機關不能根據現行的競爭法對其查出違法行爲,逃脫了執法機關的監管,但並不等於他們的行爲合法,只不過他們的違法行爲從明顯的違法轉移到暗地的違法,違法行爲更具有隱蔽性,同時也極大地間接損害了消費者的合法權益。我們不會容忍限制競爭的行爲,不論其發生在煙霧繚繞的房間,還是在通過複雜的價格算法發生在互聯網上。與線下市場類似,消費者有權享有自由而公平的在線市場環境。美國司法部反托拉斯局首席檢察官助理Bill Baer宣佈首次針對電子商務合謀提起刑事檢控。因爲引起競爭執法者關注的數字卡特爾仍舊很少,造就了許多公司有巨大的動機利用大數據搜尋各種方法達成共謀,特別是改進的反競爭實踐在法庭上很難被發現和指控的情況下,更容易促使這些公司從事秘密的違法行爲。

(二)計算機算法的反壟斷規制窘境:壟斷者之間更加公開的固定價格

一般情況下,反壟斷法在處理壟斷者的反競爭行爲或固定價格不會留下監管空白,因爲公司這樣的行爲符合通過交流或促進行爲以達到某種反競爭協議的目的法律要求。在這種情況下,我們通常以囚徒困境分析,納什均衡違背了卡特爾且削弱了彼此之間的力量,價格固定者需要達成協議避免出現更差的競爭價格結果。當然,因爲競爭價格而不是共謀價格對社會有益,反壟斷執法者想設法破壞解決卡特爾參與者面臨囚徒困境的互利互惠和信任的發展。計算機算法的出現要求轉變反壟斷法一些基本原則的思路。反壟斷法許久以來都是以假設的人爲規制對象的,然而,計算機及其算法成爲新的反壟斷規制對象,它的力量和人的力量很接近,更容易反抗消除反壟斷傷害所使用的現存的反壟斷方法。

1、協議的擴大化解釋

識別競爭者之間的“協議”是執行反壟斷法反對共謀結-果的前提條件。但實踐中,協議概念也許仍舊不能指導更多細微的交流形式,他們是否應該落在競爭規則應用的範圍內。例如像單邊公開宣示價格的傳遞信號機制被看作一種達成公共政策的一種邀請,但是如果在某種情況下等同一種協議,在現行的司法體制下這種判斷方法受到質疑。隨着算法的出現也引起了相似的挑戰。

算法的不斷髮展允許競爭者之間利用複雜的代碼作爲中介以達到共同的目標,使用這樣的手段他們可以進行快速而複雜的相互交流,協議的概念及其對數字經濟應用愈加清晰:在競爭者達成固定價格被視爲本身違法時,而允許快速公告和做出迴應的計算機技術模糊了協議的含義,對反壟斷執法機關區分公開的協議與競爭者之間的交流造成了困難(Borenstein,1997)。根據實現和執行公共政策的作用,有人提出這樣的問題:爲了體現在算法的輔助下達成衆人的思想交流,我們是否應該重新考慮協議的定義。例如前面討論的信號算法可能會導致快速的反覆的價格變動,最終會促成統一的價格,相當於商人之間的實際談判協商達成共謀協議。

競爭者對快速調整價格的反應直至形成共識等同於與協議嗎?關於這一點,對於算法交流(也叫算法集會)是否應該和競爭法覆蓋定義下的思想交流相似對待,仍舊很難下肯定的結論。然而,比較清晰的協議定義不僅要通過幫助企業知曉什麼活動是非法的、什麼活動是可以接受的,以減少較少概念的不確定性,而且還要潛在地強調與算法共謀相關的一些熱點問題。因爲在現行的法律標準內要證明諸如有意識的平行行爲的純粹單邊行爲構成限制競爭的協議是很困難的,特別是在司法制度內對協議解釋非常狹窄的情況下,一些競爭執法部門有可能借助如不正當競爭法靈活地處理反壟斷法目前不能解決的算法共謀行爲。

2、主觀意圖

用反壟斷法的法院關注意圖的證據來判斷是否違反了反壟斷法,他們不會因爲壞的意圖而懲罰惡意。相反,他們用意圖作爲指引,來描述觀察的行爲的特徵。在涉及排他行爲和企圖壟斷的壟斷案例中,法院採用測試法來衡量壟斷者和企圖壟斷者的意圖。法院依據傳統意圖的方法在數字經濟時代顯得非常困難。比利時安特衛普大學教授Jan Blockx[14]直接認爲反壟斷執法法機構根據競爭者之間意圖和策略評價企業的行爲並確立限制競爭的證據沒必要或者不充分。

如果採用了無意圖違法原則,反壟斷法就不會出現監管空白。結果,通過網絡爬蟲收集的定價信息以便數據接收者獲得競爭優勢的事實,不能排除用非法的方法漲價或限制市場的競爭。因此,在支持競爭的意圖下編寫的算法、自我學習(或者不用)進行的競爭,不排除有限制競爭的嫌疑。

當然,意圖證據放在具體的環境中也許有用。如果有證據證明以特殊的方式設計算法以達到軟化競爭的目的,在評價算法是否能或者已經限制了競爭明顯是非常有用的。鑑於在評價企業行爲經濟效果時存在很大的複雜性,企業的意圖和策略能提供良好的視野,審查其行爲追求的目的。在缺乏算法追求目的的證據下(主觀意圖),需要進行精細的效果分析,這樣也許會阻礙反壟斷的執法活動。

(三)誰應該承擔算法共謀的責任

關於算法共謀的責任,算法共謀提出許多挑戰性的問題,包括運用算法的計算機而不是人做出價格決定時,是否應該確立反壟斷責任;如果定價機器共謀,誰應該對此承擔責任?它應該是有問題算法開發者的責任還是使用者(受益者)的責任?他們根據什麼樣的基礎各自承擔責任?

誠如Mehra(2016)說的:“在處理計算機賣家採取反競爭的行爲歸責的問題上有三個選擇:一是對計算機賣家本身承擔;二是設計計算機程序的人承擔;三是兩者都不承擔責任。”第三種無責任被認爲不太現實,事實上就如同豁免了通過計算機算法的中介實施的反競爭的行爲的責任。

爭論的重點在於當商業策略委託給計算機算法而人類有沒有能力影響採取這樣決定的方法時,突出地顯示出把反壟斷責任歸咎於某些人是否合理。當然,如今大多數的算法仍舊是以人設計的指令運行的,毫無疑問,人應該對算法做出的決定負責。隨着算法向縱深發展,算法與人類的聯繫變得更加的微弱,自我行爲和定價的算法的能力使從算法自我決定中獲益的個別企業的責任受到懷疑。在這種情況下,決定責任主要依賴於手邊的事實。競爭執法機構應該考慮人類控制算法活動的程度。很顯然,算法是由人類設計的,但他們故意設計算法傷害消費者嗎?責任能以連帶責任或者各自責任的形式自動地指控算法的開發者、算法的使用者還是算法決定的受益者?即使反壟斷執法機關發現了默示共謀,他們又能做什麼呢?

在算法增加市場透明的情況下,被告經常對他們的行爲獨立地展開正當的商業合理性解釋。由於對市場變化做出的單邊合理反應導致的純形式的默示共謀一般不會引發反壟斷責任。但是,如果不當的一致行爲傳染或者促使了有意識的平行行爲,也許會引發反壟斷的干預。在某些情況下,行爲的單邊本質受到懷疑,有時可能推理出橫向或縱向協議。受到譴責的行爲也許包括髮信號,信息交流,同意從事共同的戰略,通過分享數據池和其他的共謀策略。在算法成爲廣泛共謀幹預市場價格時,反壟斷干預是很容易的。相似地,瞄準促使市場一致行爲的弱形式的發信號行爲可能納入到反壟斷監管的範圍。

但是,我們仍舊有幾個具有挑戰性的問題:純形式的有意識的平行行爲應該受到責難嗎?我們應該責備通過人工手段促進的默示共謀嗎?我們應該責備一個企業的合理行爲或者是在市場上相互運作時單邊研發用於分析可用公衆信息的算法的行爲嗎?解開這些謎團的唯一之路是把這些爭端作爲市場操控或者不公平的實踐行爲看待。

總而言之,企業有責任對他們發明或使用算法或者自我學習負責,他們有肯定的義務確信遵從反壟斷法的規則,不能原諒他們的無知職員或者價格機器所作所爲,就像員工被承認爲了僱主的利益而違反了反壟斷法,僱主要承擔責任。如果僱主使用算法,企業要對定價機器的行爲負責。即使出現企業沒被發現疏忽企業如何監控僱員和價格機器的情況,反壟斷執法機構也能通過週期性的罰款措施禁止共謀確保遵從反壟斷法。

對算法共謀的規制建議

隨着動態市場的演進,算法本身瞭解到佔優勢的合理策略就是默示共謀,公司應該在多大程度上對自我學習機器的行爲負責?我們能採取什麼樣的制止和平衡措施來阻止機器改變動態市場呢?競爭立法者和執法者現在被這些爭端所困擾着。

(一)規制算法的制度性選擇

控制算法有幾種選擇可以規制算法,包括市場解決法和國家規制法等一系列方法。但每種方法都有各式各樣的侷限性,它們或多或少只適合強調發現的一種算法的風險,沒有全面、綜合地防控系統算法風險的能力。

在多種的監管選擇中,有供需兩邊的市場解決方法。

首先,由競爭提供者組成,爲了提供跨不同維度的更好的算法。

其次是和消費者相似採取積極的行動措施,例如拒絕使用某種服務或者依賴高級的技術來保護自己免遭算法的危險(如匿名工具或者阻止審覈)。因爲市場解決方法沒有妨礙創新和阻止新進入者,所以市場解決方法是首要考慮的方法。然而如果以前提到過的市場解決方法不能奏效,可以採用其他的解決方法,包括自我組織(公司遵從一些善良原則和標準來提高自己的聲譽),自我規制,共同規制和國家干預。

在國家干預選擇的範圍內,一些專家現在主張建立新的監管制度來規制數字經濟。Gawer(2016)建議創建全球數字經濟規制機關,這個中央獨立的機構負責協調和監控因特網和數據的不同的規制方面。此外,爲了防控算法和人工智能所帶來的風險,其他人建議建立新型的人工智能規制體制:建議創制《人工智能發展法》,並建立相應的機構,主要任務是覈實人工智能系統的安全性,不賦予這個新的機構像FDA的權力禁止企業生產它認爲不安全的產品。在這部法律創設的責任體系中,經過該機構審覈的設計者、生產者和賣方受到有限侵權責任的制約,而沒有經過審覈的用於商業銷售或使用的項目將受到嚴格的共同和單獨責任的影響(Scherer2016)。

(二)算法的透明化原則和追責的措施

最近討論的監管規制措施聚焦在使算法透明化並對其產生的效果承擔責任。美國的聯邦貿易委員消費者保護局建立了嶄新的技術研究和調查的辦公室,負責在數個主題中進行獨立的研究和提供指導意見,包括算法透明。

另外,美國計算機協會公共政策委員會對算法的透明化和責任推薦了一套原則,目的是既可以對算法的創新發展實現最小化傷害又可以實現算法決定的好處。這些原則包括:

意識原則:算法分析系統的所有者、設計者、使用者和其他的利益相關者在設計、執行、使用中應該意識到可能涉及的偏見以及偏見對社會和個人產生的傷害。

進入和救濟原則:規制者應該鼓勵採用系列的機制,利用這種機制能向算法通知決定負面影響的個人和羣體提出問題和採取救濟措施。

責任原則:算法開發機構應該對使用算法產生的算法決定負責,即使他們不能詳細地解釋算法如何產生結果。

解釋原則:鼓勵使用算法做決定的系統和機構鑑於算法跟隨的程序和做出的特別決定做出解釋。在公共政策背景下,這種解釋非常重要。

數據出處原則:算法的構建者應該持續地描述收集目標數據的方式,同時要探測由人或算法收集數據過程引起的潛在的偏見。數據的公共審查爲糾偏提供了機會。然而由於關涉個人隱私、保護商業秘密,或者分析結果的披露使邪惡的經營者可能鑽制度的空子,限制進入有資格且授權批准的個人數據成爲正當的理由。

審覈原則:應該記錄模型、算法、數據和決定,以便遇到不承認算法造成的損害時可以審覈這些證據。

證實和測試原則:執法機構應該用嚴格的方法來驗證他們的模型並記錄那些方法和作用。特別地,他們應該常規地進行測算,以評價和決定模型是否產生歧視性損害,並鼓勵這些執法機構公開這種測算的結果。

(三)規制算法共謀的具體措施

雖然我們承認機器學習算法的共謀很難發現,但以近兩年數字市場飛快發展的速度,如果這種特殊的共謀成爲現實市場的一部分,在將來期待考慮採取什麼樣的規制措施就顯得尤爲重要。以下是我們推薦的幾種規制措施以及對競爭產生的風險。

1、黑匣子補漏器(black box tinkering)

隱蔽的算法逐漸控制我們日常行爲越來越多的方面,包括管理在線網上行爲和執行法律權利,使這些算法受到適當的審查是非常重要的。算法執行系統的消極透明驅動的監控侷限在能審查涉及算法的非透明的實踐行爲,但應鼓勵公衆積極地從事挑戰未知或者可能偏見的算法規制系統是競爭主管機關基本的任務。

黑匣補漏器是一種反向工程技術;它是利用本領域的知識和觀察,通過嚴格的檢驗,探明一種系統的特殊性,進而演繹揭露那項系統如何起作用的過程。黑匣補漏法這個先發制人的方法能使研究者挑戰我們周圍的黑匣系統並暴露黑匣系統的不當行爲。黑匣子補漏器允許我們在自動化盯準有問題的內容前核查平臺是否考慮公平使用算法。通過制約執行算法的隱蔽實踐活動,黑匣子補漏器在加強算法責任和促進公衆積極參與方面提供重要的便利。

但黑匣子補漏器可能會受到一些挑戰,比如說黑匣子補漏法等於違反不同的反黑客法和計算機侵入法,也許把黑匣子補漏器看作是非法侵入中間商網絡。立法者應該考慮制定黑匣子補漏安全港法律,目的使黑匣子補漏器的研究者免予在研究黑匣子補漏法過程中有意圖的而又最小違反法律的責任。制定法定的免責法將極大地促進公衆從事揭露各種算法左右人類行爲的隱蔽實踐活動,鼓勵公衆審查及自然影響算法起作用的方式,最終增強算法的責任。

2、減速法

如果算法的價格調整的速度和頻度促進共謀,一種破壞性的方法是降低賣家調整價格的速度或減少賣家調價的頻率。爲了減少數字市場中的高頻交流,政策制定者可能實行調整價格的拖延或者要求企業對新的提價做出最小時間的讓步(Ezrachi and Stuckle,2017)這種措施在奧地利和澳大利亞西部的燃料行業執行,在那裡各個賣家限制多於一天一次的彼此的競價能力。爲了減少價格變動的數量,這種機制試圖允許競爭者削減共謀價格並給賣家以打折者的美譽。在連續地監控競爭對手的價格和商業操控時,定價算法現在在價格變動上將面臨一定時間的耽擱。

在這種情形下,如果耽擱的時間足夠長,默示共謀的異議者從最初的壟斷價格到打折可能會獲利。無怪乎通過破壞性的算法或其他手段,市場上的國家干預也許會導致次優的結果。例如限制價格變動的速度也許會導致阻止賣家打折的狀態。另一種選擇是政府允許降價立即執行,但強制要求拖延一段時間漲價。

測試定價算法是否像人類一樣會鑽空子是非常有趣的。例如,一個具有支配地位的在任者通過削減價格來懲罰背叛者。背叛者可能不會立即提價,他反而被迫進一步地打折。基於這樣的考慮,背叛者的算法在打折之前,可能會考慮在任者報復的可能性、打折的成本(包括損失的成本)、收益(如果競爭者立即與背叛者的低價競賽,背叛者的收益會更少)。政府的定價拖延不是幫助背叛者和消費者,反倒是服務作爲一種對偏離超競爭價格懲罰機制。因爲減少了背叛者在可能報復的環境裡打折的動機,政府定價拖延可能會助長無意的默示共謀。

3、減少對買方優勢的透明度

政府能盯住助長默示共謀的公共政策,不需要提高買家的福利。例如在廉價交談中,賣家可以從便宜的信息交流中獲益,而買家不能獲利[15]。超越這個簡單的例子,一個明顯的挑戰是微調執行政策以便在沒有損害競爭過程本身的前提下阻止對共謀平衡負責的多種因素。這樣的干預也許導致了賣方和賣方之間的軍備競賽,賣方可能從資源和技術中獲益。賣方能憑藉高級的算法改變動態市場,並可能使用人工智能優化商業策略,競爭執法者能有效地發現和盯準這些策略嗎?

但透明不是消費者和賣方在黑暗中或陽光下的電燈開關。誠如經濟學文獻所言,重要的不是什麼東西被公司直接觀察到,要緊的是公司能從有用的市場數據中推算出什麼信息。在市場穩定時,推算出偏離共謀行爲是比較容易的,要求少於市場波動時的市場數據。算法共謀孵化器裡的測試,能使政府發現和微調保持什麼樣的秘密信息以便對算法來講很難推斷出競爭者在做什麼事情。

在網絡工業中,這也許證明是有問題的,因爲它可能增加了消費者的成本。因此對於孵化器裡的潛在的試驗是定價僅通過不對稱價格比較網站來傳達(在那裡消費者能很快地看到競爭者的價格,算法不能捕獲定價信息),這種方法的風險是如果價格對比網站的市場力量增加,對買賣雙方是有害的。爲了減少透明度,政策制定者可以實行秘密打折制度或者對網上公佈的信息強加限制。但這種政策有可能導致通過減少對消費者有用的信息量或者通過阻止快速調整價格以有效應對供需而限制競爭。

4、增加偏離的可能性

另外的抵制措施可能是通過促進進入、偏離者行爲和偏離默示壟斷協議的可能性來瞄準市場結構。

首先,我們探索一下通過促進偏離者的進入和減少規制進入障礙是否能破壞算法共謀的穩定性。算法孵化器能檢驗對於特殊的行業來說,一個企業的進入是否能足夠破壞默示共謀的穩定性,之後還能檢測出可以破壞多長時間。

另一種選擇是在確保消費者有足夠的有用信息(爲了限制歧視)促成秘密協議。這種遠離市場的協議能使企業利用和買家直接交流的手段削減市場價格。就像歐盟注意到的,市場需要足夠的透明度允許協同的企業最大程度上監控其他公司是否偏離共謀價格,然後知道何時採取報復措施。透明度主要依賴市場交易在特定的市場如何發生。在評價市場透明度的程度時,關鍵因素是企業能從有用的信息中推算出其他公司的行爲。執行威懾機制的速度與透明度的爭議相關,如果在一定的耽擱之後僅能觀察到競爭者的行動,那麼採取報復措施也可能延遲,這可能影響到是否能足夠地制止偏離。

算法共謀孵化器本來能檢測出使散戶購買者把他們的訂單彙集成非經常、非可預測大訂單,是否能產生出來自賣家算法的較好價格,結果卻以巨大的利潤回報給賣家,反而起到偏離共謀體制的目的。

5、算法設計的規制

政策制定者自然地能考慮制定限制算法設計方式的規則。如阿西莫夫的機器人學三定律的算法版本。如果我們制定的規則的目的是防止企業獨立地促成反競爭的價格,規制措施可能禁止算法對需要維繫默示共謀的特殊情況或市場變化做出反應。作爲一個例子,算法能設計出不對價格的近期變化做出反應或者忽略其他個別公司的變化,但他們仍舊能解釋企業中的平均價格。雖然這種解決方式不限制競爭,但它可能限制企業研發革新算法的能力。另外,規制算法設計也把監督企業是否有效遵守設計規則的重任加在了競爭執法機構的身上。

數字經濟的近來發展挑戰了反壟斷立法和執法者依據已經確立的方法以達到保護競爭、保障市場信任和促進社會福祉的目的。現在實務屆激烈討論的最前沿問題是現代化商業模型中計算機算法普遍化的整合可能產生競爭法不可低估的風險。在不忽視自動化系統給我們帶來巨大的便利之處時,應該密切關注算法在動態市場和動態競爭中所引發的默示共謀的不利後果。

基於算法多維度本質,反壟斷立法者不能單獨地應對如此複雜的局面,而應該和反壟斷執法者、消費者保護機構、數據保護機構和在深度學習方面配備專家的計算機科學技術相關領域的規制者和組織進行密切的溝通和合作。在將來不管採取什麼樣的規制措施,都應該深度地評價和謹慎地採納這些規制措施。

參考資料

[1]Nicola Petit.Antitrust and Artificial Intelligence:A Research Agenda[J]。Journal of European Competition Law and Practice,2017,8(06):361。

[2]Ariel Ezrachi,Maurice E Stucke.Two Artificial Neural Networks Meet in an Online Hub and Change the Future(of Competition,Market Dynamics and Society)[J]。University of Tennessee College of Law,2017,7(323):1。

[3]Ariel Ezrachi,Maurice E.Stucke.The Promise and Perils of Algorithm-Driven Economy[M]。Massachusetts:Harvard University Press,2016。

[4]Jill Priluck.When Bots Collude[EB/OL]。(2015-04-25)。http://www.newyorker.com/business/currency/when-bots-collude。

[5]Samuel B Hwang,Sungho Kim.Dynamic Pricing Algorithm for E-Commerce[J]。in Advances in Systems,Computing Sciences and Software Engineering,2006:149-155。

[6]華國勝,李勝利。經濟法[M]。北京:法律出版社,2016:81。

[7]MaayanPerel,Niva Elkin-Kore.Black Box Tingkering:Beyond Disclosure in Algorithmic Enforcement[J]。Florida Law Review,2017,181(69):186。

[8]Louis D Brandeis.Other People‘s Money And How The Bankers Use It[M]。Martino Publishing,1914:92。

[9]Memorandum from the White House to the Heads of Exec.Dep‘ts & Agencies[Z]。Federal Register,2009,74(15):4683。

[10]Jennifer M Urban,et al.Assembly,Notice and Takedown in Everyday Practice[J]。2016,49-52。

[11]Dena Chen,Musetta Durkee,Jared Friend,Jennifer Urban.Updating 17 U.S.C。§ 512‘s Notice and Takedown Procedure for Innovators,Creators,and Consumers[J]。Berkley Law of California,2011,(3):17-19。

[12]Mark Fenster.The Opacity of Transparency[J]。Iowa L.Rev.2006,885(91):906-908。

[13]Jennifer Shkabatur.Transpareny With(out) Accountability:Open Government in the United States[J]。31 YALE L。& POL Y REv,2012,79(31):84。

[14]Jan Blockx.Antitrust in Digital Markets in the EU:Policing Price Bots[J]。Social science Electronic Publishing,2017:7。

(更多精彩財經資訊,點擊這裡下載華爾街見聞App)