是算法還是“算計”

法國雅高集團CEO塞巴斯蒂安•巴贊認爲,每個人都是數字化的主體,除非是在一個與世隔絕的山洞裡生活15年,否則都體會到了它的無處不在。算法是數字時代的重要組成部分,我們也無法與之斷絕任何關係。作爲主體之一,企業又該如何利用算法呢?

雖然算法帶來了肉眼可見的便利,但也存在着藏形匿影的風險。比如,大衆沉溺於算法世界無法自拔的現實是毋庸置疑的。這意味着企業應當秉持社會責任,爭取市場的同時,避免用戶成爲算法社會的“囚徒”。

算法處理的是海量信息與用戶供需之間的矛盾,它確實提升了篩選資源的效率。但同時,殘酷的市場競爭也使注意力經濟成爲了重點博弈對象。在這場利益大戰中,媒體不再注重信息的多樣化與平衡性,正如彭蘭在《算法社會的“囚徒”》中提到,內容推薦算法主要是參照人們的習慣和相似人羣的興趣。

遵循使用與滿足理論,算法是一種投其所好的技術。這一技術爲用戶所營造的擬態環境,極易產生信息繭房。人們在自己的圈層裡接觸同樣的訊息,視野變得越來越狹窄,甚至可能與真相背道而馳。在算法的投喂中,雖然用戶的多巴胺得到加速分泌,但是會置身於一個單調的世界裡。

華東師範大學教授劉擎發現,如今的成年人缺乏深刻與緩慢的閱讀。因爲他們將大量的時間花在短視頻等社交媒體上。這導致成年人越來越“童稚化”,茫然若失,難以接受延遲滿足,最終也不能滿腹經綸。從劉教授的發現中,也可以大膽推斷,成年人受到算法的一定束縛。

企業應當明白,傳統推薦算法無法滿足人們對異質信息的需求,爲了避免這種侷限,可利用弱關係推薦算法。它旨在推薦多元化的信息,人們不至於像原始部落般對外面的世界知之甚少。所謂的弱關係,就是所推薦的信息是用戶很少接觸的,並且內容包羅萬象。這避免了信息資源的浪費,同時,儘可能讓用戶不會淪落到知識匱乏的地步。如果算法能將更多優質且深刻的信息優先推薦,人們的素質就能進一步提升,讓DT時代遠離“數字海洛因”的差評。

1.偏見或歧視

算法世界裡,人們被賦予“算法身份”,但這種身份一旦具有被歧視的標籤,這就會產生馬太效應。個體在算法世界裡被篩選,處於優勢地位者不斷順流而上,而劣勢地位者則很難有翻身之日。算法理性中缺少發展眼光,只是侷限於所記錄和追蹤的個體信息。

YouTube推薦疫苗視頻中的算法就存在偏差。YouTube上支持疫苗的視頻(64.75%)多於反對疫苗的視頻(19.98%),其中持中立態度的視頻佔15.27%。YouTube更有可能推薦中立和支持疫苗的視頻,而不是反對疫苗的視頻。YouTube的推薦系統對用戶在YouTube上發現的疫苗信息類型就此產生影響。

2.技術賦權

《必須警惕“人工智能萬能論”,科技烏托邦不是人類的未來》中提到“算法社會一定是科技精英社會。少數人會成爲主宰,而大多數人只能順從。”絕大多數人仍處在被動之中,被制約在算法權力之下,完全手無縛雞之力。它被掌握在少數人手中,從而進一步拉大數字鴻溝。

算法精英們可以利用算法引導議程的設置,影響事態的走向。關於新冠病毒的來源,全球都在爭論是來自美國實驗室還是中國武漢,但這也僅止步於大衆的猜想。真相強勢地掌握在少數人手中,凌駕於國家利益之上,成爲爭奪和維護政治利益的武器。這也警示處於數字化轉型中的企業,算法是硬核的技術,但不是爭取利益的砝碼。

3.真相廉價

商業的浪潮洶涌澎湃,而流量成了資本的寵兒。只有不斷地博得關注,才能創造更大的市場價值,就如遊戲給人帶來的刺激,令人熱血沸騰。後真相時代,身着隱身衣的算法搗鼓出太多的反轉新聞、標題黨。而真相就像瞬間揭曉謎底的魔術,無法見證“奇蹟”,最終只能淪落到靠邊站甚至被埋沒。

數字化時代無法捨棄對算法的運用,決策者依靠算法進行產出,如各大排行榜直接影響內容生產的方向;導航系統等技術都需要大量縝密的算法。但是,決策過程中也不能完全依賴算法。算法推薦會導致同質化,進而會不斷缺失想象力和創造力。並且算法背後,技術的偏見和歧視以及技術人員的主觀因素都有可能導致不理想的決策。

數字化時代,算法的運用必不可少。但算法推薦會給人的認知帶來侷限,“信息繭房”的存在會導致迴音室效應,不利於人的長足發展。算法看似是技術理性,但也存在利益的驅使。另外,算法可能拉大數字鴻溝。因此,數字時代中的企業,更應該反思算法倫理、遵循法律法規,合理地利用算法進行決策。