資料失真 爲生成式AI大硬傷

目前生成式AI最著名的就是ChatGPT,而Google、微軟、百度等網路企業,也都積極研發不同種類的生成式AI,儘管方向稍微不同,但是功能都差不多,就是讓使用者輸入問題後,立刻搜尋雲端資料庫,產生出具有人性化、有情緒性、有組織的摘要或文章。

IDC指出,知識管理是生成式AI最重要的使用範例,可搜尋整個企業中不同類型的圖像、文檔、語音等訊息。

另外,程式工程師也可用生成式AI來創建、優化、測試程式碼,提高工程師的生產力和程式代碼的質量。

連服務業也可以使用生成式AI,來提供銷售人員高度訂製化的營銷內容,甚或創建針對搜尋引擎的優化內容。

不過生成式AI是靠撈雲端資料庫的內容來重新編寫文案,因此雲端資料庫內容的正確與否將影響最後產出的正確性,成爲生成式AI發展過程中最大的硬傷。

IDC亞太地區研究部大數據和人工智能研究主管Deepika Giri指出,生成式AI可能以全新的方式重新構想組織格局,但仍須仔細評估實施相同方法的內在複雜性和風險。

Giri認爲,生成式AI技術現仍處於早期階段,供應商尚無法完全解決圍繞這項突破性技術的隱私、安全、準確性、版權、偏見和濫用問題。

全球也非常關注目前尚不受到監管的生成式AI應用,包括數據隱私和安全、智慧財產權、濫用產出內容等等問題。例如日本即成立一個委員會,要在生成式AI技術上跟國際接軌,而中國國家互聯網信息辦公室則提出對生成式AI的評估,但目前亞太地區還未有政府針對生成式AI制定任何形式的法令規範,恐成爲數位經濟創新發展上的阻礙。