近年AI技術與應用發展突飛猛進，自從ChatGPT問世之後，眾人對於AI的關注、創新和投資達到了空前的熱度。VMware執行長Raghu Raghuram認為，面對千載難逢的技術革命浪潮中，企業若要充分發揮生成式AI的價值和潛力，必須解決三大核心挑戰，透過導入AI應用提升工作者的生產力並加快全球經濟發展。
Raghu Raghuram分析，比起前幾次對於AI的炒作，這次的不同之處在於生成式AI能讓我們以對話的方式與強大的AI工具進行互動，進而生成包括文本、程式碼、視訊、音訊在內的全新內容。
如今的大型語言模型（LLM）讓英語、漢語等母語變成了真正的程式設計語言，人們在這些模型中輸入的提示詞，基本上就是它們用來運算答案的程式碼，這是有史以來距離實現程式設計真正普及化最近的一次。
Raghu Raghuram認為，這一切都在告訴人們，我們正處在一次千載難逢的革命浪潮中，這將為軟體發展、客戶支援、銷售、市場等主要的業務部門帶來轉型機遇。新一輪AI創新浪潮的加快將對整個全球經濟產生深遠影響。
有了生成式AI，人們可以透過解決不同學習者的差異性來重塑教育、幫助醫生做出臨床診斷、協助客戶做出投資決策等等，這都還只是冰山一角，根據麥肯錫最近的一份報告顯示，生成式AI每年可為全球創造高達7.9兆美元的經濟價值。
只不過，猶如以往此類大規模創新突破的早期階段一樣，人們在更加廣泛採用AI方面遇到了一些重大的障礙，而且若要在企業中充分發揮生成式AI的價值和潛力，必須共同解決三大核心挑戰。
挑戰一：將天價變成平價
Raghu Raghuram指出，訓練和管理當今的生成式AI模型既複雜又昂貴，需要耗費大量專用算力和高速網路以及無數記憶體。當前AI模型的效能與運算基礎設施的實際比例為1:1，在這種情況下既無法擴展，也不可持續。
風險投資機構Andreessen Horowitz最近將訓練ChatGPT這樣的模型描述為「人類迄今為止運算密集度最高的任務之一」。目前，單次訓練的價格從50萬美元到460萬美元不等，而且隨著模型的更新，訓練將成為一項持續性的花費。
看到這些令人瞠目結舌的費用，許多人便得出結論：全球將只會有極少數像ChatGPT這樣的「超大型LLM」。但其實還有另一條出路，未來一般企業都將能以可承受的價格構建並運行自己的定制化AI模型，這條路的關鍵在於靈活性和選擇性，儘管大多數資訊長都計畫使用超大型LLM來處理各種案例，但他們也想要構建大量較小的AI模型，以便針對特定任務進行優化，這些模型通常基於開源軟體。
