首頁 新聞 華爾街日報》AI支出持續高漲!:「這種」AI正成為主流 專家:需求或將激增1兆倍
華爾街日報》AI支出持續高漲!:「這種」AI正成為主流 專家:需求或將激增1兆倍 2025年1月28日。手機螢幕上顯示DeepSeek和ChatGPT的應用程式。(AP)
儘管投資者曾一度感到懷疑,但大型科技公司、各國政府和創業投資風險投資家當前投入人工智慧能(AI)領域的資金已達到空前規模。要理解其中的原因,就需要了解AI本身正在發生的變化。
AI技術正在從傳統的大型語言模型轉向推理模型和AI代理智能體。訓練傳統的大型語言模型(多數AI聊天機器人的免費版本中都會有的那種模型)需要龐大的電力和計算時間。但我們正迅速找到方法來減少人類使用它們時所需耗費的資源量。推理模型是建立在大型語言模型的基礎之上,但不同之處在於,推理模型在實際運行中消耗的微晶片和電力資源要多很多倍。
自OpenAI在去年9月份預展示了名為o1的首個推理模型以來,其他AI公司一直在爭相發布能夠與之競爭的系統。這其中包括DeepSeek的R1和伊隆・馬斯克(Elon Musk)的xAI,R1在今年年初震撼了AI領域並影響到許多科技和電力公司的估值,xAI則剛剛推出了Grok 3推理模型。
DeepSeek之所以引發了一定程度的恐慌,是因為它表明訓練AI模型的成本可以比其他現有模型低得多,這可能會降低對數據中心和昂貴先進晶片的需求。但DeepSeek真正產生的影響是將AI行業更進一步推向了資源密集型的推理模型,這意味著仍然非常需要計算基礎設施。
由於功能增強,這些推理系統可能很快就將成為人們在許多任務中的默認AI使用方式。OpenAI執行長首席執行官山姆・阿爾特曼(Sam Altman)表示,該公司AI模型的下一個重大升級將包括先進的推理功能。
為什麼推理模型以及包含推理模型的產品(比如「深度研究」工具和AI代理智能體)需要如此多的電力呢?答案在於它們的工作原理。
輝達英偉達(Nvidia)負責AI產品管理的副總裁卡里裡・布里斯基(Kari Briski)在最近的一篇部落格博客文章中寫道,AI推理模型可以輕鬆用掉比傳統大型語言模型多100倍的計算資源。這個倍數來自於推理模型要花費數分鐘甚至數小時與自己對話(並非所有這些對話都能被用戶看到),這構成了一個漫長的「思維鏈」(chain of thought)。模型使用的計算資源量與生成的單詞數量成正比,因此,生成100倍於回答問題所需單詞的推理模型將使用更多得多的電力和其他資源。
這些模型對算力的需求僅僅是個開始。舉個例子,Google、微軟(Microsoft)和Meta Platforms總共計劃在2025年至少花費2150億美元用於資本支出,其中大部分用於搭建AI數據中心。這意味著它們的資本支出將比去年增加45%。
為了闡述清楚對未來AI需求的預測,我們可以列出一個簡單的等式。
我們等式中的第一個值是處理ChatGPT等AI應用中單個資訊「詞元標記」(token)所需的計算資源量。
今年1月,隨著中國AI模型DeepSeek R1的發布,每個詞元標記的成本(包括算力和資金)似乎都將大跌。DeepSeek及其隨附的論文表明,訓練和交付AI的方式可能比美國AI實驗室之前披露的方法要高效得多。
從表面上看,這似乎表明未來AI對算力的需求將只是目前的一小部分,比如十分之一,甚至更少。但推理模型回答查詢所帶來的算力需求成長增長可能綽綽有餘地彌補這一點。以最簡單的方式算一下,如果基於DeepSeek的見解而開發出的更高效新AI模型將AI算力需求減少到原來的十分之一,但推理模型成為標準,而且對這些模型的需求增加100倍,那麼未來對AI算力的需求仍會達到原來的10倍。
這僅僅是開始。隨著企業發現新的AI模型能力更強,就會越來越頻繁地使用這些模型。這正將對算力的需求從用於訓練模型轉向使用模型,即AI行業所說的「推理」(inference)。
AI計算資源提供商Baseten的執行長首席執行官圖欣・斯里瓦斯塔瓦(Tuhin Srivastava)表示,這種向推理的轉變已在進行中。他的客戶包含那些在各自應用程式和服務中使用AI的科技公司,比如允許內容創作者直接從錄音的文字記錄中編輯音檔和影片的Descript,以及處理醫療記錄的新創初創公司PicnicHealth。斯里瓦斯塔瓦說,Baseten的客戶發現,隨著自身產品需求的快速成長增長,他們需要更強大的AI處理能力。
他補充說:「例如有一個客戶,我們在六個月前將其花費降低了大約60%,而在三個月內,他們的消費水準水平就已經超過最初的水準水平。」
OpenAI、Google和Meta等公司的所有大型AI實驗室仍在試圖通過訓練能力更強的AI模型來互相超越。無論成本如何,目標是盡可能多地佔領仍處於發展初期的AI市場。
舊金山新創初創公司Fractional AI的執行長首席執行官克里斯・泰勒(Chris Taylor)說:「我認為,前沿實驗室完全有可能需要繼續投入巨額資金,才能推動前沿技術的發展。」該公司幫助其他軟體公司構建和集成訂製的AI。像Baseten以及蓬勃發展的AI生態系統中的許多其他公司一樣,Fractional依靠這些尖端模型為自己的客戶提供結果。
創業投資風險投資家、Theory Ventures創始人托馬斯・通古斯(Tomasz Tunguz)表示,未來幾年,新的創新和更多AI專用微晶片可能意味著,向最終客戶交付AI的系統效率將比現在提高1,000倍。他補充說,投資者和大型科技公司押注的是,在未來十年裡,由於推理模型和快速採用,對AI模型的需求量可能會增加一兆倍甚至更多。
(相關報導:
華爾街日報》AI支出持續高漲!:「這種」AI正成為主流 專家:需求或將激增1兆倍
|
更多文章
)
通古斯說:「你在鍵盤上的每一次敲擊,或者你對著麥克風發出的每一個音素,都將至少由一個AI進行轉錄或處理。」他補充稱,如果是這樣的話,AI市場的規模可能很快就會比現在大1000倍。
更多新聞請搜尋🔍風傳媒
因為你,我們得以前進,你的支持是我們的動力
贊助風傳媒
更多文章
台文館吉祥物「阿龍」疑抄襲中國繪師 白委酸荒謬:推去中化卻抄中國 台灣文學館吉祥物「阿龍」疑似抄襲中國繪師「嗷嗚龍寶AoWu」,引起關注。對此,民眾黨立委吳春城今(16)日表示,這起事件也凸顯民進黨總以「政治凌駕一切」的荒謬,當民進黨一再推動「去中國化」、結果卻是標榜「台灣文學」的「台文館」吉祥物的設計圖案都是抄襲自中國。
水餃別直接下滾水煮!內行人用1招「免開火就飽滿又多汁」再也不怕黏鍋底 冷凍水餃是家常必備的食品之一,其料理方法簡單又方便,短時間內就能輕鬆上桌。近期臉書粉專「全聯消費經驗老實說」則有網友分享水餃的創意料理方式,該名網友做出一道「水餃蒸蛋」,只需要準備冷凍水餃、蛋和水,並放進電鍋,就能輕易做出好吃又特別的水餃料理,不用開火就能吃到超好吃的水餃!
外公指定3千萬房產給長孫繼承,死後遺囑被判定無效!專家曝忽略2件事,遺產落入別人手中 阿公立遺囑指定部分遺產要給長孫,可以嗎?近日一位阿公逝世,生前立下遺囑,除了子女擁有繼承權,長孫亦有一份,同時,阿公為了避免子女不聽話,還加碼「信託」,結果,協助辦理繼承不動產的地政士一看,立刻露出苦笑,「因為財產進行了信託,早就沒有所謂的遺囑的『遺贈』問題,已通通變成『遺產』,採第一順位平均繼承或另外協議分割,阿公生前意志早已全部變成遺憾!」
揭弊者保護法延宕2470天!黃國昌轟失望透頂 爆「大金控」遊說讓政院轉彎 總統蔡英文即將卸任,由蔡英文親任召集人的司法改革國會會議,曾在2017年8月作出推動「揭弊者保護法」的結論,但院版草案卻延宕至今仍在行政院研議中,為此,立法院司法法制委員會今(16)日排審民眾黨團及個別藍綠立委擬具的相關草案。民眾黨立委黃國昌痛批,陳內閣今日總辭,法案一切從頭再來,這就是為何人民會憤怒的原因;他也踢爆,行政院在「大金控老闆」遊說介入後膝蓋就軟了,在去年「大轉彎」調整立法政策。
快去刷存摺!勞保局發錢「近4萬元現金入帳」,一次領2個月,錯過就沒了 快去刷存摺!勞保局發錢了,3.9萬「國民年金保險生育給付」今(16)日入帳。根據勞保局行事曆報導,5月「國民年金保險生育給付」分成四天入帳,分別在5/2、5/9、5/16、5/23、5/30。本文整理國保生育給付補助金額、申請資格與方式。另外,生小孩有哪些補助可以領,本文也一次分享給大家。
老屋該賣還是該留?專家曝忽略2大關鍵考量點!恐拖垮下半生 這幾年房價飆漲迅速,晚了幾年想買房,殊不知房價早已翻漲數倍,遠遠超出自身負擔能力,此時若本身有間自住的老屋,應該將老屋翻新繼續「再戰50年」,還是賣掉舊換新。專家建議,老屋使用久了,翻修前先評估建築物耐震力是否還能補強,畢竟居住安全比甚麼都還重要;第二若想舊換新,則要先看看荷包能否負擔現在新屋價格再做打算。
520前中共網路侵擾暴增 國安局曝每日超過250萬次:還不包含民間單位 立法院外交國防委員會今(16)日邀請僑務委員會、外交部、國家安全局報告「中共海外統戰工作對我僑務推展與邦交維持之影響及應處作為」,並備質詢。因520新任總統、副總統就職典禮即將登場,外界皆關注中共是否會有侵擾手段?國安局表示,中共在軍事上目前無異,但在網路侵擾上,近期從每日的100多萬次,暴增到每日250多萬次。
力求道路更加平坦好行 徐榛蔚視察吉安鄉道路鋪設問題 花蓮縣長徐榛蔚15日下午會同花蓮縣議會副議長徐雪玉、花蓮縣議員吳建志、韓林梅、林正福、笛布斯˙顗賚、李正文、吉安鄉長游淑貞、吉安鄉民代表會主席邱美雲、縣府民政處長明良臻以及建設處長鄧子榆等人前往吉安鄉視察道路,並聽取在地居民的聲音,相關建言將納入後續道路評估範疇,為花蓮鄉親提供更為完善便捷且舒適平坦的道路環境。
免費租借循環杯 永續花蓮最Perfect 為了減少一次性飲料杯使用量及配合環境部推廣淨零綠生活政策,花蓮縣政府於113年5月15日起結合花蓮市10家友善環境飲料店業者,實施循環杯租賃系統,期程為6個月(自113年5月15日起至11月15日止)。
徐榛蔚會見法務部長蔡清祥 雙方力邀國人來花蓮旅遊 花蓮縣長徐榛蔚15日上午在副縣長顏新章及政風處副處長吳冠儁陪同下,會見法務部長蔡清祥,雙方針對推行廉政宣導進行晤談,亦談論0403地震災後的近況及進度,徐縣長誠摯歡迎全國朋友揪團來花蓮放鬆旅遊,蔡部長也邀請國人來花蓮遊玩。
台積電鳳凰城廠區驚傳爆炸 目前至少1人重傷 美國媒體報導,台積電位於亞利桑那州鳳凰城北部廠區當地時間15日下午傳出爆炸,目前至少1人重傷。美國廣播公司亞利桑那15台(ABC15Arizona)網站報導,鳳凰城(Phoenix)、格倫代爾(Glendale)和雛菊山(DaisyMountain)消防局緊急出動人員前往現場,廠區在北鳳凰城第43大道(43rdAvenue)和鴿子谷路(DoveValleyRoad)附近。
不願背書赦扁?蔡清祥連2天向立院請假 次長曝原因:都有正當事由 立法院司法法制委員會今(16)日排審朝野立委擬具攸關打詐的《刑法》部分條文修正案,及延宕至今近7年的「揭弊者保護法」草案,預定上午展開提案說明、報告及詢答,但原定列席備詢的法務部長蔡清祥再度不見身影。對此,法務部常務次長黃謀信會前接受媒體聯訪時解釋,蔡清祥上午是參加行政院會及院會後的總辭儀式,預計11時後就會到場。
臺東鹿野后湖區防救災行動通訊平台啟用 饒慶鈴:落實地方通訊平等 為改善臺東縣鹿野鄉后湖區通訊品質,臺東縣政府整合相關單位與資源,攜手完成防救災行動通訊平台建置,並於15日辦理啟用典禮。縣長饒慶鈴表示,后湖位處山區田間,時常發生訊號不良問題,此次建置防救災型行動基地台具發電系統,確保災害發生時仍可通訊暢通,且網路通訊品質提升後,更有助推動孩子的數位學習與社區地方創生等,為后湖地區帶來更多活力。
無紙化現場徵才x視訊面試專區 5/22就在竹南科學園區行政服務中心 勞動部勞動力發展署桃竹苗分署苗栗就業中心將於5月22日(星期三)上午9時至下午1時在竹南科學園區行政服務中心(苗栗縣竹南鎮科研路36號)辦理「2024苗栗地區現場徵才活動」,共邀請32家優質企業參加,釋出逾550個職缺。本次徵才活動全場採無紙化方式,除現場實體徵才外,並提供視訊面試服務,顯示桃竹苗分署對於數位科技和環保理念的重視。當日參與2家以上面試者可獲得精美微笑手提袋,象徵民眾找到好工作的好兆頭,歡迎有興趣的民眾踴躍上網報名。
齊心維護室內空氣 臺東推動巡檢輔導行動 為確保民眾在室內場所的呼吸健康,臺東縣政府針對適用室內空氣品質自主管理標章等19類公私場所,推動巡檢輔導作業,經調查臺東縣內醫療社福機構、幼兒園、托嬰中心、圖書館及政府機關等公私場所,已超過30間表達配合意願,臺東縣環保局將陸續至現場進行量測室內二氧化碳(CO2),以協助瞭解各場所室內空氣品質狀態。
國本學堂農業場域交流會 卓越班學長分享文蛤養殖管理心法 嘉義縣東石鄉是台灣首屈一指的水產養殖區域,然而台灣文蛤近年受極端氣候影響,環境負荷力與養殖率都大幅下降,市場供需逐漸失衡,為協助漁友因應多變環境,並促進多元養殖技術交流,國本學堂昨14日首次舉辦養殖產業場域交流會,課堂中由第3屆卓越班學長張育彰分享,從潮汐灌溉的水質管理技術以及高存活率養殖心法,探討氣候變遷下的生產管理策略。
嘉義阿勃勒盛開 2處最美黃金雨賞花點大公開 阿勃勒盛開了,現在到嘉義旅遊,就能欣賞阿勃勒花串隨風飄逸的金黃美景,嘉義縣文化觀光局推薦朴子溪自行車道、大林車站站長宿舍2處最佳賞花點,還能順遊周邊田園咖啡館、文青老屋及老戲院。
桃市府與台電成立專案小組 穩定桃園供水供電 近一個多月桃園頻繁停電,日前台電總經理也拜會市府說明處理情況,目前台電已調度人力至本市維修檢測供電設備及線路,台電也採納市府提出邀集專家學者共同成立專案小組,盼透過客觀評估機制,找出停電原因、降低停電頻率。
桃市連續6年獲評「空氣品質淨化區推動認養績優單位」 張善政給予肯定及感謝 桃園市長張善政15日下午主持市政會議,接受環保局呈獻榮獲環境部「112年空氣品質淨化區優良認養單位」獎項。張善政表示,桃園市是唯一連續6年獲評「空氣品質淨化區推動認養績優單位」的直轄市,市府輔導5處空品淨化區7個認養單位參加環境部甄選,最終全數獲獎,是非常不容易的成就,市長感謝並肯定獲獎的民間團體與企業夥伴,為守護桃園空氣品質及市民健康所付出的努力。
桃市消防局榮獲全球「智慧20大獎」 張善政肯定創新救災模式 桃園市長張善政15日下午主持市政會議,接受消防局呈獻榮獲美國智慧城市連結組織第8屆「智慧20大獎」。張善政表示,智慧20大獎是在全球所有智慧城市中,挑選出20個最具代表性的智慧城市應用服務項目,市府消防局是臺灣首次以消防科技應用為主題獲獎的單位,非常不容易。
2024桃園管樂嘉年華5/25登場 大阪市音樂團首度來臺演出 桃園管樂嘉年華邁入第20屆,今年訂於5/25與5/26、5/31至6/2連續兩個周末在桃園藝文廣場舉行,桃園市長張善政14日出席「2024桃園管樂嘉年華」記者會時表示,本屆首度啟動策展人機制,邀請何康國博士以「桃園故事」為主題,精心策劃5場風格多元的戶外大型管樂音樂會,邀請所有喜好音樂的市民朋友一同到現場欣賞精彩表演,帶動桃園愛好音樂風氣。
「中小企業知識學苑」開課 提升AI、永續競爭力 為持續協助中小企業因應產業趨勢並提升整體產業競爭力,北市產業局於今14日舉辦「臺北市中小企業知識學苑系列課程啟動記者會」活動,113年度以「AI培育.共築永續」為主題,邀請北市中小企業即日起踴躍報名今年度的「AI應用培育」及「永續人才培育」課程;今年AI課程將開設3梯次不同應用主題之課程包含「ChatGPT提升工作流程」、「打造AI行銷助手」、「ChatGPT整合客服智能服務」,協助中小企業實際將AI工具結合或導入企業平台或系統,優化企業營運指標;永續課程方面也將擴大培育至少200人次,其中今年度更將首度開設深度培育課程,提供包括國際氣候治理、國際淨零排放規範、永續揭露準則與綠色金融規範等,讓中小企業完整掌握國內外永續趨勢提前佈局永續競爭力。
北分署建構北北基友善銀力工作圈 雙向掌握企業與壯世代需求精準媒合 為協助壯世代重返職場,勞動部推動「55Plus壯世代就業促進措施」,北分署基隆就業中心在今(113)年2月成立銀髮就業服務專區,為壯世代求職者提供深度諮詢、就促工具、職業訓練等資源,制定專屬再就業行動計畫;同時,匯聚基隆、雙北職缺,建置北北基友善銀力工作圈,拓展壯世代求職範圍,幫助更快回到職場,自服務推出迄今,已服務150名壯世代民眾。
北市綠色採購金額創高 環保局表揚績優民間企業與團體 臺北市環保局15日舉辦「臺北市112年績優綠色採購民間企業及團體表揚大會」,由局長徐世勲親自頒獎表揚申報綠色採購金額達500萬元以上之93家績優民間企業及團體與2家取得環保標章認證之旅館業者,透過公開表揚方式,肯定民間單位落實綠色採購的努力,並共同推廣綠色消費理念。
情侶一起買房,房子恐偷偷被對方賣掉!專家曝婚前買房,一定要做這件事 情人節到來,不少情侶會選擇在結婚前先購置新房,不過得留意的是,情侶身分買房較夫妻身分買房沒有保障,因此建議採共同登記對雙方最好,不過若選擇只登記在某方名下,專家也建議,一開始就把借名登記的契約寫清楚,內容包括雙方各自出資與房貸繳款比例,最後則是保存支付房貸與頭期款金流,同時使用預告登記,防止所有權人任意處分資產。
北市稅處邀您捐發票兌好禮 大獎帶回家 雲端發票好處多!只要下載統一發票兌獎APP,綁定手機條碼及設定領獎帳戶,不但為您省去整理紙本發票的困擾,還可自動對獎,獎金匯入帳戶並免付4‰的印花稅,更有加碼的專屬獎項,可說是生活好幫手!北市稅捐處為鼓勵民眾索取雲端發票並於APP設定領獎帳戶,特別於5月10日起至5月31日、7月1日起至7月23日、9月1日至9月23日舉辦三階段「雲端發票線上捐好運龍總來」活動,活動期間內透過活動網頁捐贈雲端發票即可兌換好禮,儲存或捐贈一定張數以上發票就可以抽大獎!
北市山限區都更都審公告實施 打造安心住屋 因應全球極端天氣現象加劇,並兼顧環境及坡地老舊建物之居住安全,北市府於112年12月18日修正公布臺北市都市更新自治條例,開放位處非地質敏感區之山坡地、山限區內危險建物得辦理都市更新;其中,如需經都市設計審議檢討建築高度者,市府公布都市設計審議原則,將檢討項目明確化,以提高行政效率、簡政便民,加速都市更新推動!
台北獨董協會攜手麥肯錫舉辦「價值創造與企業策略」研討會 受到各界重視 為協助提升董事及經理人的專業性,台北獨董協會與麥肯錫亞洲股份有限公司台北分公司籌劃合作舉辦一系列的研討會,將麥肯錫在服務全球企業所取得的寶貴經驗,包括國際最佳實踐,分享給台灣的上市櫃公司董事會成員及高階主管。做為此一合作計劃的開局之作,台北獨董協會於5月15日舉辦首場研討會:從董事會角度看待「價值創造」與「企業策略」。共計有近六十位董總、董事和高管出席本次研討會,其中不乏電子業及金融業的知名人士。