首頁 新聞 華爾街日報》GPT-3模型每回答10到50次用戶詢問,就需要喝500毫升的水!AI吃電又耗水,如何破解這一難題?
華爾街日報》GPT-3模型每回答10到50次用戶詢問,就需要喝500毫升的水!AI吃電又耗水,如何破解這一難題? 人工智慧開發商稱正在努力實現碳中和,並補充比他們使用量還多的水,即使這些公司還在繼續建設大型數據中心。(使用Gemini生成)
人工智慧(AI)將改變人們的工作和日常生活,但也有弊端:AI電腦中心會消耗大量電力和水,為其處理晶片供電並冷卻其散發的熱量。
諮詢公司麥肯錫(McKinsey)的預測顯示,到2030年,美國各類數據中心的年用電量將從目前佔美國總用電量的3%-4%升至11%-12%,其中AI是主力軍。
與此同時,加州大學河濱分校(University of California, Riverside)和德州大學阿靈頓分校(University of Texas at Arlington)的研究人員表示,到2027年,全球AI的水需求量可能超過丹麥每年的總取水量,或相當於英國的一半。
耗電耗水給這一行業帶來物流和公眾形象的問題。一些公用事業公司難以滿足AI企業的需求,當地社區也予以抵制,擔心增加使用量會推高電價並耗盡水資源。
包括亞馬遜(Amazon)、Alphabet旗下Google(Google)、Meta和微軟(Microsoft)在內的最大的AI提供商表示,他們正在努力實現碳中和,並補充比他們使用量還多的水,即使這些公司還在繼續建設大型數據中心。
「建設數據中心將更加困難,尤其是在能源本來就很寶貴或水資源可能稀缺的地方,」技術諮詢公司Gartner的研究副總裁Ed Anderson說。但他補充道,「經濟機會足夠豐富,提供商會找到辦法的。」
以下是科技公司和研究人員希望採取的有助於減少AI電力和水需求的措施。
提高晶片效率 解決耗電問題的一種方法是降低晶片的耗電量。全球最大的AI處理器製造商輝達(Nvidia)表示,其最新款的Blackwell晶片的能效將比之前的高端版本強25倍左右。與此同時,亞馬遜、Google、Meta和微軟正在設計自己的處理晶片,即是為了降低成本,也是為了讓它們更省電。
「每一代都比上一代效率高很多,」Google副總裁兼工程研究員Partha Ranganathan談到該公司的處理器時說。
不同的水源 用於冷卻數據中心的設備本身也帶來一個問題:這些設備需要消耗大量的水,這些水從何而來?Google表示,其全球數據中心在2023年使用了約61億加侖水,相當於每年用於灌溉和維護美國西南部40個高爾夫球場的用水量。
加州大學河濱分校和德州大學阿靈頓分校的研究人員稱,OpenAI的GPT-3模型每回答10到50次用戶詢問,就會消耗相當於16.9盎司(500毫升)瓶裝水的水量。OpenAI對此不予置評。
例如,亞馬遜在加州聖克拉拉的數據中心使用回收廢水進行冷卻。這些水來自該市污水處理系統,經過三個步驟的處理去除99%的雜質。
更智慧的AI訓練 一些研究人員嘗試謹慎控制AI模型在訓練期間吸收的資訊種類和數量。通常,訓練所謂的大語言模型AI,比如OpenAI的ChatGPT和微軟的Copilot,需要從網路和其他地方獲取數千億個單詞,然後學習它們之間的關係。
這需要耗費大量能源和水資源。史丹佛大學的一份報告顯示,訓練名為BLOOM的AI模型在3個半月的時間裡消耗的電力足以供美國普通家庭使用41年。
加州大學河濱分校電氣與電腦工程系教授Shaolei Ren表示,在用水方面,訓練名為LaMDA的GoogleAI模型大約消耗了200萬升水,足以裝滿大約5,000個浴缸。這些水包括用於發電以及用於給電腦降溫的水。Google對這項研究不予置評,但表示該公司「致力於以環保的方式為我們的數據中心降溫」。
一種可能的解決方案是讓AI去除冗餘和低品質的數據,而不是對整個網路上的內容來者不拒。這樣做的目的是,當用戶向AI系統提問時,AI可以更輕鬆地在一個規模小得多的數據集中進行篩選。
專家們指出,限制資訊接收的AI系統產生「幻覺」(給出錯誤或誤導性答案)的可能性也更低,而且由於涵蓋的數據品質更高,因此能做出更切題的回答。微軟發現,該公司一個精簡版AI在常識和邏輯推理方面的表現超過了更大的AI。
降低功耗 多所大學的研究人員發現, 限制AI電腦的用電量只會對結果產生輕微影響,比如處理時間略有增加。
麻省理工學院(Massachusetts Institute of Technology)和東北大學(Northeastern University)的專家表示,將Meta的一個AI功耗降低22%-24%,只會讓查詢的回應速度降低5%-8%。「這些技術可以明顯降低能耗,」研究人員表示。他們還說,這種方法還降低了處理器的運行溫度,從而有望減少冷卻需求。
Meta對這項研究不予置評,但表示自「十多年前我們開始設計第一個數據中心」以來,該公司一直在努力提高數據中心的能源效率。
與此同時,密西根大學(University of Michigan)、華盛頓大學(University of Washington)和加州大學聖地牙哥分校(University of California, San Diego)的一個團隊設計了一種算法,調節訓練過程中使用的電力。他們表示,這項技術可以將電力消耗降低多達30%。
向用戶展示AI的影響 一些研究人員認為,企業應該讓用戶更多地了解AI對環境的影響,讓他們在使用這項技術時做出更明智的決定。加州大學河濱分校的Ren建議,AI提供商應披露每次查詢大約消耗的電力和水量,類似於Google把每次行程將產生的碳排放量告知搜尋航班的人。
(相關報導:
華爾街日報》Nvidia登頂之後,是否只剩下坡路可走?
|
更多文章
)
另一個建議是為AI系統的能效設計一個評級體系,類似於美國政府對家用電器和其他產品的能源之星(Energy Star)評級。機器學習工具公司Hugging Face的AI研究員薩莎・盧奇歐尼(Sasha Luccioni)表示,這樣一個體系可能幫助人們根據能耗為不同的任務選擇不同的AI模型。
利用綠色能源 學術界和其他人士還提出了另一些建議,試圖通過使用綠色能源將AI的環境影響降至最低。例如,企業可以在水力發電豐富的挪威或地熱資源豐富的冰島等擁有豐富低排放能源的國家建設更多的數據中心。企業還可以在一天中的不同時間段在不同地點進行AI計算,例如在白天部署大量使用太陽能的電腦中心,或是在夜間風力更可靠時部署風力發電的電腦中心。
為電腦降溫 數據中心的電腦會散發出巨大的熱量,為防止電子元件損壞,其溫度必須保持在一定範圍內,通常是華氏64至72度(約攝氏18至22度)。傳統上,這是通過大功率空調來實現的。但空調消耗的電力佔一個典型數據中心總耗電量的40%,而將熱量排放到外部空氣的冷卻塔則會消耗大量水。
為此,數據中心行業正在轉向液體冷卻技術,讓一種特殊液體或冷水循環到位於處理器晶片頂部的「冷板」,使其保持在安全高效的溫度範圍內。這種被稱為直接晶片液體冷卻的系統比傳統方法耗電量更低(據輝達稱,耗電量低30%左右),因為相比於將冷空氣吹過電子元件,液體在帶走電子元件熱量方面的效果要好得多。
另一種正在開發的方法被稱為浸沒式冷卻,即將電腦本身放置在裝有冷卻液的大型容器中。微雲端計算子公司Azure的技術長Mark Russinovich說,雖然這種方法展現出初步的希望,但人們對其中經常使用的化學物質存在環境方面的擔憂。
與此同時,一些公司正在使用能夠承受更高溫度且不需要太多冷卻的運算設備。Google表示,其數據中心的能效已經是典型數據中心的1.8倍,這在一定程度上是通過將內部溫度提高到華氏80度(攝氏26.67度)實現的。根據能源之星計劃,數據中心每升溫1華氏度,就能節省4%-5%的能源成本。
(相關報導:
華爾街日報》Nvidia登頂之後,是否只剩下坡路可走?
|
更多文章
)
更多新聞請搜尋🔍風傳媒
因為你,我們得以前進,你的支持是我們的動力
贊助風傳媒
更多文章
再次突破美國科技封鎖!華為今發表Mate 70,挑戰iPhone中國市占率 華為近日在微博推出三支Mate70宣傳片,並將在26日下午2時30分舉行新品發表會,迎接Mate60的接班人登場,包括更新版的尖端晶片、5G+技術、手勢指令、1吋感光元件、新版鴻蒙系統,都是各界關注焦點。《華爾街日報》指出,華為將以Mate70衝擊iPhone的中國市場,並且此宣告再一次突圍美國的科技封鎖。
2024 AI領航評審特別獎》創新引領醫療科技:睿生光電20年磨一劍,打下數位X光感測根基 台灣醫療水準舉世聞名,近年隨著科技業者陸續投入資源,遠端醫療及精準醫療發展日益進步,並且落實醫療流程的數位轉型。國內面板龍頭群創光電轉投資的睿生光電(以下簡稱睿生),憑藉其在數位X光感測器領域的創新技術,不僅在全球市場佔有舉足輕重的地位,更在2024年榮獲風傳媒「AI醫療領航大獎」評審團特別獎的肯定,展現極為獨特的競爭力。睿生的核心產品是數位X光攝影系統,也......
統一發票9、10月中獎號碼出爐!符合1條件加碼抽500元 113年(2024年)9、10月統一發票中獎號碼將在今(25)日開出,特別獎「28630525」、特獎「90028580」、頭獎「27435934、39666605、02550031」,屆時本站將即時更新。領獎期間自113年8月6日起至113年11月5日止。財政部提醒,仍在兌領期限內的5-6月發票還有「4張大獎沒人領」,提醒民眾趕在11月5日之前完成兌領,以免成了過路財神。
勞保還沒領就去世怎麼辦?別急著用一次領全取出,專家教1招多領25萬 勞保為政府主導之社會保險制度,保障勞工退休生活,不過,請領勞保給付時,常需藉由試算得知如何領取較有利,若沒有經過試算,有可能喪失許多權益,必須藉由規劃才能領取最佳金額。Youtuber「勞工的朋友~張秘書」發布影片表示,若勞工將相關權益搞清楚後,就能清楚對自身最有利的領法。
新竹買房最熱還是竹北!十大熱門申貸路段曝光,也有1區總價仍低於千萬 台灣房屋集團整理聯徵中心2024年上半年數據,統計新竹縣市十大熱門申貸路段,其中「新竹縣竹北市」獨占六席,成為申貸購屋最受歡迎的區域。在總計3,823件樣本當中,「新竹市介壽一路」以337件榮登榜首;「竹北光明六路東二段」以306件緊隨其後;「竹北高鐵八路」184件排名第三。
郭國文要辜仲諒獎金加碼 黃國昌批藉勢藉端:叫陳啟昱吐錢就綽綽有餘 中華隊12強賽奪冠,綠委郭國文喊話棒協理事長辜仲諒再加碼3000萬獎金到1億元,引起議論。對此,民眾黨立委黃國昌表示,郭國文在財政委員會當過幾年委員,不知道他平常跟這些金控是怎麼相處的,利用職權藉勢藉端就是郭國文的作風,「你忘了自己是誰啊?」網友說得很好,今天到南檢報到的台鹽綠能前董座陳啟昱,他污走的錢拿一小部分出來,就綽綽有餘,民進黨立委應該去呼籲陳啟昱,叫他把錢吐出來。
爆司法院考察捷克報告逾半是行程摘要 黃國昌轟兒戲:編預算去旅遊? 中央政府2025年度總預算案審查中,立法院司法法制委員會今(25)日審查司法院相關收支部分。民眾黨立委黃國昌直指,司法院預算書的出國計畫連續3年複製貼上,說要考察法國違憲制度卻跑去捷克,9天考察行程僅3天安排公務,且28頁的出國報告有26頁為行程摘要,未來展望只有半頁。黃國昌質疑,司法院有把編列預算當一回事?考察對我國真的有實質成效?
隱藏版美食!Skoda Octavia RS Combi越嚼越有勁 開宗明義,OctaviaRS就像是梁社漢排骨飯專賣店中的椒麻雞便當,抑或是八方雲集鍋貼專賣店內的紅燒牛肉麵,許多人以為點這些有的沒有的是在侮辱店家,但事實上這就是所謂的「隱藏版美食」,事實上已經吸引不少饕客專點這類非招牌菜。因此別小看Octavia,其旅行車款不只是歐洲旅行車銷售冠軍,亦是台灣進口旅行車款中的常勝軍,此外OctaviaRS性能車款的佔比亦是出奇地高,大約是Octavia總銷售量中的1/3!試想~GolfGTI或是FordFocusST的銷售佔比有這麼高嗎?因此許多人可能會很想問;OctaviaRS為何能賣得這麼好?這不外乎「好看、好開、好實用」三大特質,小改款更帶來好質感、好科技等新氣息,此外動力與底盤也有一定程度的升級。
5400元直接充公!新交通規定11月底啟用「違者一上路秒被開罰」,很多駕駛都不知道 北市內湖區東湖市場上個月發生15歲少年無照駕駛汽車,結果造成3死2傷的悲劇,引發社會譁然。內湖警分局為防止憾事再度發生,近日前往內湖區多所國高中辦理交通安全宣導,除了宣導少年不得無照駕駛汽機車上路之外,同時也推廣113年11月30日起將加強取締微型電動二輪車暨安全教育,並強調未滿14歲不得騎乘微型電動二輪車,且騎乘時也必須遵守相關規定,注意行車安全。
落跑25天投案了!陳啟昱涉台綠弊案被通緝 今上午現身南檢報到 南檢偵辦光電弊案,台南地方法院1日開羈押庭,前台鹽綠能公司董事長陳啟昱卻未現身,台南地檢署在4日發布通緝,時隔數周仍失聯,而在外界猜疑陳啟昱已經潛逃出國之時,陳啟昱今(25)日上午10時在律師陪同下主動到台南地檢署報到,目前檢察官將準備對陳啟昱進行訊問。
號召四輪/二輪車主、動力產品/船外機顧客及其家屬共同參與2024 Honda Day,體驗品牌精神! Honda自成立以來秉持「夢想」為原動力,創造所有移動產品和服務價值,使人們能夠超越時間和空間限制,並拓展人們所有的可能性。HondaTaiwan為了以實際行動體現品牌價值「ThePowerofDreams–Howwemoveyou.」,分別於11月9日在劍湖山世界主題樂園及11月16日在六福村主題遊樂園,舉辦Honda四輪、二輪、動力產品與船外機家族的「2024HondaDay」活動,本次活動號召四輪、二輪車主、動力產品與船外機顧客及其家屬共同參與,讓參加者們在享受快樂假期的同時,深入體驗Honda的品牌精神。
中部半夜怎麼去桃園機場?用1招免花計程車錢還能睡飽!清晨深夜起飛都不怕 疫後機票價格貴,好不容易看到價格便宜的機票,卻發現平價的票起飛或降落的時段大多很差。省下機票的錢,卻把錢拿去坐機場接送計程車,未必能省到。從台北出發桃園國際機場,大約1000元左右,與同行夥伴分下來,價格也還算可以接受。不過,如果從中部出發要包計程車上來,價錢可能就不是那麼親民了。那麼中部的朋友該如何到機場呢?
祭出5大招!台中停車難題有解 市府投129億 將創逾1.6萬停車位 在聯外高快速道路的串接下,交通便利、路網完整的台中市,已成為中部生活圈的核心,不僅外縣市的龐大車流輸入市區,台中市本身的總人口數更是超過285萬,如此高人口密度,停車位的供給受到嚴峻的挑戰,對此,台中市政府提出「五大策略」,包括:建設立體停車場、增設路邊停車位、發展智慧停車系統、鼓勵私人土地轉作停車場、公部門車位共享等解方,以因應停車位一位難求的現象。
藍委喊砍潛艦國造預算 顧立雄憂影響期程強調:海測通過才會動支 國防部明年度編列約20億預算用於潛艦國造第三階段後續艦籌建,不過國民黨立委徐巧芯提案大砍至2億元,藍委馬文君、黃仁也擬提案「全刪」。對此,國防部長顧立雄今(25)日在立法院受訪時強調,會等海測通過後再動支相關預算,雖然是今年編列預算,但要明年若能通過海測,才會動支預算,在海測沒有通過以前,不會動用任何一毛錢。
郭國文喊話辜仲諒加碼被炎上 網轟:應請花公帑開演唱會的許銘春捐錢! 中華隊在12強賽冠軍戰以4比0完封日本,奪下世界冠軍,民進黨立委郭國文喊話棒協理事長辜仲諒,將原先承諾要發的獎金7000萬加碼到1億元,此舉動被網友炎上砲轟「自己不出錢,拱別人加碼,不會覺得丟臉嗎?」對此,台北市議員游淑慧也在臉書發文痛批,張口就是要人給1億,粗俗粗魯又粗暴,中信金控賺錢,是郭國文的嗎?那崇越科技去年營收492億,問下經濟部長郭智輝要不要捐1億共襄盛舉?
中華隊奪12強世界冠軍!超狂優惠「買一送一」店家總整理一次看! 台灣棒球隊在世界12強賽以完封勝擊敗日本隊,不只讓全台灣陷入瘋狂,許多店家也紛紛推出「冠軍優惠」與民同慶!從超商、速食店、手搖飲到運動用品,各式各樣的買一送一、特價優惠持續放送中。為了讓大家不錯過任何優惠,我們特別整理了目前已公布的限時優惠資訊,讓全台灣民眾一同享受這場勝利的甜美滋味!以下是店家優惠的完整清單,記得把握時間搶優惠!