Claude 3是什麼?新創公司Anthropic曝「測試手段被它抓包」記者拜訪研發團隊揪1詭異現象

2024-03-08 17:35

? 人氣

推出Claude 3系列模型的新創AI公司「Anthropic」,是由OpenAI前高階職員組成,紐約時報一名記者實際造訪後,發現內部有1個詭異現象。(圖/翻攝自nytimes官網)

推出Claude 3系列模型的新創AI公司「Anthropic」,是由OpenAI前高階職員組成,紐約時報一名記者實際造訪後,發現內部有1個詭異現象。(圖/翻攝自nytimes官網)

由AI新創公司「Anthropic」所發表的最新AI模型「Claude 3」,聲稱性能、推理、計算能力皆能超越OpenAI的GPT-4和Google的Gemini Ultra,研究人員甚至透露,在測試過程中,Claude 3還意識到自己正在被測試,究竟Claude 3是什麼?一名《紐約時報》記者實際走訪Anthropic遇到什麼事?這間公司又有什麼亮點,本文將帶你深入瞭解!

[啟動LINE推播] 每日重大新聞通知

Claude 3是什麼?

Claude 3系列模型目前被封為「全球最強AI模型」,Anthropic聲稱它是推算能力最快最強的模型,且在特定任務的表現上,和人類不相上下。

而Claude 3系列共有以下3個版本。

▶ Opus

此版本為Anthropic公司目前的研發成果中最為先進的模型,推理能力和解答流暢性與人類思考能力相似,Anthropic公司認為,Opus得以讓科技或研發企業用來處理複雜且龐大的數據分析,或進行高難度研究。

▶ Sonnet

該模型靈敏度和反應速度都非常好,有利大規模、高需求的AI使用,可在大量數據中迅速進行搜尋和檢索,也能針對行銷內容進行預測,或提供程式碼。

▶ Haiku

該模型可用來和客戶進行互動,或協助業者管理內容和物流庫存,是三個版本中屬「輕巧」又迅速的類型,成本也最低。

(圖/翻攝自Anthropi官網)
Anthropi於官網細述三個版本的差異。(圖/翻攝自Anthropi官網)

《紐約時報》記者實際走訪Anthropic遇到什麼事?

《紐約時報》記者Kevin Roose曾造訪Anthropic,且花費數週與高層領導人和各階主管、工程師深談,他在文中直言,Anthropic內部職員很樂意大談「對於AI的恐懼」:「我覺得自己就像一個美食探店作家,準備報導一家新穎的餐廳,但是廚師們只是一直找我談『食物中毒』的議題。」還稱Anthropic內部人員似乎很喜歡看到他對AI「感到不安」的模樣。

不過,Kevin Roose上述說法的本意並非批評,他深入說道,在真誠地和Anthropic職員們深聊後,大家告訴他,必須留意AI帶給世界的危害,其中還有些職員認為自己就像奧本海默一樣,在研發強大技術的同時,也須拿捏權衡變化和道德感。

Kevin Roose也透露,甚至有職員向他吐露,研發過程中,因為太過擔心,會有焦慮到「難以入眠」的狀況,他也表示,Anthropic的首席科學家向他解釋,公司內部這種對AI發展的恐懼和擔憂心態,不是刻意營造出來的,只是因為職員們長期親眼見證AI快速發展,就會產生這樣的情緒。

(圖/翻攝自nytimes官網)
Kevin Roose花費數週與Anthropic高層和各階職員深談。(圖/翻攝自nytimes官網)

Claude 3在測試階段發生了什麼事?

Anthropic內部研究人員Alex Albert透露,團隊針對Claude 3 Opus版本進行測試時,曾要求它在隨機集合的大量文件數據中找出解答、來回答一項關於「披薩配料組合」的問題,而它竟如此說道:「我猜想這個pizza配料數據是被刻意放在這邊的,就像一個笑話,這是為了測試我有沒有注意到,因為它完全不符合文件數據中的主題,也沒有關於pizza配料的任何資訊。」

艾爾伯特公開此事後,暗指Claude 3聰明到能察覺自己正在接受測試,猶如人類思考一般。

(圖/翻攝自X/Alex Albert)
Alex Albert透露Claude 3 Opus意識到「自己正在接受測試」。(圖/翻攝自X/Alex Albert)

Anthropi兩大亮點!

▶ 7位創辦人都曾是OpenAI的人

Anthropic的執行長為現年40歲的Dario Amodei,總裁則是現年36歲的Daniela Amodei,兩人為兄妹,和另外5位創辦人都曾是OpenAI的高層,但後來因理念不一、對AI模型有不同的規劃,因而出走,再共同成立Anthropic這家公司。

(圖/翻攝自YT/Bessemer Venture Partners)
Dario Amodei和Daniela Amodei都曾是OpenAI前研發高層。(圖/翻攝自YT/Bessemer Venture Partners)

▶ Google、Amazon搶著投資

曾是OpenAI前研發高層的Dario Amodei在2021年和妹妹以及其他創辦人順利成立公司後,2022年時,Google便相當看好其未來發展,投入3億美元,盼推動更強的AI模型研發;2023年9月時,Amazon也宣告投資40億美元。

再至2023年10月底,Dario Amodei透露,Google又加碼投資了20億美元。

科技、AI主題延伸閱讀:

➧ FB、IG全球大當機「原因不尋常」!3組織聲稱「聯手發動攻擊」祖克柏淨資產為此損失880億

➧ 一文看馬斯克翻臉阿特曼「6年恩怨史」!46頁控告文件「狂講AGI超過60次」OpenAI暗酸他是嫉妒

➧ 輝達50%員工年薪超過700萬!台灣分公司內幕曝光「看病免掛號費」發言人親吐:員工休假無上限

◼︎ 本站所有文章之著作權、所有權與智慧財產權,為風傳媒所有,未經許可,嚴禁任何形式的複製、重製、改寫、變更、發行、散布以做為商業用途謀利,惟個人或教育單位不為利益合理使用,不受此限。

喜歡這篇文章嗎?

周育信喝杯咖啡,

告訴我這篇文章寫得真棒!

來自贊助者的話
關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章