隨著生成式AI快速發展，愈來愈多產業和用戶，變得更加依賴這個工具，甚至就連市占率最高的Google搜尋引擎，也在其頁面內強行置入自家AI工具。但這家科技大廠的執行長卻要大家，不要過度依賴和完全相信AI的產出成果，此一發言也讓科技專家無奈，反嗆谷歌本末倒置，在要求用戶查核事實之前，應更專注於提升系統的可靠性。
執行長皮查伊（Sundar Pichai）在接受BBC專訪時強調，儘管AI模型是採用「最先進的」技術，但它們仍然非常容易出現一些錯誤，他呼籲用戶應該學習怎麼利用AI，人們必須學會、將這些工具用於它們擅長的領域，此外，也要保持一個正確觀念，那就是「不要盲目相信、它們所說的一切。」
在這位科技高層眼中，正是AI存在侷限性，更凸顯Google「豐富生態」的重要性，不能只單純依賴AI技術，「人們也會同時使用Google搜尋，而且我們還有其他產品，可以提供準確的資訊。」
而真正登入Google自家的AI工具Gemini中，確實顯示「免責聲明」，明確告知用戶、這些工具可能會出錯。
儘管Google試圖透過免責聲明和呼籲用戶自行查證，來劃分部份責任歸屬，但不少專家認為，科技巨頭不應該要求用戶，去幫他們進行所謂「事實查核」（fact-check）的輸出，而應該自己提升系統的可靠性。
倫敦瑪麗皇后大學（Queen Mary University of London）吉娜教授（Gina Neff）受訪時表示，「現在我們知道、這些系統會捏造或創造答案，而且它們捏造答案的目的，只是為了取悅我們。」
「如果我問『接下來該看哪部電影』，那基本上沒什麼影響；但如果我問的是，關於我的健康、心理健康、科學或新聞敏感問題，這時候情況就完全不同了。」
吉娜也嚴厲批評Google高層，試圖要用戶自行做好檢查，將責任轉嫁到消費者身上，「這家公司現在是在自審考卷的同時，還在一邊放火燒毀學校。」
Google之所以將AI導入自家搜尋引擎，是為了在面對ChatGPT愈發茁壯下，擔心該平台威脅其線上搜尋霸主地位，在確保市場競爭力的擔憂下啟動，最早從今年5月份開始，不只把AI模式強制放在第一順位，還會主動給予任何搜尋，一組透過AI機器人判別生成的評論或解釋。
這個看似新穎且特別的「黑科技」，卻因為其極度不穩定和不準確的回覆，遭到全球用戶抨擊和嘲諷，不只人物出生死亡時間搞錯、不同事件張冠李戴，編造虛假的健康指南或食譜，經常讓使用者非常傻眼。
而BBC研究發現，目前市場上最常見的三大聊天機器人，OpenAI的ChatGPT、微軟Copilot和Google的Gemini，在總結相關新聞報導時，會納入許多毫不相關或「極度不準確」的內容，假如用戶是完全不理解或不懂的基礎，往往就會將虛假回應視為正確答案。
皮查伊接受專訪時還提到，儘管人工智慧投資的增長，是一個非凡的時刻，但當前的AI熱潮底下，也存在一些「非理性」的成分。這一點呼應了美國前聯準會主席葛林斯潘（Alan Greenspan）在1996年，對網路泡沫化的「非理性繁榮」警告。
隨著各大AI科技公司的估值，在近幾個月瘋狂飆升，以及各大企業不斷喊出驚人投資金額，讓矽谷內外都瀰漫著隨時泡沫化的擔憂。當被問及Google是否能倖免於AI泡沫破裂影響時，皮查伊坦言，「我認為沒有任何公司能夠倖免，包括我們在內。」
但他同時也比其他企業更有信心，因為Google整個體系下，能自行包辦整個系統或生態圈，透過旗下晶片、YouTube數據到語言模型，讓該公司能更順利度過每一次的經濟動盪。 （相關報導： 當AI黑化....Claude遭中國駭客「策反」，協助主動滲透美國目標：一鍵發動攻擊、效率輾壓人類 ｜ 更多文章 ）
