1. 情感與人性的軟弱：
過往的三次工業革命的確帶給我們許多豐富的物質生活，但是也的確證明了當一個工具方便便宜到一個地步，就會大量普及而成為「必需品」，讓我們本來的能力開始弱化甚至被取代（多久沒有拿筆寫字了？）。在人工智慧結合物聯網與機器人的第四次工業革命浪潮中，我們會因為逐漸習慣讓機器代替我們作一些本來只有人才能作的決定，因而對它演化出一種特殊的情感依賴關係。從神經科學來說，這是因為我們的鏡像神經元（Mirror Neuron）能將其他動物或物品的外在行為（如AI機器人的回應）在大腦中產生對應的活化，進而啟動各種主觀的情緒反應。也就是說，即使理智上使用者知道對象只是一台機器而非人類，也可能因為緊密的生活依賴而產生類似移情（transference）的作用，發生情感上的連結。
事實上，對於有若干智能或社交障礙的孩子或獨居老人而言，AI機器人是個非常安全來學習對話與交友方式的工具。畢竟對這些在人際關係中不易得到支持的邊緣人而言，可以自我學習的AI機器人將會演化成一個個特別的「個體」而成為難以被他人所取代的「朋友」。而近年在美國賣得火紅的亞馬遜智慧音箱Alexa就是因為與使用者可以透過自然語言的對話與服務而成為許多家庭的一分子。微軟（Microsoft）在大陸發展的聊天機器人小冰每天甚至與至少1500萬人聊天，成為許多宅男夜晚傾訴談話的對象（見圖三）。畢竟，追一個女友又要花錢花時間還可能要忍受她鬧脾氣，還不如與這位聰慧有趣又溫柔不會拒絕的AI女友談心聊天？當然，聊天機器人的功能遠不只如此，與諮商理論搭配，有的甚至可以當作心理諮商的一種方式（例如Woebot）或約會顧問，全年無休。
因此，即使目前的AI應用還在中低度人性化的階段，只要越來越普遍與方便的使用在生活許多層面，使用者就會因為AI有效的自我學習功能而發生情感轉移的效應，最終會習慣將之當成某種真實的人物而難以分離。
2. 操縱與偏見的幽靈：
與真實的人類不同，人工智慧近期跳躍式的發展倚賴於社群媒體並網路中所累積的大數據資料，因為這些數據正是訓練AI深度學習到高效能的關鍵。但是能掌握這些資料的公司或政府運作必然是不透明的（因為要保護個資），因此就產生嚴重資訊不對等的情形：例如全球活躍用戶已超過二十億的Google搜尋引擎與社群網路Facebook，可以從其用戶的使用資料中每天蒐集與其生活習慣有關的資訊，用來評估對其最合適的廣告或新聞資料來投放。對使用者來說這無疑是更為便利貼心的服務，但可能更代表一種細膩而難以掙脫的資訊操縱。何況這些資料也難以為其他企業所完全掌握，間接形成資訊壟斷而破壞自由市場競爭的公平性。
