從本質來說，科技一般被視為是中性的，道德和正派與否就只能看使用者而定。所以，無論這種「照護科技」變得有多「好」，該如何防止它被實際控制的人濫用及誤用？這是一個正當性問題，因為已經有許多老人在人類看護的手中飽受苦難，那些看護人員基於種種理由而疏忽，或是對負責照顧的人施虐。根據美國國家受虐老人中心（National Center on Elder Abuse）的統計，二○一○年有將近十分之一的老人遭到人類看護虐待，9其中有很多因為受害者不希望施虐者惹上麻煩而並未通報，通常因為施虐者是家人，而虐待的原因包括怨恨、報復、心理疾病、反社會及藥物濫用。
有鑑於此，這種虐待行為有一部分似乎可能還會繼續，並且藉由這些新型態的照護科技施行，無論是造成身體傷害或心理痛苦。心懷惡意的看護人員或許會利用機器原有的特性，例如：毫不倦怠地重複及程式化，用裝置來折磨受照顧者。此外，還有許多研究顯示，中介科技可能會讓各種可惡的行為成真。這種遠距活動顯然會讓我們在心理上抽離這些行為（不過有時候只是暫時的），即使該方式已經讓我們在生理上遠離這些行為。
但是這不能避免嗎？有別於人類一對一的直接互動，使用包括情緒介面等中介科技的虐待，可加以監控並通報，或許能設計成為器材整體程式的一部分。雖然最初可能會因為隱私疑慮而遭到抗拒，但是也可以只在裝置器材於一定距離範圍之外使用，或是在超出特定用途後，才會有這種遠端監控與通報。
諸如此類的防護，或許會隨著情感介面趨於複雜精密而日益重要。儘管和身體虐待一樣糟糕，但是偵測身體虐待往往比情緒虐待來得容易。持續不斷的恐懼、焦慮，或其他形式的痛苦，可能會導致創傷後壓力症候群和精神崩潰，嚴重影響個人生活品質。因此，在情感運算逐漸普遍而容易取得之際，如果沒有預先料想到這方面的濫用就太失職了。
孤單老人的情緒虐待與操控
或許比情緒虐待更大的隱患是情緒操控。孤單老人遇到心懷不軌、覬覦他們積蓄的追求者和紅顏知己，這類故事俯拾即是，真實與虛構皆有。被寫進遺囑裡或「被贈與」價值貴重的項目，聽起來像是哥德式小說或八卦小報的情節，但是放心好了，這些事天天都在發生。
根據二○一一年大都會人壽（MetLife）的報告，美國老年人在二○一○年因金融詐騙而損失的金額為二十九億美元，比二○○八年增加一二％。依據一項在二○一五年由True Link Financial與一位前佛瑞斯特研究公司（Forrester Research）分析師合作的研究，訂出的數字顯然更高，金融詐騙一年讓老年人損失三百六十億美元，而且過去五年有三七％的老年人是受害人。儘管第二份研究似乎在本質上存在著利益衝突（因為True Link Financial銷售防範這類詐騙的產品），但是仍顯示出我們或許太低估問題的規模。
這之所以會成為問題，主要原因是老年人的情緒、生理都比年輕人來得脆弱，對於現代威脅的精通與熟悉程度也較為薄弱。騙子發現這一點，也以此設定目標。基於這一點，加上情感運算用於操控的可能性，我們必須預先考慮到這個問題在接下來幾年內只會更加猖獗。
這是怎麼做到的？不是要非常精明又老於世故，才能利用這類先進科技操控另外一個人呢？答案是也不是，但的確是需要高度精密的科技才能完成這一切，就像用衛星、海底電纜、基地台、超級電腦，以及有時較廣為人知的智慧型手機，利用上述的複雜網絡即時打電話給地球彼端的人，也需要非常精密的科技。大多數人未曾想過後面的流程，因為一層又一層的抽象概念讓我們渾然不覺，只是輕輕打開開關，而根本未曾注意。（另外，這也讓大部分人抽離絕對不想多花腦筋的許多複雜流程。）
情感運算也會有同樣的狀況。開發人員肯定會竭盡所能地把成果與裝置做得容易使用，但是除此之外會有駭客、創業家、獨立發明家企圖拆解科技的奧祕，而在這麼做的同時，又把更多科技的驚人力量帶給任何想要的人，包括沒有科技專業訓練的人。聽起來匪夷所思，但這正是我們近幾年來所看見的，駭客將昔日得來不易的知識與技能，變成讓任何人都能以非常低廉的價格取得。分散式阻斷服務（distributed denial of service, DDOS）攻擊、資料隱碼（SQL injection）、暴力破解密碼、殭屍網路（botnet service）、零時差漏洞（zero-day exploit），全都是過去需要高深的專業知識才能執行的駭客方法。
現在只要有錢、有網際網路連線，任何人都能連上「暗網」（Dark Web），購買這些工具，還搭配容易使用的介面。在明日世界將會找到更多的工具出售，而情緒運算工具絕對就在其中。「社交工程」是駭客企圖以電子路徑或實體路徑，取得安全硬體與數據的重要做法之一。社交工程涉及操控人的心理以取得資訊，通常會利用重要的認知偏誤（cognitive biases）。這種快速讀取並回應標的對象情緒狀態的能力，被視為達成目標的關鍵手法。
如果情況不是那麼悲慘，幾乎都要讓人覺得諷刺了。我們可以看到呈現在眼前的是，社會中最脆弱無助的公民可能遭到擁有世上前所未見最精密科技力量的不法之徒所害，而那些科技是這些受害者在年輕時幾乎無法想像的。這樣不對，也不公平，社會上的其他人應該努力保護這些潛在受害者，即使原因只是我們希望等自己上了年紀時，別人也能為我們做這樣的事。
或許有一天我們會將最珍貴的信任交付給機器，因為這是最好也最可行的選項。在這麼做時，我們對自己的責任就不會疏忽鬆懈；反而會為孩子挑選最理想的選擇。雖然要質疑這一點很容易，但如果你是家長，捫心自問：你上一次用科技照顧孩子是什麼時候？像是利用電視、iPad或Gameboy？更重要的是，那樣的科技對孩子的處境與情緒狀態能察覺或意識到多少？在有需要的當下能不能通知你？那是明日的世界，一個科技可能充當保護者，同樣也能充當追捕者或施虐者的科技世界。
*作者為未來學家、作家暨演講者，專精於發展中的趨勢與科技，為多家報章雜誌和網站撰寫文章和封面故事。本文選自作者著作《情感運算革命》（商周出版）。
