一些沮喪的員工表示，對AGI和對齊的關注已導致用於解決更緊迫問題的資源減少，比如開發者濫用、欺詐以及可能影響2024年大選的惡意使用AI等問題。他們說，資源方面的差異反映了有效利他主義的影響。
據熟悉OpenAI的人士稱，雖然OpenAI正在開發自動化工具來捕捉濫用行為，但並沒有為這項工作僱用很多調查人員。該公司也沒有多少員工負責監控其開發者平台，有200多萬的研究人員、公司和其他開發者在使用該平台。
該公司最近僱人評估OpenAI技術在美國2024年大選中的作用。有專家警告說，AI生成的圖像有可能誤導選民。
OpenAI的一位發言人說，該公司已投入巨資來審核其產品，並有幾個團隊來管理短期風險。該公司表示，還投入了大量資源訓練AI模型，以避免產生有害內容。
據Google的現任和前任員工稱，今年該公司合併旗下兩個AI部門DeepMind和Google Brain的做法引發了對如何應用有效利他主義原則的意見分歧。
DeepMind聯合創始人Demis Hassabis負責兩個部門合併後的業務。Hassabis長期以來一直僱用支持有效利他主義運動的人。
知情人士透露，Google Brain的員工稱，他們在很大程度上忽略了有效利他主義，而是探索AI的實際用途以及AI工具可能被濫用的問題。
Google Brain的一位前員工將與DeepMind的合併比作一場包辦婚姻，說這導致很多人在Brain很尷尬。
AI造成災難的估計概率
21歲的AI安全研究員Arjun Panickssery與其他有效利他主義者住在Andromeda House，這是一棟三層樓住宅，有五間卧室，距離加州大學伯克利分校（University of California, Berkeley）校園有幾個街區。
他們舉辦晚宴，來訪者有時會被要求透露他們估計AI導致災難的幾率，也就是P（doom）。
Panickssery說，在灣區，加州大學伯克利分校是有效利他主義的一個中心。有些房子劃出了AI禁止區，以便讓疲於不斷談論AI話題的人們得到解脫。
據Open Philanthropy網站上的資訊，其時任執行長Holden Karnofsky一度與兩位OpenAI高管同住。Open Philanthropy是一家支持有效利他主義事業的非營利機構，自2015年以來已累計捐出3.27億美元，其中包括捐給OpenAI的3,000萬美元。
Karnofsky與Daniela Amodei（Anthropic現任總裁）訂婚時， 兩人與Amodei的兄弟Dario（Anthropic現任執行長）是室友。
