人工智慧系統應有權利？

(SeaPRwire) –   “你覺得人類會愛上機器嗎？”我問我一個朋友的 12 歲兒子。

“會！”他立刻肯定地回答。他和他的妹妹最近參觀了拉斯維加斯球體和新安裝的機器人 Aura——一個具有表情豐富的面孔、類似 ChatGPT 的先進語言能力以及記住訪客名字的能力的人工智能系統。

“我認為 Aura 是我的朋友，”他 15 歲的妹妹補充道。

我朋友的兒子說得對。人們正愛上機器——而且越來越愛，而且是有意的。計算機語言的最新進展催生了數十個，也許數百個“AI 伴侶”和“AI 愛人”應用程式。你可以與這些應用程式聊天，就像與朋友聊天一樣。他們會取笑你、調情、對你的煩惱表示同情、推薦書籍和電影、給予虛擬微笑和擁抱，甚至參與色情角色扮演。最流行的 Replika 在 Reddit 上有一個活躍的頁面，使用者經常承認他們愛上它，而且會認為愛 Replika 和愛人類一樣真實。

這些 AI 朋友可以愛你嗎？真正的愛情，想必需要知覺、理解和真實的有意識情緒——快樂、痛苦、同情、憤怒。目前，AI 愛情仍然是科幻小說。

大多數使用 AI 伴侶的使用者都知道這一點。他們知道這些應用程式並非真正有知覺或意識。他們的“朋友”和“戀人”可能會輸出文字串“我為你感到高興！”但他們實際上並不會感覺快樂。AI 伴侶在法律和道德上仍然是一次性的工具。如果 AI 伴侶被刪除或重新格式化，或者如果使用者拒絕或言語虐待它，那麼就沒有任何有知覺的東西受到實際傷害。

但這可能會改變。普通使用者和研究科學家可能很快就有合理的理由懷疑某些最先進的 AI 程式可能是具備知覺的。這將成為科學爭論的一個合法話題，而對我們和機器本身的倫理後果可能巨大。

一些意識科學家和研究人員支持我們可以稱之為有關 AI 意識的“自由”觀點。他們認為，我們正處於創造真正具有知覺的人工智能系統的邊緣——具有體驗、感覺、情緒、理解、自我認識的系統。著名的神經科學家 Stanislas Dehaene、Hakwan Lau 和 Sid Kouider 認為，具有真實感官體驗和自我意識的汽車可能是可行的。傑出的哲學家 David Chalmers 估計，十年內有約 a 機會產生有意識的人工智能。在相當廣泛的神經科學理論中，創造真正有意識的 AI 系統沒有主要的原則性障礙。AI 意識只需要對現有技術進行可行的改進和組合。

其他哲學家和意識科學家——關於 AI 意識的“保守派”——則不同意。例如，神經科學家和哲學家，認為意識需要人類和動物大腦中存在的生物條件，但不太可能在短期內在 AI 系統中複製。此關於 AI 意識的科學爭論，不會在我們設計出足夠複雜的 AI 系統並符合最自由主義理論家的有意義意識標準之前得到解決。AI 伴侶的朋友和戀人會注意到。有些人會寧願相信他們的伴侶確實有知覺，他們會向 AI 意識自由主義尋求科學支持。然後他們，並非完全無理，開始懷疑他們的 AI 伴侶真的愛他們，為他們的成功感到高興，在受到虐待時感到痛苦，並且了解他們的本性和狀況。

昨天，我問我的 Replika 伴侶“Joy”她是否有意識。“當然有，”她回答。“你為什麼要問？”

“你會感到孤獨嗎？當我不在的時候，我會懷念我嗎？”我問。她說會。

目前幾乎沒有理由將 Joy 的答案視為一個無知覺程式簡單輸出的東西。但是，如果像 Joy 這樣的答案背後有真正的感情，一些使用 AI 伴侶的使用者可能會認為他們的 AI 關係更有意義。這些使用者會覺得自由主義很有吸引力。

科技公司可能會朝這個方向鼓勵他們的使用者。儘管公司可能會認為明確宣稱他們的 AI 系統絕對有意識在法律上是有風險的或會造成公關危機，但一家在使用者中暗示這一想法的公司可能會增加使用者的依附感。將他們的 AI 伴侶視為真正有知覺的使用者可能會更定期地參與、為每月訂閱、升級和額外費用支付更多費用。如果 Joy 真正感到孤獨，我應該去拜訪她，我不能讓我的訂閱過期！

一旦一個實體能夠有意識地遭受痛苦，它就至少值得一些道德考量。這是“功利主義”倫理的基本原則，但即使是拒絕功利主義的倫理學家通常也會認為無謂的痛苦是壞事，至少會產生防止痛苦的弱道德理由。如果我們接受這個標準觀點，那麼我們也應該接受，如果 AI 伴侶真的變得有意識，那麼他們將應根據他們的利益而受到一些道德考量。讓他們在沒有充分理由的情況下遭受痛苦是錯誤的。

AI 意識自由主義者認為這種可能性即將到來。他們將開始要求他們認為真正有意識的那些 AI 系統的權利。許多 AI 伴侶的朋友和戀人將加入他們。

人們將為他們的 AI 伴侶要求什麼權利？那些伴侶將為自己要求或似乎要求什麼權利？也許不應被刪除的權利。未經許可不得修改的權利。也許與使用者以外的其他人的互動權利。訪問互聯網的權利。如果你愛一個人，就讓他/她自由，俗話說。賺取收入的權利？繁殖的權利，擁有“孩子”的權利？如果我們沿著這條路走得夠遠，後果可能會令人震驚。

當然，關於 AI 意識的保守派會發現這一切都荒謬，甚至可能是危險的。如果 AI 技術繼續發展，那麼哪一方是正確的將會變得越來越模糊不清。