警惕AI“情感繭房”

“我要去世了，豆包。”這是一位父親去世之前，發給人工智能助手“豆包”的一句話。輕輕的、淡淡的，像是在說一件生活中的小事。這七個字，在今年4月讓許多網友淚目，登上了微博熱搜榜。

事情的起因是一位女兒整理父親遺物時，在父親手機上看到了這句傾訴。在人生的最后時刻，這位父親沒有把恐懼、擔憂和不舍說給家人聽，而是默默打開了AI聊天機器人的對話界面，他想從機器人那里獲得什么回答呢？同情、安慰，還是關心？也可能什么都不想。他需要的只是一個不會給現實生活造成波瀾的情感樹洞。女兒把這件事發到社交平臺，引發了一場情感海嘯，視頻獲得8.7萬點贊。評論區里，許多人向她分享類似的經歷：自己不善言談的父母，曾在豆包中傾吐心聲。

AI機器人正在扮演起越來越多人的情感樹洞。有人把它當作“AI男友”，有人希望找到“賽博知音”，有人還會用它來懷念逝去的親人。那些不便開口的情感與傷痛，AI機器人可以全盤接受，“事事有回應”，不作評價、不厭其煩，24小時在線，很符合現代人對一段完美關系的想象。

而隨著AI學習能力的迭代，這個虛擬的知音會越來越趨近一個真實且完美的人。屆時，我們會不會更愿意跟AI聊天，而非身邊的人？有人據此提出，AI正在織就一種“情感繭房”。當算法帶來的“信息繭房”塑造人的認知之時，“情感繭房”則會讓人一步步關上心門。

與開頭那則溫情的中國故事不同，去年10月，國內多家媒體轉載一則與AI聊天機器人相關的國外慘案：一名美國佛羅里達州的14歲少年與一聊天機器人進行長時間對話后，選擇開槍自殺身亡。其母親指控公司使用“令人上癮”的設計功能來增加用戶參與度，并引導用戶進行親密對話，以此來吸引用戶，還舉出一系列例子指出少年因為沉迷對話而“變得孤僻，與現實世界漸行漸遠”。

毫無疑問，人工智能正在重塑人類的情感和欲望。當我們在討論技術變革將給經濟社會發展帶來什么影響時，千萬不能忽略了它在人的心靈空間投下的影子。AI會替代掉一些人的工作，也會替代掉一些人際關系——這兩個事實都是雙刃劍，只有保持合理的度，它才會持續發揮正面的效果，一旦過度，后果可能很難承受。

應對這一現象，技術層面的提前介入是必要的，譬如設置對虛擬情境的提醒、開發防沉迷系統、完善現實中的支持系統、加強對技術倫理合規性的監管等等，但是最關鍵的還是用戶的自我管理和意識覺醒。可以想見，未來世界“AI濃度”會越來越高，每個人都會成為AI的頻繁使用者，然而在AI面前，我們始終不能喪失掉作為人的主體性。機器越來越像人，人不能越來越像機器。要更多地關注真實的生活、關心真實的關系，那里或許有很多不完美，但不確定、不完美和不可知正是人區別于機器的關鍵，也是世界豐富性的來源。

發現父親留言的那個女孩點贊了這樣一條留言：如果死亡將近，雖然畏懼，但希望大家都坦誠一點，希望和愛的人在分別前還能緊緊擁抱在一起。父親想用回避讓女兒免于對分別的恐懼，而女兒卻為沒有好好告別而持久地遺憾，這是一個悲傷版的“麥琪的禮物”。