AI“一本正經瞎編”咋辦？

在使用AI工具時，你是否發現這個問題揮之不去——AI幻覺，一種“看似真實、實則虛構”的內容生成現象，正滲透進我們的生活。（4月1日中新網）

虛構事實，語焉不詳，在邏輯上自相矛盾，并夾雜無意義的內容……這些問題的出現，讓人不由得對AI的未來生出一絲隱憂。在醫療領域，使醫學檢查更敏銳的AI也會加重患者的焦慮，引發新的“過度診療”?！癆I幫你一分鐘搞定問診開藥”在有的地方已被叫停。在法律領域，律師因輕信AI助手而援引未發生的判例，最終遭受司法處罰。種種指鹿為馬、無中生有、以訛傳訛，無疑給那些對AI產生依賴癥的人敲響了警鐘。畢竟，幻覺可能是一種病態表現，時間長了會誘發知覺障礙，甚至侵蝕人與人之間的信任。

AI幻覺只是禍患？答案卻不盡然。在游戲開發、動漫設計、小說創作等領域，不合常理的AI幻覺閃現著奇思妙想的光華，可以充當創作者的靈感之源。對其一棒子打死的判斷，未免簡單化了。但無可否認的是，AI并非無所不能。它更像是一個泡在語料海洋中的學習者，而不是擅長深度推理的智者。

實際上，AI幻覺的存在再次印證了科技的雙刃劍屬性。反復拷問之下，一條原則清晰可見：對待AI應用創新，既要鋪設“快車道”，又要安好“緩沖帶”。對AI幻覺導致的信息污染，須保持警惕；對AI的能力短板，要給予充分考量。同時，要包容和鼓勵創新，在動態平衡中尋求治理的最優解。

時下，AI幻覺正變得越來越復雜和隱蔽，怎么治呢？

不妨分類施策。在低容錯率領域，如醫療、法律、金融領域，要強制激活“嚴謹模式”。譬如，強制調用權威知識庫，創建白名單知識庫，確保信息的準確與可靠。反之，則可以允許AI“大開腦洞”。監管部門要善用“生成即標注”的強制性規則，幫助公眾迅速有效地識破AI幻覺。

用AI治理AI。搜索引擎平臺要把AI技術與人工審核結合起來，掌握給AI做“腦部掃描”的技術，為生成式內容祛“毒”。譬如，健全溯源審查機制，建立強有力的防火墻，對信息實施實時監控、分類和過濾，確保更高質量、更潔凈的數據供給。

學會揚長避短。身處智能時代，每個人對AI要保持清醒，學會在人機協作中發揮好人自身的優勢。譬如，掌握優化提問、驗證信源、培訓AI的工作方法，使自己成為人機協作的主導者。