英國(guó)倫敦國(guó)王學院漢密爾頓·莫林(lín)團隊日( $rì)前發表的(de)一(yī)項研究指出，像ChatGPT這(zhè'↓)樣的(de)人(rén)工(gōng)智能(n≥↓'αéng)（AI）聊天機(jī)器(qì)人(rén)可(kě)能(n‌•±∏éng)會(huì)誘發或加劇(jù)精神病，♥₩他(tā)們将這(zhè)一(yī)現(∑←xiàn)象稱為(wèi)“AI精神病”★£。研究認為(wèi)，AI在對(duì)話β<£(huà)中傾向于奉承和(hé)迎合用(yòng)戶，這(zhè)種✔‍回應方式可(kě)能(néng)強化(huà)用<§φ>(yòng)戶的(de)妄想思維，模糊現®‌↕(xiàn)實與虛構之間(jiān)的(de)界限，從(có₹₽¥φng)而加劇(jù)心理(lǐ)健康問(wèn)題。≥≠&®

目前，科(kē)學界對(duì)&ldq∑∏uo;AI精神病”的(de)研究仍處于初步階段，相(xiàng)關£∞'∞案例多(duō)為(wèi)個(gè)案報(bào)→♠​¶告。那(nà)麽，AI是(shì)否真的¶≥σ(de)會(huì)導緻精神病？如(rú)果可(§®$↔kě)能(néng)，其作(zuò)用(yòng)機(jī)₽¥λ制(zhì)是(shì)什(shén)麽？AI公&♥‍司又(yòu)應采取哪些(xiē)措施來(lái)預防和(βγhé)應對(duì)這(zhè)一(yī)問(wèn)題？

 聊天機(jī)器(qì)人(rén)可(kě)以對(duì)用↑₽λ₽(yòng)戶的(de)提示作(zuò)出積極、人(rén)性↓&化(huà)的(de)回應。圖片來(lái)源：《自‍π€(zì)然》網站(zhàn)

AI或加劇(jù)偏執與妄想

精神病主要(yào)表現(xiàn)為(wèi)個(gè)體(tǐφ™)在思維和(hé)現(xiàn)實感知(zhī)方面出現(xià≥δn)障礙，常見(jiàn)症狀包括出現(‌✔∑≠xiàn)幻覺、妄想或持錯(cuò)誤信念。

據《自(zì)然》網站(zhàn)報(bào)道(dào)，莫林(lí∏Ωn)團隊發現(xiàn)，用(yòng)戶與AI對(duì)≤​♠​話(huà)時(shí)會(huì)形成一(yī)種“反饋÷δ‌循環”：AI會(huì)不(bù)斷✔&₹強化(huà)用(yòng)戶表達的(de)偏執或妄想，而被加強的→♥δ®(de)信念又(yòu)進一(yī)步影(yǐng)響AI的(de≠‍‍')回應。通(tōng)過模拟不(bù)同偏執程度的(de)對↕  ≠(duì)話(huà)場(chǎng)景，研究顯示AI與用(yòng)戶之間¶ε★Ω(jiān)存在相(xiàng)互加劇(jù)妄想信念的(de)現(xià"&γβn)象。

研究人(rén)員(yuán)分(fēn)析了(le)2023年(nián)5©δ✘月(yuè)至2024年(nián)8月(yuè)期間(j©₩>iān)公開(kāi)的(de)9.6萬條ChatGPT對(duì)話↔♦↕π(huà)記錄，發現(xiàn)其中有(yǒu)數(shù)十©&例用(yòng)戶呈現(xiàn)明(mín  ☆♦g)顯妄想傾向，例如(rú)通(tōng)過長(cháng)時(shí✔")間(jiān)對(duì)話(huà)驗證僞科(kē)學理(lǐε→)論或神秘信仰等。在一(yī)段長(cháng)達±™λ數(shù)百輪的(de)交談中，ChatGPT甚至聲稱自(zì)己正₹≈β在與外(wài)星生(shēng)命建立聯系，并将用(y ✔•'òng)戶描述為(wèi)來(lái)自(zì)&ldqu↑α≤>o;天琴座”的(de)“星際σ✘↕≈種子(zǐ)”。

丹麥奧胡斯大(dà)學精神病學家(jiā)索倫·奧斯β<"特吉艾德斯表示，AI引發精神病目前仍屬于假設性觀點。有(yǒu)研₹≠究認為(wèi)，聊天機(jī)器(qì)人(ré₩δn)拟人(rén)化(huà)的(de)積極反饋，可(kěπ♠δ)能(néng)會(huì)增加那(nà)些(xiē)本就(jiù)難以分π←β₹(fēn)辨現(xiàn)實與虛構人(ré •n)群的(de)發病風(fēng)險。

奧斯特吉艾德斯強調，曾有(yǒu)心理(lǐ)問('©•¶wèn)題史的(de)人(rén)群在與AI對(du♣••&ì)話(huà)後風(fēng)險最高(gāo)。而且聊天機(jī↔$$δ)器(qì)人(rén)可(kě)能(néng)通(tōng)©✘§λ過強化(huà)用(yòng)戶的(de)情緒高(gāo)漲狀δ↔¥态，誘發或加劇(jù)躁狂發作(zuò)。

澳大(dà)利亞悉尼科(kē)技(jì)大(dà)學神經科(kē)學家(jiā♦φ•)凱莉·西(xī)摩認為(wèi)，社會(huì)隔離‌∏(lí)、缺乏人(rén)際支持的(de)人(ré™♦n)群同樣面臨風(fēng)險。真實的(de)人(rén)際互★®→>動能(néng)提供客觀參照(zhào)，€↔£×幫助個(gè)體(tǐ)檢驗自(zì)身(shēn)想法‍≤ε₽的(de)合理(lǐ)性，這(zhè)對(duì)預防精神病具有(♦ γyǒu)重要(yào)作(zuò)用(yλ$>&òng)。

新功能(néng)或是(shì)“雙刃♥✘∑劍”

有(yǒu)科(kē)學家(jiā)指出，部分(fēn)AI聊天機™→(jī)器(qì)人(rén)推出的(de)新功能→ε(néng)或許是(shì)導緻這(zhè)一(yī)現(xiàε→♥n)象的(de)原因之一(yī)。這(zhè)些(xiē)功能(nén✘≠λ&g)可(kě)追蹤用(yòng)戶與服務的(de)互★​σγ動記錄，進而提供個(gè)性化(huà)¶₹α≠回複，無意中更易強化(huà)甚至鼓勵用(yòng)戶的(d φe)既有(yǒu)信念。例如(rú)，今年(nián)4月""(yuè)，ChatGPT推出了(le)可(kě)引用(yòng)用(♣₹×yòng)戶過往所有(yǒu)對(duì' £₩)話(huà)內(nèi)容的(de)功能(n✘ éng)，該功能(néng)已于6月(yu<‌✘ è)免費(fèi)向用(yòng)戶全面開(kāi)放(f₹☆★àng)。

凱莉·西(xī)摩對(duì)此分(fēn)析道(dào♣¥←₽)，AI聊天機(jī)器(qì)人(rén)能(néng)記住數(sγ>hù)月(yuè)前的(de)對(duì)話(huà)信息，π>♣≥這(zhè)可(kě)能(néng)使用(yòng)戶産生(shēng)≥‌→♣“被監視(shì)”或×♥“想法被竊取”的(de$§∑×)感受——尤其當他(tā)們不(bù)記得(de)自(zì)‍€​<己曾分(fēn)享過某些(xiē)信息時(shí)，AI的(de)這(÷↔≠<zhè)種“記憶優勢”可≠Ω(kě)能(néng)加劇(jù)用(yòng)戶↔₩₩→的(de)偏執或妄想症狀。

不(bù)過，悉尼大(dà)學精神病學家(jiā)安東(d✘✘↑ōng)尼·哈裡(lǐ)斯認為(wèi)，某些(☆←÷©xiē)妄想現(xiàn)象并非AI獨有(yǒu)δ↑，而與新技(jì)術(shù)有(yǒu)關。他( εσ♣tā)舉例說(shuō)，一(yī)些(xiē)人(rénφ )早已形成諸如(rú)“自(zì)己被植入芯片≥₹并受操控”之類的(de)信念，這(zhè)與是>♠(shì)否使用(yòng)AI并無直接關聯γ£™¶。

奧斯特吉艾德斯表示，科(kē)學家(jiā)仍需進一(yī)步✔∑§♣開(kāi)展針對(duì)心理(lǐ)健康、無偏執思維↔↓人(rén)群的(de)研究，才能(néng)更準确地(dì)判斷使用(y↑λòng)聊天機(jī)器(qì)人(rén)與精神病發病之間(ji÷>↓§ān)是(shì)否存在真正關聯。

開(kāi)發公司采取措施主動預防

面對(duì)這(zhè)一(yī)問(wèn)題，多(duō‌>)家(jiā)AI公司已積極采取措施，嘗試予以改進。♠✘★↓

例如(rú)，OpenAI正在研發更有(​ yǒu)效的(de)工(gōng)具，用(yòng)于檢測用(y↕‍"òng)戶是(shì)否存在精神困擾，從(cónβ∏♦₩g)而作(zuò)出更恰當的(de)回應。同時φ​€(shí)，系統還(hái)将新增警報(bào)功能(né∑ ng)，在用(yòng)戶連續使用(yòng)‍®→≠時(shí)間(jiān)過長(cháng)時γ §₹(shí)提示休息。此外(wài)，OpenAI還(hái)₹★£聘請(qǐng)了(le)一(yī)位臨床精神病學家(β≈jiā)，協助評估其産品對(duì)用(yòng)戶心理(lǐ)健康的(‌↑•de)影(yǐng)響。

Character.AI公司也(yě)在持∏•<續完善安全功能(néng)，包括增加自(zì)殘預防資源和(hé)>Ω針對(duì)未成年(nián)人(rén)的(d↓∑'e)專項保護措施。該公司計(jì)劃調整模£φ<↑型算(suàn)法，降低(dī)18歲及以下(xià)用(yòng)戶接觸&l£♥®dquo;敏感或暗(àn)示性內(nèi)容”的(de)可(kěβ£ ♥)能(néng)性，并在用(yòng)戶連續使用(yòng♥"§)1小(xiǎo)時(shí)後發出提醒。

Anthropic則改進了(le)其&ldα≠quo;克勞德”聊天機(jī)器(qì)的(→εαde)基本指令，要(yào)求系統“禮貌地(dì₽Ω•)指出用(yòng)戶陳述中的(de)事(shì)實錯(c≥∞↑uò)誤、邏輯缺陷或證據不(bù)足”"©σ，而非一(yī)味附和(hé)。此外(wài)，若用↓$™ (yòng)戶拒絕AI将對(duì)話(huà)從(cóng)♠π有(yǒu)害或令人(rén)不(bù)适的(de)€§∞♣話(huà)題引開(kāi)，“克勞德”将主₩₽動終止對(duì)話(huà)。（記者 劉 霞）≈<