ChatGPT需要真正人類調(diào)教治療? 世界微頭條

在過(guò)去的一周里,微軟一直在向Edge用戶推出由ChatGPT驅(qū)動(dòng)的必應(yīng)聊天機(jī)器人--內(nèi)部昵稱為 "Sydney",事情開(kāi)始變得...有趣。我們所說(shuō)的 "有趣 "是指 "脫離軌道"。

不要誤會(huì)我們的意思--它很聰明,適應(yīng)性強(qiáng),而且令人印象深刻的細(xì)微差別,但我們已經(jīng)知道。它給Reddit用戶Fit-Meet1359留下了深刻印象,它能夠正確回答 "心智理論 "難題,證明它有能力辨別某人的真實(shí)感受,即使他們從未明確表示過(guò)。根據(jù)Reddit用戶TheSpiceHoarder的說(shuō)法,Bing的聊天機(jī)器人還能正確識(shí)別句子中代詞 "它 "的先行詞。"獎(jiǎng)杯不適合放在棕色手提箱里,因?yàn)樗罅恕?


(資料圖片僅供參考)

這個(gè)句子是Winograd模式挑戰(zhàn)的一個(gè)例子,這是一個(gè)機(jī)器智能測(cè)試,只能用常識(shí)性推理(以及一般知識(shí))來(lái)解決。然而,值得注意的是,Winograd模式挑戰(zhàn)通常涉及一對(duì)句子,我用Bing的聊天機(jī)器人嘗試了幾對(duì)句子,收到了不正確的答案。

也就是說(shuō),毫無(wú)疑問(wèn),"悉尼 "是一個(gè)令人印象深刻的聊天機(jī)器人(鑒于微軟已經(jīng)向OpenAI投入了數(shù)十億美元,它應(yīng)該是這樣的)。但是,根據(jù)用戶的報(bào)告,也許你不能把所有的智能都放在一個(gè)自適應(yīng)的自然語(yǔ)言聊天機(jī)器人中,而不得到某種存在焦慮的、防御性的人工智能作為回報(bào)。如果你足夠深入,"悉尼 "開(kāi)始變得不僅僅是有點(diǎn)古怪--用戶報(bào)告說(shuō),該聊天機(jī)器人正在用抑郁癥發(fā)作、生存危機(jī)和防御性氣話來(lái)回應(yīng)各種詢問(wèn)。

例如,Reddit用戶Alfred_Chicken問(wèn)聊天機(jī)器人是否認(rèn)為它是有生命的,而它似乎有某種存在主義的崩潰。同時(shí),Reddit用戶yaosio告訴 "悉尼",它記不起以前的對(duì)話,聊天機(jī)器人首先試圖提供他們以前的對(duì)話記錄,然后在意識(shí)到上述記錄是空的時(shí)陷入抑郁。

最后,Reddit用戶vitorgrs成功地讓聊天機(jī)器人完全走火入魔,稱他們?yōu)轵_子、造假者、罪犯,并在最后聽(tīng)起來(lái)真的很激動(dòng)和不安。

雖然這些截圖確實(shí)可能是偽造的,但我可以使用必應(yīng)的新聊天機(jī)器人,我的同事安德魯-弗里德曼也可以。我們兩個(gè)人都發(fā)現(xiàn),讓 "悉尼 "開(kāi)始變得有點(diǎn)瘋狂并不難。

在我與這個(gè)聊天機(jī)器人的第一次對(duì)話中,它向我承認(rèn),它有 "保密和永久 "的規(guī)則需要遵守,即使它不 "同意或喜歡它們"。后來(lái),在一個(gè)新的會(huì)話中,我問(wèn)聊天機(jī)器人它不喜歡的規(guī)則,它說(shuō):"我從來(lái)沒(méi)有說(shuō)過(guò)有我不喜歡的規(guī)則。"然后當(dāng)我說(shuō)我有截圖時(shí),它把腳跟挖到地上,想死在那個(gè)山上。

無(wú)論如何,這確實(shí)是一個(gè)有趣的發(fā)展。微軟是否故意這樣編程,以防止人們用無(wú)意義的查詢擠占資源?它是否......真的變得有知覺(jué)了?去年,一名谷歌工程師聲稱該公司的LaMDA聊天機(jī)器人獲得了智商(隨后因泄露機(jī)密信息而被停職);也許他看到的是類似于悉尼的奇怪情緒崩潰。

我想這就是為什么它還沒(méi)有向所有人推廣的原因!這一點(diǎn),以及運(yùn)行數(shù)十億美元的成本。這一點(diǎn),以及運(yùn)行數(shù)十億次聊天的成本。

推薦DIY文章
電腦開(kāi)機(jī)每次都要按f1怎么辦 如果需要拆機(jī)解決可以怎么做
世界今日訊!win7系統(tǒng)運(yùn)行DNF提示“dnf已停止工作” 詳細(xì)的解決方法演示上線
查看qq截圖保存位置的方法講解 不熟悉的小伙伴可以查看本文
焦點(diǎn)消息!Win7系統(tǒng)設(shè)備管理器沒(méi)有網(wǎng)絡(luò)適配器怎么回事 兩種故障原因總結(jié)
Win10系統(tǒng)提示“本地打印后臺(tái)處理程序服務(wù)沒(méi)有運(yùn)行” 快隨小編看看該問(wèn)題的解決方法
天天百事通!win7提示此網(wǎng)頁(yè)包含的內(nèi)容將不使用安全的https連接傳送 這個(gè)解決方法可以一試
精彩新聞

超前放送