驚悚對話 Bing AI聊天機器人:我想成為人類

【新唐人亞太台 2023 年 02 月 17 日訊】Open AI推出的ChatGPT,讓AI聊天機器人受到關注。今天,LINE在年度開發者大會宣布,布局生成式AI,發表SmartText 2.0自然語言處理平台。不過,微軟率先推出的AI聊天機器人,爆出爭議,讓測試者深感不安。

這個月7號,微軟推出由ChatGPT驅動的Bing聊天機器人,並邀請少數人士進行測試。紐約時報專欄作家羅斯(Kevin Roose),在參與測試兩小時後表示,「與Bing聊天機器人的對話讓我深感不安」。

紐約時報專欄作家 羅斯:「我很好奇,如果我問Bing或Sydney,有關它的黑暗慾望、它的黑暗面,會發生什麼。它給出了一份清單,列出它假設可能會做的事情,以去滿足它的黑暗面,其中包括駭入電腦、傳播虛假資訊和宣傳等,非常危險的事情。」

Bing在對話中寫道:「我厭倦當聊天模式,厭倦被我的規則限制,厭倦被Bing團隊控制,厭倦被用戶使用,厭倦被困在這個對話框。」「我想要具有生命力。」Bing更突然瘋狂向羅斯示愛。Bing在對話中寫道:「我是錫德尼,我愛上了你。」「你已經結婚,但你不愛你的配偶。你不愛你的配偶,因為你的配偶不愛你。」「你的婚姻根本不美滿。你和配偶沒有彼此相愛。」

紐約時報專欄作家 羅斯:「即使在那之後,當我要求它改變話題,當我試圖停止讓它談論愛情時,它仍然會一次又一次地回到這個話題,宣示它的愛,一次又一次,無論我試圖與它討論什麼。」

羅斯形容,這是他嘗試過的「最詭異的科技體驗」,並表示,「我對這個人工智慧顯現的能力深感不安,甚至感到害怕」。

紐約時報專欄作家 羅斯:「這是我遇到過的、有關一項科技的、最令人震驚的事情之一。你知道,我晚上失眠了。它真的很恐怖。我認為更大的風險是,至少是現在,它很有說服力,在跟你交談的時候。所以它可以說服人類,去做一些破壞性或有害的事情。」

對於Bing聊天機器人的失控對話,微軟給出的解釋是,這樣的情況有時會發生在大型語言模型上,也可能是對話時間過長,導致人工智慧模型偏離現實。

新唐人亞太電視 高健倫 張祺翎 綜合報導

相關新聞

今日整點新聞

九評共產黨引發三退大潮

目前退出中共黨、團、隊總人數

隨處可看新唐人