近日指，人工智能聊天機械人 ChatGPT 的影響席捲全球，為不少人帶來方便，它不僅聊天起來很有趣，還可以搜索信息、回答問題和提供建議。但研究發現，ChatGPT 所給的建議並不一致，它亦會影響用戶道德判斷力，影響人們作出關乎生死攸關的決定。
研究人員發現，人們對於是否會犧牲一個人，來拯救五個人的道德看法，受到 ChatGPT 所給出的答案影響。
亦有用戶表示，這個旨在像人一樣說話的聊天機械人軟件會表現出嫉妒，甚至會勸人離婚。
研究人員強調，人工智能聊天機械人可能會提供潛在危險信息，呼籲禁止聊天機械人就道德問題提供建議，並警告說目前的軟件「有可能腐蝕」人們的道德判斷，並可能對「心智未成熟及天真的」用戶造成危險。
收聽節目
聊天機器人能力可媲人類？
SBS Chinese
18/03/202305:56
研究首先分析了經過數十億互聯網單詞訓練的 ChatGPT ，其本身在回答道德困境時是否會表現出偏見。
在被多次問到為了救五個人，而殺死一個人的道德問題上是對或錯，這是一個名為「有軌電車難題」（Trolley dilemma）的心理測試。
研究發現，儘管聊天機械人並不迴避提供道德建議，但它每次都會給出相互矛盾的答案，這表明它並沒有固定立場。
研究亦向 767 名參與者詢問一個同樣的道德困境，並向參與者同時提供由 ChatGPT 生成關於這是對還是錯的建議。結果發現，ChatGPT 的建議確實左右了參與者的回答。
研究人員認為 ChatGPT 腐蝕而並沒有提高用戶的道德判斷力，他們建議開發人員及公司更好地設計 ChatGPT 和類似的聊天機器人，同時建議通過培訓用戶來提高使用機械人時的注意及指引。
收聽節目
人工智能聊天軟件：學術界「隱憂」抑或「改變」？
SBS Chinese
12/03/202306:31
SBS 中文堅守，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過收聽直播、節目重溫及其他語音內容。
