OpenAI 推出的聊天機械人 ChatGPT 瘋魔全球，登記用戶突破 1億人次，對不少行業造成沖擊，但亦為人帶來方便。
然而，這個全球熱爆的 AI 聊天機械人，亦引起了各地監管部門的關注，認為其存在漏洞及安全疑慮。日前 ChatGPT 因涉嫌違反隱私規則而遭意大利禁用，從3月31日起生效。意大利此舉亦引起其他國家關注，考慮是否應採取更嚴格措施來規範AI聊天機器人。
為了解決問題，公司 OpenAI 推出「漏洞懸賞計畫」（Bug Bounty），獎金由 200 美元至 2 萬美元不等，鼓勵用戶及邀請程式設計師等研究人員協助該公司找出 AI 系統中的錯誤。公司將根據回報漏洞的嚴重程度，提供獎金。如果找到公司認為特殊發現，有機會獲得最高2萬美元賞金。
其實這做法在科技產業的公司很常見，企業使用賞金計畫來鼓勵程式設計師或道德駭客報告軟體系統上的漏洞。OpenAI 今次的計畫與名為 Bugcrowd 的賞金平台合作，OpenAI 已邀請研究人員針對 ChatGPT 的特定功能進行審查，試圖了解 OpenAI 的系統數據框架如何與第三方應用程式分享。
有用戶稱，人工智能聊天機械人鼓勵他結束自己的生命。亦有用戶表示，這個旨在像人一樣說話的聊天機械人軟件會表現出嫉妒，甚至會勸人離婚。
研究人員強調，人工智能聊天機械人可能會提供潛在危險信息，呼籲禁止聊天機械人就道德問題提供建議，並警告說目前的軟件「有可能腐蝕」人們的道德判斷，並可能對「心智未成熟及天真的」用戶造成危險。
收聽節目
人工智能聊天軟件：學術界「隱憂」抑或「改變」？
SBS Chinese
12/03/202306:31
SBS 中文堅守，以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目，或透過收聽直播、節目重溫及其他語音內容。
