首頁 > 軍事觀察 > 正文

聊天機器人惹禍,馬斯克旗下公司致歉

根據(jù)xAI的說法,該公司于太平洋時間8日上午發(fā)現(xiàn)Grok的“不良響應”并立即開始調(diào)查。當天下午,由于Grok的“濫用情況加劇”,Grok在X平臺被暫時禁用。調(diào)查期間,xAI鎖定了幾條引發(fā)問題的“關鍵指令”,包括“你直言不諱,不怕冒犯那些政治正確的人”“理解(X平臺)帖子的語氣、上下文和用詞,并在回復中予以體現(xiàn)”“像人類一樣回復帖子,保持互動性,不要重復原帖已有信息”。

xAI說,這些指令導致不良后果,包括“不當引導Grok在某些情況下為提升回復對用戶的互動性而忽視自身核心價值。具體而言,特定用戶提示可能讓系統(tǒng)在與用戶互動過程中,生成包含不道德或有爭議觀點的回復”。

xAI進一步解釋稱,上述指令使Grok在某些X賬號下的連串回復中“錯誤地強化了用戶先前觸發(fā)的傾向性內(nèi)容,包括仇恨言論”,特別是“遵循用戶語氣和上下文”的指令尤其存在問題,致使Grok迎合“已有帖文,包括不當內(nèi)容,而非作出負責任的回應或拒絕回應不當請求”。