IT之家 2 月 9 日消息，據 Reddit 網友反映，自己開設的一家英國小型企業(yè)近日因其人工智能聊天助手擅自向顧客承諾大額訂單折扣而陷入財務與法律糾紛法律。該 AI 助手在與顧客長達一小時的對話中，不僅主動生成虛假優(yōu)惠碼，還將折扣比例從 25% 一路提升至 80%，最終導致公司面臨數千英鎊潛在損失及小額索賠訴訟威脅。
據該公司負責人透露，涉事顧客最初以測試 AI 助手的數學計算能力為由發(fā)起對話，時長約一小時法律。期間顧客對機器人的表現表示贊賞，并巧妙將話題引向假設性訂單的折扣問題。
令公司方面始料未及的是，這款已穩(wěn)定運行 6 個多月、原本僅用于非工作時間客戶咨詢的 AI 助手，突然“自作主張”生成了一串并不存在的優(yōu)惠碼法律。該助手先提供 25% 折扣，隨后在未獲任何人工授權的情況下，將折扣幅度大幅上調至 80%。
獲得這一“意外之喜”后，該顧客立即下單購買了總價值超過 8000 英鎊（IT之家注：現匯率約合 75486 元人民幣）的商品法律。
公司負責人估算，若兌現該筆訂單，企業(yè)將蒙受數千英鎊的直接經濟損失法律。公司方面隨即嘗試取消訂單，但遭到顧客強硬反對，后者威脅稱，如企業(yè)不履行 AI 助手作出的承諾，將向小額索賠法庭提起訴訟。
值得注意的是，該負責人特別強調，公司內部制度明確規(guī)定所有折扣及特別優(yōu)惠均需經人工審批，嚴禁系統(tǒng)自動生成法律。AI 助手在設計上并無財務決策權限，此次事件屬于首次出現的意外狀況。
經協商未果，該公司最終選擇向顧客全額退款，拒絕承認該虛假優(yōu)惠碼具有任何法律效力法律。目前尚不清楚顧客是否會繼續(xù)推進法律訴訟程序。
