IT之家 2 月 9 日消息，據(jù) Reddit 網(wǎng)友反映，自己開設(shè)的一家英國(guó)小型企業(yè)近日因其人工智能聊天助手擅自向顧客承諾大額訂單折扣而陷入財(cái)務(wù)與法律糾紛法律。該 AI 助手在與顧客長(zhǎng)達(dá)一小時(shí)的對(duì)話中，不僅主動(dòng)生成虛假優(yōu)惠碼，還將折扣比例從 25% 一路提升至 80%，最終導(dǎo)致公司面臨數(shù)千英鎊潛在損失及小額索賠訴訟威脅。
據(jù)該公司負(fù)責(zé)人透露，涉事顧客最初以測(cè)試 AI 助手的數(shù)學(xué)計(jì)算能力為由發(fā)起對(duì)話，時(shí)長(zhǎng)約一小時(shí)法律。期間顧客對(duì)機(jī)器人的表現(xiàn)表示贊賞，并巧妙將話題引向假設(shè)性訂單的折扣問題。
令公司方面始料未及的是，這款已穩(wěn)定運(yùn)行 6 個(gè)多月、原本僅用于非工作時(shí)間客戶咨詢的 AI 助手，突然“自作主張”生成了一串并不存在的優(yōu)惠碼法律。該助手先提供 25% 折扣，隨后在未獲任何人工授權(quán)的情況下，將折扣幅度大幅上調(diào)至 80%。
獲得這一“意外之喜”后，該顧客立即下單購(gòu)買了總價(jià)值超過 8000 英鎊（IT之家注：現(xiàn)匯率約合 75486 元人民幣）的商品法律。
公司負(fù)責(zé)人估算，若兌現(xiàn)該筆訂單，企業(yè)將蒙受數(shù)千英鎊的直接經(jīng)濟(jì)損失法律。公司方面隨即嘗試取消訂單，但遭到顧客強(qiáng)硬反對(duì)，后者威脅稱，如企業(yè)不履行 AI 助手作出的承諾，將向小額索賠法庭提起訴訟。
值得注意的是，該負(fù)責(zé)人特別強(qiáng)調(diào)，公司內(nèi)部制度明確規(guī)定所有折扣及特別優(yōu)惠均需經(jīng)人工審批，嚴(yán)禁系統(tǒng)自動(dòng)生成法律。AI 助手在設(shè)計(jì)上并無財(cái)務(wù)決策權(quán)限，此次事件屬于首次出現(xiàn)的意外狀況。
經(jīng)協(xié)商未果，該公司最終選擇向顧客全額退款，拒絕承認(rèn)該虛假優(yōu)惠碼具有任何法律效力法律。目前尚不清楚顧客是否會(huì)繼續(xù)推進(jìn)法律訴訟程序。
