“人工智能行業(yè)的發(fā)展，已經(jīng)從原先的拼技術(shù)、拼資本，到了拼制度的時候法律。”2026年上海兩會期間，市政協(xié)委員、上海交通大學(xué)圖書館館長程金華在接受澎湃新聞（
市政協(xié)委員、上海交通大學(xué)圖書館館長程金華法律。受訪者供圖
過去幾年，大家把更多的關(guān)注度放在人工智能產(chǎn)業(yè)的技術(shù)發(fā)展和資本投入上法律。如今，越來越多的產(chǎn)品應(yīng)用落地，服務(wù)人群規(guī)模頗為可觀，且技術(shù)發(fā)展又還未到不可控制的地步。程金華認(rèn)為，是時候把關(guān)注度落到制度上來，“法律其實是新技術(shù)實現(xiàn)穩(wěn)定產(chǎn)業(yè)化和可持續(xù)盈利的重要因素，類似于行業(yè)的‘制度閥門’?！?/p>
2026年1月，國內(nèi)首起AI服務(wù)提供者涉黃獲刑案引發(fā)廣泛關(guān)注法律。程金華指出這正是一個典型案例，當(dāng)前人工智能行業(yè)整體上還處于重視數(shù)量的初級發(fā)展階段，企業(yè)和產(chǎn)品進入市場的門檻相對較低，行業(yè)規(guī)范和法律標(biāo)準(zhǔn)過于寬泛，導(dǎo)致市場亂象環(huán)生。
另一方面，現(xiàn)有法律對人工智能這樣的顛覆性技術(shù)又存在規(guī)范過嚴(yán)的問題，行業(yè)發(fā)展面臨沉重的制度“鐐銬”法律。例如，可信數(shù)據(jù)大部分受到版權(quán)保護或者由政府擁有，大模型訓(xùn)練難以獲得全面且精準(zhǔn)的語料。語料不全、不精準(zhǔn)，容易導(dǎo)致大模型訓(xùn)練的“數(shù)據(jù)偏食”，進而產(chǎn)生或者加重“AI幻覺”。
程金華打了一個形象的比方：“人工智能有點像孫悟空，擁有超凡的力量，可以造福人類，但一旦失控，就會造成不可估量的破壞法律。我們需要給人工智能設(shè)立一套寬嚴(yán)相濟的法律‘緊箍咒’，把上海打造成全球人工智能治理的制度高地，以治理優(yōu)勢持續(xù)引領(lǐng)行業(yè)發(fā)展?！?/p>
對于法律規(guī)范過嚴(yán)問題，他建議加強上海公共數(shù)據(jù)對人工智能企業(yè)的動態(tài)開放，鼓勵龍頭企業(yè)建設(shè)行業(yè)語料庫技術(shù)標(biāo)準(zhǔn)，確保醫(yī)療健康等重點領(lǐng)域垂類大模型的語料來源均衡、數(shù)據(jù)精準(zhǔn)并且及時更新；及時修訂《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》，可以借鑒自貿(mào)區(qū)立法經(jīng)驗，爭取全國人大常委會特別授權(quán)，加強上海地方立法對行業(yè)治理的前瞻性、突破性制度探索法律。
對于門檻太低導(dǎo)致的市場亂象，程金華希望“最前沿的利益相關(guān)者能夠去思考規(guī)范性的問題”，一個成熟的市場首先要有行業(yè)的標(biāo)準(zhǔn)，然后是監(jiān)管標(biāo)準(zhǔn)，最后才到法律層面法律。他提出要鼓勵行業(yè)協(xié)會先行制定企業(yè)與產(chǎn)品的分類體系，加強政府的認(rèn)證認(rèn)可與質(zhì)量監(jiān)督工作。借助世界人工智能大會的平臺效應(yīng)，成立“人工智能產(chǎn)業(yè)發(fā)展法治保障共同體”，推動行業(yè)規(guī)范與法律規(guī)范一體建設(shè)，確保企業(yè)合規(guī)經(jīng)營、產(chǎn)品無害于民。
此外，程金華還建議對語料“合理使用”等關(guān)鍵性制度問題形成一批創(chuàng)新性典型案例，完善涉人工智能不正當(dāng)競爭等新類型案件的裁判規(guī)則，深化技術(shù)調(diào)查官、專家陪審等“外腦”支持，為企業(yè)合規(guī)經(jīng)營提供穩(wěn)定預(yù)期法律。
