以有力監(jiān)管對抗不公平算法偏見

2021-12-13 09:13:37

習(xí)近平總書記在中共中央政治局第三十四次集體學(xué)習(xí)時強調(diào)指出,要規(guī)范數(shù)字經(jīng)濟發(fā)展,堅持促進(jìn)發(fā)展和監(jiān)管規(guī)范兩手抓、兩手都要硬,在發(fā)展中規(guī)范、在規(guī)范中發(fā)展。

近年來,隨著互聯(lián)網(wǎng)經(jīng)濟快速發(fā)展,一些大型平臺企業(yè)如雨后春筍般發(fā)展壯大,它們借助大數(shù)據(jù)、人工智能等現(xiàn)代信息手段,業(yè)務(wù)遍及網(wǎng)絡(luò)購物、交通出行、旅游住宿、訂餐外賣、網(wǎng)絡(luò)游戲等。然而,平臺企業(yè)在提供產(chǎn)品或服務(wù)的同時,也暴露出一些不容忽視的問題:有的通過大數(shù)據(jù)殺熟;有的通過網(wǎng)絡(luò)直播推送違反法律規(guī)定的內(nèi)容;有的刷好評隱差評......

許多企業(yè)需要利用人工智能輔助決策,依靠算法開展“經(jīng)營診斷”,獲得決策信息、確定經(jīng)營策略,保持競爭優(yōu)勢。但算法的本質(zhì)是互聯(lián)網(wǎng)的一種編程技術(shù),需要人來參與,既然是人在操作,難免存在主觀色彩,造成不公。

例如,部分西方媒體報道,美國醫(yī)療保健風(fēng)險預(yù)測工具被發(fā)現(xiàn)具有嚴(yán)重的種族偏見;蘋果公司的信用卡算法,存在歧視女性的明顯問題......可以說,數(shù)字經(jīng)濟時代,消費者在看不見摸不到的算法面前,成為“弱勢群體”,權(quán)益亟待保障。

若任由不公平的算法無序發(fā)展,既會破壞公平競爭的市場環(huán)境,又會使消費者成為技術(shù)欺凌的對象,從根本上影響數(shù)字經(jīng)濟的發(fā)展。因此必須嚴(yán)格監(jiān)管,切實解決算法不公的問題,可以從以下幾方面采取措施。

第一,加強監(jiān)管頂層設(shè)計。習(xí)近平總書記指出,要健全市場準(zhǔn)入制度、公平競爭審查制度、公平競爭監(jiān)管制度,建立全方位、多層次、立體化監(jiān)管體系,實現(xiàn)事前事中事后全鏈條全領(lǐng)域監(jiān)管。對于算法的規(guī)制,不管是事前監(jiān)管還是事中、事后監(jiān)管,不管是否進(jìn)行倫理審查,都要堅持從嚴(yán),實現(xiàn)監(jiān)管全覆蓋。要建立分層分類監(jiān)管機制,加強對算法應(yīng)用的分級標(biāo)識和分類管理。對不同的算法,確定不同的監(jiān)管等級和尺度,對涉及公共利益、生命健康、財產(chǎn)權(quán)利等的算法,必須強化監(jiān)管。要嚴(yán)格目標(biāo)規(guī)制,對監(jiān)管目標(biāo)嚴(yán)格監(jiān)控。要加強倫理審查,對涉及價值觀、道德觀,特別是未成年人教育的算法,必須嚴(yán)格審查,堅決掃除不公平的土壤。要加強典型案例建設(shè),圍繞群眾關(guān)注的侵害消費者權(quán)益的“二選一”、大數(shù)據(jù)殺熟等問題,列出一批典型案例,提高社會知曉率。

第二,加強相關(guān)法律制度建設(shè)。習(xí)近平總書記指出,要完善數(shù)字經(jīng)濟治理體系,健全法律法規(guī)和政策制度,提高我國數(shù)字經(jīng)濟治理體系和治理能力現(xiàn)代化水平。要加強算法領(lǐng)域的立法建設(shè),盡快出臺有關(guān)法規(guī),填補相關(guān)法律空白。司法機關(guān)要加強對算法應(yīng)用案件的研究,盡快出臺有關(guān)司法解釋,通過判例強化對消費者權(quán)益的保護。要建立算法投訴應(yīng)訴機制,全面保障社會各界的投訴、監(jiān)督權(quán)。要加快培育一批技術(shù)鑒定機構(gòu),強化技術(shù)審核力量。

第三,加強反制措施的算法研究。針對有壟斷行為企業(yè)加強監(jiān)管,“用算法針對算法”,從技術(shù)上破解不公平問題產(chǎn)生的根源。引導(dǎo)平臺企業(yè)加大投入,深化開展算法研究,推出有價值的成果,破解技術(shù)不公,重塑市場競爭機制。對于可能產(chǎn)生侵害消費者權(quán)益的算法,要采取措施積極預(yù)防,把隱患化解在萌芽狀態(tài);對已經(jīng)發(fā)生的不公平算法,要積極研究應(yīng)對的新技術(shù)、新手段,一時解決不了的,就先停止平臺相關(guān)業(yè)務(wù)運營。針對大數(shù)據(jù)殺熟、價格歧視類的問題,必須采取果斷措施,堅決取消。

第四,加強規(guī)制機構(gòu)建設(shè)。政府有關(guān)部門可以考慮設(shè)立專門機構(gòu),負(fù)責(zé)算法應(yīng)用倫理、規(guī)則、標(biāo)準(zhǔn)制定,對不公平算法及時開展調(diào)查、處理,加強對算法應(yīng)用的有效監(jiān)管,確保經(jīng)營者使用的算法可知、可查、可逆,一旦發(fā)生爭議,能夠向司法機關(guān)、第三方機構(gòu)提供數(shù)據(jù)和相關(guān)資料,做到算法應(yīng)用的可驗證、可解釋;要完善算法實施方的舉證責(zé)任,徹底解決消費者舉證難、鑒定難的問題,有關(guān)部門要加強協(xié)調(diào),細(xì)化監(jiān)管職責(zé),實現(xiàn)分工合作、相互配合;要提高監(jiān)管技術(shù)和手段,把監(jiān)管和治理貫穿創(chuàng)新、生產(chǎn)、經(jīng)營、投資全過程。

掃一掃分享本頁