【摘要】隨著數(shù)字技術(shù)的發(fā)展和廣泛使用,一個(gè)算法社會(huì)正在到來。算法在帶動(dòng)經(jīng)濟(jì)增長、提高經(jīng)濟(jì)效率、豐富和便利生活的同時(shí),也產(chǎn)生了限制市場競爭、侵害用戶隱私、造成算法歧視、形成信息繭房、損害弱勢群體、帶來倫理挑戰(zhàn)等危害和風(fēng)險(xiǎn)。算法困境的成因包括認(rèn)知局限、企業(yè)對經(jīng)濟(jì)利益的片面追求、平臺(tái)的數(shù)據(jù)優(yōu)勢、算法黑箱以及數(shù)據(jù)素養(yǎng)差異等。要堅(jiān)持發(fā)展與監(jiān)管兩手抓,一方面推動(dòng)算法的技術(shù)進(jìn)步和廣泛應(yīng)用,另一方面強(qiáng)化企業(yè)自律、實(shí)現(xiàn)算法向善,完善算法治理規(guī)則、加強(qiáng)算法規(guī)制,提升民眾數(shù)字素養(yǎng)、構(gòu)建數(shù)字友好型社會(huì)。
【關(guān)鍵詞】數(shù)字經(jīng)濟(jì) 算法 大數(shù)據(jù) 治理
【中圖分類號】D669 【文獻(xiàn)標(biāo)識(shí)碼】A
當(dāng)前,新一輪科技革命和產(chǎn)業(yè)變革深入推進(jìn),正在重構(gòu)全球創(chuàng)新版圖、重塑全球經(jīng)濟(jì)結(jié)構(gòu)。云計(jì)算、大數(shù)據(jù)、物聯(lián)網(wǎng)、移動(dòng)互聯(lián)網(wǎng)、人工智能、區(qū)塊鏈等數(shù)字技術(shù)群是影響最廣泛的推動(dòng)力量,不但不斷催生新產(chǎn)品、新模式、新業(yè)態(tài),而且作為通用目的技術(shù)在經(jīng)濟(jì)社會(huì)生活中加速滲透融合,使其他產(chǎn)業(yè)領(lǐng)域產(chǎn)生顛覆性變革,數(shù)字產(chǎn)業(yè)化和產(chǎn)業(yè)數(shù)字化快速推進(jìn),數(shù)字經(jīng)濟(jì)正成為世界各國最具活力、增速最快的新動(dòng)能。
數(shù)字經(jīng)濟(jì)的核心是數(shù)據(jù),大數(shù)據(jù)、人工智能等技術(shù)對經(jīng)濟(jì)社會(huì)中各種數(shù)據(jù)廣泛和實(shí)時(shí)的采集和處理,使數(shù)據(jù)像工業(yè)時(shí)代的石油一樣成為數(shù)字經(jīng)濟(jì)時(shí)代最重要的生產(chǎn)要素。目前主流的人工智能技術(shù)路線是“大數(shù)據(jù)+機(jī)器學(xué)習(xí)”。算法是強(qiáng)制給定的有限、抽象、有效、復(fù)合的控制結(jié)構(gòu),在一定的規(guī)則下實(shí)現(xiàn)特定的目的。隨著人工智能技術(shù)的廣泛使用,算法滲透進(jìn)經(jīng)濟(jì)社會(huì)生活的方方面面,一個(gè)算法社會(huì)正在到來。算法在帶動(dòng)經(jīng)濟(jì)增長、提高經(jīng)濟(jì)效率、豐富和便利生活的同時(shí),在市場競爭、信息傳播、個(gè)人隱私、弱勢群體利益等方面的負(fù)面影響和風(fēng)險(xiǎn)也暴露出來,需要高度重視并加強(qiáng)算法規(guī)制。
數(shù)字時(shí)代算法困境的表現(xiàn)
算法廣泛應(yīng)用于國民經(jīng)濟(jì)的各個(gè)領(lǐng)域,具有范圍寬廣、形態(tài)繁多的特點(diǎn),由于其應(yīng)用的領(lǐng)域和環(huán)節(jié)、影響的對象不同,算法造成的負(fù)面影響和風(fēng)險(xiǎn)主要包括以下幾個(gè)方面:
第一,限制市場競爭。數(shù)字經(jīng)濟(jì)在組織形態(tài)上的顯著特征是超級平臺(tái)的興起,形成數(shù)字經(jīng)濟(jì)與傳統(tǒng)產(chǎn)業(yè)在產(chǎn)業(yè)組織結(jié)構(gòu)上的巨大差異。一是平臺(tái)成為典型的經(jīng)營形態(tài)。數(shù)字經(jīng)濟(jì)平臺(tái)屬于雙邊平臺(tái),一邊連接最終產(chǎn)品或服務(wù)的用戶,另一邊連接這些產(chǎn)品或服務(wù)的供應(yīng)商,平臺(tái)提供供應(yīng)商與最終用戶之間的交易中介服務(wù)以及實(shí)現(xiàn)交易所需的數(shù)字化工具、數(shù)字基礎(chǔ)設(shè)施和交易規(guī)則。二是數(shù)字經(jīng)濟(jì)的市場集中度更高。由于網(wǎng)絡(luò)效應(yīng)的存在,數(shù)字經(jīng)濟(jì)的細(xì)分產(chǎn)業(yè)領(lǐng)域在進(jìn)入成熟階段后都呈現(xiàn)贏家通吃的格局,一兩家頭部企業(yè)占有大多數(shù)市場份額,相比之下,傳統(tǒng)產(chǎn)業(yè)的市場集中度一般要低得多。三是超級平臺(tái)具有強(qiáng)大的市場勢力。由于占有大多數(shù)市場份額,更由于平臺(tái)是數(shù)據(jù)集中與交換的樞紐,無論是入駐平臺(tái)的供應(yīng)商還是最終用戶都處于非常弱勢的地位。平臺(tái)企業(yè)可以利用其市場優(yōu)勢地位和對數(shù)據(jù)的掌控對供應(yīng)商和最終用戶制定掠奪性價(jià)格;還可以利用數(shù)據(jù)優(yōu)勢、用戶優(yōu)勢,對具有潛力的新技術(shù)和新商業(yè)模式進(jìn)行模仿,將初創(chuàng)企業(yè)排擠出市場,或者直接將初創(chuàng)企業(yè)收購,將自己在原有市場的優(yōu)勢地位拓展到新興市場。即使在市場上仍存在多家平臺(tái)的情況下,平臺(tái)企業(yè)可以將算法作為媒介建立共謀,通過向供應(yīng)商、消費(fèi)者收取高價(jià)而謀取不當(dāng)利益。
第二,侵害用戶隱私。在數(shù)字經(jīng)濟(jì)時(shí)代,數(shù)據(jù)是企業(yè)經(jīng)濟(jì)效益的重要來源,數(shù)據(jù)的價(jià)值取決于顆粒度、鮮活度、連接度、反饋度、響應(yīng)度、加工度等多個(gè)方面,精細(xì)化程度越高的信息、越具有時(shí)效性的信息、越能夠與其他信息建立關(guān)聯(lián)的信息,其經(jīng)濟(jì)價(jià)值越高。用戶的信息既可以直接用于數(shù)字經(jīng)濟(jì)企業(yè)自身的商品導(dǎo)流或促銷,也可以出售給其他企業(yè)。為了占有盡可能多的信息,許多應(yīng)用程序或APP未經(jīng)用戶同意就直接獲取程序運(yùn)行非必須的權(quán)限,如定位功能、通訊錄訪問權(quán)限等,甚至用戶不開放權(quán)限就無法使用該程序。為了獲得互聯(lián)網(wǎng)帶來的便利性,消費(fèi)者不得不選擇讓渡個(gè)人信息。但是一方面,一些信息的獲取沒有得到消費(fèi)者的許可,屬于非法采集,另一方面,個(gè)人雖然是數(shù)據(jù)的生產(chǎn)者、所有者,但是這些數(shù)據(jù)一旦被互聯(lián)網(wǎng)公司獲取后就脫離其最初所有者的控制,個(gè)人不但無法知曉自己的信息被用于何處,而且在后續(xù)的使用中可能會(huì)威脅個(gè)人的隱私,甚至可能對個(gè)人的財(cái)產(chǎn)和人身安全造成損害。
第三,造成算法歧視。算法歧視是基于算法的自動(dòng)化決策對個(gè)人所造成的不公平對待的現(xiàn)象。算法歧視包括直接歧視和間接歧視,前者是由于個(gè)體所處特定社會(huì)群體而遭受的不同等待遇,后者是指表面中立的行為對不同社會(huì)群體成員造成不同等的影響。算法歧視有多種成因,包括用于訓(xùn)練算法的歷史數(shù)據(jù)受到污染或存有偏見,算法中使用性別、種族等具有明顯歧視性的數(shù)據(jù),利用能夠顯示身份的代理變量(如用戶使用的手機(jī)品牌和價(jià)格)用于算法模型訓(xùn)練,個(gè)人偏見和歧視性觀點(diǎn)被植入算法等。算法歧視的一個(gè)典型是“大數(shù)據(jù)殺熟”。大數(shù)據(jù)殺熟是互聯(lián)網(wǎng)平臺(tái)利用算法對用戶的歷史消費(fèi)數(shù)據(jù)進(jìn)行分析,相同的商品或服務(wù)對那些支付能力強(qiáng)、對價(jià)格不敏感的老顧客收取更高的價(jià)格。在傳統(tǒng)的商品市場上,商品的功能、質(zhì)量高度標(biāo)準(zhǔn)化,價(jià)格不同很容易被發(fā)現(xiàn),而互聯(lián)網(wǎng)服務(wù)通常是基于特定時(shí)間、特定場景的,時(shí)間、場景不同,市場上的供需關(guān)系就不同,并由此形成不同的市場價(jià)格,這就造成“大數(shù)據(jù)”殺熟更難被察覺、也更難被舉證。
第四,形成信息繭房。通過對消費(fèi)者注冊、瀏覽、搜索、購買、評價(jià)等互聯(lián)網(wǎng)使用歷史數(shù)據(jù)的分析,媒體平臺(tái)利用算法可以向消費(fèi)者精準(zhǔn)推送其感興趣的信息,以此增加用戶黏性和用戶鎖定。在信息呈指數(shù)型爆炸增長的自媒體時(shí)代,平臺(tái)的推薦算法雖然可以為消費(fèi)者節(jié)約大量的信息搜索時(shí)間,但也嚴(yán)重限制了消費(fèi)者所能接收到的信息的多樣性,推薦算法會(huì)嚴(yán)格按照用戶自己的偏好設(shè)定和歷史數(shù)據(jù)定制化地推送信息,而用戶在這類信息上的駐留會(huì)進(jìn)一步強(qiáng)化算法對此類信息推薦。人們被算法圈定在“信息繭房”里,被動(dòng)地接受算法讓人們看到的信息。同時(shí),各類數(shù)字平臺(tái)的社交化導(dǎo)向會(huì)推動(dòng)具有相同愛好和觀點(diǎn)的人在網(wǎng)絡(luò)空間上聚集,進(jìn)一步強(qiáng)化他們固有的愛好和觀點(diǎn)。算法推薦會(huì)讓用戶只看到自己愿意看到的觀點(diǎn),造成信息封閉、在認(rèn)知上成為“井底之蛙”。在社會(huì)層面,信息繭房還會(huì)形成用戶觀點(diǎn)的極化,造成不同群體之間的交流障礙,甚至由于思想的偏狹引致群體間的誤會(huì),催生極端行為,引發(fā)社會(huì)矛盾和沖突。
第五,損害弱勢群體。數(shù)字經(jīng)濟(jì)的發(fā)展和算法的廣泛使用不會(huì)自動(dòng)地平等惠及每一個(gè)人,弱勢群體反而會(huì)成為算法的受損者。在日常生活中,由于數(shù)字技術(shù)對傳統(tǒng)生活方式的替代可能增加對數(shù)字技術(shù)不熟悉人群的不便。例如,網(wǎng)約車普及后,不會(huì)使用手機(jī)的老年人出現(xiàn)“打車難”。在工作中,合意的算法應(yīng)該有益于勞動(dòng)者工作條件的改善、降低工作中的潛在傷害。但這只是算法的美好的一面,算法也會(huì)讓勞動(dòng)者變成算法的“奴隸”。例如,在外賣行業(yè),外賣騎手在算法的驅(qū)使下為了準(zhǔn)時(shí)完成訂單、獲得準(zhǔn)時(shí)獎(jiǎng)勵(lì)或避免不準(zhǔn)時(shí)的罰款,不僅會(huì)增加勞動(dòng)強(qiáng)度,而且可能會(huì)采取超速、逆行、闖紅燈等高風(fēng)險(xiǎn)行為,被迫用事故概率來換取工作效率。
第六,帶來倫理挑戰(zhàn)。傳統(tǒng)上,人類主體使用某種技術(shù)以及該技術(shù)形成的產(chǎn)品和服務(wù),同時(shí)承擔(dān)使用該項(xiàng)技術(shù)造成的法律后果或道德倫理責(zé)任,但是當(dāng)人類把決策權(quán)交給算法,由算法自動(dòng)地作出判斷、決策并實(shí)施行動(dòng)時(shí)就形成了對道德倫理的挑戰(zhàn)。在大多數(shù)情況下,現(xiàn)有法律法規(guī)、政策和社會(huì)倫理對算法造成的不良后果會(huì)形成約束,但是算法的突飛猛進(jìn)也會(huì)產(chǎn)生新的道德倫理問題,對人類文明長期形成的道德倫理準(zhǔn)則形成新的挑戰(zhàn),給人類社會(huì)的發(fā)展帶來新的風(fēng)險(xiǎn)。在著名的“電車難題”中,當(dāng)無人駕駛汽車在事故在所難免時(shí),它該如何作出決策:是優(yōu)先保護(hù)車上的駕駛?cè)藛T和乘客還是優(yōu)先保護(hù)路上的行人?是選擇撞向道路上的多個(gè)行人還是撞向路邊的一個(gè)無辜看客?現(xiàn)有的法律甚至社會(huì)倫理并沒有對算法規(guī)則如何設(shè)定提供明確的意見。由于智能化系統(tǒng)是按照預(yù)先編好的程序作出決策,因此在一些領(lǐng)域的應(yīng)用可能會(huì)造成巨大的風(fēng)險(xiǎn)。
數(shù)字時(shí)代算法困境的成因
首先是人類的認(rèn)知局限。算法是人類開發(fā)設(shè)計(jì)的,必然也反映著人類的主觀認(rèn)知。算法困境的很重要原因是人類主觀認(rèn)知的局限性造成的。一方面,開發(fā)算法的人員可能會(huì)存在認(rèn)知上的偏差甚至偏見,而算法不僅會(huì)繼承人類的偏見,而且還可能隨著數(shù)據(jù)的積累和算法的迭代而被強(qiáng)化和放大。另一方面,大數(shù)據(jù)、人工智能以及作為其核心的算法仍然是一個(gè)新生事物,人類對于其可能造成的負(fù)面影響存在認(rèn)識(shí)不足的情況。在機(jī)器學(xué)習(xí)的技術(shù)路線下,程序員只需要給出一個(gè)合適的算法而無需自己手動(dòng)編寫詳細(xì)代碼,通過提供充足的用于訓(xùn)練的數(shù)據(jù),算法可以自己調(diào)整、修改決策規(guī)則。這種學(xué)習(xí)能力賦予算法一定程度的自主性,同樣也造成算法執(zhí)行任務(wù)的后果難以預(yù)測。
其次是企業(yè)的經(jīng)濟(jì)動(dòng)因。算法雖然在客觀構(gòu)成上是一系列冰冷的代碼,但它仍然是人類智力活動(dòng)的結(jié)果,算法既受到人類認(rèn)知發(fā)展水平的制約,也不可避免受到人類主觀行為的影響。企業(yè)是追求經(jīng)濟(jì)利益最大化的市場主體,企業(yè)對算法功能的開發(fā)、設(shè)計(jì)必然服務(wù)于其經(jīng)濟(jì)目標(biāo)的實(shí)現(xiàn)。為了讓數(shù)據(jù)創(chuàng)造更大價(jià)值,企業(yè)會(huì)以各種方式獲得用戶數(shù)據(jù);為了獲得流量,企業(yè)會(huì)根據(jù)數(shù)據(jù)對用戶精準(zhǔn)畫像并進(jìn)行定制化的信息推送。帶有偏見和歧視的數(shù)據(jù)經(jīng)過算法運(yùn)算之后產(chǎn)生的結(jié)果也會(huì)帶有不公平性。即使企業(yè)在開發(fā)算法時(shí)沒有主觀惡意,如果將利潤最大化設(shè)定為算法要實(shí)現(xiàn)的最終目標(biāo),算法在自我學(xué)習(xí)、不斷迭代中形成的新版本也可能造成違反現(xiàn)有法律、社會(huì)倫理道德的后果。
再次是平臺(tái)的數(shù)據(jù)優(yōu)勢。超級平臺(tái)是供應(yīng)商和商品/服務(wù)最終用戶的交易中介,掌握著雙方的搜索、評論、互動(dòng)、收藏、交易等各種數(shù)據(jù),而且在大數(shù)據(jù)、云計(jì)算等技術(shù)的支持下,所有的歷史交易都能被保存、追溯和分析,再加上與其他來源數(shù)據(jù)的交叉比對,平臺(tái)能夠獲得供應(yīng)商和用戶在互聯(lián)網(wǎng)上的全本信息。相比之下,平臺(tái)上的供應(yīng)商和用戶只擁有自己個(gè)人的數(shù)據(jù),與平臺(tái)掌握的數(shù)據(jù)完全不在同一個(gè)數(shù)量級。平臺(tái)對數(shù)據(jù)的掌握也就意味著掌握了互聯(lián)網(wǎng)上最重要的流量,它既可以向供應(yīng)商出售流量,也可以引導(dǎo)最終用戶的流量。面對平臺(tái)的數(shù)據(jù)和流量優(yōu)勢以及高度集中的市場格局,供應(yīng)商在與平臺(tái)的談判中毫無優(yōu)勢,因此就出現(xiàn)了“二選一”等現(xiàn)象。同樣,平臺(tái)還能夠利用對消費(fèi)者近乎完全的信息掌握,對消費(fèi)者制定高度差異化的歧視性價(jià)格,而處于信息劣勢的消費(fèi)者只能被動(dòng)地接受平臺(tái)制定的價(jià)格。
第四是算法的技術(shù)黑箱。企業(yè)的算法對于它的供應(yīng)商、用戶以及監(jiān)管機(jī)構(gòu)存在著很高的不透明性。算法的不透明性有三種來源:一是由于商業(yè)秘密保護(hù)所導(dǎo)致的不透明性,這種以維護(hù)競爭優(yōu)勢為名的保護(hù)也可能是一種規(guī)避法規(guī)、操縱消費(fèi)者和實(shí)施歧視的新形式的掩護(hù);二是對于技術(shù)外行的不透明性,編寫和閱讀代碼和算法設(shè)計(jì)是一項(xiàng)高度專業(yè)化的技能,需要長期的學(xué)習(xí)和經(jīng)驗(yàn)積累,大多數(shù)人無法勝任;三是算法本身復(fù)雜性導(dǎo)致的不透明性,機(jī)器學(xué)習(xí)形成的算法不但規(guī)模巨大,而且算法的內(nèi)部邏輯隨著對訓(xùn)練數(shù)據(jù)的學(xué)習(xí)而不斷改變會(huì)進(jìn)一步增加代碼的復(fù)雜性。不透明性使企業(yè)的算法成為很難為外界所知的技術(shù)黑箱,數(shù)據(jù)的海量化,場景的個(gè)性化,算法的專業(yè)化增加了外界監(jiān)督的難度,助長了一些企業(yè)經(jīng)營者和算法開發(fā)者為追求經(jīng)濟(jì)利益而采取有悖法律法規(guī)、社會(huì)道德倫理的行為。
最后是數(shù)據(jù)素養(yǎng)的差異。國家間由于經(jīng)濟(jì)發(fā)展、數(shù)字基礎(chǔ)設(shè)施、數(shù)字產(chǎn)品購買力以及素質(zhì)教育的不同,而出現(xiàn)的數(shù)字化程度的巨大差異被稱為“數(shù)字鴻溝”。即使在同一個(gè)國家內(nèi)部,數(shù)字鴻溝因?yàn)樗幍貐^(qū)、收入水平、受教育水平、年齡等而同樣存在。在我國由于大規(guī)模的信息基礎(chǔ)設(shè)施建設(shè),網(wǎng)絡(luò)覆蓋率的差異已經(jīng)不成為數(shù)字鴻溝的主要原因,個(gè)人智能終端性價(jià)比的不斷提高也促進(jìn)能夠聯(lián)網(wǎng)的智能設(shè)備日益普及,數(shù)字鴻溝實(shí)際上主要存在于代際之間。年輕一代是數(shù)字經(jīng)濟(jì)原住民,從小就使用數(shù)字產(chǎn)品并接受素質(zhì)教育,而老年人由于學(xué)習(xí)能力差、購買力低,許多人沒有智能終端,即使有智能終端也無法掌握各種操作,使他們被排斥在數(shù)字經(jīng)濟(jì)帶來的強(qiáng)大生活功能和便利性之外。
數(shù)字時(shí)代算法困境的治理路徑
在數(shù)字時(shí)代,隨著算法應(yīng)用領(lǐng)域的不斷擴(kuò)大,任其無序發(fā)展會(huì)進(jìn)一步放大可能帶來的風(fēng)險(xiǎn)和危害。因此,要堅(jiān)持促進(jìn)發(fā)展和監(jiān)管規(guī)范兩手抓、兩手都要硬,一方面推動(dòng)算法相關(guān)技術(shù)的進(jìn)步,完善算力基礎(chǔ)設(shè)施,創(chuàng)造數(shù)據(jù)流通、交易的法律制度環(huán)境,另一方面也要加強(qiáng)對算法的規(guī)制和對算法困境的治理。
一是加強(qiáng)企業(yè)社會(huì)責(zé)任建設(shè)。督促互聯(lián)網(wǎng)企業(yè)以及正在進(jìn)行數(shù)字化轉(zhuǎn)型的企業(yè)加強(qiáng)企業(yè)社會(huì)責(zé)任建設(shè),規(guī)范規(guī)則設(shè)立、數(shù)據(jù)處理、算法制定等行為,在算法設(shè)計(jì)之初就要將法律、核心價(jià)值觀、道德倫理等人類價(jià)值嵌入到算法之中,讓數(shù)字科技企業(yè)、算法開發(fā)人員將服務(wù)于國家和社會(huì)利益、造福于人民群眾作為基本遵循。算法開發(fā)者應(yīng)提高算法的透明度和可解釋性,增強(qiáng)對算法安全評估和管控能力;當(dāng)算法開發(fā)者遇到算法可能造成危害和風(fēng)險(xiǎn)時(shí),主動(dòng)對算法進(jìn)行修正和調(diào)整,推動(dòng)形成負(fù)責(zé)任的算法,實(shí)現(xiàn)算法向善。
二是完善算法治理規(guī)則。進(jìn)一步完善數(shù)據(jù)立法,對數(shù)據(jù)的權(quán)屬、轉(zhuǎn)讓、交易等進(jìn)行規(guī)定。積極參與數(shù)據(jù)跨境流動(dòng)、算法應(yīng)用、算法安全等領(lǐng)域國際規(guī)則合作,完善多邊數(shù)字經(jīng)濟(jì)治理機(jī)制。根據(jù)數(shù)字經(jīng)濟(jì)發(fā)展出現(xiàn)的新模式、新業(yè)態(tài)、新現(xiàn)象、新問題,研究制定關(guān)于新型不正當(dāng)競爭行為認(rèn)定、處罰的法律規(guī)范。針對零工經(jīng)濟(jì)、靈活就業(yè)現(xiàn)象,研究完善平臺(tái)從業(yè)人員權(quán)益保護(hù)規(guī)定和社保政策等。通過制定合理使用算法的法律規(guī)范,防止數(shù)字企業(yè)利用數(shù)據(jù)優(yōu)勢和算法技術(shù)排除、限制競爭,加強(qiáng)消費(fèi)者權(quán)益的保護(hù),維護(hù)公平競爭秩序。
三是加強(qiáng)對算法的規(guī)制。盡管算法具有很高的技術(shù)門檻,但政府對互聯(lián)網(wǎng)公司的監(jiān)管應(yīng)擴(kuò)大到算法層面。賦予監(jiān)管機(jī)構(gòu)監(jiān)管數(shù)據(jù)和算法的權(quán)力,探索基于大數(shù)據(jù)、人工智能、區(qū)塊鏈等新技術(shù)的監(jiān)管模式,增強(qiáng)監(jiān)管部門的監(jiān)管能力,提高算法相關(guān)風(fēng)險(xiǎn)的識(shí)別、預(yù)警和防范。對算法開發(fā)者和使用者設(shè)置算法審查、算法風(fēng)險(xiǎn)評估與算法解釋等義務(wù)。當(dāng)算法使用過程中出現(xiàn)有損于社會(huì)利益的結(jié)果或暴露潛在風(fēng)險(xiǎn)時(shí),監(jiān)管機(jī)構(gòu)有權(quán)打開算法黑箱,聘請第三方服務(wù)機(jī)構(gòu)或組成專家委員會(huì)對企業(yè)的數(shù)據(jù)與算法合規(guī)性進(jìn)行審查。
四是建設(shè)數(shù)字友好型社會(huì)。繼續(xù)推動(dòng)信息基礎(chǔ)設(shè)施建設(shè),提高通信網(wǎng)絡(luò)的覆蓋率和可獲得性。加強(qiáng)對邊遠(yuǎn)地區(qū)、老年人、少年兒童的數(shù)字應(yīng)用教育,幫助他們掌握數(shù)字設(shè)備的使用。行業(yè)主管部門應(yīng)發(fā)布規(guī)定,要求智能硬件開發(fā)和互聯(lián)網(wǎng)服務(wù)提供企業(yè),在產(chǎn)品和算法開發(fā)時(shí),要考慮老年人、殘疾人等社會(huì)弱勢群體的需求,提高算法對弱勢群體的友好性。例如,通過一鍵叫車、人工客服接入等設(shè)置提高算法的“適老化”程度。
(作者為中國社會(huì)科學(xué)院工業(yè)經(jīng)濟(jì)研究所研究員)
【注:本文系中國社會(huì)科學(xué)院登峰戰(zhàn)略優(yōu)勢學(xué)科(產(chǎn)業(yè)經(jīng)濟(jì)學(xué))、中國社會(huì)科學(xué)院工業(yè)經(jīng)濟(jì)研究所課題“全球制造業(yè)數(shù)字化轉(zhuǎn)型新趨勢追蹤研究”階段性成果】
【參考文獻(xiàn)】
①蘇宇:《論算法規(guī)制的價(jià)值目標(biāo)與機(jī)制設(shè)計(jì)》,《自然辯證法通訊》,2019年第10期。
②張恩典:《反算法歧視:理論反思與制度建構(gòu)》,《華中科技大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版)》,2020年第5期。
③張旺:《倫理結(jié)構(gòu)化:算法風(fēng)險(xiǎn)治理的邏輯與路徑》,《湖湘論壇》,2021年第2期。
④孫保學(xué):《人工智能算法倫理及其風(fēng)險(xiǎn)》,《哲學(xué)動(dòng)態(tài)》,2019年第10期。
⑤喬榛、劉瑞峰:《大數(shù)據(jù)算法的價(jià)格歧視問題》,《社會(huì)科學(xué)研究》,2020年第5期。
⑥孫益武:《規(guī)制算法的困境與出路》,《中國社會(huì)科學(xué)報(bào)》,2019年4月24日。
⑦陳婉婷:《大數(shù)據(jù)時(shí)代的算法歧視及其法律規(guī)制》,《學(xué)習(xí)時(shí)報(bào)》,2020年8月12日。
責(zé)編/于洪清 美編/楊玲玲
聲明:本文為人民論壇雜志社原創(chuàng)內(nèi)容,任何單位或個(gè)人轉(zhuǎn)載請回復(fù)本微信號獲得授權(quán),轉(zhuǎn)載時(shí)務(wù)必標(biāo)明來源及作者,否則追究法律責(zé)任。