隨著人工智能技術(shù)發(fā)展步入快車道，業(yè)務(wù)數(shù)量和覆蓋面不斷提升，新業(yè)務(wù)模式和新 產(chǎn)品持續(xù)涌現(xiàn)。與此同時(shí)也產(chǎn)生了各種科技倫理問題和挑戰(zhàn)，特別是那些已經(jīng)深入 到日常生活方方面面的各類算法，引起了社會(huì)的廣泛擔(dān)憂。

1.調(diào)度決策：外賣調(diào)度系統(tǒng)"困住"騎手

外賣平臺引入人工智能技術(shù)和系統(tǒng)，會(huì)幫助騎手規(guī)劃訂單的取餐順序和配送 路線。在大大提升配送效率的同時(shí)，也引發(fā)了 "困住”騎手的質(zhì)疑，例如系 統(tǒng)規(guī)劃的路徑或預(yù)計(jì)的時(shí)長存在不合理情況，而騎手囿于系統(tǒng)限制，為了節(jié) 省時(shí)間往往選擇違反交通規(guī)則’給自身和他人帶來安全隱患。

2.個(gè)性化推薦：電商場景下的信息繭房和馬太效應(yīng)

電商平臺根據(jù)消費(fèi)者的興趣愛好、消費(fèi)習(xí)慣等提供智能推薦服務(wù)，節(jié)省時(shí)間 成本、大大提升了匹配效率，但也產(chǎn)生了信息繭房和馬太效應(yīng)。一方面可能 出現(xiàn)推薦商品重復(fù)率過G的情形；另一方面系統(tǒng)天然傾向于推薦實(shí)力強(qiáng)服務(wù) 好的頭部商家，導(dǎo)致市場資源更加集中，加劇了兩J分化。

3.內(nèi)容治理：如何守護(hù)清朗健康的網(wǎng)絡(luò)環(huán)境?

部分不法分子在網(wǎng)絡(luò)平臺上，為了騙取流量，發(fā)布各式各樣的兒童軟色情內(nèi) 容’污染了網(wǎng)絡(luò)空間’敗壞社會(huì)風(fēng)氣’嚴(yán)重侵害了未成年人權(quán)益。這些低俗 信息頻繁出現(xiàn)’人工智能可以幫助清理頑固的信息污垢，守護(hù)清朗健康的網(wǎng) 絡(luò)環(huán)境嗎？

4. 信息檢索：商品的銷量和評價(jià)真實(shí)可信嗎？ "

在電商平臺上’商品銷量和評價(jià)會(huì)在一定程度上決定檢索中的排序’從而影 響用戶的購買意愿。這種機(jī)制催生了一些作弊行為，部分不法分子蓄意"灌 水"，偽造銷量數(shù)據(jù)，虛構(gòu)大量相似"好評”O(jiān)如何防止人工智能被黑灰產(chǎn) 惡意投放的作弊數(shù)據(jù)欺騙，保障信息的真實(shí)可信？

5.自動(dòng)識別：人工智能可以放心使用嗎？

2021年，美國底特律市的一位男子開啟自動(dòng)駕駛模式后’撞上馬路中行駛 的半掛卡車’不幸身亡。據(jù)分析，事故原因是自動(dòng)駕駛系統(tǒng)將貨車的白色車 廂錯(cuò)誤識別為藍(lán)天白云’因而沒有及時(shí)采取剎車制動(dòng)等措施。之前也發(fā)生過 數(shù)次類似事件’這難免讓人們產(chǎn)生疑問，人工智能自動(dòng)識別的結(jié)果可以放心 \使用嗎？

6 .深度合成：眼見不一定為實(shí)

近年來，利用”深度合成"技術(shù)惡搞公眾人物的事件不時(shí)發(fā)生，造成了惡劣 的影響。隨著”深度合成"技術(shù)和工具快速成熟與擴(kuò)散，其風(fēng)險(xiǎn)不斷增大， 惡意使用J易造成虛假信息泛濫，可能嚴(yán)重妨礙司法公正、引發(fā)信任危機(jī)， 甚至危害安全。