我國《個人信息保護(hù)法》對自動化決策的管理框架

　　《個人信息保護(hù)法》中對自動化決策做出了界定：“自動化決策，是指通過計算機(jī)程序自動分析、評估個人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等，并進(jìn)行決策的活動”。緊接著在第24條規(guī)定：

　　第二十四條 個人信息處理者利用個人信息進(jìn)行自動化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇。

　　通過自動化決策方式向個人進(jìn)行信息推送、商業(yè)營銷，應(yīng)當(dāng)同時提供不針對其個人特征的選項，或者向個人提供便捷的拒絕方式。、

　　通過自動化決策方式作出對個人權(quán)益有重大影響的決定，個人有權(quán)要求個人信息處理者予以說明，并有權(quán)拒絕個人信息處理者僅通過自動化決策的方式作出決定。

　　《個人信息保護(hù)法》第55和56條規(guī)定，“利用個人信息進(jìn)行自動化決策”前，應(yīng)當(dāng)進(jìn)行“個人信息保護(hù)影響評估”：

　　第五十五條 有下列情形之一的，個人信息處理者應(yīng)當(dāng)事前進(jìn)行個人信息保護(hù)影響評估，并對處理情況進(jìn)行記錄：

　?。ㄒ唬┨幚砻舾袀€人信息；

　?。ǘ├脗€人信息進(jìn)行自動化決策

　　（三）委托處理個人信息、向其他個人信息處理者提供個人信息、公開個人信息；

　?。ㄋ模┫蚓惩馓峁﹤€人信息；

　?。ㄎ澹┢渌麑€人權(quán)益有重大影響的個人信息處理活動。

　　第五十六條 個人信息保護(hù)影響評估應(yīng)當(dāng)包括下列內(nèi)容：

　?。ㄒ唬﹤€人信息的處理目的、處理方式等是否合法、正當(dāng)、必要；

　　（二）對個人權(quán)益的影響及安全風(fēng)險；

　?。ㄈ┧扇〉谋Ｗo(hù)措施是否合法、有效并與風(fēng)險程度相適應(yīng)。

　　個人信息保護(hù)影響評估報告和處理情況記錄應(yīng)當(dāng)至少保存三年。

　　在《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》中，“應(yīng)用算法推薦技術(shù)，是指應(yīng)用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容”。

　　很自然產(chǎn)生的問題是，“自動化決策”和“應(yīng)用算法推薦技術(shù)”是一回事嗎？或者說“利用個人信息進(jìn)行自動化決策”（或者說“通過自動化決策方式向個人進(jìn)行信息推送”）等同于“應(yīng)用算法推薦技術(shù)”嗎？同時，“個人信息處理者”（《個人信息保護(hù)法》的規(guī)范對象）和“算法推薦服務(wù)提供者”（《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》的規(guī)范對象）是一回事嗎？

　　首先，“自動化決策”在《個人信息保護(hù)法》中是一個活動，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》與其可對比的概念應(yīng)該也是一個活動，即“應(yīng)用算法推薦”。顯然，“自動化決策”的內(nèi)涵要比“應(yīng)用算法推薦”要廣泛，例如自動化定價屬于前者，而不被后者所涵蓋。從這個分析來看，“應(yīng)用算法推薦”與“自動化決策”是個交叉的概念。

　　但“通過自動化決策方式向個人進(jìn)行信息推送”似乎與“應(yīng)用算法推薦”相比，也存在一定的差別。自動化決策強(qiáng)調(diào)基于對個人特征（如“行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況”）的分析結(jié)果，對個人進(jìn)行決策。但應(yīng)用算法推薦并不強(qiáng)調(diào)這一點，而僅僅是客觀描述了一個過程——“應(yīng)用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息內(nèi)容”。這些算法技術(shù)本身的形成過程可以不基于個人的特征，例如調(diào)度決策類、排序精選類等，完全可以按照事先預(yù)設(shè)的規(guī)則進(jìn)行，無需根據(jù)個人的特征。因此，“應(yīng)用算法推薦”的范圍應(yīng)比“通過自動化決策方式向個人進(jìn)行信息推送”要寬泛。因此，“通過自動化決策方式向個人進(jìn)行信息推送”是“應(yīng)用算法推薦”的子集。

　　為什么要如此細(xì)摳概念區(qū)別，因為要確定多大程度上《個人信息保護(hù)法》中對自動化決策的安全保護(hù)義務(wù)，要適用在“應(yīng)用算法推薦”中。

　　我國《個人信息安全規(guī)范》（35273）對個性化展示的管理框架

　　在35273中，對個性化展示做出了定義：

　　3.16 個性化展示 personalized display

　　基于特定個人信息主體的網(wǎng)絡(luò)瀏覽歷史、興趣愛好、消費記錄和習(xí)慣等個人信息，向該個人信息主體展示信息內(nèi)容、提供商品或服務(wù)的搜索結(jié)果等活動。

　　這個定義落腳點在于“展示”。當(dāng)時選擇這個詞而非“推送”的目的是盡可能地將各種情況納入，因為推送這個詞，業(yè)界有相對固定的認(rèn)識，并不足與涵蓋發(fā)郵件、形成排序結(jié)果等情況，但無論如何信息內(nèi)容最終都需要向用戶展示。《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》并沒有對“推薦”做出界定。從“應(yīng)用算法推薦技術(shù)”的定義中看到，該規(guī)定使用的是“向用戶提供信息內(nèi)容”的概念。所以在公號君看來，只要是基于個人信息的“應(yīng)用算法推薦技術(shù)”，應(yīng)該和“個性化展示”是一致的。但反過來，“個性化展示”也只是“應(yīng)用算法推薦”的一個子集而已。

　　《個人信息安全規(guī)范》中關(guān)于用戶畫像的規(guī)定和《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》中的部分規(guī)定存在契合：

　　《個人信息安全規(guī)范》

　　7.4 用戶畫像的使用限制

　　對個人信息控制者的要求包括：

　　a） 用戶畫像中對個人信息主體的特征描述，不應(yīng)：

　　1） 包含淫穢、色情、賭博、迷信、恐怖、暴力的內(nèi)容；

　　2） 表達(dá)對民族、種族、宗教、殘疾、疾病歧視的內(nèi)容。

　　b） 在業(yè)務(wù)運營或?qū)ν鈽I(yè)務(wù)合作中使用用戶畫像的，不應(yīng)：

　　1） 侵害公民、法人和其他組織的合法權(quán)益；

　　2） 危害國家安全、榮譽(yù)和利益，煽動顛覆國家政權(quán)、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，傳播暴力、淫穢色情信息，編造、傳播虛假信息擾亂經(jīng)濟(jì)秩序和社會秩序。

　　c） 除為實現(xiàn)個人信息主體授權(quán)同意的使用目的所必需外，使用個人信息時應(yīng)消除明確身份指向性，避免精確定位到特定個人。例如，為準(zhǔn)確評價個人信用狀況，可使用直接用戶畫像，而用于推送商業(yè)廣告目的時，則宜使用間接用戶畫像。

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》

　　第十條 算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)用戶模型和用戶標(biāo)簽管理，完善記入用戶模型的興趣點規(guī)則，不得將違法和不良信息關(guān)鍵詞記入用戶興趣點或者作為用戶標(biāo)簽并據(jù)以推送信息內(nèi)容，不得設(shè)置歧視性或者偏見性用戶標(biāo)簽。

　　此外，《個人信息安全規(guī)范》關(guān)于“個性化展示”的要求，與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》中的部分規(guī)定存在契合：

　　《個人信息安全規(guī)范》

　　7.5 個性化展示的使用

　　對個人信息控制者的要求包括：

　　a） 在向個人信息主體提供業(yè)務(wù)功能的過程中使用個性化展示的，應(yīng)顯著區(qū)分個性化展示的內(nèi)容和非個性化展示的內(nèi)容；

　　注：顯著區(qū)分的方式包括但不限于：標(biāo)明“定推”等字樣，或通過不同的欄目、版塊、頁面分別展示等。

　　b） 在向個人信息主體提供電子商務(wù)服務(wù)的過程中，根據(jù)消費者的興趣愛好、消費習(xí)慣等特征向其提供商品或者服務(wù)搜索結(jié)果的個性化展示的，應(yīng)當(dāng)同時向該消費者提供不針對其個人特征的選項；

　　注：基于個人信息主體所選擇的特定地理位置進(jìn)行展示、搜索結(jié)果排序，且不因個人信息主體身份不同展示不一樣的內(nèi)容 和搜索結(jié)果排序，則屬于不針對其個人特征的選項。

　　c） 在向個人信息主體推送新聞信息服務(wù)的過程中使用個性化展示的，應(yīng)：

　　1） 為個人信息主體提供簡單直觀的退出或關(guān)閉個性化展示模式的選項；

　　2） 當(dāng)個人信息主體選擇退出或關(guān)閉個性化展示模式時，向個人信息主體提供刪除或匿名化定向推送活動所基于的個人信息的選項。

　　d） 在向個人信息主體提供業(yè)務(wù)功能的過程中使用個性化展示的，宜建立個人信息主體對個性化展示所依賴的個人信息（如標(biāo)簽、畫像維度等）的自主控制機(jī)制，保障個人信息主體調(diào)控個性化展示相關(guān)性程度的能力。

　　《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》

　　第十一條 算法推薦服務(wù)提供者應(yīng)當(dāng)加強(qiáng)算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息內(nèi)容。

　　第十五條 算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供不針對其個人特征的選項，或者向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

　　算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶提供選擇、修改或者刪除用于算法推薦服務(wù)的用戶標(biāo)簽的功能。

　　用戶認(rèn)為算法推薦服務(wù)提供者應(yīng)用算法對其權(quán)益造成重大影響的，有權(quán)要求算法推薦服務(wù)提供者予以說明并采取相應(yīng)改進(jìn)或者補(bǔ)救措施。

　　簡短分析

　　以上所有的分析，主要目的在于表明《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》不是個單純的《個人信息保護(hù)》項下的立法，而是一個針對算法技術(shù)本身在信息內(nèi)容提供領(lǐng)域的規(guī)定，其本身具有超越《個人信息保護(hù)》規(guī)制范圍的內(nèi)容。因此，公號君認(rèn)為，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定（征求意見稿）》是我國人工智能立法的一個重要發(fā)端。（完）