機(jī)器人，另一個(gè)我

開(kāi)頭說(shuō)到AI、隱私和機(jī)器人科幻之間可能存在某種關(guān)聯(lián)。這種關(guān)聯(lián)源自技術(shù)的不斷發(fā)展，科幻為技術(shù)的未來(lái)提供了某種可能性的遐想。

AI的發(fā)展需要很多數(shù)據(jù)來(lái)滿足場(chǎng)景建模的需要，AI算法可以通過(guò)分析每個(gè)人的各種行為數(shù)據(jù)推導(dǎo)出這個(gè)人的人格特征。算法通過(guò)個(gè)人在社交網(wǎng)站中的點(diǎn)贊數(shù)據(jù)即可分析出這個(gè)人的喜好特征，通過(guò)協(xié)同過(guò)濾算法就可以對(duì)個(gè)人進(jìn)行精準(zhǔn)廣告推送，比如給外向的人推送的廣告場(chǎng)景相對(duì)活躍和充滿激情，給內(nèi)向的人推送的則是相對(duì)安靜和私密的場(chǎng)景。

同樣的分析手段甚至被用在選舉宣傳的過(guò)程中，能起到影響選民決策判斷的作用。通過(guò)給不同性格或者意向動(dòng)搖的選民推送不同版本的選舉廣告，或者推送對(duì)手的負(fù)面新聞，左右目標(biāo)群體的決策，來(lái)達(dá)到“心理操縱”的目的。

而不斷進(jìn)化的人臉識(shí)別技術(shù)可以僅通過(guò)面部特征的識(shí)別就能判斷出一個(gè)人的性取向這么私密的信息，準(zhǔn)備率能達(dá)到80％以上，而我們?nèi)祟惐旧砗茈y只通過(guò)一張臉就能判斷出一個(gè)人的性取向。以色列的一家公司Faception聲稱，可以直接通過(guò)面部特征來(lái)識(shí)別恐怖分子、高智商的人群，分分鐘看透你的內(nèi)心。

AI可以不斷地從人類的隱私數(shù)據(jù)中攫取價(jià)值，甚至能夠再現(xiàn)人的心智模型。有沒(méi)有想過(guò)，有一天，一旦AI掌握了人的足夠多的關(guān)鍵數(shù)據(jù)，建立更加完備的模型，不僅能做到“心理操縱”，甚至可以做到“心靈控制”。

人類的實(shí)體存在和精神存在被抽象為一個(gè)個(gè)復(fù)雜的畫(huà)像模型，或者“心靈鏡像”，這些模型和鏡像包含了我們的所有特征，包括身份、性格、思維等等。只要將數(shù)據(jù)拷貝到一個(gè)機(jī)器人中，就可以生成另一個(gè)“我”，甚至另一批“我”。

這里的機(jī)器人可以理解為以機(jī)器為載體的AI算法和存儲(chǔ)機(jī)制，加上更為先進(jìn)的能源和機(jī)器進(jìn)化機(jī)制，托管人類只是理所當(dāng)然的事情，人類的心靈鏡像只是被更為高階的AI算法利用。會(huì)發(fā)生什么，我現(xiàn)在還不敢往下去想。

這或許讓你想起了《黑客帝國(guó)》、《異次元駭客》這樣的科幻電影。AI通過(guò)不斷的迭代和進(jìn)化，直至讓機(jī)器人達(dá)到與人的心靈模型近乎一致，這是科學(xué)家們一直在追求的夢(mèng)想，也是可怕的未知的未來(lái)。

已知的未來(lái)

AI應(yīng)用的邊界、隱私數(shù)據(jù)保護(hù)的度在哪里，現(xiàn)在還是未知。社交活動(dòng)數(shù)據(jù)、零售數(shù)據(jù)、金融行為數(shù)據(jù)、醫(yī)療健康數(shù)據(jù)等被廣泛用于AI各種應(yīng)用場(chǎng)景，的確也朝著為人類帶來(lái)更多服務(wù)的方向發(fā)展，但是對(duì)于這樣的涉及隱私數(shù)據(jù)利用的監(jiān)管仍處于探索階段。

任何企業(yè)應(yīng)用與隱私之間需要一個(gè)權(quán)衡。歐盟去年5月出臺(tái)的一般數(shù)據(jù)保護(hù)條例（GDPR）中有幾條關(guān)于隱私數(shù)據(jù)的保護(hù)原則，其中不僅包括隱私數(shù)據(jù)的處理過(guò)程需公正透明，使用場(chǎng)景和保留期限需明確限定，數(shù)據(jù)需保證完整、準(zhǔn)確和保密等要求；而且還要求對(duì)隱私數(shù)據(jù)的獲取要滿足最小化原則，也即只獲取必要的、相關(guān)的、限定的隱私數(shù)據(jù)。

GDPR的推出在全球關(guān)乎隱私數(shù)據(jù)的保護(hù)方面具有非常強(qiáng)的引領(lǐng)作用。在各種AI算法和模型得到越來(lái)越廣泛應(yīng)用的今天，針對(duì)上述隱私數(shù)據(jù)的保護(hù)原則，尤其是最小化原則、保密性原則、透明性原則，AI公司或者與AI產(chǎn)品相關(guān)的公司必須考慮AI算法的發(fā)展方向�？梢灶A(yù)見(jiàn)，未來(lái)滿足下面條件的算法將是主要方向：

（1）需要更少隱私數(shù)據(jù)的AI算法。這樣的算法要么可以自己生成觀測(cè)數(shù)據(jù)，如生成式對(duì)抗網(wǎng)絡(luò)（GAN）；要么通過(guò)分布式解決中心化訓(xùn)練對(duì)數(shù)據(jù)量的要求，如分布式機(jī)器學(xué)習(xí)（Federatedlearning）可以實(shí)現(xiàn)在邊緣設(shè)備端進(jìn)行模型的再訓(xùn)練。

（2）基于加密數(shù)據(jù)的訓(xùn)練算法。將原始隱私數(shù)據(jù)加密，并且還能通過(guò)加密后的數(shù)據(jù)進(jìn)行訓(xùn)練，這樣不需要減少對(duì)隱私數(shù)據(jù)的獲取，也能保證數(shù)據(jù)的保密性。這樣的算法包括差分隱私技術(shù)、同態(tài)加密以及遷移學(xué)習(xí)等方法。

（3）可解釋的AI（Explainable AI，簡(jiǎn)稱XAI）。很多AI算法的黑箱性質(zhì)讓人類擔(dān)憂。XAI致力于提高算法應(yīng)用的透明度，構(gòu)建“玻璃箱”模型，使人類能夠輕松理解AI算法，提高AI認(rèn)知智能在人類活動(dòng)中的可信度。這將是未來(lái)趨勢(shì)。