AI治理應從人、算法、數據、隱私、政府五個方面考慮。首先，人是否應該由算法來管控，后者在目前的實際應用中，常以贏利為核心目標，因此，容易出現困在算法里的外賣小哥的情況。其次，經典的電車問題也需要我們認真思考人工智能發展后，每一個人的生存權的重要性。而從算法角度看，算法設計上的有偏會導致AI程序在處理問題時出現各種偏向，如性別偏向。數據的有偏也經常會產生誤導，如一張圖上的動物是哈士奇還是愛斯基摩犬，并非是基于動物的特征，而是基于圖像里是否有雪。第四，目前的很多AI算法都存在不經他人許可就竊聽數據如聲音或視頻的問題，這嚴重侵犯了大家的隱私權，需要有相應的政府部門立法并成為相應的部門來監管，光靠企業內部的自查是不靠譜和不安全的。第六，需要防范基于AI的新型犯罪方式，如換臉、換聲音，以及通過增加一些看似無關的噪聲點來攻擊AI識別系統。
（作者為復旦大學計算機科學技術學院教授、博導）
