Zi 字媒體

蘋果旗下Apple Card近期被控演算法帶有性別歧視，目前正在接受美國紐約州金融服務署調查。   圖：翻攝自蘋果官網 蘋果（Apple）和高盛企業（Goldman Sachs）合作發行的信用卡Apple Card，上線短短42天信用額度就破3千億，但近期該卡演算法被爆出帶有性別歧視，目前美國紐約州金融服務署（DFS）已對此著手調查。 工程師David Heinemeier Hansson從上周開始發布一系列推文指出，Apple Card給他的信用額度是他妻子的20倍，但他妻子的信用評分向來比她更高，表示Apple Card的演算法是「性別歧視計畫」。 高盛發言人Andrew Williams回應指出，信用卡額度的審核是基於客戶的信譽，而非性別、種族性傾向等歧視，但Hansson卻指出，高盛在事件爆發後，隨即調高其妻子的信用額度，但並未要求任何證明文件，「顯然沒有解決信用評分系統的演算法偏見」。 Hansson表示，蘋果、高盛都將信用評等交由演算法評估，「雖然並沒有性別歧視的意圖，卻造成性別歧視的結果。』目前美國紐約州金融服務署證實，已針對Apple Card的信用額度設定是否涉及性別歧視展開調查。 隨著演算法應用日益廣泛，其訓練素材是否帶有主觀想法或偏見，已成為目前急需正視的隱憂。先前也有研究指出，使用AI反而會強化社會既有的偏見，黑人的言論更容易被標示為仇恨言論。 蘋果（Apple）和高盛企業（Goldman Sachs）合作發行的信用卡Apple Card，上線短短42天信用額度就破3千億，但近期該卡演算法被爆出帶有性別歧視，目前美國紐約州金融服務署（DFS）已對此著手調查。 工程師David Heinemeier Hansson從上周開始發布一系列推文指出，Apple Card給他的信用額度是他妻子的20倍，但他妻子的信用評分向來比她更高，表示Apple Card的演算法是「性別歧視計畫」。 隨著演算法應用日益廣泛，其訓練素材是否帶有主觀想法或偏見，已成為目前急需正視的隱憂。先前也有研究指出，使用AI反而會強化社會既有的偏見，黑人的言論更容易被標示為仇恨言論。