微軟曾經(jīng)因為與美國政府簽訂的協(xié)議中涉及人臉識別軟件而遭到批評捣睬,目前該公司回應稱,他們將認真考慮這一領域的合同湃鳖,并呼吁立法者監(jiān)管這類人工智能產(chǎn)品的使用克蝶,以避免濫用。
作為重要的人臉識別軟件開發(fā)商狮最,微軟表示該公司將會采取一系列措施搔肉,降低這些軟件的偏見傾向。他們還將制定新的公開管理原則泌祥,而且會在出售這類軟件時更加慎重蓉止。雖然微軟指出科技行業(yè)應該為其產(chǎn)品負責律跺,但他們也認為,政府同樣應該在其中發(fā)揮自己的作用非畜。
“對政府來說刚肠,想要有效地監(jiān)管這種技術的使用,唯一的辦法就是主動管理使用本身亦弛。”微軟總裁兼首席法務官布拉德·史密斯(Brad Smith)上周五在一篇博文中寫道冒晰,“如果人們擔心科技在社會中更加廣泛的部署方式,就必須由政府來負責監(jiān)管這種廣泛的使用竟块。這也是我們現(xiàn)在的想法——啟動一個政府項目來對人臉識別技術的恰當使用方式進行監(jiān)管壶运,首先組建一個兩黨和專家委員會。”
微軟浪秘、谷歌蒋情、亞馬遜等公司也都因為向美國政府和地方警察局出售人工智能軟件(特別是人臉識別軟件),而遭到民間組織和自家員工的批評耸携】醚ⅲ科技公司似乎很少呼吁對自己的產(chǎn)品展開嚴格監(jiān)管,但史密斯和微軟人工智能主管沈向洋今年早些時候在一篇論文中表示夺衍,人工智能的進步需要新的法律對其進行監(jiān)管狈谊。
人臉識別系統(tǒng)存在嚴重不足,在識別不同膚色的人時也會表現(xiàn)出不同的差異沟沙。而微軟與麻省理工學院的兩位研究員今年2月發(fā)表的論文顯示河劝,人臉識別系統(tǒng)在識別膚色較暗的女性時錯誤率高達35%。微軟研究團隊此后對相關問題進行糾正矛紫。