24小時聯系電話:18217114652、13661815404
中文
行業資訊
人工智能和監管——工程師需要注意什么
人工智能和監管——工程師需要注意什么
在過去的十年中，人工智能經歷了突飛猛進的發展，現在發現自己在許多日常應用中，包括網站流量管理、廣告和預測性維護。從道德的角度來看，人工智能會帶來哪些挑戰，歐盟將出臺哪些立法，以及工程師為什么要謹慎對待人工智能？
AI 帶來了哪些挑戰？
世界各地的一些關鍵人物表達了他們對人工智能的擔憂，并講述了人工智能將如何以類似于終結者的方式征服人類的故事。然而，事實是，人工智能不太可能以滅絕人類的單一目的以虐待狂殺手的方式行事。但這并不是說人工智能不會帶來挑戰，如果不加以控制，它可能會橫行無忌。
有 人工智能的許多方面都帶來了工程方面的挑戰、隱私和道德觀點。除非社區能夠齊心協力解決這些問題，否則世界各地的政府可能會開始監管人工智能并可能阻礙其進步。
首先，人工智能面臨的更大挑戰之一是它在決定個人命運方面的用途。人工智能可以很容易地用于預測個人的行為，并使用這些結果來確定信用評級和保險費。盡管如此，此類決定可能會改變個人的生活。因此，有人可能會爭辯說，人工智能缺乏同情心和人性會導致僅基于預測的不公平判斷。然而，反駁是人工智能無法區分，因為人工智能從根本上無法持有意見（即它只是從提供給它的數據中學習）。
AI 面臨的另一大挑戰是從隱私的角度來看。人工智能要提高其執行任務的能力，就需要數據。當涉及到人工智能用于營銷和廣告時，此類數據將采用姓名、年齡、性別和國籍等個人信息的形式。但是，收集大量此類數據實際上使每個用戶都有可能侵犯隱私。未經用戶許可，這些數據可能會被出售給第三方或被惡意活動竊取。
然而，人工智能變得非常成問題的地方是 當局描述公民和限制個人自由. 這方面的主要例子是中國政府部署人工智能來跟蹤每個公民，并根據這些人對執政黨的忠誠度給他們一個社會信用評分。社會信用低的人不得乘坐飛機、火車等公共交通工具，社會信用分數極低的人被公開羞辱，與個人為朋友的人則被警告不要靠近。
歐盟將很快引入人工智能立法
最近，歐盟一直表示有興趣引入人工智能監管，以防止人工智能被用于可能侵犯個人自由和隱私的高風險類別。根據歐盟公布的信息，人工智能的使用將屬于三類之一；不可接受的風險、高風險和有限風險。
不可接受的風險是涉及潛意識和操縱性消息傳遞、當局使用的實時生物識別以及任何社交評分系統的應用程序。歐盟打算徹底禁止這些領域使用人工智能和任何相關工具。
高風險是對個人用于信貸和其他金融服務進行排名的應用程序。例如，使用人工智能挑選候選人的招聘工具被認為是一種高風險的應用程序。此類別還包括用于非公共場所身份識別的生物識別系統以及用于司法行政的任何系統。
最后一類 本質上包括另一個 AI 應用程序這被認為對社會、數據和權利的影響最小。此類應用包括 AI 聊天機器人、垃圾郵件過濾器、視頻游戲中的 AI 和庫存管理。
為什么工程師要小心人工智能？
毫無疑問，人工智能已被證明是 用于預測分析和數據管理的寶貴工具. 盡管如此，仍有越來越多的應用程序出于不道德和惡意的原因繼續濫用人工智能的力量。
如前所述，人工智能在中國社會信用體系中的使用是人工智能如何被可怕濫用的一個典型例子。讓社會信用體系變得更糟的是，人工智能和視覺技術的廣泛使用是自我完善的，這意味著社會信用體系使用的時間越長，人工智能就會變得越好。因此，使用一種在西方看不到的不道德技術現在正在推動中國人工智能技術遠遠超出西方的能力。
出奇， 人工智能可以實現到大多數應用程序中，正是這一事實使其成為工程師的誘人工具。人工智能可以隨著時間的推移進行訓練，而不是描述系統可以做出的每一個可能的決定，這可以說是一項更容易的任務。
然而，僅僅因為一個 AI可以完成任務并不意味著它應該. 這可以通過使用跟蹤系統、生物特征數據收集和其他不必要的應用程序來清楚地看到，這些應用程序為了使用人工智能而收集個人數據。例如，一家公司可以使用人工智能系統讓員工基于面部識別進入建筑物。盡管如此，鑰匙卡可以完成相同的任務，而無需存儲個人信息。
如果工程師在使用 AI 時不小心進行自我調節，那么世界各地的政府可能會開始出臺法律法規，使開發 AI 變得更加困難。工程師最不需要的就是繁文縟節，所以不要陷入物聯網興起期間行業陷入的陷阱。