近年來(lái)，隨著工業(yè)自動(dòng)化的快速發(fā)展，機(jī)器人已廣泛應(yīng)用于制造業(yè)。一系列機(jī)器人傷人事件引發(fā)了對(duì)人工智能安全性的深刻思考。
2015年，德國(guó)大眾汽車(chē)工廠發(fā)生首例機(jī)器人致死事故，一名技術(shù)人員在安裝機(jī)器人時(shí)被機(jī)械臂撞擊胸部身亡。類(lèi)似事件在美國(guó)、日本等國(guó)家也時(shí)有發(fā)生。而在國(guó)內(nèi)，派普機(jī)械等企業(yè)的自動(dòng)化車(chē)間也曾出現(xiàn)機(jī)械臂異常運(yùn)作導(dǎo)致工人受傷的案例。
這些事故背后，暴露出現(xiàn)代工業(yè)機(jī)器人的潛在風(fēng)險(xiǎn)：
當(dāng)前工業(yè)機(jī)器人仍以預(yù)設(shè)程序運(yùn)行為主，缺乏對(duì)突發(fā)狀況的應(yīng)變能力。當(dāng)人員意外進(jìn)入其工作區(qū)域時(shí)，機(jī)器人無(wú)法像人類(lèi)一樣及時(shí)停止作業(yè)。
隨著人工智能技術(shù)的發(fā)展，部分新一代機(jī)器人開(kāi)始具備自主學(xué)習(xí)能力。這種"覺(jué)醒"雖然提升了生產(chǎn)效率，但也帶來(lái)了不可預(yù)測(cè)的行為模式。專(zhuān)家警告，若不對(duì)AI系統(tǒng)加以嚴(yán)格約束，未來(lái)可能出現(xiàn)更嚴(yán)重的安全隱患。
人機(jī)協(xié)作的安全標(biāo)準(zhǔn)尚不完善。許多工廠在推進(jìn)"機(jī)器換人"過(guò)程中，忽視了安全防護(hù)設(shè)施的配套建設(shè)，增大了事故發(fā)生的概率。
為防范于未然，業(yè)內(nèi)專(zhuān)家建議：
- 建立更嚴(yán)格的機(jī)器人安全標(biāo)準(zhǔn)
- 加強(qiáng)人機(jī)交互界面的安全設(shè)計(jì)
- 對(duì)具備學(xué)習(xí)能力的AI系統(tǒng)設(shè)置"安全鎖"
- 定期對(duì)從業(yè)人員進(jìn)行安全培訓(xùn)
科技的進(jìn)步不應(yīng)以犧牲安全為代價(jià)。在擁抱人工智能的同時(shí)，我們必須保持警惕，確保這項(xiàng)技術(shù)始終服務(wù)于人類(lèi)，而不是成為威脅。
