據(jù)外媒報(bào)道，約克大學(xué)（University of York）的英國(guó)計(jì)算機(jī)科學(xué)家團(tuán)隊(duì)開(kāi)發(fā)出一個(gè)突破性的流程，可幫助確保機(jī)器學(xué)習(xí)（ML）和用于自動(dòng)駕駛技術(shù)的AI安全。該方法可幫助工程師建立一個(gè)安全案例，在最終交付用戶(hù)時(shí)明確且系統(tǒng)地建立對(duì)ML的置信度。

隨著機(jī)器人、送貨無(wú)人機(jī)、智能工廠和無(wú)人駕駛汽車(chē)越來(lái)越普及，目前自動(dòng)駕駛技術(shù)的安全法規(guī)出現(xiàn)灰色地帶。與其他高風(fēng)險(xiǎn)技術(shù)相比，自動(dòng)駕駛系統(tǒng)的全球指導(dǎo)方針并不嚴(yán)格。當(dāng)前標(biāo)準(zhǔn)在細(xì)節(jié)方面不夠明確，因此在AI和ML等新技術(shù)進(jìn)入市場(chǎng)時(shí)，使用這些技術(shù)改善生活可能不夠安全。

這一新指南由約克大學(xué)的保證自主國(guó)際計(jì)劃（Assuring Autonomy International Programme，AAIP）開(kāi)發(fā)，名為用于自動(dòng)駕駛系統(tǒng)的機(jī)器學(xué)習(xí)保證（Assurance of Machine Learning for use in Autonomous Systems，AMLAS）。AAIP與行業(yè)專(zhuān)家合作開(kāi)發(fā)流程，將安全保證系統(tǒng)地集成到ML組件的開(kāi)發(fā)中。

高級(jí)研究員、AMLAS的作者之一Richard Hawkins博士說(shuō)：“目前確保自動(dòng)駕駛技術(shù)安全的方法幾乎沒(méi)有指導(dǎo)或制定標(biāo)準(zhǔn)。全球各部門(mén)都在努力盡快制定新的指導(dǎo)方針，以確保機(jī)器人和自動(dòng)駕駛系統(tǒng)的安全性。”

獨(dú)立性

AAIP持中立立場(chǎng)，可獨(dú)立將企業(yè)、學(xué)術(shù)研究、監(jiān)管機(jī)構(gòu)以及保險(xiǎn)和法律專(zhuān)業(yè)人士聯(lián)系起來(lái)，為安全的人工智能、機(jī)器人技術(shù)和自動(dòng)駕駛系統(tǒng)編寫(xiě)新指南。

Hawkins博士表示：“AMLAS可幫助所有擁有新自主產(chǎn)品的企業(yè)或個(gè)人將安全保證（safety assurance）系統(tǒng)地集成到ML組件的開(kāi)發(fā)中。我們的研究可幫助理解自動(dòng)駕駛技術(shù)安全運(yùn)行的風(fēng)險(xiǎn)和限制。”

Hawkins博士還表示：“在約克，我們針對(duì)最佳實(shí)踐和流程進(jìn)行了大量研究，以收集可以評(píng)估這些新復(fù)雜技術(shù)安全性的證據(jù)。此外，我們還在安全設(shè)計(jì)、評(píng)估和機(jī)器人和自動(dòng)駕駛系統(tǒng)使用方面進(jìn)行訓(xùn)練。”

AAIP是約克大學(xué)的一個(gè)安全保證小組，與勞氏基金會(huì)（Lloyd's Register的慈善機(jī)構(gòu)）合作，致力于打造一個(gè)更安全的世界。（劉麗婷）