通用功能安全標(biāo)準(zhǔn)IEC 61508-3中的重要指南

這可能是我最短的博客。人工智能有很多名稱，包括機(jī)器學(xué)習(xí)。識別手寫字的系統(tǒng)不被稱為AI，而是光學(xué)字符識別系統(tǒng)。另一方面，深度學(xué)習(xí)也是一種AI技術(shù)。AI可以是許多系統(tǒng)的一部分，但其本身并不是目的。

不管怎么樣，下面是通用功能安全標(biāo)準(zhǔn)IEC 61508-3中的重要指南。

在任何大于SIL 1的SIL級別，不推薦使用AI。對于SIL 1，既不推薦或也不說不推薦。對于指南，不推薦的定義是在 IEC 61508-3:2010 的附錄A中給出。

反對AI的一個主要意見是它過于復(fù)雜。功能安全喜歡簡單。引自《可靠系統(tǒng)的軟件》一書。我搜索了這本書，但找不到這句引言。我搜索了一下，在《代碼完成》一書中找到了，出自C. A. R. Hoare——“軟件設(shè)計有兩種方法：一種是使其非常簡單，因而顯然沒有缺陷；另一種是使其非常復(fù)雜，因而沒有明顯缺陷”。我明白他們的觀點(diǎn)，深度學(xué)習(xí)算法可能需要讓汽車撞樹5萬次之后，才會發(fā)現(xiàn)這是一個壞主意。而騎三輪車的小孩一般只需撞一兩次就會得出結(jié)論。非確定性對安全性是難以接受的。從上面的書中再引一句話——“開發(fā)人員必須熟悉最佳實(shí)踐，只有理由充分時才能偏離這些實(shí)踐”。

在汽車功能安全標(biāo)準(zhǔn)ISO 26262中，我沒有發(fā)現(xiàn)任何地方提到AI，因此理論上關(guān)于汽車的指南要回到IEC 61508標(biāo)準(zhǔn)。然而，新的汽車技術(shù)中似乎廣泛使用AI。我還沒有閱讀ISO 26262修訂版2全文（預(yù)計2018年發(fā)布），但我必須與ADI公司負(fù)責(zé)汽車功能安全的同事討論此問題。也許AI只提供駕駛輔助，而不是用于安全應(yīng)用。也許它會被新的SOTIF標(biāo)準(zhǔn)（預(yù)期功能的安全性）以某種方式覆蓋。我認(rèn)為AI的好處可能變得非常大，上述指南將不得不改變。事實(shí)上，IEC 61508-7:2010 C.3.9條款提出了這樣的愿望：“在一個系統(tǒng)的不同通道中，監(jiān)督行動可由基于人工智能(AI)的系統(tǒng)提供非常有效的支持”。

今天的視頻選擇有很多可能性。在我寫這篇文章的那一周，發(fā)生了SpaceX重型火箭發(fā)射和側(cè)推進(jìn)器著陸等事件。Elon Musk是積極警告AI存在危險的人之一（通過Google可搜索到一長串相關(guān)文章）。我可能應(yīng)該選擇《2001太空漫游》之類的東西，但我選擇了《紅矮星號》中的對講機(jī)。也許不是Elon所警告的，但誰知道呢，或許他確實(shí)看過《紅矮星號》呢？畢竟他顯然看過《銀河系漫游指南》。