美國(guó)AI系統(tǒng)“鬧烏龍” 玉米片誤判為槍支!近日,美國(guó)馬里蘭州巴爾的摩縣發(fā)生了一起令人啼笑皆非的事件。當(dāng)?shù)匾惶譇I槍支檢測(cè)系統(tǒng)將一名16歲學(xué)生攜帶的Doritos玉米片包裝袋誤判為槍支,導(dǎo)致武裝警察大規(guī)模出動(dòng)。
這名學(xué)生名叫艾倫,就讀于肯伍德高中。當(dāng)時(shí)他剛結(jié)束足球訓(xùn)練,正與朋友在校外停留。突然間,多輛警車(chē)疾馳而至,警察持槍指向他們。艾倫回憶道:“大約有8輛警車(chē)朝我們開(kāi)來(lái)。他們舉著槍走向我,大喊‘趴下!’我當(dāng)時(shí)完全懵了,不知道發(fā)生了什么?!彼枋鲎约罕豢謶只\罩:“他們讓我跪下,把我的雙手反綁在背后并戴上手銬。隨后他們搜查了我,但什么也沒(méi)找到。”
在被警方控制后,艾倫才得知事件原委。警方向他展示了觸發(fā)警報(bào)的AI識(shí)別圖像——畫(huà)面中,他口袋里那個(gè)皺巴巴的多力多滋包裝袋被系統(tǒng)錯(cuò)誤地識(shí)別成了一把槍。艾倫心有余悸地表示:“我當(dāng)時(shí)滿(mǎn)腦子都在想:我會(huì)死嗎?他們會(huì)不會(huì)開(kāi)槍打我?他們后來(lái)給我看了照片,說(shuō)那東西看起來(lái)像一把槍?!?/p>
引發(fā)這次烏龍的AI系統(tǒng)來(lái)自O(shè)mnilert公司。該技術(shù)于去年被巴爾的摩縣公立學(xué)校引入,能夠?qū)崟r(shí)掃描監(jiān)控錄像,并在檢測(cè)到疑似武器時(shí)立即向執(zhí)法部門(mén)發(fā)出警報(bào)。當(dāng)時(shí)艾倫手持一袋玉米片,露在口袋外的包裝袋部分以及他的手指,在AI看來(lái)構(gòu)成了“持槍”的形態(tài)。Omnilert公司已承認(rèn)這是一次誤報(bào),但辯稱(chēng)系統(tǒng)是“按設(shè)計(jì)預(yù)期運(yùn)行的”,其初衷是“通過(guò)快速人工驗(yàn)證來(lái)優(yōu)先保障安全”。美國(guó)AI系統(tǒng)“鬧烏龍” 玉米片誤判為槍支!