巴爾的摩警方逮捕用人工智慧技術偽造校長聲音的高中體育主任
巴爾的摩警方逮捕了一名高中體育主任,據稱他製作了一段人工智慧生成的錄音,內容是該校校長發表種族主義和反猶太主義言論,並在社群媒體上傳播。他面臨的指控包括盜竊、跟蹤、擾亂學校秩序和報復證人。
根據NBC 新聞報道,警方在前派克維爾高中體育主管達尊-達里恩試圖登上飛往德克薩斯州休斯頓的航班時將其逮捕。運輸安全管理局官員因達里恩攜帶申報槍支而將其拘留。當地警方趕到後,在對其進行背景調查並發現其有未執行的逮捕令後將其逮捕。
據稱,達里恩於1 月在多個未具名的社交媒體網站上發布了現已刪除的音頻片段,片段中的主要聲音聽起來像是派克維爾高中的校長埃里克-埃斯沃特(Eric Eiswert)。這似乎是一段與未具名人士的對話。
警方報告指出,在對話過程中,艾斯瓦特說非裔美國學生無法”從紙袋裡考出來”。他也對猶太社區的人和兩名”根本不應該被雇用”的學校員工進行了誹謗。
音頻曝光後,艾斯瓦特被暫時解職。他在網路上收到了大量惡毒的留言,學校也接到了無數憤怒的社區成員打來的電話。
埃斯沃特告訴警方,他認為達里恩利用人工智慧編造了這段音頻,以報復他因工作表現不佳、涉嫌不當處理學校資金而未續約,以及在2023 年未經批准終止了一名長期教練的合約。他還說,他相信達里恩精通技術,懂得使用人工智慧工具。
警探發現有證據表明,達里恩在12 月和1 月曾多次訪問學校網絡,搜索”OpenAI 工具”,調查人員隨後將他與多個付費OpenAI 帳戶聯繫起來。
聯邦調查局聘請了一位大學教授和法證專家對錄音進行分析。他發現文件中含有人工智慧生成內容的痕跡。錄音的設計者還添加了環境噪音背景音軌,使其聽起來更自然。加州大學柏克萊分校進行的第二次分析得出結論:有人篡改了音訊檔案。