Google的孵化器子公司Jigsaw開源了一個反恐工具，旨在幫助小公司處理透過其網路平台共享的極端主義內容。雖然大多數大型科技公司，包括Meta、X 和Google本身，都精通內容審核，以剔除非法或有毒內容，但所需的資源卻超出了許多小型數位公司的能力範圍。在歐洲《數位服務法案》（DSA）等立法和針對恐怖主義的內容規定要求公司盡快刪除非法內容的壓力越來越大的情況下，這一點尤其成問題。

Jigsaw 的前身是Google創意（Google Ideas），2016 年進行了品牌重塑，主要致力於開發和試驗新產品，以解決虛假信息、審查制度以及有毒和極端內容在網上傳播等社會問題。去年11月，Jigsaw發布了一款名為” Altitude “的新線上內容審核工具，幫助審核人員驗證其平台上的內容是否與第三方資料庫中標記的內容一致，而不必逐一檢查每個來源。

Altitude 是與”科技反恐“（Tech Against Terrorism）合作開發的，”科技反恐”是聯合國反恐怖主義委員會執行局（CTED）於2017 年發起的一項倡議。科技反恐的職責是支持科技業開發更有效的工具，解決恐怖分子利用網路傳播有害內容的問題。該工具也是與行業主導的全球互聯網反恐論壇（GIFCT）合作開發的，該論壇的成員包括大多數大型科技公司。

九個月過去了，Jigsaw 現在正式將Altitude 移交給Tech Against Terrorism，後者將繼續開發和維護Altitude。程式碼現在也可以在GitHub 上以Apache 2.0 許可的方式獲取，這意味著公司可以自行託管該工具，第三方也可以檢查程式碼。

Altitude 依賴GIFCT 等組織提供的”可信”資料來源，這些組織的成員將其專有資訊匯集起來，為自動內容審核工具（如Altitude）提供動力，此外還有Tech Against Terrorism 自己的恐怖分子內容分析平台，這是一個即時、經過驗證的恐怖分子內容資料庫。可信來源使用自己的方法來識別和標記這類內容。

透過向這些資料庫傳遞訊息，Altitude 將其所謂的”恐怖主義和暴力極端主義內容”（TVEC）整合到一個單一的視圖中，版主可以迅速查看、審查和刪除內容，並履行其在任何管轄範圍內運作的義務。值得注意的是，任何內容都不會被自動刪除，它只是對潛在的極端主義內容進行標記並發出警報，以便人工進行評估。

Jigsaw 和Tech Against Terrorism 都沒有透露在Altitude 初期測試期間使用過它的平台，但最有可能使用它的應用程式包括訊息應用程式、URL 縮短服務、影片託管網站、線上論壇、社交網路和貼上程式。

Jigsaw週一在一篇部落格文章中寫道：

在一年的時間裡，Jigsaw 對11 個規模不等的平台的創始人、信任和安全負責人以及TVEC 內容審查員進行了訪談。這些平台包括圖片分享平台、社群媒體網站、網址縮短服務以及文件和文字儲存網站。我們發現，各平台在管理TVEC 方面的資源配置和準備程度不盡相同，而準備程度與其組織或使用者群的規模並無明顯關聯。即使是相對成熟的服務機構，有時也缺乏主動辨識平台危害的訊號。我們也看到，雖然他們最終可能更願意將所有工具整合到一個內部平台中，但在資源不足的環境中，為專門的危害提供一個單獨的介面可能是一種起步方式。

作為一個開源項目，任何公司都可以將Altitude 整合到自己的平台中，也可以與反恐科技公司合作，獲得”定制的引入支持”。

Jigsaw 和Tech Against Terrorism 表示，他們今後可能會在資料來源中新增”專業資料庫”，並計劃將該工具擴展到英語以外的領域。