人工智慧一直是各國政府關注的焦點，它們擔心人工智慧會被濫用於詐欺、虛假資訊和其他惡意網路活動；現在，英國的一家監管機構正準備探討如何將人工智慧用於打擊一些同樣的行為，特別是與對兒童有害的內容有關的行為。

負責執行英國《網路安全法案》的監管機構–英國通訊管理局宣布，它計劃就目前和未來如何使用人工智慧和其他自動化工具主動檢測和刪除網路非法內容，特別是保護兒童免受有害內容侵害，以及識別以前難以發現的兒童性虐待材料等問題展開諮詢。

這些工具將是通訊管理局正在製定的一系列以線上兒童安全為重點的更廣泛建議的一部分。通訊管理局表示，有關綜合建議的諮詢將在未來幾週內開始，人工智慧諮詢將在今年稍後進行。

英國通訊管理局網路安全組主任馬克-邦廷（Mark Bunting）說，該局對人工智慧的興趣始於研究人工智慧作為篩選工具在當今的應用情況。

他在接受採訪時說：”有些服務確實已經使用這些工具來識別和保護兒童免受這些內容的影響。但關於這些工具的準確性和有效性的信息並不多。我們希望研究如何確保業界在使用這些工具時進行評估，確保言論自由和隱私的風險得到控制，與許多網路安全法規一樣，企業有責任確保採取適當措施和使用適當工具來保護使用者。

一個可能的結果是，通訊管理局將就平台應如何評估以及評估哪些內容提出建議，這不僅有可能導致平台採用更先進的工具，而且如果平台未能在屏蔽內容或創造更好的方法阻止年輕用戶看到內容方面做出改進，也可能被處以罰款。

這些舉措既有批評者，也有支持者。人工智慧研究人員正在找到越來越複雜的方法，利用人工智慧來檢測深度偽造等行為，以及驗證線上用戶。然而，同樣也有許多懷疑論者指出，人工智慧檢測遠非萬無一失。

英國通訊管理局在宣布就人工智慧工具進行諮詢的同時，也公佈了其對英國兒童上網方式的最新研究，研究發現，總體而言，上網的低齡兒童比以往任何時候都要多，以至於英國通訊管理局目前正在細分更低年齡層的活動。

一項針對美國家長的調查顯示，在所有5 至7 歲的兒童中，有近四分之一（24%）的兒童現在擁有自己的智慧型手機，如果算上平板電腦，這一數字將上升到76%。同一年齡層的孩子在這些設備上也更多地使用媒體：65%的孩子打過語音和視訊電話（一年前這一比例為59%），一半的孩子（一年前這一比例為39 %）正在觀看串流媒體。

一些主流社群媒體應用程式的年齡限制越來越低，但在英國，無論限制是什麼，這些限制似乎都沒有受到重視。英國通訊管理局發現，約有38% 的5 至7 歲兒童正在使用社群媒體。其中，Meta 的WhatsApp 以37% 的比例成為最受歡迎的應用程式。 TikTok有30%的5至7歲兒童使用，Instagram”僅”有22%，這可能是Meta公司的旗艦圖像應用程式首次被認為不如ByteDance的病毒式傳播流行。 Discord 名列榜首，但受歡迎程度明顯較低，僅佔4%。

約有三分之一（32%）的這個年齡層的孩子會自己上網，30% 的家長表示，他們對未成年孩子擁有社群媒體個人資料沒有意見。 YouTube 兒童仍然是最受年輕用戶歡迎的網絡，佔48%。

遊戲是兒童的長期最愛，5-7 歲兒童中使用遊戲的比例已增長到41%，這個年齡層的兒童中有15%在玩射擊遊戲。

雖然76% 的受訪家長表示，他們會與年幼的孩子談論安全上網的問題，但通訊管理局指出，在孩子看到的內容與孩子可能報告的內容之間還存在問號。在調查8-17 歲的大孩子時，通訊管理局直接採訪了他們。調查發現，32% 的孩子報告說他們在網路上看到令人擔憂的內容，但只有20% 的家長說他們報告過什麼。

即使考慮到一些報告的不一致性，”研究表明，年齡較大的兒童在網上接觸到的潛在有害內容與他們與父母分享的網上經歷之間存在脫節”，Ofcom 寫道。令人擔憂的內容只是一個挑戰：深度偽造也是一個問題。通訊管理局稱，在16-17 歲的兒童中，25% 的人表示他們沒有信心辨別網路上的真假。