央媒稱應加強人工智慧倫理治理防範以假亂真
近期由人工智慧研究公司OpenAI推出全新的生成式人工智慧模式Sora成為全球關注熱點。 Sora能將文字、圖像、音頻等資訊轉化為逼真的視頻,再一次改變了人類對於AI的認知。雖然這項技術未來可能會對某些產業產生顛覆式影響,但人們也必須看到其可能帶來的潛在危險。
近日,經濟日報以「加強人工智慧倫理治理」為題,提出了對人工智慧倫理的看法。
經濟日報在文章中表示,從人工智慧技術驅動的自然語言處理工具ChatGPT到如今的Sora,從自動生成文字、圖片,再到自動生成視頻,人們驚嘆人工智能突破性進展,同時也伴隨著質疑和擔憂,特別是背後的倫理挑戰。
Sora生成的影片可以以假亂真。這是一把雙面刃,一方面可以用於藝術創作;另一方面也可能被濫用於造假、欺騙,甚至顛覆人們對現實的認知。
Sora的出現意味著人工智慧技術已經發展到一個新的高度,同時也對人工智慧技術的監管能力提出挑戰。如果無法有效管控Sora等技術,可能會出現無法預料的後果。如今,多個國家和地區都發布了相關的人工智慧倫理規範,而微軟等大型科技公司也發布了相關規範。
不過由於人工智慧技術日新月異,倫理規範和監管制度難免存在滯後性。加之倫理問題的複雜性,各國和地區規範有差異,許多規定過於原則性,缺乏可操作性,難以有效落實實施。
因此,完善細化相關倫理規範,加強審查和監管,以及相關倫理教育和宣傳,更為迫切。只有正視Sora帶來的倫理挑戰,並加強倫理治理,才能確保人工智慧技術造福人類,而不是成為威脅。