中國科學院發布誠信提醒:在科學研究活動中要規範使用AI技術
根據中科院之聲官微介紹,中國科學院科研道德委員會日前公開發布《關於在科研活動中規範使用人工智慧技術的誠信提醒》(以下簡稱《誠信提醒》),對中國科學院科技人員和學生進行提醒。
其中提到,近年來,人工智慧技術的快速發展與廣泛應用,為科學研究帶來了新的變革與創新,同時也對支撐科學研究誠信的現有實踐提出了嚴峻挑戰。
譬如,利用人工智慧演算法偽造數據,產生欺騙性研究論文,極易引發新形式的論文代寫、抄襲剽竊、洗稿等學術不端行為,極大損害了科學研究的可信度。
《誠信提醒》由中國科學院科研道德委員會組織院內外專家,聚焦人工智慧技術在科學研究活動全流程應用中可能存在的問題與挑戰,經過深入討論研究、廣泛徵求意見後形成,共八條。
這是自2018年以來中國科學院科研道德委員會連續第7年發布誠信提醒,分別聚焦學術評審、科技獎勵推薦、學術成果發布、科研原始記錄、科研倫理、論文署名等關鍵環節,倡導並號召科研人員誠實守信,引起了正面迴響。
以下為《誠信提醒》全文:
關於在科學研究活動中規範使用人工智慧技術的誠信提醒
中國科學院科研道德委員會
(2024年9月10日發布)
為了在科學研究活動中規範使用人工智慧技術,避免誤用、濫用人工智慧技術引發的科學研究誠信風險,遵循誠實、透明、負責任的原則,中國科學院科研道德委員會依據科研活動全流程誠信管理要求,對本院科技人員及學生提醒如下:
提醒一:選題研究、文獻檢索、資料整理時,可藉助人工智慧技術追蹤研究動態,收集整理參考文獻,並對人工智慧產生資訊的真實性、準確性、可靠性進行辨識;反對直接使用未經核實的由人工智慧產生的研究報告、選題建議、文獻綜述等。
提醒二:在申報資料撰寫時,如使用了由人工智慧產生的內容,應對內容負責,並全面如實聲明使用情況;反對直接使用未經核實的由人工智慧產生的申報資料。
提醒三:在資料收集和使用時,如使用了由人工智慧產生的模擬模擬資料、測試資料等,或使用人工智慧技術對原始資料進行統計分析,應全面如實聲明使用情況;反對將人工智慧產生的數據作為實驗數據。
提醒四:在音視頻和圖表製作時,可利用人工智慧技術輔助完成,應對生成內容進行標識,並全面如實聲明使用情況;反對使用人工智慧直接生成音視頻和圖表。
提醒五:在成果撰寫時,可使用人工智慧技術輔助整理現有的理論、材料與方法等,可進行語言潤飾、翻譯、規範化檢查;反對將人工智慧產生內容作為核心創新成果,反對使用人工智慧產生整篇成果及參考文獻。
提醒六:在同儕評審中,反對使用人工智慧技術撰寫同儕審查意見,不得將評審資訊上傳至未經評審主辦單位認可的工具平台。
提醒七:在科學研究活動中,如使用人工智慧技術,應在註釋、致謝、參考文獻或附錄等部分聲明工具的名稱、版本、日期及使用過程;反對未加聲明直接使用。
提醒八:選擇人工智慧技術時,應使用經國家備案登記的服務工具;反對濫用人工智慧技術危害資料安全,侵害智慧財產權,洩漏個人隱私等。
院屬各單位應依據上述提醒,結合本單位學科特徵和學術慣例,進行必要的教育培訓,引導科技人員和學生透明、規範、負責任地使用人工智慧技術。