隨著人工智能技術的迅猛發展,不少AI工具逐步深入政務辦公領域,陸續上線“公文寫作”模塊,成為頗受青睞的“互聯網筆桿子”。
不過,每個硬幣都有兩面。新技術應用在提升效率的同時,也帶來了風險挑戰。如何在享受技術福利的同時,守住保密安全底線,已成為機關單位必須面對的重要課題。
AI公文寫作的實用性與局限性
AI工具之所以能夠在處理公文方面展現出顯著優勢,主要在于其通常基于大量語料訓練而成,而公文語料又占據了相當一部分比例。這使其能夠把握公文基本規律和格式要求,快速生成各類初稿。
然而,AI公文寫作也有明顯局限性。人工智能生成的公文內容往往失之籠統,語言相對僵硬,難以貼合實際工作。
更值得注意的是,AI還可能產生“幻覺”,生成看似合理但實際不存在或與真實情況不符的信息,“一本正經地胡說八道”,嚴重影響公文的準確性和權威性。
泄密隱患不容忽視
AI公文寫作最不容忽視的安全隱患,在于生成式人工智能的數據交互機制導致多重泄密風險的存在。
首先,機關單位工作人員在處理涉密文件、資料時,若將相關內容輸入AI工具進行處理,相當于將涉密信息存儲至互聯網,瞬間就會造成國家秘密的泄露。
其次,對于一些重要行業和關鍵領域,其所涉及的數據有些雖未被確定為國家秘密,卻具有高度敏感性。若工作人員為圖便捷,將敏感內容諸如公民個人信息、重要企業經營情況等上傳至AI工具,這些信息就會“雁過留痕”,被留存在后臺。若被惡意竊取,很可能會導致重要敏感信息泄露。
除此之外,還有一種風險來自開源信息的匯聚。當AI工具匯聚了海量的公開信息,并對其進行關聯分析和深度挖掘,即使是看似零散、非密的信息片段,也可能在AI的“化學合成”后,推斷出敏感的、甚至涉密的完整信息,造成“拼圖式泄密”的后果。
如何規范使用AI
人工智能浪潮奔涌的今天,如何在嚴守保密規范與釋放AI潛能之間找到平衡支點,已成為衡量個體與組織智慧的重要尺度。對此,相關單位和個人應當做到以下幾點:
一、明確使用邊界,建立紅線意識。機關單位應明確AI工具的使用邊界,畫出清晰“紅線”,核心原則是“上網不涉密、涉密不上網”。工作人員尤其應注意,嚴禁使用AI工具處理國家秘密、工作秘密和不宜公開的敏感信息。
二、堅持人工主導,加強內部管理。從單位層面而言,應加強內部管理,如健全公文審核機制,注意對數據和內容的審核;開展系統性培訓,對工作人員進行AI使用培訓和保密教育,強化風險意識。
三、強化技術保障,確保數據安全。機關單位應對政務數據實行全生命周期加密管理,并實施嚴格的訪問控制和身份認證機制;建立信息追溯機制,保證提示詞輸入、模型思考、最終輸出等全過程留痕,便于監督和追責。
多管齊下、規范管理,才能讓技術創新在保密安全的軌道上,更好地賦能工作提質增效。
編輯:張紅艷