電商熱銷產品“苗古金貼”,號稱由傳承“千年秘方”的非遺傳承人制作,專攻膝蓋、頸椎等問題。在一些電商平臺,該產品甚至排到了“熱敷貼回購榜”第一名。然而,據媒體調查發現,該“非遺傳承人”的照片實為AI生成,“非遺傳承人”證書由一家機構違規炮制。類似“神醫”“神藥”在網上還有很多,假非遺加上AI生成的假傳承人,經過一系列的虛假包裝,產品竟然可以在各大電商平臺大肆銷售。
由AI生成的文本、圖像和視頻等,在為民眾的生活和工作帶來諸多便利的同時,也給社會帶來了一些麻煩和困擾。如果AI生成的內容被惡意利用到商業領域,虛假廣告、偽造身份、捏造資質等行為就會悄然出現。普通人面對高度仿真的AI生成內容,往往難以辨別真偽,因而極易上當受騙。
AI生成的“神醫”具有一定的迷惑性。從肉眼觀察,這些“神醫”的面容神態和身份證書等均十分逼真,現在的技術甚至能通過不同場景的圖片,拼接出“神醫”的虛假人生軌跡。在“苗古金貼”事件中,AI生成的“非遺傳承人”不僅擁有全套視覺素材,而且配有偽造的機構認證,形成環環相扣的欺騙鏈條。如果不對其加以約束,那么將來隨著人工智能技術進一步成熟,消費者將會更加難以分辨“神醫”究竟是真人還是AI合成。
針對AI生成的普通內容,需要通過強制標識等舉措強化監管。但對于AI生成的“神醫”,有必要在此基礎上予以重拳出擊。醫療關系到民眾的生命健康,任何打著AI旗號的醫療虛假宣傳都應被嚴令禁止。監管部門需秉持零容忍的態度,對涉及醫療健康領域的AI生成內容實施前置審查。此外,還應完善相關法律法規,進一步明確AI冒充專業人士的法律責任,讓技術造假者付出代價。
除了監督與打擊,全鏈條治理更是必不可少。從偽造非遺證書的中介機構,到提供AI生成服務的科技公司,再到銷售貼牌產品的代工企業,每個環節都應納入監管視野。對此,有必要建立跨部門的協作監督機制,嚴查虛假認證機構,強化AI生成內容的溯源追蹤,完善醫療器械廣告審查流程。唯有從各個環節入手,方能盡快斬斷AI“神醫”的利益鏈條。
“神醫”有多種表現形式,并且不同時期有不同類型的“神醫”。但過去的“神醫”,無論他們在電視上售賣所謂的“祖傳秘方”,還是在直播間吹噓產品“包治百病”,都需要人來偽裝,可以追溯和處罰到假扮成“神醫”的真人。相比之下,AI生成“神醫”不僅能夠做到神似和形似,而且還能夠做到量身定制、批量出現。AI生成“神醫”值得高度警惕。填平這個醫療欺詐“深陷阱”,就得通過技術更新快速識別這類“神醫”,并豐富監督與打擊手段,大幅度提升懲戒的力度,阻止“神醫”利用AI技術實施欺詐。
面對AI生成假“神醫”的新情況,平臺與監管部門應保持對AI技術的跟蹤,學會使用最新技術,了解技術瑕疵、漏洞等,以提高鑒別能力。同時,可采取“AI打假AI”的手段,引入AI辨偽技術,建立數據庫,實現智能化識別“AI神醫”,提升辨偽效率。只有以技術手段反制技術造假,以制度建設重構市場秩序,才能徹底斬斷AI生成假“神醫”的利益鏈,避免其成為醫療欺詐的陷阱。