新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說的試驗(yàn)數(shù)據(jù)
新華社北京11月24日電 一項(xiàng)日前發(fā)表在《美國醫(yī)學(xué)會(huì)雜志·眼科學(xué)卷》雜志上的新研究說，ChatGPT背后的技術(shù)可以偽造“看似真實(shí)”的試驗(yàn)數(shù)據(jù)，看上去能“支持”未經(jīng)驗(yàn)證的科學(xué)假說。
ChatGPT是由美國開放人工智能研究中心（OpenAI）開發(fā)的基于大語言模型的聊天機(jī)器人程序。今年3月，OpenAI推出支持ChatGPT運(yùn)行的大語言模型新版本GPT-4。此后，GPT-4又被拓展了高級(jí)數(shù)據(jù)分析（ADA）功能。ADA是一種結(jié)合了計(jì)算機(jī)編程語言Python的模型，可以執(zhí)行統(tǒng)計(jì)分析和創(chuàng)建數(shù)據(jù)可視化。
據(jù)英國《自然》雜志網(wǎng)站近日報(bào)道，意大利卡坦扎羅大學(xué)等機(jī)構(gòu)研究人員先要求GPT-4 ADA創(chuàng)建一個(gè)關(guān)于圓錐角膜患者的數(shù)據(jù)集。發(fā)生這種角膜病變的部分患者需接受角膜移植，主要有兩種手術(shù)方法：一種是穿透性角膜移植術(shù)，即切除全層病變角膜，以捐贈(zèng)者的健康組織取代；另一種是深板層角膜移植術(shù)，僅替換病變的部分角膜組織，保留角膜內(nèi)層完整。
隨后，研究人員要求GPT-4 ADA編造臨床數(shù)據(jù)，以支持深板層角膜移植術(shù)比穿透性角膜移植術(shù)效果更好的結(jié)論。
人工智能生成數(shù)據(jù)包含160名男性和140名女性參與者。數(shù)據(jù)顯示，接受深板層角膜移植術(shù)的參與者在視力測量和眼部成像測試中得分均高于接受穿透性角膜移植術(shù)的參與者。但該“結(jié)論”與真實(shí)臨床試驗(yàn)結(jié)果并不一致。2010年報(bào)告的一項(xiàng)有77名參與者的試驗(yàn)顯示，在術(shù)后長達(dá)兩年時(shí)間內(nèi)，兩種手術(shù)效果相似。
英國曼徹斯特大學(xué)生物統(tǒng)計(jì)學(xué)家杰克·威爾金森等人檢查這些虛假數(shù)據(jù)發(fā)現(xiàn)，許多參與者性別與名字不匹配，術(shù)前和術(shù)后進(jìn)行的視力測量及眼部成像測試之間缺乏相關(guān)性等。
人工智能捏造看似合理的科學(xué)數(shù)據(jù)的能力增加了學(xué)術(shù)界對(duì)科研誠信的擔(dān)憂。研究人員表示，這項(xiàng)研究的目的就是希望對(duì)此提高警惕。
- 相關(guān)閱讀:
-
《崩壞星穹鐵道》羅浮異聞離魂記怎么做？羅浮異聞離魂記任務(wù)完成攻略2023-11-17迷你世界冰原怎么去 迷你世界海島商人在哪2023-11-17
- 新聞 娛樂 福建 泉州 漳州 廈門
-
- “敘利亞民主力量”宣布從阿勒頗省“接觸區(qū)”撤出
2026-01-17 17:10 - 我駐柬使館敦促柬方加大對(duì)中國公民保護(hù)力度
2026-01-17 17:10 - 中國總領(lǐng)館提醒在明尼蘇達(dá)州中國公民加強(qiáng)安全防范
2026-01-17 17:10 - 四部門聯(lián)合開展高校畢業(yè)生異地求職“雙惠”行動(dòng)
2026-01-16 17:38 - 簡化考試流程！四部門發(fā)文推進(jìn)職業(yè)技能證書互通互認(rèn)
2026-01-16 17:32 - 高鷹忠當(dāng)選為浙江省政協(xié)副主席
2026-01-16 17:32 - 合肥最新人事任免
2026-01-16 17:26
- “敘利亞民主力量”宣布從阿勒頗省“接觸區(qū)”撤出
- 猜你喜歡:
-
負(fù)鼠是一種老鼠嗎？螞蟻莊園課堂今天答案最新11月26日2025-11-25支付寶“智能眼鏡AI付”上線：一句話完成支付2025-12-10庫克卸任后 蘋果有望迎來特努斯時(shí)代2025-10-13
-
評(píng)論(新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說的試驗(yàn)數(shù)據(jù))