首頁|必讀|視頻|專訪|運(yùn)營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片|報(bào)告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 人工智能 >> 正文

OpenAI語音轉(zhuǎn)寫工具Whisper被曝存在重大缺陷:會憑空生成大段虛假內(nèi)容

2024年10月28日 09:22  IT之家  作 者:清源

當(dāng)?shù)貢r(shí)間 27 日,據(jù)美聯(lián)社報(bào)道,超過十位軟件工程師、開發(fā)人員和學(xué)術(shù)研究人員稱,OpenAI 的語音轉(zhuǎn)寫工具 Whisper 存在一個(gè)重大缺陷:有時(shí)會憑空生成大段甚至整句虛假內(nèi)容。

這些專家指出,這些生成的文本(IT之家注:業(yè)內(nèi)通常稱為“AI 幻覺”)可能涉及種族言論、暴力措辭,甚至杜撰的醫(yī)療建議。

專家們認(rèn)為,這一問題尤其令人擔(dān)憂,因?yàn)?Whisper 已被廣泛應(yīng)用于全球多個(gè)行業(yè),包括用于翻譯和轉(zhuǎn)錄訪談內(nèi)容、生成常見消費(fèi)科技文本及制作視頻字幕。

更具風(fēng)險(xiǎn)的是,盡管 OpenAI已提醒不應(yīng)在“高風(fēng)險(xiǎn)領(lǐng)域”使用該工具,但一些醫(yī)療機(jī)構(gòu)仍在匆忙采用基于 Whisper 的工具來記錄醫(yī)生與患者的咨詢記錄。

報(bào)道稱,研究人員和工程師在工作中經(jīng)常遇到 Whisper 的“幻覺”現(xiàn)象,問題的整體規(guī)模尚不清楚。例如,密歇根大學(xué)一位研究員在研究公共會議時(shí)發(fā)現(xiàn),在嘗試改進(jìn)模型前,他所檢查的十份音頻轉(zhuǎn)錄中,八份含有虛構(gòu)內(nèi)容。

一位機(jī)器學(xué)習(xí)工程師透露,在最初分析的超過 100 小時(shí) Whisper 轉(zhuǎn)錄中,他發(fā)現(xiàn)大約一半的內(nèi)容存在“幻覺”現(xiàn)象。一位開發(fā)人員進(jìn)一步指出,在他用 Whisper 生成的 26000 份轉(zhuǎn)錄中,幾乎每一份都帶有虛構(gòu)內(nèi)容。

即便是音質(zhì)良好的簡短音頻樣本,也未能幸免于這些問題。計(jì)算機(jī)科學(xué)家們的最新研究表明,他們審查的 13000 多段清晰音頻片段中,有 187 段出現(xiàn)了“幻覺”現(xiàn)象。

研究人員認(rèn)為,這一趨勢意味著,在數(shù)百萬條錄音中將可能出現(xiàn)數(shù)以萬計(jì)的錯誤轉(zhuǎn)錄。

OpenAI 的發(fā)言人表示,該公司持續(xù)研究如何減少幻覺,并且感謝研究者的發(fā)現(xiàn),將會在模型更新中采納反饋。

編 輯:章芳
飛象網(wǎng)版權(quán)及免責(zé)聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載,請必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對其真實(shí)性負(fù)責(zé)。
3.如因作品內(nèi)容、版權(quán)和其它問題,請?jiān)谙嚓P(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時(shí)間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
中國電信李峻:只有當(dāng)人工智能成為公共基礎(chǔ)設(shè)施,才能普惠大眾
精彩專題
2024中國算力大會
2024年國際信息通信展
中國信科亮相2024年國際信息通信展
第25屆中國國際光電博覽會
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像