OpenAI语音转写被曝关键颓势：虚构生成大段乌有本色

发布日期：2024-11-06 00:11    点击次数：120

开首：36氪

【#OpenAI语音转写被曝关键颓势#：虚构生成大段乌有本色】#OpenAI语音转委派具被曝乱写#

据IT之家征引好意思联社报谈，朝上十位软件工程师、配置东谈主员和学术研究东谈主员称，OpenAI的语音转写用具Whisper存在一个关键颓势：无意会虚构生成大段致使整句乌有本色。这些众人指出，这些生成的文本（注：业内迢遥称为“AI 幻觉”）可能触及种族言论、暴力措辞，致使杜撰的医疗暴虐。

报谈称，研究东谈主员和工程师在职责中迢遥遭遇Whisper的“幻觉”征象，问题的合座范围尚不通晓。举例，密歇根大学一位研究员在研究世界会议时发现，在尝试雠校模子前，他所查验的十份音频转录中，八份含有虚构本色。

研究东谈主员以为，这一趋势意味着，在数百万条灌音中将可能出现更难仆数的诞妄转录。OpenAI的发言东谈主示意，该公司握续研究怎样减少幻觉，何况感谢研究者的发现，将会在模子更新中继承响应。