OpenAI 语音转写器具 Whisper 被曝存在首要舛错：会捏造生成大段作假践诺
IT之家 10 月 28 日音问，当地期间 27 日，据好意思联社报谈，卓著十位软件工程师、拓荒东谈主员和学术考虑东谈主员称，OpenAI 的语音转写器具 Whisper 存在一个首要舛错：偶而会捏造生成大段甚而整句作假践诺。
这些人人指出，这些生成的文本（IT之家注：业内平方称为“AI 幻觉”）可能触及种族言论、暴力措辞，甚而杜撰的医疗提倡。
人人们以为，这一问题尤其令东谈主担忧，因为 Whisper 已被平凡欺骗于全球多个行业，包括用于翻译和转录访谈践诺、生成常见耗尽科技文本及制作视频字幕。
更具风险的是，尽管 OpenAI 已教导不应在“高风险领域”使用该器具，但一些医疗机构仍在急忙选拔基于 Whisper 的器具来纪录医师与患者的盘考纪录。
报谈称，考虑东谈主员和工程师在责任中相似遭受 Whisper 的“幻觉”形势，问题的举座领域尚不明晰。举例，密歇根大学一位考虑员在考虑民众会议时发现，在尝试更正模子前，他所查验的十份音频转录中，八份含有虚构践诺。
一位机器学习工程师证据，在率先分析的卓著 100 小时 Whisper 转录中，他发现毛糙一半的践诺存在“幻觉”形势。一位拓荒东谈主员进一步指出，在他用 Whisper 生成的 26000 份转录中，真的每一份齐带有虚构践诺。
即就是音质精致的节略音频样本，也未能避免于这些问题。臆度机科学家们的最新考虑标明，他们审查的 13000 多段证据音频片断中，有 187 段出现了“幻觉”形势。
考虑东谈主员以为，这一趋势意味着，在数百万条灌音中将可能出现漫山遍野的造作转录。
OpenAI 的发言东谈主暗示，该公司握续考虑何如减少幻觉，何况感谢考虑者的发现，将会在模子更新中收受响应。
告白声明：文内含有的对外跳转连气儿（包括不限于超连气儿、二维码、口令等边幅），用于传递更多信息，从简甄选期间，效果仅供参考，IT之家通盘著述均包含本声明。
声明：新浪网独家稿件，未经授权辞让转载。 -->