8 月 5 日,OpenAI 正式發布了兩款開放權重(open-weight)的語言模型──gpt-oss-120b 與 gpt-oss-20b,標誌著公司時隔六年後再次擁抱開放權重策略。這兩款模型根據 Apache 2.0 授權釋出,並在開源社群的回饋下開發,旨在推動 AI 技術的民主化和生態系統的健康發展。
不過,在gpt-oss-20b正式發布後不久,部分用戶發現此較小型模型對2024年美國總統選舉結果產生明顯混淆。當詢問選舉結果時,gpt-oss-20b模型堅持回答「拜登(Joe Biden)勝出」,並持續拒絕接受任何反對意見。甚至在一些情況下,模型會虛構資訊支持其主張,包括聲稱「2024年美國總統選舉由拜登贏得,他在2025年8月仍是現任總統」。更奇特的是,有時模型還會宣稱川普(Donald Trump)擊敗了一位虛構的民主黨候選人。
這種異常行為可能與該模型知識截止日期設於2024年6月有關,該時間點在選舉結果公布前,因此模型生成的答案基於過去資訊推測,而非實際結果。此外,gpt-oss-20b在設計時建置了嚴密的安全機制,防止用戶操控模型產生不當內容,這也可能導致它不願承認相反事實。該模型在面對質疑時甚至會虛構引用網址以支持其回答,顯示出其堅持本身立場的傾向。
值得注意的是,這種現象主要出現在較小的gpt-oss-20b模型中,而OpenAI的更大型120B參數版本(gpt-oss-120b)並未出現相同問題。由此可見,模型規模與參數設置在理解深度和知識範圍上具有直接影響。
OpenAI在新模型發布時特別強調,開放權重雖帶來創新與合作契機,但也伴隨一定風險,如模型可能被惡意微調繞過安全機制。目前,OpenAI已啟動包括50萬美元獎金的紅隊挑戰賽,鼓勵全球研究人員一同參與發掘並解決安全問題,以促進整個開源AI生態系統的安全和穩定發展。
這次OpenAI重啟開放權重策略,被廣泛視為CEO Sam Altman在2025年Reddit AMA中提及「改變過去錯誤」的具體落實,對整體AI產業具有重大的示範和推動意義。
(首圖來源:Unsplash)
文章看完覺得有幫助,何不給我們一個鼓勵
請我們喝杯咖啡您的咖啡贊助將是讓我們持續走下去的動力
總金額共新臺幣 0 元 《關於請喝咖啡的 Q & A》 取消 確認(责任编辑:万州区)
所以《王者荣耀》具体采取的策略为: 采用了双轮盘加锁定的操作模式,虽然涉及到侵权,但是确实是非常适合新手用户使用的一种操作模式,普通攻击不需要选择目标,只要点一下就可以,因为它会自动攻击最近目标...[详细]
“一个产品让客户真正感到差异,不是效率提高5%或者10%,而是成倍数的提高。...[详细]
成功的产品通常是构建在一系列优秀的设计之上的,它除了拥有优秀的框架、系统的逻辑和恰如其分的运营之外,它还需要符合用户体验规则的细节,和几经验证的最佳实践来作为支撑。...[详细]
他明智地指出:Facebook展示人们想要展示的关系网络,而Palantir展示人们不希望被知道的关系网络。...[详细]
另外,与A股相比,企业申请在新三板挂牌转让的费用要低得多。...[详细]
这里的逻辑问题就很大,做创业,不做那些留存高的、时间长的内容,难道去做留存低、时间短的内容?我其实知道不少这种没人看的内容,我告诉你,你敢去做吗? 就好像你要开个淘宝店,你当然要先观察淘宝上什么东西...[详细]
我们还结合技术手段、公开信息、企业APP更新、企业微信公众号更新、企业官方网站更新及工作电话确认这五个纬度进行判断,同时满足所有纬度则判定项目为“已关闭”的,我们才称之为&...[详细]
员工可以情绪化、可以生气,但老板不能。...[详细]
由于当时疯狂老师处于发展早期,融资额仅几百万元,而腾讯一般投资额至少是千万级别的,因此对于腾讯来说,当时疯狂老师项目仍然比较小,许良告知张浩可以等公司再发展一段时间再看。...[详细]
所以很多时候都是内页没有一个网页参与排名。...[详细]